🔬연구구글 연구진, LLM이 환각 대신 최적의 추측을 제공하는 '충실한 불확실성' 도입구글 연구진이 '충실한 불확실성(faithful uncertainty)'이라는 새로운 개념을 도입했습니다.LLM환각신뢰성VentureBeat1분 · 3개월 전
🔬연구불확실성 아는 AI로 과학 실험 최적화…EPFL, LLM에 ‘의심 탐지기’ 결합한 GOLLuM 개발 공개EPFL 연구팀이 LLM에 가우시안 프로세스를 결합해 예측의 불확실성을 인지하는 'GOLLuM' 기술을 개발했다.LLM과학실험EPFLAI타임스KR1분 · 14일 전
⚖️규제과기정통부·KISA, 'AI 보안 레드티밍 가이드' 발간과기정통부와 KISA가 AI 모델, 데이터, 에이전트 등을 공격자 관점에서 점검하는 'AI 보안 레드티밍 가이드'를 발간했습니다.AI 보안레드티밍생성형 AI디지털투데이1분 · 2개월 전
🚀스타트업Probably, 신뢰할 수 있는 AI 구축을 위해 900만 달러 투자 유치AI 스타트업 Probably가 환각 현상 및 사실 오류 방지를 목표로 900만 달러를 유치했습니다.AI 신뢰성환각 현상스타트업 투자TechCrunch1분 · 3개월 전
⚖️규제KPMG, AI 사용 보고서 환각 현상으로 철회KPMG가 AI 사용에 대한 보고서를 발행했으나, 내용에서 '환각(hallucinations)' 현상이 발견되어 보고서를 철회했습니다.AI 신뢰성LLM 환각기업 AI 활용TechCrunch1분 · 3개월 전
📦제품케이던스, 에이전트형 AI '오라스택' 공개...PCB 설계 지원케이던스디자인시스템스가 전기 엔지니어의 PCB 설계 및 테스트를 지원하는 에이전트형 AI 시스템 '오라스택'을 공개했다.케이던스AIPCB 설계디지털투데이1분 · 2개월 전
🔬연구딥노이드, 의료 AI 연구 논문 게재…“학습 연산 비용 90% 절감” 등 단신딥노이드가 환각 표현을 줄이는 검색 증강 기반 흉부 X-레이 판독문 생성 연구 논문을 발표했다.의료AI딥노이드연구논문AI타임스1분 · 3개월 전