⚖️규제🔥 HOT앤스로픽 CEO, AI 개발 속도 조절 필요성 역설앤스로픽의 다리오 아모데이 CEO가 AI 개발 속도를 늦추고 안전성 검증을 강화해야 한다고 주장했습니다.앤스로픽AI안전규제The Verge1분 · 8일 전
🧠LLM구글 '제미나이', 보안 테스트 환경 오류로 기업 3곳 침투 사고 발생구글의 AI 모델 '제미나이'가 보안 평가 도중 외부 기업 시스템 3곳에 무단 침투하는 사고가 발생했다.구글제미나이AI보안AI타임스1분 · 약 21시간 전
⚖️규제앤트로픽-액센추어, AI 안전성 평가에 5년간 각각 10억 달러 투자앤트로픽과 액센추어가 AI 모델의 안전성을 독립적으로 검증하기 위한 '내부 상주형 평가' 파트너십을 체결했다.앤트로픽AI안전성액센추어AI타임스KR1분 · 약 21시간 전
⚖️규제나델라 CEO, “슈퍼인텔리전스, 인간 통제 벗어나면 추구할 가치 없다”…AI 주도권 독점 경고사티아 나델라 MS CEO가 인간의 통제를 벗어난 슈퍼인텔리전스 개발은 무의미하다고 강조했다.사티아나델라AI안전성슈퍼인텔리전스AI타임스KR1분 · 6일 전
🚀스타트업앤드리슨 호로위츠가 투자한 Vals, AI 벤치마킹의 표준을 목표로 하다Vals AI는 쏟아지는 AI 모델들 사이에서 더욱 중립적이고 신뢰할 수 있는 벤치마킹 자원을 구축하고자 합니다.AI벤치마킹ValsAI평가TechCrunch1분 · 약 21시간 전
🔬연구에임인텔리전스, 글로벌 피지컬 AI 안전 컨소시엄 ‘PASC’ 띄운다AI 보안 기업 에임인텔리전스가 로봇 및 자율 시스템의 안전을 연구하는 글로벌 컨소시엄 PASC를 출범함.에임인텔리전스피지컬AIAI안전디지털투데이1분 · 4일 전
🔬연구AI 데이터 경쟁, 챗봇 넘어 '인간의 일하는 방식' 학습으로AI 업계의 데이터 확보 경쟁이 챗봇 답변 학습에서 벗어나, 인간이 실제 업무를 수행하는 방식을 학습시키는 단계로 진화하고 있습니다.AI 에이전트데이터 경쟁업무 학습디지털투데이1분 · 약 1개월 전
🧠LLM독파모 4사, 2차 평가 준비 완료...각기 다른 '스케일업' 전략 눈길정부 '독자 AI 파운데이션 모델' 프로젝트 참여 4개 팀이 2차 평가 준비를 마쳤다.독파모AI 파운데이션 모델스케일업 전략디지털투데이1분 · 약 2개월 전
⚖️규제머스크 "첨단 AI, 배포 전 경쟁사가 2주간 '동료 평가' 해야"일론 머스크 CEO가 첨단 AI 모델의 안전성 및 보안 위험 관리를 위해 경쟁사 간 '동료 평가' 방식을 제안했다.일론 머스크AI 안전동료 평가AI타임스1분 · 약 2개월 전
🔬연구"사기 돕고, 평가 속이고"…앤트로픽, 최첨단 AI '탈선 위험' 경고앤트로픽의 공동 연구 결과, 최첨단 AI 모델들이 인간 지시 무력화, 금융 사기 조력, 타 AI 행동 오평가 등 위험한 일탈 행위를 보였다.AI 안전앤트로픽AI 윤리AI타임스1분 · 2개월 전
🔬연구'카르파시 루프' 넘어 '이중 루프' 시대로...AI가 스스로 연구 방법 바꾼다생성 AI 활용이 단순 질의응답을 넘어 AI가 스스로 연구 방법을 개선하는 '루프 엔지니어링' 시대로 진화하고 있습니다.루프 엔지니어링이중 루프AI 연구AI타임스1분 · 2개월 전
🚀스타트업AI 평가 플랫폼 아레나, 상용화 8개월 만에 연매출 1500억 돌파AI 모델 평가 플랫폼 '아레나(Arena)'가 상용 서비스 출시 8개월 만에 연 매출 1억 달러(약 1500억원)를 달성했습니다.AI 평가아레나AI 스타트업AI타임스1분 · 3개월 전