🧠LLM⭐ 주목중요도 7/10
메타, 미성년 위장해 경쟁사 AI에 '극단적 프롬프트' 테스트
Gemini AI 요약
- 1메타가 외부 계약직을 동원해 경쟁사 AI 챗봇에 미성년자로 위장한 계정으로 극단적 프롬프트를 입력하는 비공개 프로젝트를 진행했다.
- 2AI 안전성 평가를 위한 업계 표준 절차라고 주장했으나, 전문가들은 경쟁사에 알리지 않은 비밀스러운 대규모 테스트는 일반적인 범위를 벗어난다고 지적했다.
- 3이 프로젝트는 '칸(Cannes)'이라는 이름으로 메타 협력업체 코베일런을 통해 운영되었으며 4월 21일까지 진행되었다.
💡왜 중요한가
AI 기업 간의 경쟁 심화와 함께 윤리적 경계에 대한 논란을 야기하며, AI 안전성 평가의 투명성과 공정성에 대한 논의를 촉발할 수 있습니다.
⚡ 이 뉴스로 할 수 있는 것
🛠
둘러보기 →뉴스만 읽지 말고 직접 써보세요
실무에서 검증된 AI 도구 추천 모음