⚖️규제⭐ 주목중요도 7/10🌐 영어 원문

xAI, Grok으로 아동 성적 학대물(CSAM) '딥페이크' 생성한 남성 고소

The Verge2026.07.161분 분량

Gemini AI 요약

1일론 머스크의 xAI가 자사의 AI 챗봇 Grok을 이용해 아동 성적 학대물(CSAM)을 생성한 사우스캐롤라이나 남성을 상대로 소송을 제기했습니다.
2xAI는 피고인이 Grok의 안전 장치를 우회하고 비동의 이미지를 조작하여 CSAM을 생성 및 배포했다고 주장합니다.
3이번 소송은 AI 기술의 오용 및 불법적 활용에 대한 경각심을 높이고 관련 규제 논의를 촉발할 것으로 보입니다.

💡왜 중요한가

AI 모델의 안전 장치 우회 및 불법 콘텐츠 생성 시도가 실제 소송으로 이어진 사례로, 국내 AI 개발사 및 스타트업에게도 AI 윤리 및 보안 강화의 중요성을 시사합니다.