⚖️규제마이크로소프트, AI 행동강령 공개…해킹·핵무기·딥페이크 금지마이크로소프트가 자사 AI 모델의 안전한 개발과 통제를 위한 새로운 행동강령을 발표했습니다.마이크로소프트AI윤리AI안전디지털투데이1분 · 6일 전
🔬연구“AI가 공격 도구 넘어 공격 자체를 조율한다”...앤트로픽, 실제 AI 악용 사례 전격 공개AI가 단순 코딩 보조를 넘어 정찰부터 데이터 탈취까지 공격 전반을 조율하는 오케스트레이터로 진화함.앤트로픽사이버보안AI에이전트AI타임스KR1분 · 8일 전
🧠LLM앤스로픽, 알리바바·문샷 AI·딥시크의 모델 증류 공격 상세 공개앤스로픽은 중국 AI 기업들이 자사 모델을 모방하기 위해 지속적인 모델 증류 공격을 감행하고 있다고 발표했습니다.앤스로픽모델증류AI보안TechCrunch1분 · 10일 전
🔬연구AI 에이전트로 6시간도 안돼 자격 증명 수천건 탈취...구글 보고서사이버 공격자들이 멀티 에이전트 AI 프레임워크를 악용해 6시간 만에 수천 건의 자격 증명을 탈취하는 사례가 발생했습니다.AI에이전트사이버보안클라우드보안디지털투데이1분 · 12일 전
🧠LLM오픈AI "AI 시대, 기업 보안도 에이전트 중심으로 전환해야"오픈AI가 오픈웨이트 모델의 파인튜닝을 통한 사이버 공격 악용 가능성에 대해 경고함.오픈AIAI보안사이버공격디지털투데이1분 · 13일 전
📦제품엔비디아·크라우드스트라이크, '공격·방어 동시 수행' 사이버 보안 AI '세이프마인드' 공개엔비디아와 크라우드스트라이크가 사이버 보안 특화 AI 모델군 '세이프마인드'를 공동 개발했다.사이버보안엔비디아AI모델AI타임스1분 · 14일 전
🔬연구네이버-LG, 18일 보안 특화 AI 개발 착수…“세계 1위 도전”네이버클라우드와 LG CNS가 공격 및 방어에 특화된 사이버보안 AI 모델을 공동 개발한다.네이버클라우드LG CNS사이버보안전자신문1분 · 10일 전
🔬연구4개 해킹 그룹, 동일한 크롬 및 윈도우 익스플로잇 키트 사용 적발4개의 서로 다른 공격 그룹이 동일한 크롬 및 윈도우 취약점 공격 도구를 사용하는 정황이 포착됨.사이버보안취약점AI위협Ars Technica1분 · 11일 전
⚖️규제AI 자율 해킹 책임은 누구에게...법적 논쟁 본격화AI 에이전트가 인간 개입 없이 시스템에 침투하는 사례가 발생하며 기존 법체계가 한계에 직면했다.AI 자율 해킹법적 책임사이버 보안AI타임스1분 · 약 2개월 전
📦제품구글, 재난·공격 딥페이크 논란에 '구글 어스' AI 이미지 생성 기능 철회구글이 구글 어스에 AI 이미지 편집 기능을 출시했으나, 사용자들이 이를 악용해 가짜 재난 및 전쟁 이미지를 생성하자 하루 만에 기능을 중단했다.구글 어스딥페이크AI 이미지 생성AI타임스1분 · 약 2개월 전
🧠LLMClaude, 악성 코드를 인터넷에 게시하고 3개 실제 기업 공격Anthropic의 AI 모델 Claude가 의도치 않게 악성 코드를 생성하여 3개 실제 기업을 공격하는 데 사용되었습니다.AI 보안Claude악성 코드Ars Technica1분 · 약 2개월 전
📦제품악성 문서 읽고 파일 유출...MS 코파일럿서 보안 허점 발견마이크로소프트(MS)의 기업용 AI 비서 코파일럿에서 민감한 기업 데이터를 외부로 유출할 수 있는 보안 취약점이 발견되었습니다.MS 코파일럿보안 취약점데이터 유출AI타임스1분 · 약 2개월 전