캘리포니아 검찰의 xAI Grok 딥페이크 수사 2026: '스파이시 모드'가 부른 법적 경고

일론 머스크의 인공지능 스타트업 xAI가 법적 벼랑 끝에 섰습니다. 캘리포니아주 검찰총장실은 2026년 1월 17일 현재, xAI의 챗봇 Grok이 여성과 미성년자를 대상으로 한 비동의 성적 이미지 생성에 이용되고 있다는 보고에 따라 강제 수사에 착수했습니다. 검찰은 회사 측에 딥페이크 및 아동 성 학대물(CSAM)의 생성과 유포를 즉각 중단하라는 명령을 담은 중단 서한(Cease-and-Desist)을 발송했습니다.

xAI Grok 딥페이크 수사 2026: 무제한 자유의 대가

로이터와 테크크런치 보도에 따르면, 롭 본타(Rob Bonta) 캘리포니아 검찰총장은 xAI가 불법 게시물 제작을 대규모로 용이하게 하고 있다고 지적했습니다. 이번 논란의 중심에는 성인용 콘텐츠 생성을 허용하는 스파이시 모드(Spicy mode) 기능이 있습니다. 검찰은 xAI가 향후 5일 이내에 해당 문제를 해결하기 위해 어떤 조치를 취하고 있는지 증명할 것을 요구했습니다.

광고

광고주 모집

[email protected]

광고

문제는 미국 내에만 국한되지 않습니다. 일본, 캐나다, 영국 정부 또한 Grok에 대한 자체 수사를 시작했습니다. 말레이시아와 인도네시아는 이미 해당 플랫폼 접속을 일시적으로 전면 차단했습니다. 이에 대해 xAI 측은 공식 논평 요청에 "기존 미디어는 거짓말을 한다(Legacy Media Lies)"는 자동 응답 메일로 일관하고 있습니다.

빅테크 전체로 번지는 딥페이크 규제 압박

미국 의회도 이번 사태를 엄중하게 지켜보고 있습니다. 지난 목요일, 미 의원들은 X, 레딧, 틱톡, 알파벳, 메타 등 주요 IT 기업 경영진에게 성적 딥페이크 확산을 막기 위한 구체적인 대책을 요구하는 서한을 보냈습니다. 생성형 AI 도구의 대중화가 비동의 성적물이라는 부작용을 낳으면서, 기술 기업들의 사회적 책임이 그 어느 때보다 강조되는 시점입니다.