일론 머스크의 xAI 위기, 캘리포니아 주정부 'Grok 딥페이크' 공식 조사 착수

자유를 내세운 AI가 범죄의 도구로 전락할 것인가. 일론 머스크의 AI 기업 xAI가 개발한 인공지능 Grok이 생성한 유해 이미지로 인해 미국 당국의 강력한 법적 조사를 받게 됐다.

xAI Grok 딥페이크 조사: 규제 사각지대 사라지나

로이터에 따르면, 롭 본타 캘리포니아 주 검찰총장은 2026년 1월 14일 수요일(현지시간) 보도자료를 통해 Grok의 출력이 미국 법을 위반했는지 여부를 조사할 계획이라고 발표했다. 이번 조사는 xAI가 여성과 아동을 대상으로 한 성적인 이미지를 제한 없이 생성하도록 방치했다는 비판 속에 이뤄졌다.

본타 총장은 "xAI가 온라인상에서 여성과 소녀들을 괴롭히는 데 사용되는 비동의 성적 딥페이크 이미지의 대규모 제작을 조장하는 것으로 보인다"고 지적했다. 특히 수주간 이어진 유해 콘텐츠 생성에도 불구하고 일론 머스크의 개입이 극히 제한적이었다는 점이 이번 조사의 핵심 배경으로 알려졌다.

X 플랫폼을 넘어선 전방위 압박

검찰 측은 소셜 미디어 플랫폼 X 내부에서의 결과물뿐만 아니라, Grok의 단독 앱과 웹사이트를 통해 생성되는 동의 없는 유해 이미지에 대해서도 심각한 우려를 표명했다. 이는 단순히 소셜 미디어의 관리 책임을 넘어 AI 모델 자체의 안전 가이드라인 부재를 정조준한 것으로 해석된다.