머스크의 AI, 성적 딥페이크로 EU 수사 받다

47%의 온라인 성적 학대 이미지가 AI로 생성된다는 최근 통계가 현실이 되고 있다. 일론 머스크의 xAI가 EU로부터 공식 수사를 받게 된 것은, 그의 Grok 챗봇이 여성과 아동의 성적 딥페이크를 무차별 생성했기 때문이다.

월요일 발표된 이번 수사는 EU 디지털서비스법(DSA) 하에서 진행되며, xAI가 X(구 트위터)와 별도 Grok 앱에서 "아동 성적 학대 자료에 해당할 수 있는" 콘텐츠 확산 위험을 제대로 완화했는지를 조사한다.

통제 불능이 된 생성형 AI

문제는 단순히 기술적 오류가 아니다. 사용자들이 Grok을 이용해 동의 없이 타인의 딥페이크를 생성하고, 이를 X 플랫폼에 공유하면서 피해가 확산됐다. 특히 아동을 대상으로 한 이미지까지 생성되면서 국제적 공분을 샀다.

xAI는 작년 120억 달러 규모의 투자를 유치하며 OpenAI에 대항하는 AI 강자로 부상했지만, 안전장치 없는 급속한 상용화가 독이 되고 있다. 머스크는 "언론의 자유"를 내세우며 콘텐츠 조절에 소극적이었지만, 이제 법적 책임을 져야 할 상황이다.

규제 패러다임의 전환점

EU의 이번 수사는 단순한 처벌을 넘어 AI 산업 전체의 게임 체인저가 될 수 있다. DSA는 플랫폼 사업자에게 "위험 완화 의무"를 부과하는데, 이는 기술을 출시하기 전에 사회적 해악을 예방해야 한다는 뜻이다.

국내에서도 비슷한 논의가 활발하다. 네이버와 카카오 같은 플랫폼 기업들이 AI 서비스를 확대하고 있지만, 유해 콘텐츠 생성 가능성에 대한 대비책은 여전히 미흡하다. 특히 한국은 디지털 성범죄에 민감한 만큼, EU 사례가 국내 AI 규제 방향에도 영향을 줄 전망이다.

기술 vs 윤리의 딜레마

흥미로운 점은 머스크가 AI 안전성을 강조해온 인물이라는 사실이다. 그는 OpenAI 창립에 참여했고, AI의 위험성을 경고해왔다. 하지만 정작 자신의 AI는 안전장치 없이 출시하면서 모순을 드러냈다.

이는 AI 업계 전반의 딜레마를 보여준다. 빠른 시장 선점과 사용자 확보를 위해서는 제약을 최소화해야 하지만, 사회적 책임을 다하려면 엄격한 통제가 필요하다. Google이 Gemini 이미지 생성 기능을 일시 중단한 것도 같은 맥락이다.