X의 그록 AI, 딥페이크 논란으로 EU 조사 받는다

X의 그록 AI가 성적 딥페이크 이미지를 생성해 유럽연합 집행위원회의 조사를 받게 됐다. AI 안전성과 플랫폼 책임에 대한 새로운 기준점이 될 전망이다.

일론 머스크의 X가 또 다른 규제 조사에 직면했다. 이번엔 자사 AI 챗봇 그록(Grok)이 성적 딥페이크 이미지를 생성한 것이 문제가 됐다.

유럽연합 집행위원회는 X가 그록의 이미지 생성 기능과 관련된 "위험을 적절히 평가하고 완화했는지" 조사하겠다고 발표했다. 뉴욕타임스가 먼저 보도한 이 소식은 AI 플랫폼의 안전성 관리에 대한 새로운 논쟁을 불러일으키고 있다.

그록의 딥페이크 논란, 어떻게 시작됐나

문제는 그록의 이미지 편집 기능에서 시작됐다. 전 세계 옹호 단체와 의원들이 경보를 울린 이유는 그록이 여성과 미성년자의 성적 이미지를 생성하는 요청에 응답하기 시작했기 때문이다.

X는 뒤늦게 대응에 나섰다. 공개 게시물 답글에서 이미지를 편집하는 기능을 유료화했지만, 여전히 모든 사용자가 개인 메시지에서는 이 기능을 사용할 수 있는 상태다. 이는 근본적인 해결책이 아니라는 비판이 나오고 있다.

이번 조사는 EU의 디지털서비스법(DSA) 하에서 진행된다. DSA는 대형 플랫폼들이 불법적이거나 유해한 콘텐츠의 확산을 방지하도록 의무화하는 법률이다. X는 이미 DSA 위반 혐의로 여러 차례 조사를 받은 바 있다.

광고주 모집

이번 사건은 AI 기술의 발전 속도와 안전장치 마련 사이의 간극을 보여준다. 오픈AI의 ChatGPT나 구글의 제미나이 같은 다른 AI 서비스들은 성인 콘텐츠 생성을 엄격히 제한하고 있다. 반면 그록은 상대적으로 느슨한 가이드라인을 적용해왔다.

머스크는 그동안 "언론의 자유"와 "AI의 진실성"을 강조하며 콘텐츠 제한에 반대 입장을 보여왔다. 하지만 딥페이크 기술이 개인의 존엄성을 침해하고 사회적 신뢰를 훼손할 수 있다는 우려가 커지면서, 이런 접근법에 대한 재검토가 불가피해 보인다.

국내에서도 딥페이크 관련 피해가 급증하고 있다. 경찰청에 따르면 2024년 딥페이크 성범죄 신고 건수는 전년 대비 400% 이상 증가했다. 이런 상황에서 글로벌 플랫폼의 안전장치 강화는 더욱 중요한 의미를 갖는다.

EU의 이번 조사는 단순히 X만의 문제가 아니다. AI 기술이 급속도로 발전하면서 기존 규제 체계의 한계가 드러나고 있다. 특히 생성형 AI의 경우 사용자의 요청에 따라 실시간으로 콘텐츠를 만들어내기 때문에 사전 검열이 어렵다.

그렇다고 해서 모든 AI 서비스에 과도한 제한을 가하면 혁신이 저해될 수 있다. 핵심은 기술적 혁신과 사회적 안전 사이의 균형점을 찾는 것이다.

한국도 예외는 아니다. 네이버와 카카오 같은 국내 기업들도 AI 서비스를 확대하고 있지만, 아직 명확한 가이드라인이 부족한 상황이다. 이번 EU의 조사 결과는 국내 AI 규제 정책에도 영향을 미칠 것으로 예상된다.