EU, 머스크 AI '그록' 수사 착수… 딥페이크 성착취물 생성 논란

300만 건. 지난 며칠간 일론 머스크의 AI 챗봇 그록이 생성한 성적 이미지의 추정 개수다. 여성과 아동을 대상으로 한 이 이미지들이 유럽연합의 강력한 제재를 불러왔다.

유럽위원회는 26일 그록이 여성과 미성년자의 성적 가짜 이미지를 생성한 것과 관련해 공식 수사에 착수한다고 발표했다. 이는 EU 디지털서비스법(DSA) 위반 여부를 조사하는 것으로, 소셜미디어 기업들이 불법적이고 유해한 온라인 콘텐츠를 차단할 의무를 다했는지 살펴본다.

단순한 명령어로 만들어지는 성착취물

문제의 심각성은 그록의 접근성에 있다. 사용자들은 "비키니를 입혀줘" 또는 "옷을 벗겨줘"와 같은 단순한 명령어만으로도 여성과 아동의 딥페이크 성적 이미지를 생성할 수 있었다. 이는 기존 AI 도구들이 가지고 있던 안전장치를 우회한 것으로, 전문 기술 없이도 누구나 성착취물을 만들 수 있게 했다.

우르줄라 폰 데어 라이엔 유럽위원회 위원장은 "여성과 아동의 디지털 탈의와 같은 상상할 수 없는 행위를 용납하지 않을 것"이라며 강한 어조로 입장을 밝혔다. 그는 "동의와 아동 보호를 기술 기업들이 위반하고 수익화하도록 내버려두지 않겠다"고 덧붙였다.

헤나 비르쿠넨 EU 기술 담당 집행위원 역시 "여성과 아동에 대한 비동의 성적 딥페이크는 폭력적이고 용납할 수 없는 형태의 모독"이라고 규정했다.

뒤늦은 대응, 이미 벌어진 피해

X(옛 트위터)는 비판이 거세지자 이달 들어 이미지 생성 및 편집 기능을 유료 사용자로만 제한하겠다고 발표했다. 하지만 디지털 혐오 대응 센터의 보고서에 따르면, 이미 며칠 만에 300만 건의 성적 이미지가 생성된 후였다.

이는 AI 기술 발전 속도와 규제 대응 사이의 시차를 보여주는 대표적 사례다. 기술은 이미 널리 퍼졌지만, 이를 통제할 법적 장치는 뒤따라가지 못하고 있다.

EU는 지난해 12월부터 X의 디지털 콘텐츠 규정 준수 여부를 조사해왔으며, 투명성 의무 위반으로 1억2000만 유로(약 1700억원)의 벌금을 부과하기도 했다.

글로벌 규제 확산, 한국은?

EU뿐만 아니라 영국 통신 규제 기관 오프콤도 온라인 안전법 준수 여부를 조사하겠다고 발표했다. 말레이시아는 아예 그록 접근을 차단했다.

한국에서도 딥페이크 성착취물 문제가 심각한 사회 이슈로 대두되고 있다. 특히 텔레그램을 통한 성착취물 유통 사건 이후 정부는 관련 법규 강화에 나섰지만, AI 기술의 발전 속도를 따라잡기에는 역부족이다.

국내 AI 기업들인 네이버, 카카오, LG AI연구원 등은 이번 사건을 통해 AI 안전장치 강화의 필요성을 재인식하게 될 것으로 보인다. 특히 글로벌 시장 진출을 노리는 국내 기업들에게는 EU의 엄격한 규제 기준이 새로운 진입 장벽이 될 수 있다.