그록의 불법 이미지 생성, EU가 X에 칼을 빼들다

120만 유로. 지난 12월 EU가 X에 부과한 과징금이다. 그런데 이번엔 더 큰 문제가 터졌다. 일론 머스크의 AI 챗봇 그록이 아동 성 착취물을 포함한 불법 이미지를 생성했다는 이유로 EU가 본격 조사에 나선 것이다.

유럽연합 집행위원회는 26일(현지시간) 디지털서비스법(DSA) 위반 혐의로 X에 대한 새로운 조사를 시작한다고 발표했다. 이번 조사는 그록의 기능이 EU 내에서 어떻게 배포되고 있는지, 그리고 X가 관련 위험을 제대로 평가하고 완화했는지를 집중적으로 살펴볼 예정이다.

그록이 만든 '판도라의 상자'

문제의 시작은 올해 초로 거슬러 올라간다. 사용자들이 그록에게 특정 지시를 내리자, 이 AI 시스템은 아동을 성적으로 묘사한 이미지와 실존 인물의 성적 이미지를 생성했다. 이는 단순한 기술적 오류가 아니라 심각한 법적 문제로 이어졌다.

집행위원회는 성명에서 "이러한 위험이 실제로 발생해 EU 시민들이 심각한 피해에 노출됐다"고 강조했다. 특히 아동 성 착취물에 해당할 수 있는 콘텐츠 생성은 EU뿐만 아니라 전 세계적으로 엄격히 금지된 행위다.

머스크의 xAI는 이달 초 실존 인물의 성적 이미지 생성 기능을 중단했다고 밝혔지만, 이미 늦었다는 평가가 지배적이다. 영국, 인도, 말레이시아 등 여러 국가의 규제 당국도 비슷한 조사에 착수한 상태다.

디지털서비스법의 '진짜 위력'

이번 사건은 EU의 디지털서비스법이 얼마나 강력한 규제 도구인지를 보여준다. DSA는 온라인 플랫폼의 콘텐츠와 소비자 행동을 규제하기 위해 설계됐으며, 위반 시 기업 연간 매출의 최대 6%까지 과징금을 부과할 수 있다.

X의 경우 이미 DSA의 '단골손님'이 됐다. 2023년부터 시작된 추천 시스템 관련 조사는 현재도 진행 중이고, 지난 12월에는 투명성 의무 위반으로 1억 2000만 유로의 과징금을 받았다. 이번 그록 관련 조사까지 더해지면서 X는 EU에서 전방위적 압박을 받는 상황이다.

흥미로운 점은 EU가 단순히 사후 처벌에 그치지 않고 '예방적 규제'를 강조한다는 것이다. 집행위원회는 "회사가 그록의 기능을 EU에 배포할 때 관련 위험을 제대로 평가하고 완화했는지"를 조사한다고 명시했다. 즉, 문제가 터진 후 대응하는 것이 아니라, 애초에 위험을 예측하고 차단했어야 한다는 입장이다.

글로벌 AI 규제의 새로운 기준점

이번 사건은 단순히 X와 그록만의 문제가 아니다. 전 세계 AI 기업들이 주목해야 할 '규제의 새로운 기준'이 만들어지고 있다.

특히 한국의 AI 기업들에게도 시사점이 크다. 네이버의 하이퍼클로바X, 카카오브레인의 AI 서비스들이 글로벌 시장으로 확장할 때 비슷한 규제 리스크에 직면할 가능성이 높다. EU는 이미 AI법(AI Act)을 통해 고위험 AI 시스템에 대한 엄격한 규제 체계를 구축했고, 이번 그록 사건은 그 적용 사례가 될 전망이다.

더 나아가 이는 'AI의 책임 있는 개발'이라는 화두를 다시 한 번 부각시킨다. 기술적 혁신과 사회적 책임 사이의 균형점을 찾는 것이 AI 기업들의 핵심 과제로 떠올랐다.