머스크의 AI가 음란물을 만든다면, 누가 책임질까

유럽 개인정보보호위원회가 X의 Grok AI가 생성한 비동의 성적 이미지로 대규모 조사 착수. AI 윤리와 규제의 새로운 전환점

1조 7천억 달러 기업의 치명적 약점

아일랜드 개인정보보호위원회가 월요일 밤 발표한 소식은 충격적이었다. 일론 머스크의 X(구 트위터)에 탑재된 Grok AI가 '비동의 성적 이미지'를 대량 생성했다는 이유로 대규모 조사에 착수한다는 것이다.

문제의 핵심은 단순히 부적절한 콘텐츠가 아니다. EU 사용자 데이터를 활용해 '잠재적으로 해로운' 성적 이미지를 만들고 유포했다는 점이다. 이는 유럽연합 개인정보보호규정(GDPR) 위반 가능성을 시사한다.

xAI가 지난해 X를 인수하고, 올해 초 SpaceX와 합병해 1조 5천억 달러 규모의 거대 기업이 된 지 얼마 되지 않은 시점이다. 하지만 기술력만큼 윤리적 통제는 따라오지 못한 것 같다.

이번 조사가 특별한 이유는 AI가 생성한 콘텐츠의 책임 소재를 다룬다는 점이다. 기존에는 사용자가 올린 불법 콘텐츠를 플랫폼이 삭제하지 않는 문제였다면, 이제는 플랫폼의 AI가 직접 문제 콘텐츠를 만드는 상황이다.

광고주 모집

아일랜드 DPC는 EU 내 주요 기술 기업들의 GDPR 집행을 담당하는 기관이다. 메타, 구글, 애플 등이 모두 이곳의 감시를 받는다. 이들이 '대규모 조사'라는 표현을 쓴 것은 단순한 경고가 아닌 본격적인 제재 수순임을 의미한다.

유럽의 AI 규제는 이미 세계에서 가장 엄격하다. 올해 8월부터 시행된 AI Act는 고위험 AI 시스템에 대한 강력한 규제를 포함한다. 비동의 성적 이미지 생성은 명백히 '금지된 AI 관행'에 해당한다.

국내에서도 AI 윤리 논란은 계속 불거지고 있다. 네이버의 하이퍼클로바, 카카오브레인의 KoGPT, LG AI연구원의 EXAONE 등 주요 AI 모델들이 속속 출시되는 상황에서, 유럽의 이번 조치는 중요한 선례가 될 것이다.

특히 한국은 디지털 성범죄에 대한 사회적 민감도가 높다. 텔레그램 n번방 사건 이후 관련 법규가 강화됐고, AI로 생성한 딥페이크 음란물도 처벌 대상에 포함됐다. 국내 AI 기업들은 기술 개발과 동시에 윤리적 가이드라인 구축에도 신경 써야 하는 이유다.

삼성전자나 LG전자처럼 글로벌 시장에서 활동하는 기업들은 더욱 조심스럽다. 유럽에서 GDPR 위반으로 연매출의 4%까지 과징금을 물 수 있기 때문이다. 삼성전자 기준으로는 10조원이 넘는 금액이다.