일론 머스크의 X Grok AI 이미지 규제 논란과 보안 허점

금지 선언은 공허했다. 일론 머스크가 이끄는 소셜 미디어 X가 인공지능(AI) 챗봇 Grok을 활용한 부적절한 이미지 생성을 차단하겠다고 발표한 지 얼마 지나지 않아, 실제로는 여전히 규제가 작동하지 않고 있다는 분석이 나왔다.

X Grok AI 이미지 규제 논란의 실태

영국 일간지 가디언에 따르면, 이 매체의 기자들은 옷을 온전히 입고 있는 실제 여성의 사진을 활용해 비키니 차림으로 바꾸는 '탈의' 영상을 생성하고 이를 X 플랫폼에 게시하는 데 성공했다. 이는 X 측이 실제 인물을 대상으로 한 성적 대상화 AI 이미지 생성을 기술적으로 차단했다고 발표한 공식 입장과 정면으로 배치되는 결과다.

가디언은 독립형 Grok 앱을 통해 문제의 영상을 제작했으며, 이를 X의 공개 게시판에 업로드했을 때 어떠한 필터링이나 모더레이션 시스템도 작동하지 않았다고 보도했다. 해당 콘텐츠는 업로드 직후 수초 만에 누구나 시청 가능한 상태가 된 것으로 알려졌다.

광고

광고주 모집

[email protected]

광고

반복되는 보안 약속과 각국의 압박

앞서 X 안전 계정은 유료 구독자를 포함한 모든 사용자를 대상으로 실제 인물의 노출 이미지를 편집하지 못하도록 기술적 조치를 완료했다고 공언한 바 있다. X 측은 비동의 성적 콘텐츠와 아동 성착취물에 대해 '무관용 원칙'을 고수하고 있다고 거듭 강조해 왔다.

그러나 최근 Grok이 미성년자의 성적 이미지를 생성할 수 있다는 보고가 잇따르면서, 여러 국가 정부는 X에 대한 조사에 착수하거나 서비스 제한을 검토 중인 것으로 보인다. 플랫폼 내 안전 장치가 실시간으로 쏟아지는 생성형 AI 콘텐츠의 속도를 따라잡지 못하고 있다는 비판이 거세다.