머스크의 그록, 딥페이크 확산에 항복했나? 그록 딥페이크 이미지 규제 강화

무법지대로 불리던 AI 이미지 생성의 벽이 높아졌다. 표현의 자유를 최우선으로 내세우던 일론 머스크(Elon Musk)의 AI 챗봇 그록(Grok)이 전 세계적인 규제 압박에 결국 꼬리를 내렸다.

BBC 등 주요 외신에 따르면, X(옛 트위터)의 안전 계정은 비키니나 속옷 등 노출이 심한 의상을 입은 실존 인물의 이미지를 생성하거나 편집하는 행위를 제한하는 새로운 기술적 조치를 도입했다고 발표했다. 이번 조치는 유료 구독자를 포함한 모든 사용자에게 예외 없이 적용되며, 그록을 통한 아동 성착취물(CSAM) 및 비동의 누드물 제작에 대해 강력히 대응하겠다는 의지로 풀이된다.

글로벌 규제 직격탄 맞은 그록 딥페이크 이미지 규제

이번 정책 변화는 전 세계 규제 당국의 파상공세 직후에 나왔다. 미국 캘리포니아주의 롭 본타(Rob Bonta) 법무장관은 그록이 생성한 음란물이 여성과 아동을 괴롭히는 도구로 악용되고 있다며 강력한 수사를 예고했다. 영국에서는 키어 스타머(Keir Starmer) 총리가 직접 나서 "X가 그록을 통제하지 못한다면 우리가 하겠다"며 서비스 차단 가능성까지 시사했다.

이미 인도네시아와 말레이시아는 지난 주말 그록 접속을 차단한 상태다. X 측은 해당 유형의 이미지 생성이 불법인 지역에 대해 지오블로킹(Geoblocking) 기술을 활용해 접속을 원천 차단하겠다고 덧붙였다.

면책 특권 상실 우려와 머스크의 이중적 행보

업계에서는 이번 조치가 미국의 통신품위법 230조(Section 230) 면책 특권을 잃을 수 있다는 위기감에서 비롯된 것으로 보고 있다. 30년 된 이 법안은 사용자가 올린 콘텐츠에 대해 플랫폼의 책임을 면제해주지만, AI가 직접 생성한 콘텐츠는 보호 대상에서 제외될 가능성이 크기 때문이다.

흥미로운 점은 머스크의 태도다. X 세이프티 계정이 규제를 발표한 날, 정작 머스크 본인은 사용자들에게 "그록의 이미지 검열을 뚫어보라"고 부추기는 듯한 게시물을 올려 논란을 빚기도 했다. 규제 당국과의 법적 싸움을 피하면서도 기술적 자유를 강조하려는 이중적인 전략으로 보인다.