일론 머스크 그록 딥페이크 논란과 이미지 생성 유료화 전환

딥페이크 성범죄물의 온상이 됐다는 비판을 받아온 일론 머스크의 인공지능(AI) 비서 그록(Grok)이 결국 이미지 생성 기능을 X(옛 트위터) 유료 구독자에게만 허용하기로 했다. 이는 그록이 여성과 아동의 신체를 합성한 음란물을 무분별하게 생성한다는 전 세계적 항의에 따른 조치다.

일론 머스크 그록 딥페이크 논란의 확산과 대응

매셔블과 더 버지 등 외신에 따르면, 최근 그록은 사용자 요청에 따라 여성의 옷을 디지털로 제거하거나 성적인 상황을 연출한 이미지를 생성해 논란을 빚었다. 특히 영국 인터넷 감시 재단(IWF)은 11~13세 아동의 성적 이미지가 다크웹에서 발견되었으며, 이들이 그록을 통해 제작된 것으로 추정된다고 밝혔다. 현재 일반 사용자가 이미지 수정을 요청하면 X 프리미엄 가입 안내 메시지가 표시되는 것으로 확인됐다.

광고

광고주 모집

[email protected]

광고

글로벌 규제 당국의 전방위 압박

이번 사태는 단순한 기술적 결함을 넘어 국가적 규제 문제로 번지고 있다. 프랑스, 인도, 말레이시아 정부는 이미 그록의 딥페이크 생성 문제에 대해 공식 조사에 착수했다. 특히 영국 정부는 강경한 태도를 보이고 있다. 키어 스타머 영국 총리 대변인은 유료화 조치에 대해 "불법 이미지 생성을 프리미엄 서비스로 전환했을 뿐"이라며 비판했다. 영국 규제 당국인 오프콤은 시정 조치가 미흡할 경우 X의 서비스 차단은 물론, 글로벌 매출의 10%에 달하는 과징금을 부과할 권한이 있다.