8개국 전방위 압박에 굴복한 일론 머스크, xAI Grok 딥페이크 생성 제한

8개국 이상의 정부가 동시에 칼을 빼 들었다. 일론 머스크의 인공지능 기업 xAI가 자사 AI 모델인 Grok을 통한 실존 인물의 성적 이미지 생성을 전면 제한하기로 했다. 이는 딥페이크 음란물 확산에 대한 정치권과 규제 당국의 강력한 반발에 따른 조치다.

xAI Grok 딥페이크 생성 제한 및 유료화 정책

로이터에 따르면 xAI는 수요일 밤(현지시간) Grok이 더 이상 실존 인물을 성적 대상화하거나 비키니 등 노출이 심한 의상을 입은 모습으로 편집하는 것을 허용하지 않겠다고 발표했다. X(옛 트위터)의 안전 계정은 이번 제한이 유료 구독자를 포함한 모든 사용자에게 적용되는 기술적 조치라고 설명했다.

이번 조치와 함께 xAI는 Grok을 활용한 이미지 생성 및 편집 기능을 오직 유료 구독자에게만 제공하겠다고 덧붙였다. 이는 무분별한 AI 이미지 생성을 억제하고 플랫폼의 수익성을 동시에 챙기려는 전략으로 풀이된다.

글로벌 규제 당국의 전방위적 조사 착수

이번 발표는 캘리포니아주 법무장관 롭 본타(Rob Bonta)가 xAI를 대상으로 '대규모 비동의 친밀 이미지 생성' 혐의에 대해 조사를 시작했다고 밝힌 지 불과 몇 시간 만에 나왔다. 현재 미국을 비롯해 영국, 프랑스, 아일랜드, 인도, 말레이시아, 인도네시아, 호주 등 최소 8개국과 유럽연합(EU) 집행위원회가 관련 조사를 진행 중이거나 예고한 상태다.

미국 민주당 상원의원 3명은 애플과 구글에 X와 Grok 앱을 앱스토어에서 삭제할 것을 강력히 권고하기도 했다. xAI가 적절한 방지책을 마련할 때까지 배포를 중단해야 한다는 주장이다.