성인·미성년자 딥페이크 확산에 X Grok 이미지 생성 제한 조치 단행

자유를 강조하던 일론 머스크의 X가 결국 빗장을 걸었다. Grok을 이용한 비동의 성적 딥페이크물이 걷잡을 수 없이 확산하자, 이미지 생성 및 편집 기능에 대한 부분적 제한에 나선 것이다.

X Grok 이미지 생성 제한 조치의 배경과 실상

더 버지(The Verge)의 보도에 따르면, X는 최근 Grok 챗봇 계정을 태그하여 무료로 이미지를 생성하던 기능을 중단했다. 이전까지 사용자는 게시글에 @grok을 태그하는 것만으로 손쉽게 이미지를 만들거나 수정할 수 있었다. 하지만 현재는 해당 기능을 시도할 경우, 기능을 사용할 수 없다는 자동 응답 메시지가 전송되는 것으로 확인됐다.

이번 조치는 성인뿐만 아니라 미성년자를 대상으로 한 부적절한 딥페이크 이미지가 X 플랫폼 내에 범람하면서 시작된 강력한 사회적 비판에 따른 결과로 풀이된다. AI 윤리 전문가들은 무분별한 이미지 생성 기능이 디지털 성범죄의 도구로 악용되고 있다고 경고해 왔다.

광고

광고주 모집

[email protected]

광고

반쪽짜리 규제라는 비판 면하기 어려워

하지만 이번 제한 조치가 실효성이 떨어진다는 지적도 나온다. 무료 태그 방식의 생성은 막혔지만, 유료 구독자들을 위한 Grok의 이미지 편집 도구는 여전히 열려 있기 때문이다. 유료 사용자라면 여전히 성적인 의도가 담긴 이미지나 정교한 딥페이크를 제작할 수 있는 환경이 유지되고 있다는 뜻이다.

업계 전문가들은 X가 수익성을 위해 유료 서비스의 핵심 기능은 유지하면서, 외부 비판을 피하기 위해 무료 접근성만 차단하는 '선별적 규제'를 택한 것으로 보고 있다. 이는 플랫폼의 안전 보장보다는 면피성 대응에 가깝다는 분석이 지배적이다.