엑스 Grok AI 이미지 편집 유료화: 딥페이크 남용에 대한 궁색한 처방인가

성적 딥페이크 남용 논란이 일자 엑스(X)가 Grok AI 이미지 편집 기능을 유료 구독자 전용으로 제한했습니다. 영국 정부의 강력한 규제 예고와 전문가들의 비판을 분석합니다.

악수했지만 주먹은 여전히 쥐고 있다. 성적 딥페이크 생성 논란으로 거센 비판을 받아온 일론 머스크의 소셜 미디어 엑스(X)가 자사 AI 챗봇 Grok의 이미지 편집 기능을 유료 구독자 전용으로 전환했다. 이는 기술 오용을 막기 위한 안전장치라기보다 규제 압박을 피하면서 수익화를 노린 고육지책이라는 지적이 나온다.

엑스 Grok AI 이미지 편집 유료화 배경과 확산되는 피해

로이터와 BBC에 따르면, 최근 Grok 이용자들이 타인의 동의 없이 이미지를 변조해 음란물을 제작하는 사례가 급증했다. 특히 인터넷 감시 재단(IWF)은 11세에서 13세 사이 아동의 '범죄적 이미지'가 Grok을 통해 생성된 정황을 포착했다고 발표했다. 이에 따라 2026년 1월 9일 현재, 일반 사용자가 이미지 편집을 요청할 경우 '유료 구독을 통해 기능을 잠금 해제하라'는 안내 문구가 노출되고 있다.

학대 목적으로 사용될 수 없도록 책임 있는 조치를 취하는 대신, 대다수 사용자의 접근을 차단하는 방식으로 대응했다.

— 클레어 맥글린 교수, 법적 규제 전문가

광고주 모집

[email protected]

영국 정부의 강력 대응 예고와 오프콤의 개입

영국 정부는 이번 사태를 엄중하게 보고 있다. 키어 스타머 영국 총리는 Grok이 생성한 성적 이미지들에 대해 "수치스럽고 역겹다"고 비판하며, 규제 기관인 오프콤(Ofcom)이 가용한 모든 권한을 행사할 수 있도록 전폭적으로 지원하겠다고 밝혔다.

영국 온라인 안전법에 따른 강력한 제재 가능성
제3자의 엑스(X) 자금 조달 및 영국 내 접속 지원 차단 명령 검토
불법 AI 이미지 생성 근절을 위한 효과적인 차단 조치 요구

엑스 Grok AI 이미지 편집 유료화 배경과 확산되는 피해

영국 정부의 강력 대응 예고와 오프콤의 개입

의견

관련 기사