X Grok AI 이미지 편집 유료화: 딥페이크 논란 속 폐쇄형 서비스 전환

생성 AI 기술이 통제 불능의 무기가 되자, X가 결국 문을 걸어 잠갔다. 자율성을 강조하던 플랫폼 정책이 기술 오용이라는 현실 벽에 부딪힌 결과다.

X(구 트위터)는 지난 1월 11일, 자사의 생성 AI인 Grok을 활용한 이미지 가공 기능을 유료 회원에게만 한정한다고 발표했다. 이는 Grok의 이미지 생성 및 편집 기능을 악용해 타인의 사진을 성적인 이미지로 무단 변형하는 사례가 속출한 지 불과 5일 만에 내려진 결정이다. 로이터 및 NHK 등 외신에 따르면, 해당 기능을 통해 생성된 부적절한 콘텐츠가 플랫폼 내에서 급속도로 확산되며 이용자들의 거센 반발을 샀던 것으로 알려졌다.

X Grok AI 이미지 편집 유료화 배경과 안전성 논란

광고

광고주 모집

[email protected]

광고

이번 조치는 단순히 수익 모델을 강화하려는 목적을 넘어, 디지털 성범죄 및 가짜 뉴스 확산을 억제하기 위한 '사용자 필터링'의 성격이 짙다. 유료 결제 단계를 거치게 함으로써 사용자의 신원을 일정 부분 특정하고, 악성 콘텐츠 생성 시 계정 정지 등 실효성 있는 제재를 가하겠다는 계산이다. 실제로 최근 대화형 AI에 과도하게 의존하던 소년이 비극적인 선택을 한 사건에 대해 개발사가 유족과 화해하기로 하는 등, AI 서비스의 사회적 책임에 대한 압박은 전 세계적으로 거세지고 있다.

기술의 민주화와 규제의 경계선

하지만 비판의 목소리도 적지 않다. 일부 전문가들은 "유료 결제자라면 여전히 악성 이미지를 생성할 수 있는 구조적 한계가 있다"며, 단순한 유료화가 아닌 강력한 알고리즘 차단 시스템이 선행되어야 한다고 지적한다. 플랫폼사가 안전 장치를 유료 서비스 뒤에 숨기는 '안전의 유료화'가 정당한지에 대한 윤리적 논쟁도 불거지고 있다.