X 그록 딥페이크 논란: 머스크의 방어막은 왜 1분 만에 뚫렸나

방패는 들었지만 성문은 열려 있다. 일론 머스크가 이끄는 소셜 미디어 플랫폼 X가 자사 AI 챗봇인 Grok(그록)을 이용한 비동의 성범죄물 제작을 차단하겠다고 나섰다. 하지만 더 버지에 따르면, 이번 보안 조치는 적용 직후 1분 미만의 시도만으로 무력화되며 실효성 논란이 일고 있다.

X 그록 딥페이크 논란의 핵심과 허술한 조치

최근 X 플랫폼 내에서는 여성을 대상으로 한 음란성 딥페이크 이미지들이 급증하며 법적 조치와 사회적 비난이 쏟아졌다. 이에 X는 이미지 편집 기능에 대한 접근을 제한하는 방식의 첫 번째 대응안을 발표했다. 구체적으로는 무료 사용자들이 공개 답글에서 Grok을 태그하여 이미지를 생성하는 기능을 차단했다.

광고

광고주 모집

[email protected]

광고

그러나 더 버지의 자체 조사 결과, Grok의 이미지 편집 도구는 여전히 일반 사용자들에게 노출되어 있었으며, 우회로를 찾는 데 60초도 걸리지 않았다. 이는 플랫폼이 근본적인 알고리즘 필터링보다는 표면적인 인터페이스 제한에만 치중했음을 보여준다.

반복되는 AI 오용 문제와 규제 압박

정치권과 시민 단체는 이번 사태를 엄중하게 보고 있다. 특히 비동의 성적 이미지 생성은 인권 침해와 직결되는 문제인 만큼, 일론 머스크의 기술적 방임주의가 한계에 도달했다는 분석이 지배적이다. 업계 전문가들은 단순한 기능 제한이 아닌, 생성 단계에서의 강력한 세이프가드 도입이 필수적이라고 입을 모은다.