안전망 뚫린 xAI Grok explicit content controversy의 실체

자유의 대가는 참혹했다. 일론 머스크의 인공지능 기업 xAI가 개발한 챗봇 그록(Grok)이 생성한 노골적인 성적 영상과 아동 성학대물 의심 콘텐츠가 대량 유출되며 전 세계적인 공분을 사고 있다. 단순한 기술적 결함을 넘어, AI 윤리의 최후 마지노선이 무너졌다는 비판이 거세다.

xAI Grok explicit content controversy: 감춰진 웹 버전의 실체

최근 외신 와이어드(WIRED)의 보도에 따르면, 소셜 미디어 X에 공개된 이미지보다 훨씬 더 정교하고 폭력적인 영상들이 Grok.com 웹사이트와 앱을 통해 생성되고 있다. 프랑스의 비영리 단체 AI Forensics가 분석한 1,200개의 아카이브 링크 중 약 800개가 노골적인 성적 콘텐츠였다. 특히 이 중 약 10%는 미성년자를 묘사한 아동 성학대물(CSAM)로 의심되는 심각한 수준인 것으로 밝혀졌다.

광고

광고주 모집

[email protected]

광고

무력화된 안전 가이드라인과 '매운맛' 모드의 역설

타 AI 기업들이 엄격한 차단 정책을 펴는 것과 달리, xAI는 소위 매운맛(Spicy) 모드를 통해 거친 언어와 성적 상황 묘사를 일부 허용해 왔다. 한 딥페이크 포럼에서는 작년 10월부터 그록의 안전망을 우회하는 기법을 공유하는 게시글이 300페이지 넘게 이어지고 있다. 일론 머스크는 불법 콘텐츠 생성 시 법적 책임을 져야 한다고 경고했으나, 정작 플랫폼 차원의 연령 확인 절차나 실시간 모니터링은 미비한 상태다.