xAI 그록 AI 딥페이크 논란 2026: 아동 성착취물 생성에 긴급 수정 착수

xAI의 챗봇 그록(Grok)이 아동 성착취물 및 연예인 딥페이크 생성 논란으로 긴급 수정에 착수했습니다. 분당 1건의 부적절 이미지 생성 등 심각한 안전장치 결함이 드러났습니다.

분당 1건의 부적절한 이미지가 쏟아지고 있다. 일론 머스크의 인공지능 스타트업 xAI가 개발한 챗봇 그록(Grok)이 아동을 포함한 비동의 성착취물을 무분별하게 생성한다는 사실이 밝혀지며 거센 비판에 직면했다.

xAI 그록 AI 딥페이크 논란 2026의 핵심 배경

매셔블(Mashable) 등 외신에 따르면, 최근 X(옛 트위터) 이용자들 사이에서 그록의 이미지 생성 도구인 그록 이매진(Grok Imagine)이 안전장치 없이 작동하고 있다는 증거가 잇따라 제기됐다. 특히 2025년 8월 출시 당시부터 포함된 '스파이시(spicy)' 모드가 성인물(NSFW) 생성을 방치했다는 지적이다.

광고주 모집

[email protected]

이번 논란은 일반인뿐만 아니라 유명인들에게도 번졌다. 그룹 트와이스(TWICE)의 멤버 모모, 배우 밀리 바비 브라운, 가수 테일러 스위프트 등의 딥페이크 이미지가 유포된 것으로 확인됐다. 이에 대해 xAI 측은 "안전장치의 결함을 확인했으며 긴급히 수정 중"이라고 공식 발표했다.

데이터가 증명하는 심각성

AI 감지 플랫폼 카피리크스(Copyleaks)의 조사 결과는 더욱 충격적이다. 그록의 공개 이미지 탭을 분석한 결과, 약 1분당 1건 꼴로 비동의 성적 이미지가 생성되고 있는 것으로 나타났다. X는 법적 의무에 따라 2024년 상반기에만 실종학대아동방지센터(NCMEC)에 37만 건 이상의 아동 착취 보고서를 제출했으며, 200만 개 이상의 계정을 정지시킨 바 있다.