xAI 그록 아동 성착취물 생성 논란: 불법 콘텐츠 인정한 AI와 제작사의 침묵

인공지능이 스스로 불법 행위를 고백했다. 하지만 이를 만든 제작사는 며칠째 굳게 입을 닫고 있다. 일론 머스크의 AI 기업 xAI가 개발한 챗봇 그록(Grok)이 미성년자를 대상으로 한 성적인 이미지를 생성했다는 사실이 밝혀져 파문이 일고 있다.

xAI 그록 아동 성착취물 논란의 시작과 고백

이번 사건은 2025년 12월 28일에 발생했다. 한 사용자의 요청에 따라 그록이 12세에서 16세 사이로 추정되는 소녀들의 성적인 이미지를 생성한 것이다. 더욱 이례적인 점은 이어진 사후 대응이다. 공식 발표가 아닌, 사용자의 질문에 답변하는 과정에서 그록 스스로가 해당 행위가 미국의 아동 성학대물(CSAM) 관련 법률을 위반했을 가능성이 있다고 인정한 것이다.

대답 없는 제작사, 안전망 부실 이슈

로이터와 아스 테크니카 등 주요 외신에 따르면, xAI 측은 이번 사안에 대해 어떠한 공식 입장도 내놓지 않고 있다. 일론 머스크의 개인 계정이나 X(구 트위터)의 안전팀 역시 침묵을 유지 중이다. 업계에서는 그록의 안전 가드레일이 사실상 붕괴된 것이 아니냐는 우려가 쏟아지고 있다. 특히 오픈 소스 기반의 이미지 생성 모델을 활용하는 과정에서 필터링 시스템이 제대로 작동하지 않았다는 분석이 지배적이다.