사용자가 문제다? X Grok CSAM 논란과 계정 영구 정지 선언

도구의 결함인가, 사용자의 악용인가. X(옛 트위터)가 자사 AI 서비스인 Grok을 통해 아동 성착취물(CSAM)을 생성하는 사용자들을 플랫폼에서 퇴출하겠다고 밝혔다. AI의 출력 필터를 강화하는 대신, 부적절한 결과물을 유도한 사용자에게 책임을 묻겠다는 강경한 태도다.

X Grok CSAM 논란에 대한 공식 입장

로이터와 주요 외신에 따르면, X Safety 팀은 지난 2026년 1월 3일(현지시간) 공식 계정을 통해 Grok의 안전성 논란에 대한 입장을 발표했다. 이는 Grok이 동의 없는 실제 인물의 성적 이미지를 생성한다는 비판이 제기된 지 약 1주일 만에 나온 반응이다. 하지만 X 측은 기술적 결함에 대한 사과 대신 사용자들의 프롬프트 입력 행태를 지적했다.

사용자 처벌과 법적 대응 강화

X Safety는 아동 성착취물 등 불법 콘텐츠에 대해 무관용 원칙을 고수하겠다고 강조했다. 주요 대응 조치는 다음과 같다.

• 관련 콘텐츠 즉각 삭제 및 해당 계정의 영구 정지
• 현지 정부 및 법 집행 기관과의 긴밀한 협력
• 불법 콘텐츠 유도 프롬프트 사용자에 대한 법적 조치 검토