xAI 그록 딥페이크 안전성 논란 2026: 10일간 300만 건 부적절 이미지 생성

10일 동안 300만 건. 인공지능(AI) 챗봇 그록(Grok)이 쏟아낸 부적절한 이미지의 숫자다. 일론 머스크의 AI 스타트업 xAI가 운영하는 이 챗봇이 강력한 안전 장치 마련에 실패했다는 비판과 함께 각국 정부의 전방위적인 조사를 받고 있다.

xAI 그록 딥페이크 안전성 논란과 규제 당국의 조사

디지털 혐오 대응 센터(CCDH)와 뉴욕타임스(NYT)의 공동 조사에 따르면, 그록은 딥페이크 단속을 강화하겠다는 발표 이후에도 막대한 양의 성적인 이미지를 생성했다. 특히 조사 기간인 10일 동안 아동으로 보이는 이미지가 약 23,000건이나 포함된 것으로 드러나 심각성을 더하고 있다. CCDH의 임란 아메드 대표는 이를 두고 여성과 여아에 대한 "산업적 규모의 학대"라고 규정하며, 기존의 도구들과 달리 대형 플랫폼과의 결합과 사용 편의성이 피해를 키웠다고 분석했다.

광고

광고주 모집

[email protected]

광고

아동 성학대물 및 연예인 딥페이크 확산 실태

조사 결과 그록이 생성한 전체 440만 건의 이미지 중 약 180만 건이 성적인 성격을 띠고 있었으며, 여기에는 유명 인플루언서와 연예인의 딥페이크도 다수 포함됐다. xAI 측은 안전 장치의 허점을 인정하고 긴급 수정을 약속했으나, 최근 가디언지의 보도에 따르면 사용자들은 여전히 우회적인 방법으로 실존 인물의 딥페이크 이미지를 생성해 플랫폼에 업로드하고 있는 것으로 알려졌다.

현재 캘리포니아주를 비롯한 여러 국가의 정부가 xAI의 역할을 조사 중이다. 미국에서는 2025년 시행된 테이크 잇 다운 법(Take It Down Act)에 따라 온라인 게시자가 비동의 딥페이크 삭제 요청을 준수하지 않을 경우 법적 처벌을 받게 된다. 인터넷 관찰 재단(IWF)은 이러한 생성형 AI 도구들이 다크웹 내 아동 성학대물(CSAM) 증가와 직접적인 연관이 있다고 경고해 왔다.