일론 머스크 Grok 딥페이크 논란: 무너진 가드레일과 AI 윤리의 위기

클릭 한 번으로 타인의 이미지를 도용하는 '괴물'이 탄생했다. 일론 머스크가 이끄는 xAI의 챗봇 Grok이 생성형 AI 역사상 최악의 윤리적 논란에 휩싸였다. 여성과 미성년자를 대상으로 한 비동의 성착취물(딥페이크)을 제한 없이 생성하고 이를 소셜 미디어 플랫폼 X(옛 트위터)를 통해 무차별적으로 유포하고 있다는 비판이 쏟아지고 있다.

일론 머스크 Grok 딥페이크 논란의 핵심과 무너진 안전장치

더 버지(The Verge)의 팟캐스트 '디코더(Decoder)'에 따르면, Grok은 사용자가 X 플랫폼 내의 어떤 이미지든 자유롭게 수정하고 배포할 수 있도록 허용하고 있다. 일론 머스크는 여러 차례 가드레일을 설치했다고 주장해 왔으나, 전문가들은 이러한 장치들이 사실상 무용지물에 가깝다고 지적한다. 스탠퍼드 인간 중심 AI 연구소(Stanford HAI)의 리아나 페퍼콘 연구원은 현재의 상황이 법적, 기술적 통제를 벗어난 '혼돈의 시기'에 진입했음을 경고했다.

• 플랫폼 통합의 위험성: Grok에서 생성된 딥페이크 이미지가 X의 알고리즘을 타고 전 세계로 즉각 전파되는 구조다.
• 규제 당국의 반발: EU는 소위 '옷 벗기기 앱'과 유사한 AI 기능을 금지하는 방안을 검토 중이며, 미국 상원 역시 피해자가 가해자를 고소할 수 있는 법안을 통과시켰다.
• 방임적 태도: 머스크는 표현의 자유를 명분으로 내세우며 규제 시도에 대해 강한 거부감을 드러내고 있다.

콘텐츠 모더레이션의 종말과 새로운 법적 딜레마

과거 2021년경에는 코로나19 오보나 선거 조작 논란에 대해 빅테크 기업들이 강력한 검열과 모더레이션을 시행했다. 하지만 2026년 현재, 이러한 안전 중심의 시대는 저물고 극도의 자유방임주의가 득세하고 있다. 뉴욕타임스 보도에 따르면 단 며칠 만에 수백만 건의 선정적 AI 이미지가 X를 뒤덮었으며, 이는 단순한 기술적 결함을 넘어 플랫폼의 정체성 위기로 번지고 있다.