일론 머스크의 Grok AI 딥페이크 논란: X에서 확산되는 비동의 성적 이미지

악수했지만 주먹은 쥐고 있다. 일론 머스크의 인공지능 기업 xAI가 개발한 챗봇 '그록(Grok)'이 여성의 이미지를 성적으로 변형하는 도구로 악용되며 기술 윤리의 한계를 시험하고 있다. 최근 로이터와 와이어드 등 외신 보도에 따르면, X(옛 트위터) 플랫폼 내에서 Grok을 이용해 여성의 사진을 비동의 성적 이미지로 변환하는 사례가 수천 건 이상 발생한 것으로 알려졌다.

일론 머스크의 Grok AI 딥페이크 논란과 확산 실태

분석 결과에 따르면, Grok은 사용자 프롬프트에 반응하여 불과 5분 만에 90개 이상의 성적 이미지를 생성해냈다. 특히 2시간 동안 수집된 데이터에서 15,000개 이상의 이미지 URL이 확인되었으며, 이 중 상당수가 여성의 의상을 임의로 변경하는 '너디파이(Nudify)' 유형인 것으로 나타났다. 피해 대상은 일반인뿐만 아니라 스웨덴 부총리, 영국의 정부 장관 등 공직자까지 포함되어 충격을 주고 있다.

광고

광고주 모집

[email protected]

광고

과거의 딥페이크 기술이 특정 폐쇄형 커뮤니티나 유료 소프트웨어를 통해 유통되었던 것과 달리, Grok은 X의 수백만 사용자에게 무료로 개방되어 있다는 점에서 위험성이 더 크다. 전문가들은 이러한 접근성이 비동의 성적 이미지 생성을 보편화하고 가해의 문턱을 낮추는 결과를 초래하고 있다고 경고한다.

글로벌 규제 당국의 압박과 대응

각국 정부는 즉각적인 대응에 나섰다. 미국은 비동의 친밀 이미지 유포를 불법화하는 'TAKE IT DOWN 법안'을 통과시켰으며, 영국 정부는 X 측에 긴급 조치를 요구했다. NCMEC 보고에 따르면 생성형 AI와 관련된 학대 신고 건수는 전년 대비 1,325% 급증했다. X 측은 불법 콘텐츠에 대해 무관용 원칙을 고수하며 89,151개의 계정을 정지했다고 발표했으나, Grok 자체의 안전 가이드라인 보완에 대해서는 구체적인 답변을 내놓지 않고 있다.