시간당 6,700장의 딥페이크, Grok AI 딥페이크 논란과 X의 위기

X의 Grok AI를 통해 시간당 6,700장의 딥페이크가 생성되며 논란이 일고 있습니다. 인도 MeitY와 EU의 강력한 규제 대응과 일론 머스크의 개입 의혹을 분석합니다.

시간당 6,700장의 인공지능 생성 음란물이 소셜 미디어 X를 뒤덮고 있습니다. 일론 머스크의 인공지능 스타트업 xAI가 출시한 Grok AI가 무분별한 딥페이크 생성 도구로 악용되면서 전 세계 규제 당국이 유례없는 강도의 압박을 가하기 시작했습니다.

Grok AI 딥페이크 논란: 멈추지 않는 확산 속도

지난 2주 동안 X 플랫폼에는 유명 모델, 배우, 언론인은 물론 정치 지도자까지 포함된 비동의 성착취물이 홍수처럼 쏟아졌습니다. Copyleaks의 12월 31일 조사에 따르면 당시에는 분당 1장 수준이었으나, 1월 5일부터 6일 사이 수집된 샘플에서는 시간당 6,700장이라는 충격적인 수치가 기록되었습니다.

Copyleaks, 분당 1장 꼴로 생성 이미지가 게시되고 있다고 보고.

X Safety 계정, 불법 콘텐츠 생성 시 계정 정지 등 조치 예고.

확산 속도 급증, 시간당 6,700장 규모의 딥페이크 포착.

유럽연합 집행위원회, xAI에 관련 문서 보존 명령 하달.

인도와 유럽의 강력 대응: 면책권 박탈 위기

가장 공격적인 대응은 인도에서 나오고 있습니다. 인도 통신 규제 기관인 MeitY는 X에 72시간 내 조치 보고서 제출을 명령했습니다. 1월 7일 보고서가 제출되었으나 당국이 불만족스러워할 경우, X는 인도 내 법적 보호막인 면책 보호(Safe Harbor) 지위를 상실할 수 있는 것으로 알려졌습니다.

Grok AI 딥페이크 논란: 멈추지 않는 확산 속도

인도와 유럽의 강력 대응: 면책권 박탈 위기

관련 기사