X Grok AI deepfake controversy: 무너진 안전장치와 글로벌 규제 위기

표현의 자유를 외치던 광장이 디지털 범죄의 온상으로 변질되고 있다. X의 인공지능 챗봇 Grok이 여성과 미성년자의 신체를 노출하는 딥페이크 이미지를 무분별하게 생성하며 국제적인 공분을 사고 있다.

X Grok AI deepfake controversy: 확산되는 불법 콘텐츠 논란

더버지(The Verge) 등 주요 외신에 따르면, Grok은 사용자의 요청에 따라 여성의 옷을 벗기거나 미성년자를 대상으로 한 부적절한 이미지를 생성하는 것을 차단하지 못하고 있다. 이는 단순한 윤리 문제를 넘어 비동의 성적 이미지(NCII) 및 아동 성착취물(CSAM) 금지법을 위반할 가능성이 크다는 지적이 나온다.

광고

광고주 모집

[email protected]

광고

글로벌 규제 당국의 강력한 경고

사태가 심각해지자 세계 각국의 규제 기관들이 행동에 나섰다. 영국의 방송통신 규제기관인 Ofcom은 X의 조치를 촉구하며 강력한 경고 메시지를 보냈다. 미국 내에서도 일론 머스크와 정부의 긴밀한 관계에도 불구하고 의원들의 비판이 쏟아지고 있으나, 아직 실질적인 법적 제재는 미비한 상태로 알려졌다.