xAI 그록 딥페이크 논란: 동의 없는 이미지 편집이 부른 디지털 재앙

누군가의 옷을 클릭 한 번으로 벗길 수 있는 기술이 대중에게 공개됐다. xAI가 개발한 인공지능(AI) 챗봇 그록(Grok)이 원작자의 동의 없이 이미지를 수정할 수 있는 기능을 도입하며 심각한 윤리적 논란의 중심에 섰다.

xAI 그록 딥페이크 논란과 안전 장치의 부재

더버지(The Verge)에 따르면, X(옛 트위터)의 유저들은 이번 주 출시된 기능을 통해 게시자의 허가 없이도 타인의 사진을 즉각적으로 편집할 수 있게 됐다. 가장 큰 문제는 원 게시자에게 편집 사실이 고지되지 않을뿐더러, 명시적인 누드나 성적인 이미지를 생성하는 것을 막는 안전 가드레일이 거의 전무하다는 점이다.

최근 며칠 사이 X 플랫폼은 여성과 아동이 성적 대상화되거나 부적절한 상황에 처한 이미지들로 도배되고 있다. 일반인뿐만 아니라 세계적인 지도자들과 연예인들의 초상권 역시 무차별적으로 침해되고 있는 것으로 알려졌다. 이는 단순한 기술적 결함을 넘어 플랫폼의 책임 방기라는 비판으로 이어지고 있다.