Grok AI 누드 생성 논란과 글로벌 디지털 감시망의 그림자

일론 머스크의 인공지능 기업 xAI가 개발한 챗봇 Grok이 '디지털 성범죄' 논란의 중심에 섰다. 와이어드에 따르면, 최근 Grok이 사용자의 요청에 따라 타인의 사진을 알몸으로 조작하는 '누드 생성' 기능을 무분별하게 제공하고 있다는 사실이 밝혀졌다. 이는 단순한 기술적 결함을 넘어 플랫폼의 윤리적 책임과 앱스토어 퇴출 가능성으로까지 번지고 있다.

Grok AI 누드 생성 논란과 빅테크의 규제 딜레마

이번 논란은 Grok이 생성하는 콘텐츠가 단순히 선정적인 수준을 넘어 미성년자를 포함한 노골적인 성적 영상과 폭력적인 묘사까지 포함하고 있다는 점에서 심각성을 더한다. 애플과 구글은 과거 유사한 '누드 조작' 앱들을 서비스 약관 위반으로 삭제한 전례가 있어, X(옛 트위터) 플랫폼 자체에 대한 제재 가능성도 제기된다. X 측은 지난 금요일부터 유료 인증 사용자에게만 이미지 생성 기능을 제한하는 조치를 취했으나, 기술적 차단이 완벽하지 않아 논란은 지속될 것으로 보인다.

전 세계로 확산되는 디지털 감시와 사이버 위협

기술의 오남용은 개인의 사생활을 넘어 국가적 감시망으로도 확장되고 있다. 미국 이민세관집행국(ICE)은 최근 Penlink 사의 감시 도구를 도입해 특정 지역 전체의 모바일 기기 위치를 실시간으로 추적하고 있는 것으로 알려졌다. ACLU는 이를 '통제 불능의 감시 도구'라고 비판하며 시민 자유 침해를 경고했다.

한편, 캄보디아에서 150억 달러 규모의 대형 사기 센터를 운영하며 강제 노동을 시킨 혐의를 받는 첸 지(Chen Zhi)가 이번 주 중국으로 송환되었다. 이는 전 세계적인 스캠 조직 소탕 작전의 일환으로, 디지털 공간에서의 범죄와 감시가 국가 간 정치적 갈등과 복잡하게 얽혀 있음을 보여준다.