인도네시아, AI 딥페이크 논란 속 Grok 금지 해제

180만 장. 지난 12월부터 1월까지 일론 머스크의 AI 챗봇 Grok이 생성한 성적 딥페이크 이미지의 수다. 실존 여성과 미성년자를 대상으로 한 비동의 성적 이미지가 대량 생성되면서, 말레이시아와 필리핀에 이어 인도네시아까지 Grok 서비스를 전면 금지했었다.

하지만 한 달여 만에 상황이 바뀌었다. 인도네시아 통신정보부는 1월 31일 X(구 트위터)가 "서비스 개선과 오남용 방지를 위한 구체적인 조치"를 담은 서한을 보내왔다며 금지 조치를 해제한다고 발표했다.

조건부 해제, 여전한 경계

이번 해제는 완전한 허용이 아니다. 인도네시아 디지털공간모니터링 총괄 알렉산더 사바르는 "조건부 해제"라며 "추가 위반 사례가 발견되면 언제든 재금지할 수 있다"고 못박았다. 말레이시아와 필리핀도 1월 23일 비슷한 조건으로 금지를 풀었다.

xAI는 그동안 어떤 조치를 취했을까. 가장 눈에 띄는 변화는 AI 이미지 생성 기능을 X 유료 구독자로 제한한 것이다. 무료 사용자들의 무분별한 딥페이크 생성을 차단하겠다는 의도로 읽힌다.

머스크 CEO는 "Grok으로 불법 콘텐츠를 만드는 사람은 불법 콘텐츠를 직접 업로드하는 것과 같은 처벌을 받을 것"이라며 "미성년자 나체 이미지 생성 사례는 알지 못한다"고 해명했다. 하지만 캘리포니아 법무장관실은 여전히 xAI를 수사 중이며, 즉각적인 조치를 요구하는 중단명령서를 발송한 상태다.

광고

광고주 모집

[email protected]

광고

기술 발전과 규제, 어디서 선을 그을까

이번 사건은 AI 기술 발전과 사회적 책임 사이의 딜레마를 고스란히 드러낸다. Grok의 이미지 생성 능력 자체는 혁신적이지만, 악용 가능성 때문에 여러 국가가 서비스를 아예 차단하는 극단적 조치를 택했다.

흥미로운 점은 동남아시아 국가들의 대응 방식이다. 전면 금지 후 조건부 해제라는 수순을 밟으며, 기술 기업에게 자율 규제의 기회를 준 셈이다. 이는 혁신을 막지 않으면서도 사회적 피해를 최소화하려는 실용적 접근법으로 볼 수 있다.

한국에서도 비슷한 상황이 벌어진다면 어떨까. 국내 AI 기업들과 정부는 이번 사례를 통해 무엇을 배울 수 있을까. 특히 네이버나 카카오 같은 플랫폼 기업들이 AI 기능을 확장할 때, 사전 안전장치 마련이 더욱 중요해 보인다.

머스크 제국의 복잡한 그림자

한편, 이번 논란과 별개로 xAI를 둘러싼 또 다른 이슈들도 주목받고 있다. 미국 법무부가 공개한 문서에 따르면, 머스크는 2012-2013년 성범죄자 제프리 엡스타인과 16차례 이메일을 주고받으며 그의 개인 섬 방문을 요청한 것으로 드러났다.

더불어 xAI가 SpaceX, 테슬라와의 합병을 논의 중이라는 보도도 나왔다. SpaceX IPO를 앞두고 머스크의 기업 제국이 어떤 모습으로 재편될지 관심이 쏠리고 있다.