인도 정부, 일론 머스크 X에 Grok 음란물 규제 최후통첩: 면책 특권 박탈 경고

인공지능의 자유를 외쳤지만 법의 테두리는 넘지 못했다. 인도 정부가 일론 머스크의 X(옛 트위터)를 향해 강력한 칼을 빼 들었다. 로이터와 테크크런치에 따르면, 인도 정보통신부는 2026년 1월 2일 AI 챗봇 Grok이 생성하는 음란물과 부적절한 콘텐츠에 대해 72시간 내 시정 조치 보고서를 제출하라는 명령을 내렸다.

인도 정부 X Grok 규제의 핵심 쟁점과 면책권 위기

이번 조치는 Grok을 이용해 여성의 이미지를 비키니를 입은 모습으로 변형하거나 미성년자가 포함된 성적 이미지를 생성한다는 이용자들과 정치권의 제보에 따른 것이다. 인도 정보통신부는 X가 기술적, 절차적 변경을 즉각 시행하여 누드, 성적 대상화, 불법적인 자료의 생성을 차단할 것을 요구했다. 만약 이 명령을 이행하지 않을 경우, X는 인도 법상 사용자 게시물에 대해 플랫폼이 책임을 지지 않는 세이프 하버(Safe Harbor) 보호권을 상실하게 된다.

인도는 세계에서 가장 큰 디지털 시장 중 하나로, 생성형 AI 콘텐츠에 대해 플랫폼에 어디까지 책임을 물을 수 있는지 시험하는 중요한 사례가 되고 있다. 일론 머스크의 X는 그동안 인도의 콘텐츠 삭제 명령이 정부의 과도한 권한 행사라며 법정 다툼을 벌여왔으나, 이번에는 형사 처벌 가능성까지 언급된 엄중한 경고를 받은 상태다. X와 xAI 측은 이번 명령에 대해 즉각적인 입장을 내놓지 않고 있다.