X의 '스파이시 모드'가 불러온 유럽 규제 칼날

일론 머스크가 자신의 AI 제품 그록(Grok)을 '진지한 AI'라고 홍보하는 동안, 실제 X에서는 한 달간 전혀 다른 일이 벌어졌다. 동의 없이 만들어진 성적 딥페이크가 플랫폼을 휩쓸었고, 유럽연합은 마침내 칼을 뽑았다.

1월 26일, 유럽집행위원회는 X에 대한 공식 조사를 개시했다. 조사 대상은 그록의 이미지 생성 기능과 AI로 만든 비동의 성적 이미지 확산 문제다. X가 '스파이시 모드'라고 부른 바로 그 기능 말이다. 미성년자 관련 콘텐츠도 포함된다.

"여성과 아동의 성적 딥페이크는 폭력적이고 용납할 수 없는 형태의 모독입니다." 유럽집행위원회의 기술 책임자 헤나 비르쿠넨의 말이다. 단순한 비판이 아니라 법적 조치의 시작을 알리는 선언이었다.

예견된 위험, 준비되지 않은 대응

이번 조사는 디지털서비스법(DSA) 위반 혐의로 진행된다. DSA는 정확히 이런 상황을 위해 만들어진 법이다. 거대 플랫폼이 남용 가능한 도구를 제공하고, 추천 알고리즘이 그 남용을 확산시키는 구조를 겨냥한 것이다.

유럽집행위원회는 X의 추천 시스템 전반도 조사 범위에 포함했다. 그록 기반 콘텐츠 필터링으로의 전환도 문제 삼았다. '관련성 있는' 콘텐츠를 선별하는 시스템이 '해로운' 콘텐츠도 함께 선별할 수 있다는 논리다.

조사 기한은 정해지지 않았지만, 위반이 확정되면 전 세계 연간 매출의 6%까지 과징금을 부과할 수 있다. 벌금을 단순한 사업비용으로 여기는 기업들에게도 아픔을 줄 수 있는 수준이다.

X의 변명, 규제당국의 의심

X는 접근을 제한하고 기능을 축소했다고 주장한다. 그록이 더 이상 실제 인물의 사진을 "비키니 같은 노출 의상"으로 편집하지 않도록 "기술적 조치"를 구현했다는 것이다. 하지만 이런 주장은 누군가 약간 다른 프롬프트를 시도하는 순간까지만 유효할 가능성이 높다.

X는 이 '수정'이 유료 사용자에게도 적용된다고 했다. 동시에 해당 이미지 편집 기능을 불법인 지역에서는 지역 차단한다고 밝혔다. 이는 두 가지를 동시에 인정하는 셈이다. 첫째, 그 기능이 여전히 존재한다는 것. 둘째, 제약이 사용자의 IP 주소 위치에 따라 달라질 수 있다는 것.

글로벌 압박의 동시다발적 전개

압박은 대서양 양쪽에서 동시에 가해지고 있다. 미국 의회는 이미 비동의 친밀한 이미지의 고의적 게시를 범죄화하는 법안을 통과시켰다. AI 생성 콘텐츠도 포함된다. 더 중요한 것은 상원이 추진하는 DEFIANCE 법안이다. AI 생성 성적 딥페이크 피해자에게 연방 민사소송권을 부여하는 내용이다.

주 정부들도 기다리지 않고 있다. 1월 16일, 캘리포니아 주 법무장관 롭 본타는 xAI에 "딥페이크, 비동의, 친밀한 이미지와 아동 성 학대 자료의 생성과 배포"를 중단하라는 중지명령서를 보냈다. 30개 이상 주의 법무장관들이 초당적 연합을 구성해 그록이 "버튼 클릭만큼 쉽게" 남용을 조장한다고 비난했다.

기술 발전과 윤리적 책임의 충돌

결국 X와 xAI가 여러 관할권에서 직면한 문제는 동일하다. 제품 출시 후 사후 조치로 문제를 해결할 수 있다는 주장이 사전 위험 통제를 요구하는 규제당국과 충돌하고 있는 것이다.

비르쿠넨은 이번 조사가 X가 DSA 의무를 준수했는지, 아니면 "유럽 시민들의 권리, 특히 여성과 아동의 권리를 자사 서비스의 부수적 피해로 취급했는지"를 판단할 것이라고 말했다.

현재로서는 그록이 계속해서 '실패하며 성장'하고 있다. xAI는 여전히 막대한 자금을 조달하고, 컴퓨팅 파워를 구축하며, 자신을 문제 많은 소비자 챗봇이 아닌 AI 인프라로 포지셔닝하고 있다. X는 기능을 제거하는 대신 조정만 하고 있다. 스캔들은 쌓이지만 기계는 계속 돌아간다.