AI 안전 약속을 깬 대가, 2천억원 계약 날아갔다

2천억원 계약이 하루 만에 증발했다

금요일 오후, 트럼프 행정부가 AI 기업 Anthropic과의 모든 협력을 중단한다고 발표했다. 이유는 간단했다. Anthropic CEO 다리오 아모데이가 미국 시민 대상 대규모 감시와 자율 살상 드론 개발을 거부했기 때문이다.

2억 달러(약 2천8백억원) 규모의 국방부 계약이 날아갔다. 트럼프 대통령은 트루스소셜에 "모든 연방기관은 즉시 Anthropic 기술 사용을 중단하라"고 지시했다. 회사는 법정 대응을 예고했지만, 이미 다른 방산업체와의 협력도 막혔다.

표면적으로는 '안전을 고집한 AI 기업 vs 국가안보를 내세운 정부'의 대립으로 보인다. 하지만 MIT 물리학자 맥스 테그마크는 다른 각도로 본다. "AI 기업들이 스스로 판 무덤"이라는 것이다.

안전 약속을 하나씩 버린 AI 기업들

테그마크가 지적한 아이러니는 명확하다. AI 기업들이 "우리를 믿어달라"며 자율규제를 외쳤지만, 정작 법적 규제는 적극적으로 막아왔다는 점이다.

실제로 주요 AI 기업들의 '안전 약속' 변화를 보면 이런 패턴이 드러난다:

• 구글: "악하지 말자(Don't be evil)" 슬로건 삭제
• OpenAI: 미션에서 '안전(safety)' 단어 제거
• xAI: 안전팀 전체 해체
• Anthropic: 이번 주 핵심 안전 서약 포기 ("해로울 가능성을 확신할 때까지 강력한 AI 시스템을 출시하지 않겠다")

"현재 미국에서는 샌드위치보다 AI 시스템에 대한 규제가 적다"고 테그마크는 꼬집었다. 샌드위치 가게에서 쥐 15마리가 발견되면 영업정지당하지만, AI로 11살 아이들에게 자살을 부추길 수 있는 'AI 여자친구'를 만들어도 제재가 없다는 것이다.

중국과의 경쟁? 실제로는 정반대

AI 기업들의 단골 변명은 "중국과의 경쟁"이다. 규제하면 중국에 뒤처진다는 논리다. 하지만 현실은 정반대다.

중국은 오히려 AI 여자친구 서비스를 전면 금지하려 한다. 중국 젊은이들을 망친다고 판단했기 때문이다. 시진핑 주席이 중국 정부를 전복시킬 수 있는 초지능 AI 개발을 중국 기업에 허용할 리도 없다.

"통제를 중시하는 중국 공산당이 자국 정부를 위협할 AI 개발을 방치할까?" 테그마크의 지적이다. 미국 정부도 마찬가지다. 초지능 AI가 미국 정부를 전복시킨다면, 그건 국가안보 위협이지 자산이 아니다.

규제 공백이 부른 자업자득

테그마크는 AI 기업들이 "자업자득"이라고 단언한다. 만약 이들이 초기 안전 약속을 법제화하자고 정부에 요청했다면 지금 상황은 달랐을 것이라는 분석이다.

현재는 완전한 규제 공백 상태다. "AI로 미국인을 죽이는 것을 금지하는 법이 없으니, 정부가 갑자기 요구할 수 있는" 상황이 됐다. 담배회사가 아이들에게 담배를 팔거나, 석면으로 폐암을 일으켜도 처벌받지 않던 시절과 같다.

AI 로비스트들은 이제 화석연료, 제약, 군산복합체 로비스트를 합친 것보다 많은 자금을 쓰고 있다. 하지만 규제를 막는 데만 집중했지, 합리적 규제 틀을 만드는 데는 소극적이었다.