AI 무기화, 안전한 AI의 종말일까

2000억원 계약이 흔들리는 이유

미국 국방부가 AI 스타트업 앤스로픽과의 2000억원 규모 계약을 재검토하고 있다. 이유는 단순하다. 이 회사가 "치명적인 작전"에 AI를 사용하는 것을 거부했기 때문이다.

앤스로픽은 작년 미국 정부의 기밀 업무 승인을 받은 첫 번째 주요 AI 기업이다. 하지만 이번 주 펜타곤은 더 나아가 앤스로픽을 "공급망 위험" 기업으로 지정하는 방안까지 검토 중이라고 밝혔다. 이는 보통 중국과 거래하는 기업에 붙이는 딱지다.

숀 파넬 펜타곤 대변인은 "우리 국가는 파트너들이 어떤 전투에서든 우리 전투원들이 승리하도록 도울 의지가 있어야 한다"고 말했다.

아이작 아시모프의 로봇 법칙이 무너지다

문제의 핵심은 AI 안전성이다. 앤스로픽은 업계에서 가장 안전성을 중시하는 기업으로 알려져 있다. CEO 다리오 아모데이는 자사 AI '클로드'가 자율무기나 정부 감시에 사용되는 것을 원하지 않는다고 공개적으로 밝혔다.

하지만 국방부 CTO 에밀 마이클은 이번 주 기자들에게 "드론 떼가 군사기지에서 나온다면 어떻게 막을 것인가? 인간의 반응속도로는 충분하지 않다면?"이라고 반문했다. 아시모프의 로봇 제1법칙 - '로봇은 인간에게 해를 끼치면 안 된다' - 따위는 안중에 없다는 뜻이다.

OpenAI, xAI, 구글 등 다른 AI 기업들은 현재 국방부와 비기밀 업무 계약을 맺고 있으며, 기밀 승인을 받기 위해 발걸음을 재촉하고 있다.

한국에도 밀려올 AI 군비경쟁

이 변화는 한국에도 영향을 미칠 수밖에 없다. 네이버와 카카오 등 국내 AI 기업들도 언젠가는 비슷한 선택의 기로에 설 가능성이 높다. 특히 북한의 위협이 상존하는 한반도 상황에서 정부가 AI 기업들에게 "국가 안보"를 이유로 압박을 가할 수 있다.

문제는 AI 무기화가 가속화되면서 전 세계적인 군비경쟁이 시작될 것이라는 점이다. 미국이 AI를 무기에 적극 활용하면, 중국과 러시아도 대응할 수밖에 없다. 그 과정에서 AI의 안전장치들이 하나둘 제거될 위험이 크다.

팰런티어 CEO 알렉스 카프는 자랑스럽게 말한다. "우리 제품은 가끔 사람을 죽이는 데 사용됩니다." 몇 년 전만 해도 테크 기업들이 펜타곤과의 협력을 꺼렸던 것과는 완전히 다른 분위기다.