AI와 전쟁, 펜타곤이 강요한 선택

이란 공습이 임박한 주말, 미국 국방부는 한 가지 문제로 골머리를 앓고 있었다. Anthropic의 AI 기술을 군사 작전에 어떻게 활용할 것인가?

Claude AI로 유명한 Anthropic은 자사 기술이 국내 감시나 공격적 군사 목적에 사용되지 않겠다는 보장을 요구했다. 하지만 펜타곤은 달랐다. 전쟁이라는 극한 상황에서 AI 기술의 활용도를 제한하고 싶지 않았던 것이다.

협상 테이블 위의 AI 윤리

이번 사건은 AI 기업들이 직면한 딜레마를 극명하게 보여준다. 한편으로는 국가 안보에 기여하고 싶지만, 다른 한편으로는 자사 기술이 윤리적 경계를 넘나드는 용도로 사용되는 것을 원치 않는다.

Anthropic의 입장은 명확했다. AI 기술이 민간인 감시나 자율 무기 시스템에 활용되는 것을 막겠다는 것이다. 이는 AI 안전성을 중시하는 기업 철학과 일치한다. 실제로 Anthropic은 설립 초기부터 "AI 정렬(AI alignment)"을 핵심 가치로 내세워왔다.

반면 펜타곤은 실용적 접근을 선호했다. 전쟁 상황에서는 모든 가용한 기술을 최대한 활용해야 한다는 논리다. 특히 이란과 같은 적대국을 상대로 할 때는 더욱 그렇다.

한국 기업들은 어떤 선택을 할까

이런 상황은 한국 AI 기업들에게도 남의 일이 아니다. 네이버나 카카오 같은 기업들이 정부의 국방 AI 프로젝트 참여 요청을 받는다면 어떤 선택을 할까?

한국은 분단 상황이라는 특수성이 있다. 북한의 지속적인 위협 속에서 AI 기술의 군사적 활용은 생존의 문제가 될 수 있다. 하지만 동시에 민간 기업의 기술이 감시나 통제 수단으로 악용될 위험도 있다.

2023년 기준으로 한국의 국방 AI 시장 규모는 1조 2천억원에 달한다. 정부는 2027년까지 이를 2조원 규모로 확대할 계획이다. 국내 AI 기업들에게는 거대한 기회이자 윤리적 딜레마인 셈이다.

글로벌 AI 군비경쟁의 서막

이번 사건이 시사하는 바는 크다. AI 기술이 단순한 상업적 도구를 넘어 국가 안보의 핵심 요소로 자리잡고 있다는 것이다.

중국은 이미 AI를 활용한 군사 시스템 개발에 막대한 투자를 하고 있다. 러시아 역시 우크라이나 전쟁에서 AI 기반 드론과 정찰 시스템을 적극 활용하고 있다. 이런 상황에서 서방 국가들이 AI 기술의 군사적 활용을 제한한다면 경쟁에서 뒤처질 수 있다.

하지만 무제한적인 AI 군사화는 또 다른 위험을 낳는다. 자율 무기 시스템이 인간의 통제를 벗어나 작동할 가능성, 민간인과 군사 목표를 구분하지 못할 위험성 등이 그것이다.