24시간 최후통첩, Anthropic이 펜타곤을 거부한 이유

국방부의 AI 무제한 접근 요구를 거부한 Anthropic. 대량 감시와 자율살상무기 거부선 뒤에 숨겨진 AI 윤리 전쟁의 진실

24시간 남은 최후통첩에서 일어난 일

펜타곤이 던진 최후통첩 마감 24시간 전. Anthropic은 미국 국방부의 요구를 정면으로 거부했다. 요구 내용은 단순했다: AI 시스템에 대한 '무제한 접근권'을 달라는 것.

하지만 Anthropic의 답변은 더 단순했다. "안 된다."

피트 헤그세스 국방장관이 모든 AI 연구소와의 기존 계약을 재협상하겠다고 나선 배경에는 급변하는 지정학적 상황이 있다. 중국의 AI 군사화가 가속화되는 상황에서, 미국 정부는 실리콘밸리의 AI 기술을 군사 목적으로 활용하려는 압박을 강화하고 있다.

Anthropic이 제시한 거부 이유는 명확했다. 두 가지 '빨간 선'을 넘을 수 없다는 것이다.

첫 번째는 미국인 대량 감시다. 국방부가 요구한 AI 접근권에는 국내 감시 활동에 AI를 활용할 수 있는 권한이 포함되어 있었다. Anthropic은 이를 "헌법적 가치에 반한다"며 거부했다.

두 번째는 자율살상무기 개발이다. 인간의 개입 없이 표적을 식별하고 제거할 수 있는 무기 시스템에 AI를 제공하는 것을 거부한 것이다. 이는 OpenAI와는 대조적인 입장이다.

광고주 모집

흥미롭게도, 같은 시기 OpenAI는 국방부와의 협력을 확대하고 있다. 지난달 발표된 계약에 따르면, OpenAI는 군사 목적의 AI 연구에 참여하기로 했다. 단, "직접적인 무기 개발"은 제외한다는 단서를 달았다.

AI 업계의 반응은 극명하게 갈렸다. 한쪽에서는 Anthropic의 결정을 "원칙 있는 선택"이라고 평가했다. 특히 AI 안전성 연구자들과 시민권 단체들이 지지를 표명했다.

반대편에서는 "현실을 외면한 이상주의"라는 비판이 나왔다. 국가안보 전문가들은 "중국이 AI 군사화를 추진하는 상황에서 미국만 손 놓고 있을 수는 없다"고 주장했다.

구글의 경우는 더 복잡하다. 2018년 직원들의 반발로 국방부의 '프로젝트 메이븐'에서 철수했지만, 최근에는 제한적인 군사 협력을 재개하고 있다. "방어 목적"이라는 명분 하에서다.

이 상황은 한국에게도 남의 일이 아니다. 삼성전자와 LG가 AI 반도체 사업을 확장하는 가운데, 군사용 AI 칩 수출에 대한 윤리적 기준을 어떻게 설정할지 고민이 깊어지고 있다.

특히 한국의 AI 스타트업들이 글로벌 시장에 진출하면서 직면하게 될 딜레마다. 미국 국방부나 다른 국가의 군사 기관에서 협력 제안이 들어올 때, 어떤 기준으로 판단할 것인가?

네이버와 카카오 같은 플랫폼 기업들도 예외가 아니다. AI 기술이 정보 수집과 분석에 활용될 가능성이 높아지면서, 개인정보 보호와 국가 안보 사이의 균형점을 찾아야 하는 과제가 남아있다.