펜타곤이 Anthropic을 거부한 진짜 이유

펜타곤이 Anthropic과의 2억 달러 계약을 파기하고 OpenAI를 선택한 배경. 군사 AI의 통제권을 둘러싼 실리콘밸리와 국방부의 갈등을 분석합니다.

2억 달러 계약이 하루 만에 날아갔다

펜타곤이 Anthropic과의 2억 달러 AI 계약을 전격 취소했다. 이유는 단순했다. 군이 AI 모델에 대한 '무제한 접근권'을 요구했지만, Anthropic이 거부했기 때문이다. 자율무기와 대규모 국내 감시에 자신들의 AI가 사용되는 것을 원치 않았던 것이다.

대신 펜타곤은 OpenAI로 방향을 틀었다. OpenAI는 조건을 받아들였지만, 대가를 치렀다. ChatGPT 삭제율이 295% 급증했다. 사용자들이 군사용 AI에 대한 우려로 등을 돌린 것이다.

이 사건은 단순한 계약 변경이 아니다. 실리콘밸리와 워싱턴 사이의 근본적인 가치 충돌을 보여준다.

Anthropic의 선택: 돈보다 원칙

Anthropic의 거부는 예상 밖이었다. 2억 달러는 스타트업에게 거금이다. 하지만 이들은 'AI 안전'이라는 창립 철학을 지켰다.

회사 내부 문서에 따르면, Anthropic은 세 가지를 우려했다:

자율무기 시스템에서의 AI 오남용
시민 감시 목적의 대규모 데이터 분석
군사 목적으로 훈련된 AI의 민간 확산

Claude 모델을 개발한 Anthropic은 '헌법적 AI(Constitutional AI)' 개념을 도입해 모델이 인간의 가치와 일치하도록 설계했다. 군의 요구는 이 철학과 정면충돌했다.

OpenAI의 딜레마: 성장 vs 신뢰

OpenAI는 다른 선택을 했다. 펜타곤의 조건을 받아들이며 정부 계약을 확보했지만, 사용자들의 반발에 직면했다.

295% 삭제율 급증은 심각한 신호다. 이는 단순한 일회성 반응이 아니라, AI 기업들이 직면한 새로운 딜레마를 보여준다:

수익성: 정부 계약은 안정적인 대규모 매출원
신뢰성: 사용자들의 프라이버시와 윤리적 우려
경쟁력: 군사 기술 개발을 통한 기술적 우위

OpenAI는 이미 Microsoft와의 파트너십으로 기업 시장에 진출했다. 이번 정부 계약은 또 다른 성장 동력이지만, 브랜드 이미지에는 타격을 입었다.

한국 AI 기업들에게 던지는 질문

이 사건이 한국에 시사하는 바는 크다. 국내 AI 기업들도 조만간 비슷한 선택의 기로에 설 가능성이 높다.

네이버와 카카오는 이미 정부 AI 프로젝트에 참여하고 있다. 삼성전자도 AI 반도체로 군사 시장 진출을 검토 중이다. 하지만 글로벌 시장에서 활동하려면 윤리적 기준도 고려해야 한다.

유럽의 AI 규제법(AI Act)은 군사용 AI에 엄격한 제한을 두고 있다. 한국 기업들이 국내에서는 정부 계약을 따내더라도, 해외에서는 규제에 걸릴 수 있다.

군사 AI의 경계선은 어디까지인가

이번 사건의 핵심은 '통제권'이다. 펜타곤은 AI 모델에 대한 완전한 접근권을 원했다. 하지만 AI 기업들은 자신들의 기술이 어떻게 사용될지 알고 싶어한다.

문제는 군사 기술과 민간 기술의 경계가 모호해지고 있다는 점이다. 오늘의 민간 AI가 내일의 군사 무기가 될 수 있다. 반대로 군사 기술이 민간으로 흘러들어갈 수도 있다.

구글도 2018년 군사 AI 프로젝트 'Project Maven'에서 철수한 바 있다. 직원들의 반발과 윤리적 우려 때문이었다. 하지만 아마존과 마이크로소프트는 여전히 정부 계약을 유지하고 있다.