AI 군사계약을 둘러싼 실리콘밸리의 '도덕 전쟁

295% 급증한 ChatGPT 삭제율이 말하는 것

OpenAI가 미국 국방부와 계약을 체결한 직후, ChatGPT 앱 삭제가 295% 급증했다. 숫자가 말해주는 건 명확하다. 사용자들이 분노했다는 것이다.

사건의 발단은 Anthropic과 국방부 간의 결렬된 협상이었다. 이미 2억 달러 규모의 군사 계약을 맺고 있던 Anthropic은 추가 협상에서 두 가지 조건을 고수했다: 국내 대규모 감시와 자율 무기 개발에는 자사 AI를 사용하지 말 것. 국방부가 이를 거부하자, OpenAI가 그 자리를 차지했다.

두 CEO의 엇갈린 해석

Anthropic의 CEO 다리오 아모데이는 직원들에게 보낸 메모에서 OpenAI의 행보를 "안전극장(safety theater)"이라고 비판했다. "그들이 국방부 계약을 수락한 주된 이유는 직원들을 달래려 했기 때문이고, 우리는 실제로 남용을 방지하려 했다"는 것이다.

OpenAI의 샘 알트만은 자사의 계약에도 동일한 보호 조치가 포함되어 있다고 주장했다. "합법적인 모든 목적"을 위해 AI 시스템을 사용할 수 있지만, 대규모 국내 감시는 명시적으로 제외되어 있다는 설명이다.

하지만 아모데이는 이를 "완전한 거짓말"이라고 일축했다. 핵심 쟁점은 "합법적 사용"의 정의다. 현재 불법인 것이 미래에도 불법일 거라는 보장이 있을까?

시장이 내린 판결

숫자는 잔혹하다. ChatGPT 삭제율 급증과 함께 Anthropic의 Claude는 앱스토어 2위까지 올랐다. 아모데이는 "일반 대중과 언론은 대부분 OpenAI의 국방부 계약을 수상하거나 의심스럽게 보고, 우리를 영웅으로 본다"고 직원들에게 전했다.

이는 단순한 기업 간 경쟁을 넘어선다. 실리콘밸리의 '돈 vs 원칙' 딜레마가 적나라하게 드러난 순간이다. OpenAI는 수십억 달러 규모의 정부 계약을 택했고, Anthropic은 원칙을 택했다. 그리고 시장은 후자에 손을 들어줬다.

한국 AI 기업들이 주목해야 할 지점

이 갈등이 한국에 시사하는 바는 크다. 국내 AI 기업들도 언젠가 비슷한 선택의 기로에 설 수 있다. 네이버나 카카오 같은 플랫폼 기업들이 정부의 AI 활용 요청을 받는다면? 사용자 데이터 활용의 경계선을 어디까지 둘 것인가?

더 근본적인 질문도 있다. AI 기술의 군사적 활용 자체를 반대하는 것이 현실적일까? 중국과 러시아가 AI 무기 개발에 박차를 가하는 상황에서, 서방 진영의 자제가 오히려 위험할 수도 있다.