우리가 만든 AI, 군사작전 결정권은 없다

"이란 공습은 좋았다고 생각하고 베네수엘라 침공은 나빴다고 생각할 수도 있겠지만, 당신은 그런 일에 개입할 수 없다."

OpenAI CEO 샘 알트만이 화요일 전체 직원 회의에서 던진 말이다. 국방부와의 계약 발표 나흘 만에 열린 이 회의에서 그는 자사 AI 기술의 군사적 활용에 대한 직원들의 우려에 정면으로 답했다.

200억원 계약의 무게

지난 금요일 OpenAI는 미 국방부와의 새로운 계약을 발표했다. 작년 2억 달러(약 280억원) 규모의 비기밀 용도 계약에 이어, 이번에는 기밀 네트워크에서도 자사 모델을 사용할 수 있게 된 것이다.

타이밍이 절묘했다. 경쟁사 Anthropic이 '국가 보안 공급망 위험' 업체로 블랙리스트에 오른 바로 그 시간, 미국과 이스라엘이 이란을 향한 공습을 시작하기 몇 시간 전이었다.

직원들의 반발은 예상된 수순이었다. 일부는 회사가 "기회주의적이고 성급했다"고 비판했다. 알트만도 이를 인정하며 "금요일에 서둘러 발표하지 말았어야 했다"고 시인했다.

선택의 여지가 없는 선택

하지만 알트만의 논리는 명확했다. "우리가 최고의 모델을 보유하고 있어야 정부가 우리와 협력하려 할 것"이라며 "우리의 안전 장치가 그들을 귀찮게 하더라도 말이다"라고 말했다.

그는 경쟁 구도도 언급했다. "최소한 하나의 다른 업체, 아마도 xAI가 '당신들이 원하는 건 뭐든 하겠다'고 말할 것"이라고 예상했다. 실제로 일론 머스크의 xAI도 기밀 용도로 모델 배포에 동의한 상태다.

Anthropic은 다른 길을 택했다. 완전 자율 무기나 미국인 대상 대량 감시에는 모델을 사용하지 않겠다는 보장을 요구했지만, 국방부는 "모든 합법적 용도"에서의 사용을 원했다. 결국 협상은 결렬됐고, 블랙리스트라는 결과를 맞았다.

한국 AI 산업에 던지는 메시지

이 상황은 한국의 AI 기업들에게도 시사점을 던진다. 네이버의 하이퍼클로바X, 카카오브레인의 KoGPT 등 국산 AI 모델들이 성장하는 가운데, 정부와의 협력 방식을 어떻게 설정할지가 관건이다.

국내 방산업계 관계자는 "미국의 사례를 보면 AI 기업들이 국방 분야와의 협력을 완전히 피하기는 어려울 것"이라며 "다만 어떤 원칙과 경계를 설정하느냐가 중요하다"고 말했다.