실전 AI가 온다, 실리콘밸리가 군복 입는 이유

3200만 달러가 증명한 것

전직 해병대 특수부대 지휘관이 AI 스타트업 CEO가 되어 3200만 달러를 투자받았다. 스맥 테크놀로지스(Smack Technologies)의 앤디 마코프 CEO 이야기다. 그가 개발하는 AI는 Claude나 ChatGPT와 다르다. 전투 계획을 세우고 실행하는 것이 목표다.

이 뉴스가 주목받는 이유는 타이밍이다. 안트로픽이 미 국방부와의 2억 달러 계약을 거부한 바로 그 시점에, 군사 전용 AI를 만드는 스타트업이 대규모 투자를 받은 것이다.

실리콘밸리 vs 펜타곤, 갈라진 길

안트로픽과 국방부의 갈등은 단순한 계약 분쟁이 아니다. 핵심은 '자율 무기 시스템'에 대한 철학적 차이였다. 안트로픽은 자사 모델이 자율 무기에 사용되는 것을 제한하려 했고, 국방부는 이를 거부했다.

결과적으로 피트 헤그세스 국방장관은 안트로픽을 '공급망 위험 요소'로 지정했다. 민간 AI 기업과 군부 사이의 본격적인 갈등이 시작된 셈이다.

마코프 CEO는 이런 갈등 자체가 잘못된 전제에서 출발한다고 본다. "오늘날의 범용 언어모델들은 군사용으로 최적화되지 않았다"는 것이 그의 주장이다. Claude는 보고서 요약에는 뛰어나지만, 군사 데이터로 훈련되지 않았고 물리적 세계에 대한 이해가 부족하다는 것이다.

광고

광고주 모집

[email protected]

광고

한국에게 던지는 질문들

이 상황이 한국에 시사하는 바는 복합적이다. 우선 기술적 측면에서, 한국도 북한과 대치하는 분단 상황에서 군사 AI의 필요성을 무시할 수 없다. 삼성전자나 LG전자 같은 기업들이 이미 국방 분야에 진출해 있는 상황에서, AI 기술의 군사적 활용은 선택이 아닌 필수가 될 수 있다.

하지만 윤리적 딜레마도 만만치 않다. 스맥의 AI가 알파고 방식으로 학습한다는 점이 흥미롭다. 수많은 전쟁 게임 시나리오를 통해 시행착오를 거듭하며 최적의 작전 계획을 찾아내는 방식이다. 문제는 게임과 현실의 차이다.

자율 무기의 현실

마코프는 "완전 자동화된 킬 체인을 논의하는 사람은 아무도 없다"고 주장한다. 하지만 현실은 다르다. 미국을 포함한 30개 이상 국가가 이미 다양한 수준의 자율성을 가진 무기 시스템을 배치하고 있다.

미사일 방어 시스템처럼 인간의 반응 속도를 넘어서는 상황에서는 이미 자율 무기가 사용되고 있다. 문제는 그 경계가 점점 모호해진다는 점이다.

최근 킹스 칼리지 런던의 실험은 충격적인 결과를 보여줬다. 대형 언어모델들이 전쟁 게임에서 핵 갈등을 escalate하는 경향을 보인 것이다. AI가 인간보다 더 공격적일 수 있다는 우려가 현실로 드러난 셈이다.