AI가 핵전쟁을 막을까, 촉발할까

4분. 북한이 미국을 향해 핵미사일을 발사했다면, 미국 대통령이 보복 핵공격을 결정할 수 있는 시간이다. 이 극한의 순간에 AI가 개입한다면 어떨까?

트럼프 대통령이 지난 금요일 AI 기업 앤트로픽의 모든 정부 사용을 금지한 배경에는 바로 이런 시나리오를 둘러싼 갈등이 있었다. 표면적으로는 '좌파적' AI 기업과 '반좌파' 국방부의 이념 충돌로 보이지만, 실제로는 훨씬 복잡한 문제다.

4분의 공포, AI가 답할 수 있을까

사건의 발단은 지난 12월로 거슬러 올라간다. 국방부 연구개발 차관 에밀 마이클이 앤트로픽 CEO 다리오 아모데이에게 가상의 시나리오를 제시했다. "핵미사일이 미국을 향해 날아오고 있다. 이런 상황에서도 당신 회사는 자율무기 금지 원칙 때문에 미국을 돕지 않겠는가?"

아모데이는 "국방부가 먼저 연락해서 확인해달라"고 답했다. 마이클은 격분했다. 앤트로픽은 미사일 방어를 위한 예외는 만들 의향이 있다고 해명했지만, 이미 관계는 틀어진 후였다.

이 대화가 중요한 이유는 AI와 핵무기의 결합이 단순히 SF 영화 속 이야기가 아니기 때문이다. 미군은 이미 AI와 머신러닝을 "인간의 의사결정을 가능하게 하고 가속화하는" 용도로 핵 지휘통제 시스템에 통합하는 방안을 적극 검토하고 있다.

탐지냐 오판이냐, 그것이 문제로다

핵무기와 AI를 둘러싼 논의는 보통 "기계가 핵 발사 버튼을 누를 수 있는가"에 집중된다. 하지만 전문가들은 이건 "쉬운 문제"라고 말한다. 어떤 나라도 핵공격 결정을 AI에게 맡기지는 않을 것이기 때문이다.

진짜 복잡한 문제는 "전략적 경고" 단계다. 위성, 레이더, 각종 센서가 수집하는 방대한 데이터를 분석해 잠재적 위협을 최대한 빨리 탐지하는 일. 마이클이 제시한 시나리오가 바로 이런 상황이었다.

언뜻 보면 당연한 일 같다. 날아오는 미사일을 더 잘 요격할 수 있다면 좋은 것 아닌가? 하지만 문제는 그 다음이다. 미국이 탄도미사일 공격을 받는 순간, 대통령은 몇 분 안에 보복 여부를 결정해야 한다. 이 결정이 전면 핵전쟁을 촉발할 수 있다.

수백만 명의 생명이 AI 시스템의 정확성에 달려있다는 뜻이다. 그런데 핵무기 역사를 보면 탐지 시스템의 오작동으로 인한 아찔한 순간들이 적지 않았다. 인간의 직감만이 파국을 막아낸 경우들 말이다.

실리콘밸리 vs 펜타곤, 화성과 금성의 만남

공군에서 핵 임무를 수행했고 나중에 국방부 합동AI센터를 이끈 잭 샤나한 예비역 중장은 경고한다. "핵 위협 탐지와 대응을 AI에게 맡긴다면 재앙이 확실하다고 말할 수는 없지만, 그 길로 가고 있다고 본다."

그의 우려를 뒷받침하는 연구도 나왔다. 킹스칼리지런던의 이번 주 연구에 따르면, 클로드, ChatGPT, 구글 제미나이 등 AI 모델들이 모의 전쟁게임에서 인간보다 훨씬 높은 확률로 핵 옵션을 추천했다. AI가 직접 무기를 발사하지 않더라도, 극한 압박 상황에서 수십억 달러 시스템이 패닉 상태로 핵 사용을 권고한다면 대통령이 이를 무시하기 쉽지 않을 것이다.

이런 갈등의 배경에는 근본적인 문화 차이가 있다. 과거 인터넷처럼 국방부 주도로 개발된 기술과 달리, AI는 상업적 목적으로 민간 기업들이 먼저 개발했다. 샤나한은 이를 "화성과 금성의 만남"이라고 표현한다.

"보잉은 정부가 요청하는 건 뭐든 만들겠다고 할 것이다. 방산업체니까. 하지만 AI는 전혀 다른 세계에서 태어났다. 록히드 직원들이 냉전을 바라봤던 방식과는 완전히 다른 사고를 가진 사람들이 만들고 있다."