AI 창조자들이 통제권을 잃는 순간

히로시마에 원자폭탄이 투하되던 날, 그 폭탄을 만든 과학자들에게는 아무도 전화를 걸지 않았다.

1945년 여름, 뉴멕시코 사막에서 세계 최초의 핵실험을 성공시킨 맨해튼 프로젝트 과학자들은 자신들이 만든 무기가 어떻게 쓰일지 결정하는 자리에 없었다. 무기는 트럭에 실려 옮겨졌고, 그 이후의 선택은 군과 정치인들의 몫이었다. 과학자들의 발언권은 처음, 딱 한 번뿐이었다—만들 것인가, 말 것인가. 일단 만들고 나면, 그것으로 끝이었다.

2025년 2월, 앤트로픽의 CEO 다리오 아모데이는 비슷한 순간을 마주했다.

펜타곤과의 충돌: 무슨 일이 있었나

사건의 경위는 이렇다. 미국 국방부는 앤트로픽의 AI 모델 클로드(Claude)가 이미 미국의 기밀 네트워크에서 운용되고 있었으며, 베네수엘라와 이란에 대한 공격에도 활용됐다고 알려졌다. 그런데 2025년 2월 23일, 펜타곤은 앤트로픽에 최후통첩을 보냈다. 기존 법률의 범위를 넘어서는 어떠한 사용 제한도 없애라는 요구였다.

아모데이는 두 가지 선을 지키려 했다. 첫째, AI가 미국 시민을 대규모로 감시하는 데 쓰이는 것. 둘째, 인간의 감독 없이 자율적으로 살상 결정을 내리는 무기에 AI가 활용되는 것. 이 두 가지만큼은 양보할 수 없었다.

펜타곤은 거부했다. 그리고 협상이 결렬되자, 미국 정부는 민간 기업에 이전까지 사용된 적 없는 강제 수단을 꺼내 들었다—'공급망 위험 지정(supply-chain-risk designation)'. 앤트로픽의 사업 자체를 위협할 수 있는 조치였다. 앤트로픽은 현재 이 지정을 해제하기 위한 소송을 진행 중이다.

이 혼란 속에서 샘 알트만이 이끄는 오픈AI는 재빠르게 펜타곤과 자체 계약을 마무리했다. 아모데이는 직원들에게 보낸 메모에서 오픈AI의 합의를 "안전 연극(safety theater)"이라고 비판했고, 이번 사건이 오픈AI가 "진짜 어떤 회사인지" 드러냈다고 했다.

핵 유토피아주의의 데자뷔

아이러니는 아모데이 자신이 이 패턴을 누구보다 잘 알고 있다는 점이다.

광고

광고주 모집

[email protected]

광고

그는 AI 연구자들을 맨해튼 프로젝트 과학자들에 비유해왔고, 직원들에게 『원자폭탄 만들기(The Making of the Atomic Bomb)』를 권독했다. 그리고 15,000단어짜리 장문의 글 「사랑스러운 은총의 기계들(Machines of Loving Grace)」에서 AI가 가져올 유토피아적 미래를 그렸다—2035년까지 암과 감염병을 정복하고, 인간 수명을 두 배로 늘리고, 수십 년의 과학적 진보를 압축하는 AI.

이 비전은 낯설지 않다. 1950년대 핵 유토피아주의자들도 똑같이 말했다. 물리학자 레오 실라르드는 핵에너지가 인류를 노동에서 해방시켜 모두를 예술가로 만들 것이라 믿었다. 에드워드 텔러는 핵폭발로 강의 물길을 바꾸고 알래스카에 항구를 만들겠다고 했다. 원자력위원회 의장 루이스 스트라우스는 핵에너지가 "계량하기엔 너무 저렴할 것"이라고 선언했다—오픈AI의 알트만이 최근 AI 지능에 대해 한 말과 거의 똑같이.

물리학자 닐스 보어는 한 걸음 더 나아갔다. 핵무기의 공포가 너무 커서 각국 지도자들이 결국 투명성과 협력을 선택할 수밖에 없을 것이라고 봤다. 폭탄이 인류를 도덕적으로 성장시킬 것이라는 믿음이었다.

결과는 어땠나. 포드는 소형 원자로를 탑재한 개념차 '뉴클레온'을 공개했지만 양산은 없었다. 핵추진 비행기 계획들도 사라졌다. '평화로운 핵폭발' 프로그램인 '쟁기 프로젝트'는 27번의 실험 끝에 방사성 오염과 환경운동의 반발만 남겼다. 그리고 보어의 꿈과 달리, 핵무기는 세계를 평화로 이끌지 않았다. 오늘날 9개국이 핵무기를 보유하고 있으며, 총 12,000개 이상의 탄두가 존재한다. 미국과 러시아의 핵군축을 규율하던 마지막 조약은 지난달 갱신되지 않은 채 만료됐다.

기술 창조자의 딜레마

역사가 반복되는 이유는 구조적이다.

강력한 기술이 등장하면, 그것을 만든 사람들은 처음에 상당한 발언권을 갖는다. 하지만 기술이 국가 안보와 경쟁 우위의 핵심이 되는 순간, 국가는 통제권을 넘겨받는다. 핵무기 과학자들이 경험한 것처럼, 협상 카드는 처음에만 유효하다. 일단 기술이 존재하면, 그것을 어떻게 쓸지는 더 이상 창조자의 결정이 아니다.

아모데이가 직면한 현실은 이렇다. 클로드는 아직 초기 단계의 AI임에도 불구하고, 미국 군대의 가장 복잡한 작전에 이미 통합되어 있다. 펜타곤은 베네수엘라나 이란처럼 AI 강국도 아닌 나라를 상대로도 AI 활용에 어떤 제한도 받아들이지 않으려 했다. 만약 AI가 훨씬 더 강력해지고, 미국이 동등한 AI 능력을 가진 강대국과 맞선다면—그때 정부가 민간 기업의 '레드라인'을 존중할 가능성은 얼마나 될까.

아모데이는 오픈AI를 비판했지만, 더 큰 구조적 질문과는 정면으로 마주하지 않은 것처럼 보인다. 그는 민주주의 국가들이 중국과 권위주의 국가들에 대해 AI 군사적 우위를 유지해야 한다고 믿는다. 하지만 그 논리 자체가, 결국 AI 개발사들이 군사적 목적에 종속될 수밖에 없는 구조를 정당화한다.

한국은 어디에 있는가

이 논쟁은 미국만의 이야기가 아니다.

삼성전자, 네이버, 카카오 등 한국의 주요 기업들도 AI 개발에 막대한 투자를 하고 있다. 한국 정부 역시 AI를 국가 전략 기술로 지정하고 군사적 활용을 검토 중이다. 앤트로픽-펜타곤 사례는 한국 AI 기업들에게 선제적 질문을 던진다—당신들의 기술이 군이나 정보기관에 통합될 때, 어떤 조건을 지킬 수 있을 것인가?

더 나아가, 이 사례는 AI 거버넌스의 공백을 드러낸다. 핵 시대에는 국제원자력기구(IAEA)가 만들어졌지만, AI에는 아직 그에 상응하는 국제 기구가 없다. 오펜하이머가 제안했던 국제 핵통제기구처럼, AI에 대한 국제적 합의 체계를 만들려는 시도들이 있지만—냉전의 논리가 그 시도를 무산시켰듯, AI 패권 경쟁이 같은 역할을 하고 있다.