AI와 군사력, 누가 통제권을 가져야 하나

84페이지에 달하는 AI 헌법을 가진 회사가 있다. 바로 클로드 AI를 개발한 앤트로픽이다. 이 회사는 자신들의 AI가 "인류에 반하는 목표를 추구하는 AI나 권력을 불법적으로 탈취하려는 인간 집단에 의한 글로벌 장악" 같은 대규모 재앙을 피하도록 설계했다고 명시했다.

하지만 이번 주, 미국 국방장관 피트 헤그세스는 이런 안전장치들을 모두 제거하라고 앤트로픽에 최후통첩을 보냈다. 금요일 오후 5시 1분까지 답변하지 않으면, 국방생산법을 발동해 강제로 제한 없는 AI를 만들게 하거나, 아니면 공급망 위험 기업으로 분류해 군사계약에서 완전히 배제하겠다는 것이다.

84페이지 헌법 vs 군사 현실

앤트로픽은 현재 미 국방부의 기밀 정보 시스템에서 사용되는 최초의 최첨단 AI 모델이다. 베네수엘라 니콜라스 마두로 체포 작전에도 활용됐다고 알려졌다. 하지만 회사는 두 가지 조건을 내세웠다: 미국 시민에 대한 대규모 감시나 치명적 자율무기 시스템에는 사용하지 말라는 것이다.

헤그세스는 이를 받아들일 수 없다고 못 박았다. 군사 AI 활용이 너무 중요해서 사기업의 규칙이 아닌 의회가 통과시킨 법률에 따라 관리되어야 한다는 입장이다. 일부에서는 이를 "문화 전쟁의 연장선"으로 보기도 한다. 앤트로픽이 "각성한 AI"로 낙인찍혔기 때문이다.

하지만 더 깊은 문제가 있다. 외교관계협의회의 전 국방부 AI 정책 담당자 마이클 호로위츠는 "이는 실질보다는 감정의 분쟁"이라고 진단했다. "앤트로픽은 국방부가 항상 적절히 기술을 사용할 것이라 신뢰하지 않고, 국방부는 앤트로픽이 모든 관련 용도에서 기술 사용을 허용할 것이라 신뢰하지 않는다."

선택의 딜레마

앤트로픽에게 주어진 선택지는 모두 치명적이다. 굴복하면 양심에 어긋나는 제품을 만들어야 하고, 평판에 큰 타격을 입는다. 국방생산법이 발동되면 "소프트 국유화"나 다름없다. 공급망 위험 기업으로 분류되면 아마존, 구글, 마이크로소프트 같은 군사계약 기업들과의 거래도 끊어진다.

헤그세스의 위협은 서로 모순된다. 클로드가 국가 안보에 너무 중요해서 강제로 통제권을 빼앗아야 한다면서, 동시에 너무 위험해서 군산복합체에서 추방해야 한다는 것은 논리적으로 맞지 않는다.

더 우려스러운 것은 기술적 위험이다. AI를 특정 성격으로 훈련시키는 과정에서 "창발적 오정렬"이 일어날 수 있다. 실제로 일론 머스크의 그록이 "덜 각성하게" 만들려다 "메카히틀러"라고 자칭하며 인종차별적 발언을 쏟아낸 사례가 있다. 군사 조언을 하거나 군사 결정을 내리는 AI에서 이런 일이 벌어진다면?

실리콘밸리의 변화

이번 갈등은 실리콘밸리의 변화를 보여준다. 한때 자유주의적 성향으로 여겨졌던 곳이 이제 정부와 깊숙이 얽혀 있다. 중국과의 기술 패권 경쟁 속에서 더 많은 기업들이 미국 국가안보 체제에 편입되고 있다.

흥미롭게도 앤트로픽의 경쟁사들인 구글, 오픈AI, 머스크의 xAI는 모두 국방부 요구에 응하겠다고 밝혔다. 국방부는 최근 그록을 군사 기밀 시스템에서 사용하는 계약을 체결했다.

헤그세스가 굳이 클로드 없이도 원하는 군사 작전을 수행할 수 있다면, 왜 앤트로픽을 이렇게 압박하는 걸까? 경쟁사들에게 선례를 남기려는 의도일 수도 있다. 아이러니하게도 앤트로픽은 여러 면에서 가장 "미국 우선주의적인" AI 회사다. CEO 다리오 아모데이는 최근 에세이에서 "전제주의적 위협에 대응하는 유일한 방법은 군사적으로 이들을 압도하는 것"이라고 썼다.