AI 안전 vs 국가 안보, 앤트로픽이 선택한 길

앤트로픽이 미 국방부와의 2000억원 계약을 포기하면서까지 지키려는 'AI 안전' 원칙. 하지만 협상 테이블로 다시 돌아간 이유는?

2000억원짜리 계약을 걷어차고 'AI 안전'을 택한 회사가 있다. 그런데 며칠 만에 다시 협상 테이블로 돌아갔다. 무슨 일이 일어난 걸까?

원칙을 지킨 대가

앤트로픽의 CEO 다리오 아모데이는 지난 금요일, 직원들에게 보낸 메모에서 "우리가 가장 걱정했던 시나리오와 정확히 일치하는 문구"라며 미 국방부와의 협상 결렬을 설명했다. 문제가 된 건 '대량 수집 데이터 분석'이라는 단 한 줄이었다.

국방부는 군사 목적이라면 클로드 AI를 어떤 용도로든 사용할 수 있어야 한다고 주장했다. 반면 앤트로픽은 자사 기술이 국내 감시나 자율 무기에 사용되지 않겠다는 보장을 요구했다. 협상은 결국 평행선을 달렸다.

트럼프 행정부의 반응은 즉각적이었다. 연방 기관들에 앞트로픽 도구 사용 중단을 지시했고, 국방장관은 회사를 "공급망 위험" 기업으로 지정하겠다고 위협했다.

광고주 모집

앞트로픽이 원칙을 고수하며 계약을 포기한 바로 그날, OpenAI가 국방부와 새로운 계약을 체결했다고 발표했다. 타이밍이 우연치고는 너무 완벽했다.

국방부 연구개발 차관 에밀 마이클은 아모데이를 "신 콤플렉스를 가진 거짓말쟁이"라고 공격했다. 하지만 시장 반응은 정반대였다. 앤트로픽 앱 다운로드는 급증했고, ChatGPT 삭제가 늘어났다는 보고도 나왔다.

OpenAI CEO 샘 알트만도 뒤늦게 "서둘러서는 안 됐다"며 자사 계약 조건을 수정하겠다고 밝혔다. 심지어 "앤트로픽을 공급망 위험으로 지정해서는 안 된다"고 공개적으로 옹호하기까지 했다.

그런데 며칠 만에 아모데이가 다시 협상 테이블로 돌아왔다. 파이낸셜타임스에 따르면, 그는 현재 에밀 마이클과 "막판 합의"를 위한 협상을 벌이고 있다.

무엇이 그를 다시 협상장으로 이끌었을까? 1900억원 규모의 기존 계약이 이미 미군의 이란 전쟁에 활용되고 있다는 점, 그리고 '공급망 위험' 지정이 가져올 사업적 타격을 고려했을 가능성이 높다.

앤트로픽은 2021년 OpenAI 출신 연구진들이 "AI 안전 우선" 철학으로 설립한 회사다. 하지만 현실은 이상만큼 단순하지 않다는 걸 보여주고 있다.