AI 안전 vs 국방, 3800억원 기업이 선택한 것

Anthropic이 미 국방부의 AI 무제한 사용 요구를 거부하며 금요일 최후통첩에 직면. AI 안전 원칙과 군사 계약 사이의 딜레마가 업계 전체에 미칠 파장은?

2000억원 계약 vs 기업 가치관

2000억원짜리 계약을 포기할 각오가 되어 있는가? AI 스타트업 Anthropic이 바로 그런 선택의 기로에 서 있다. 미국 국방부가 금요일 오후 5시 1분까지 최후통첩을 던졌다. "우리 AI 모델을 군사 목적으로 무제한 사용하도록 허용하라. 아니면 공급망 위험 기업으로 분류하겠다."

문제의 발단은 지난 7월 체결된 2억 달러 계약이다. Anthropic은 첫 번째로 자사 AI 모델을 군사 기밀망에 통합한 AI 기업이 됐지만, 조건을 두고 협상이 교착상태에 빠졌다.

선을 그은 AI 기업

Anthropic CEO 다리오 아모데이는 목요일 성명에서 명확한 입장을 밝혔다. "완전 자율무기나 미국인에 대한 대규모 감시에는 우리 기술이 사용되지 않도록 보장받고 싶다."

국방부는 "합법적 목적"이라는 모호한 표현으로 맞섰다. 국방부 대변인 션 파넬은 "우리는 완전 자율무기나 대규모 감시에 관심이 없다. 하지만 모든 합법적 목적에 사용할 수 있어야 한다"고 주장했다.

여기서 핵심은 "합법적"의 정의다. 현재는 불법이지만 미래에 합법화될 수도 있는 용도까지 포함하는 건 아닐까? Anthropic의 우려가 이해되는 대목이다.

광고주 모집

[email protected]

업계의 연대와 분열

흥미롭게도 경쟁사 OpenAI의 샘 알트먼 CEO는 "국방부가 이런 기업들에게 국방생산법을 들이대며 위협하는 게 맞는지 모르겠다"며 Anthropic을 지지했다. 구글과 OpenAI 직원 330명 이상이 "우리는 분열되지 않을 것"이라는 제목의 공개서한에 서명하기도 했다.

하지만 OpenAI, 구글, 일론 머스크의 xAI 모두 국방부와 협력하고 있다는 점에서 Anthropic의 고립이 더욱 부각된다.

돈 vs 가치관, 현실적 딜레마

Anthropic의 고민은 깊다. 회사 가치는 3800억 달러에 달하지만, 이는 투자자들의 기대에 부응해야 한다는 압박이기도 하다. 국방 계약을 잃으면 단기 수익은 물론 향후 정부 관련 사업 기회도 날아갈 수 있다.

조지타운대 로렌 칸 연구원은 "이 상황에선 승자가 없다"며 "모든 이에게 씁쓸한 뒷맛만 남길 것"이라고 분석했다. 특히 "민간 기업들이 '국방 부문과 일하는 게 손해'라고 판단하면, 결국 피해는 현장 군인들이 볼 것"이라고 우려했다.

트럼프 행정부와의 갈등

다리오 아모데이는 트럼프 취임식에도 참석하지 않았다. 팀 쿡, 순다르 피차이 같은 다른 테크 CEO들과 대조적이다. 백악관 AI 담당 데이비드 색스는 이미 Anthropic을 "깨어있는 AI"를 지지한다며 비판한 바 있다.

국방장관 피트 헤그세스는 1월 "미국 군사 AI 우위 가속화" 메모에서 "이데올로기적 조정"이 가미된 AI 모델 사용을 금지하겠다고 밝혔다. Anthropic을 겨냥한 메시지로 읽힌다.