3800억 달러 AI 스타트업의 운명이 세 단어에 달렸다

Anthropic이 미 국방부와 벌이는 협상. '모든 합법적 사용'이라는 조건이 AI 무기와 감시에 미칠 영향을 분석한다.

"모든 합법적 사용" - 세 단어가 바꿀 AI의 미래

Anthropic의 운명이 세 단어에 달렸다. "any lawful use(모든 합법적 사용)". 3800억 달러 규모의 AI 스타트업이 미 국방부와 몇 주째 벌이고 있는 협상의 핵심이다. OpenAI와 xAI는 이미 이 조건에 합의했다고 전해진다.

이 조건이 통과되면 미군은 AI 서비스를 대규모 감시와 완전자율살상무기 개발에 제약 없이 사용할 수 있게 된다. 인간의 개입 없이 표적을 추적하고 제거하는 AI 시스템 말이다.

국방부 CTO Emil Michael과 Anthropic 간의 협상은 소셜미디어와 언론을 통해 공개적으로 전개되고 있다. 펜타곤 관계자들은 익명으로 언론에 압박 발언을 하고 있고, Anthropic은 공개 성명을 통해 우려를 표명하고 있다.

핵심 쟁점은 명확하다. 국방부는 AI 기술에 대한 무제한 접근을 원하고, Anthropic은 자사 기술이 인명 살상에 직접 사용되는 것을 막으려 한다. 하지만 "합법적 사용"이라는 표현의 모호함이 문제다.

OpenAI는 이미 국방부 계약을 체결했다. 작년까지만 해도 군사적 사용을 금지했던 정책을 180도 바꾼 것이다. 일론 머스크의 xAI 역시 같은 길을 택했다.

이들의 결정 뒤에는 단순한 수익성 계산이 있다. 국방부 AI 계약 규모는 연간 수십억 달러에 달한다. 거부할 경우 경쟁에서 밀려날 위험이 크다.

이 변화는 한국 AI 기업들에게도 직접적인 영향을 미친다. 네이버의 HyperCLOVA X, 카카오브레인의 KoGPT 등 국산 AI 모델들도 언젠가 비슷한 선택의 기로에 설 수 있다.

특히 한국의 독특한 안보 상황을 고려하면 더욱 복잡하다. 북한의 AI 무기 개발에 대응하기 위해서는 우리도 관련 기술이 필요하지만, 동시에 인권과 윤리적 우려도 무시할 수 없다.

유럽연합은 이미 AI Act를 통해 군사적 AI 사용에 엄격한 제한을 두고 있다. 반면 미국은 "국가 안보"를 앞세워 규제를 완화하는 방향으로 가고 있다.

한국 정부도 곧 결정을 내려야 한다. 국산 AI 기업들에게 어떤 가이드라인을 제시할 것인가? 동맹국인 미국의 압력과 인권 단체들의 우려 사이에서 균형점을 찾아야 한다.