AI 회사가 펜타곤을 거절한 이유 | 경제

Anthropic이 미 국방부의 군사 AI 제안을 거부하며 던진 질문. 기술 기업의 윤리적 선택이 국가 안보와 충돌할 때 우리는 어떤 선택을 해야 할까?

거대한 제안을 거절한 AI 회사

Anthropic이 미 국방부의 '최종 제안'을 거부했다. 수십억 달러 규모로 추정되는 군사용 AI 개발 계약을 말이다.

Claude로 유명한 이 AI 회사는 창립 초기부터 "AI 안전성"을 핵심 가치로 내세워왔다. 하지만 펜타곤의 제안은 달랐다. 군사 작전, 정보 분석, 심지어 자율 무기 시스템까지 포함된 포괄적 AI 솔루션 개발이었다.

Anthropic의 다리오 아모데이 CEO는 내부 회의에서 "우리 기술이 생명을 구하는 데 쓰일 수도 있지만, 생명을 앗아가는 데도 쓰일 수 있다"며 고민을 토로했다고 전해진다.

미 국방부는 왜 이렇게 적극적일까? 답은 중국에 있다.

중국은 이미 군사용 AI 개발에 연간 150억 달러를 투입하고 있다. 미군 내부 보고서에 따르면, 현재 속도라면 2030년까지 중국이 AI 군사 기술에서 미국을 앞설 가능성이 높다는 분석이 나왔다.

펜타곤의 한 관계자는 "우리는 도덕적 AI를 원하지만, 먼저 살아남아야 한다"고 말했다. 국가 안보와 AI 윤리 사이의 딜레마를 단적으로 보여주는 발언이다.

하지만 Anthropic은 "군사 목적으로 개발된 AI는 결국 민간 영역으로 확산되며, 그때는 통제가 불가능하다"며 우려를 표했다.

흥미롭게도 다른 빅테크 기업들의 반응은 엇갈린다.

마이크로소프트와 아마존은 이미 국방부와 수십억 달러 규모의 클라우드 계약을 체결했다. 팰런티어는 아예 군사 데이터 분석을 주력 사업으로 삼고 있다.

반면 구글은 2018년 직원들의 반발로 펜타곤의 '프로젝트 메이븐'에서 철수한 바 있다. 당시 4,000명의 구글 직원이 서명한 반대 서한이 결정적 역할을 했다.

OpenAI는 더욱 복잡한 입장이다. 공식적으로는 군사용 AI 개발을 금지하고 있지만, 국방부 관련 연구기관과의 협력은 계속하고 있다.

이 논란은 한국에도 시사하는 바가 크다.

한국 정부는 2027년까지 AI 국방 분야에 1조 2,000억원을 투입한다고 발표했다. LG AI연구원, 네이버 클로바, 카카오브레인 등 국내 AI 기업들도 국방 프로젝트 참여를 검토하고 있다.

하지만 국내 AI 개발자들 사이에서도 의견이 갈린다. 한 대형 IT 기업의 AI 연구원은 "북한의 위협을 고려하면 군사 AI 개발은 불가피하다"고 말했다. 반면 다른 연구원은 "AI 무기가 오남용될 위험을 생각하면 신중해야 한다"고 반박했다.

특히 한국은 분단국가라는 특수성 때문에 이 딜레마가 더욱 첨예하다. 방어용 AI와 공격용 AI의 경계가 모호한 상황에서, 어디까지가 윤리적으로 허용 가능한 선인지 판단하기 어렵다.

Anthropic의 결정은 단순히 돈의 문제가 아니다.

이 회사는 최근 아마존으로부터 40억 달러 투자를 받았지만, 여전히 OpenAI나 구글에 비해 자금 여력이 부족하다. 펜타곤 계약은 회사 재정에 큰 도움이 될 수 있었다.

하지만 창립자들은 다르게 생각했다. 다리오 아모데이와 다니엘라 아모데이 남매는 원래 OpenAI에서 일하다가 "AI 안전성에 대한 견해 차이" 때문에 나와 Anthropic을 창립했다.

이들에게는 기업 가치와 수익성 사이의 선택이었고, 결국 가치를 택했다.