AI 기업이 국방부를 고소한 날

민간 AI 기업이 미국 국방부를 상대로 소송을 제기했다. 전례 없는 일이다.

앤트로픽(Anthropic)은 이달 초 트럼프 행정부로부터 '공급망 위험' 기업으로 지정됐다. 군이 자사 AI 모델을 어떻게 사용할 수 있는지에 대해 제한을 뒀다는 이유에서다. 앤트로픽은 즉각 반발했다. 헌법적 권리를 침해당했다며 소송을 냈고, 자신들이 설정한 '레드라인'—생사를 결정하는 문제에서 반드시 인간이 최종 판단을 내려야 한다는 원칙—을 굽히지 않겠다고 선언했다.

싸움이 의회로 번지다

이 갈등은 이제 입법부로 확산되고 있다. 민주당 상원의원 애덤 시프(Adam Schiff)는 앤트로픽의 레드라인을 법제화하는 법안을 준비 중이다. 핵심은 간단하다. AI가 어떤 상황에서도 생사를 결정하는 권한을 단독으로 가져서는 안 된다는 것. 또 다른 민주당 의원 엘리사 슬로트킨(Elissa Slotkin)은 국방부가 AI를 이용해 미국 시민을 대규모로 감시하는 행위를 제한하는 별도 법안을 이미 발의했다.

두 법안 모두 아직 공화당이 다수를 점한 의회를 통과할 가능성은 낮다. 하지만 이 법안들이 던지는 질문 자체는 중요하다. AI 기술의 군사적 활용에서 민간 기업은 어디까지 거부권을 행사할 수 있는가?

왜 앤트로픽은 굳이 싸우는가

광고

광고주 모집

[email protected]

광고

앤트로픽은 오픈AI 출신 연구자들이 'AI 안전'을 최우선 가치로 내걸고 설립한 회사다. 이 회사의 정체성 자체가 '책임 있는 AI 개발'에 있다. 군이 자사 모델을 어떻게 사용하는지에 대한 통제권을 포기하는 순간, 회사의 존재 이유가 흔들린다.

동시에 현실적인 계산도 있다. 블랙리스트 지정은 정부 계약에서의 배제를 의미할 수 있다. AI 스타트업에게 연방정부는 거대한 고객이다. 싸우지 않으면 시장을 잃고, 싸우면 규제 리스크를 떠안는다. 앤트로픽은 두 가지 위험 사이에서 소송이라는 카드를 선택했다.

한국 기업에게 이 싸움이 남기는 질문

이 사태는 한국 AI 산업에도 무관하지 않다. 네이버, 카카오, 삼성은 모두 군사·공공 분야로의 AI 확장을 검토하거나 이미 진행 중이다. 한국 정부 역시 AI 기반 국방 시스템 도입을 추진하고 있다.

앤트로픽의 사례는 하나의 선례가 될 수 있다. 민간 AI 기업이 자사 기술의 사용 방식에 대해 '윤리적 거부권'을 행사할 수 있는가—그리고 그것이 법적으로 보호받을 수 있는가. 미국 법원의 판결이 어떻게 나오느냐에 따라, 한국을 포함한 전 세계 AI 기업들의 정부 계약 방식이 달라질 수 있다.

지금까지 AI 윤리는 주로 기업의 자발적 선언에 의존해왔다. 앤트로픽은 그것을 법정에서 시험하고 있다.