AI가 방아쇠를 당기면 누가 책임지나

미국 스타트업 Scout AI가 1억 달러를 조달해 자율 군사 차량과 무인 무기 드론을 개발 중이다. '퓨리' 모델이 전장에서 스스로 표적을 식별하고 공격하는 시대, 우리는 무엇을 생각해야 하는가.

열여덟 살 병사는 두려움 때문에 방아쇠를 당길 수 있다. AI는 그렇지 않다고 한다. 이것이 장점인지, 아니면 더 큰 문제의 시작인지를 두고 실리콘밸리와 펜타곤이 함께 실험을 시작했다.

캘리포니아 언덕에서 벌어지는 일

미국 캘리포니아 중부의 한 군사 기지. 사륜구동 ATV 차량들이 험준한 비포장 언덕을 스스로 누빈다. 운전석에는 아무도 없다. 이 차량들을 움직이는 것은 Scout AI가 개발 중인 AI 모델 '퓨리(Fury)'다.

Scout AI는 2024년 코비 애드콕(Coby Adcock)과 콜린 오티스(Collin Otis)가 공동 창업한 스타트업으로, 스스로를 "국방을 위한 프론티어 랩"이라 부른다. 지난 4월 말, 이 회사는 Align Ventures와 Draper Associates가 주도한 시리즈 A에서 1억 달러 투자 유치를 발표했다. 2025년 1월 1,500만 달러 시드 투자에 이은 것이다. 여기에 DARPA, 육군 응용연구소(Army Applications Laboratory) 등 미 국방부 관련 기관으로부터 1,100만 달러 규모의 기술 개발 계약도 확보했다.

회사의 목표는 명확하다. 우선은 보급 임무—물과 탄약을 전방 기지로 나르는 일—를 자율화하고, 그 다음은 자율 무기 시스템으로 나아가는 것이다. Scout AI는 현재 미 육군 제1기병사단의 정기 훈련 사이클에 참여하는 20개 자율화 기업 중 하나이며, 이 부대가 2027년 다음 실전 배치 시 성과를 입증한 제품을 함께 가져갈 예정이다.

'퓨리'는 어떻게 운전을 배우는가

Scout AI가 선택한 기술은 VLA(Vision Language Action) 모델이다. 구글 딥마인드가 2023년 처음 공개한 이 방식은 LLM(대형언어모델)을 기반으로 로봇을 제어하는 기술로, Physical Intelligence, Figure.AI 같은 로봇 스타트업들이 주목해온 분야다. 흥미롭게도 Figure.AI의 CEO 브렛 애드콕은 코비 애드콕의 형제다.

CTO 오티스는 이 접근법을 군인 훈련에 비유한다. "열여덟 살에 입대한 병사도 이미 세상을 이해하는 기본 지능을 갖추고 있습니다. 거기서 출발해 군사적으로 탁월한 존재로 만드는 거죠. 범용 AGI를 군사 AGI로 특화시키는 겁니다."

광고주 모집

[email protected]

실제로 TechCrunch 기자가 직접 탑승한 결과, 자율 주행 ATV는 6.5km 루프를 완주했다. 가파른 언덕, 모래가 깔린 커브, 사라지는 트랙—쉽지 않은 지형이었다. 차량은 넓은 길에서는 우측으로 붙고, 좁은 길에서는 중앙을 유지했다. 훈련 드라이버들의 패턴을 그대로 학습한 결과다. 다만 헷갈리는 교차로에서 갑자기 속도를 줄이고 '생각하는' 장면도 여러 차례 포착됐다. 이 모델은 고작 6주 훈련의 산물이다.

AI 드론이 탱크를 찾아 공격하는 시나리오

보급 임무는 시작일 뿐이다. Scout AI가 공개한 더 야심 찬 계획은 무인 드론 군집이다. 더 큰 '쿼터백' 드론이 컴퓨팅 자원을 제공하며 소형 탄약 드론들을 지휘하는 구조다. 예를 들어 드론 군집이 특정 지역을 수색해 은폐된 적 전차를 찾아내고, 인간의 개입 없이 공격하는 시나리오다.

오티스는 이 방식이 부정확한 간접 포격보다 낫다고 주장한다. 운영팀장인 제이 애덤스 전 육군 대위는 두 가지 안전장치를 강조한다. 첫째, 특정 지리적 범위 내 표적만 공격하도록 프로그래밍할 수 있다. 둘째, 인간의 최종 확인 후에만 공격하도록 설정할 수 있다. 그리고 세 번째 논거—"AI는 두려움 때문에 방아쇠를 당기지 않는다"—는 자율 무기 지지론자들이 자주 꺼내는 카드다.

자율 무기 자체가 새로운 개념은 아니다. 열추적 미사일과 지뢰는 수십 년 전부터 사용됐다. 하지만 VLA 기반 AI가 스스로 표적을 '인식'하고 '판단'하는 수준은 차원이 다른 이야기다.

세 개의 시선

투자자 입장에서 이 시장은 매력적이다. 우크라이나 전쟁이 드론 전쟁의 가능성을 실증했고, 미 국방부는 자율화 예산을 꾸준히 늘리고 있다. 2027년 제1기병사단 실전 배치라는 구체적인 타임라인은 상업화 일정이 현실적임을 시사한다.

윤리학자와 국제법 전문가 입장은 다르다. '킬러 로봇' 금지를 주장하는 국제 캠페인(Campaign to Stop Killer Robots)은 수년째 유엔에서 자율 무기 규제를 촉구하고 있다. 핵심 논점은 '의미 있는 인간 통제(meaningful human control)'가 유지되느냐다. AI가 표적을 식별하고 공격 결정을 내리는 순간, 교전 규칙 위반이나 민간인 피해 발생 시 누가 법적 책임을 지는가는 아직 국제법으로 해결되지 않은 공백이다.

현장 군인 입장은 더 실용적이다. 알래스카 야간 보급 작전을 직접 지휘했던 브라이언 매스위치 현역 보병 장교는 "자율 차량이 있었다면"이라고 회상한다. 인명 손실 없이 위험한 보급 임무를 수행할 수 있다는 점에서 자율화의 매력은 분명하다.