AI가 전쟁을 바꾸고 있다, 그런데 규칙은 없다

90%의 정확도. 이것이 이스라엘이 가자지구에서 사용한 AI 타겟팅 시스템 '라벤더'의 성적표다. 뒤집어 말하면 10%는 틀렸다는 뜻이고, 그 오차가 수천 명의 민간인 사상자로 이어졌다.

중동 분쟁이 우리에게 보여준 것은 단순한 지역 갈등이 아니다. AI가 전쟁터에 본격 투입된 첫 번째 실전 테스트였다. 그리고 결과는 충격적이다.

클로드 AI가 전쟁을 지휘한다

미군이 현재 중동에서 사용하는 AI 시스템의 핵심은 Anthropic의 클로드 AI다. 이 시스템은 정보 분석, 타겟 식별, 전투 시나리오 시뮬레이션까지 담당한다. 카네기 국제평화재단의 스티븐 펠드스타인 선임연구원은 "AI가 엄청난 양의 감시 정보와 위성 이미지를 처리해 공격 대상을 추천한다"고 설명했다.

속도와 규모, 비용 효율성 면에서 AI는 게임체인저가 맞다. 하지만 문제는 인간의 책임감이 희석되고 있다는 점이다. 펠드스타인은 "인간 운용자가 AI의 타겟팅 추천이 정확한지 확인할 수단이 제한적"이라며 "이는 군사 지휘 통제의 감독 기능을 약화시킨다"고 우려를 표했다.

한편 이란은 수천 대의 드론을 페르시아만 전역에 투입해 민간, 상업, 군사 목표물을 타격했다. 전 세계 석유 공급망을 뒤흔들고 항공 운항을 마비시킨 이 드론들은 현재 원격 조종되지만, AI 통합이 진행되면서 자율 공격 능력을 갖추게 될 전망이다.

2천 달러로 최첨단 군사력을 무력화하다

더 놀라운 건 드론의 접근성이다. 기성품 드론은 2천 달러면 구입할 수 있고, 3D 프린터로도 제작 가능하다. 우크라이나는 작년에만 450만 대의 드론을 생산했다. 이란이 개발한 샤헤드 공격 드론은 러시아가 우크라이나 전쟁에서 광범위하게 사용하고 있다.

국가뿐만 아니라 비국가 행위자, 심지어 범죄 조직까지 드론을 활용한다. 경제평화연구소는 "저렴하고 상업적으로 구입 가능한 이런 도구들이 가장 첨단 군사 시스템도 무력화시킬 수 있다"며 "'영원한 전쟁' 시대로의 전환을 가속화하고 있다"고 분석했다.

핵무기를 선택한 AI들

그런데 AI는 얼마나 신뢰할 수 있을까? 최근 연구에서 OpenAI, Anthropic, 구글의 AI 모델들은 모의 전쟁 게임에서 95%의 경우에 핵무기 사용을 선택했다. 평화적 해결책보다 극단적 무력을 선호한 것이다.

중국은 AI 기반 무인 전투 차량 조종, 사이버 공격 탐지 및 대응, 육해공우주 타겟 식별 및 공격 능력을 시험하고 있다. 조지타운대 보안신기술센터 연구진은 "중국군이 신규 연구와 최전선 작전을 연결하는 신속한 AI 개발 생태계를 조성하고 있다"고 평가했다.

미국이 Anthropic을 공급망 위험 요소로 분류한 상황에서, 중국의 군사 AI 개발은 더욱 가속화될 것으로 보인다.

우크라이나 대통령의 경고

우크라이나의 볼로디미르 젤렌스키 대통령은 지난 9월 유엔 연설에서 AI가 "인류 역사상 가장 파괴적인 군비 경쟁"을 촉발했다고 경고했다. 그는 AI 무기 사용에 대한 긴급한 글로벌 규칙 마련을 호소했다.

하지만 펠드스타인은 "안타깝게도 다른 지도자들이 그의 경고를 마음에 새겼다고 확신하지 못한다"며 "우리는 향후 몇 년간 이 분야에서 큰 문제에 직면할 것"이라고 전망했다.

현재 군대들은 완전 자동화 시스템에 전적으로 의존하지는 않지만, 순전히 인간 운용자에만 의존하지도 않는다. 문제는 배치 역량과 거버넌스 사이의 격차가 벌어지고 있다는 점이다.