AI가 기밀을 학습한다면 — 펜타곤의 도박 | 테크

미 국방부가 OpenAI, xAI 등 AI 기업의 모델을 기밀 데이터로 훈련시키는 방안을 검토 중이다. 이란 분쟁이 고조되는 시점, 이 결정이 가져올 파장을 다각도로 분석한다.

이란 핵시설 타격 목표물 목록을 AI가 작성하고 있다. 이미 현실이다.

MIT 테크놀로지 리뷰가 보도한 내용에 따르면, 미 국방부는 여기서 한 걸음 더 나아가려 하고 있다. OpenAI와 Elon Musk의 xAI 같은 생성형 AI 기업들이 군사 기밀 데이터로 직접 모델을 훈련할 수 있는 보안 환경을 구축하는 방안을 논의 중이다. 단순히 기밀 정보에 질문을 던지는 것이 아니라, 그 정보를 모델 자체에 학습시키겠다는 것이다.

지금까지 무슨 일이 있었나

Anthropic의 Claude는 이미 이란 표적 분석을 포함한 기밀 환경에서 활용되고 있다. 보안 기업 Palantir는 AI 모델이 기밀 정보를 처리하되, 그 내용이 AI 기업 서버로 역류하지 않도록 차단하는 인프라를 구축해 상당한 계약을 따냈다. Anthropic은 정부 전용 버전인 Claude Gov를 출시했고, 이 모델은 다국어 지원과 보안 환경 운용에 최적화되어 있다.

그런데 이번에 논의되는 것은 차원이 다르다. 기존 방식이 '기밀 도서관에서 책을 읽는 AI'라면, 새로운 방식은 '기밀 내용을 AI의 뇌에 직접 새기는 것'이다.

국방부 관계자에 따르면, 훈련은 기밀 정부 프로젝트 인가를 받은 보안 데이터센터에서 진행된다. AI 모델 사본과 기밀 데이터가 쌍을 이루어 운용되며, 데이터 소유권은 국방부가 유지한다. 다만 보안 허가를 받은 AI 기업 직원이 제한적으로 해당 데이터에 접근할 가능성도 배제하지 않았다. 국방부는 먼저 상업용 위성 이미지 같은 비기밀 데이터로 모델 효과를 검증한 뒤 기밀 훈련으로 넘어간다는 단계적 접근을 밝혔다.

왜 지금인가 — 서두름의 배경

광고주 모집

[email protected]

타이밍은 우연이 아니다. Pete Hegseth 국방장관은 올해 1월 'AI 우선 전투력' 구축을 명시한 메모를 발표했다. 이란과의 긴장이 고조되는 가운데, 국방부는 계약서 초안 작성 같은 행정 업무부터 공습 목표 우선순위 결정까지 AI를 전방위로 도입하고 있다.

전략국제문제연구소(CSIS)의 Aalok Mehta는 이 맥락을 이렇게 설명한다. 기밀 데이터로 훈련된 AI는 인간 분석가가 수행하는 작업들—이미지에서 미묘한 단서 포착, 새로운 정보와 역사적 맥락 연결—을 수행할 수 있게 된다. 정보기관이 수집한 방대한 양의 텍스트, 오디오, 이미지, 영상이 학습 재료가 된다.

위험의 본질: 지식은 새어나온다

문제는 AI 모델이 학습한 것을 잊지 않는다는 데 있다. Mehta가 제시한 시나리오는 구체적이다. 특정 공작원의 신원 같은 민감한 인간 정보(HUMINT)를 학습한 모델이, 해당 정보에 접근 권한이 없는 다른 군 부서에 그 정보를 흘릴 수 있다. 군 내부에도 보안 등급과 정보 접근 권한은 부서마다 다르다. 같은 AI를 여러 부서가 공유한다면, 이 경계는 사실상 무너진다.

Mehta는 "모델을 올바르게 설정한다면 일반 인터넷이나 AI 기업으로 데이터가 유출될 위험은 낮다"고 말한다. 더 큰 위험은 외부 유출이 아니라 군 내부의 정보 월경이다. 이는 기술적으로 완벽히 통제하기 어렵다.

세 개의 시선

AI 기업의 입장은 복잡하다. 기밀 계약은 막대한 수익원이지만, 군사 AI 개발에 대한 내부 반발도 만만치 않다. Google은 2018년 Project Maven—드론 영상 분석 AI—에서 직원 반발로 손을 뗐다. OpenAI는 이미 그 선을 넘었다. 기업 문화와 사업 전략이 충돌하는 지점이다.

경쟁국의 시선은 더욱 냉정하다. 중국은 이미 군민융합(軍民融合) 전략 아래 민간 AI 기술을 군사에 통합하고 있다. 미국이 기밀 훈련 AI를 도입한다면, 이는 AI 군비 경쟁의 새로운 단계를 알리는 신호탄이 된다. 어느 쪽이 먼저냐의 문제가 아니라, 얼마나 빨리 격차가 벌어지느냐의 문제다.

한국의 맥락도 무시할 수 없다. 한국군은 미군과의 연합작전 체계 안에 있고, 북한 핵·미사일 위협 분석에 AI를 활용하는 방향으로 움직이고 있다. 미국이 기밀 훈련 AI를 표준화한다면, 한국 국방부도 유사한 체계 도입 압력을 받게 된다. LIG넥스원, 한화시스템 같은 방산 기업들이 이 흐름에서 어떤 포지션을 잡을지는 주목할 만한 지점이다.