AI 군사화 경쟁, 도덕 vs 실리의 갈림길

6개월. 미국 국방부가 OpenAI에게 군사용 AI 시스템을 구축하라고 준 시간이다. 같은 시간 동안 경쟁사 Anthropic은 '도덕적 거부'로 정부 계약을 잃고 사실상 퇴출 위기에 몰렸다. AI 기업들이 마주한 선택은 단순하다. 정부와 손잡거나, 시장에서 사라지거나.

계약서 속 숨겨진 차이

OpenAI CEO 샘 알트만은 솔직했다. "확실히 서둘렀다"고 인정했다. 하지만 회사는 Anthropic과 다른 길을 택했다. 핵심은 접근법의 차이였다.

Anthropic은 계약서에 구체적인 금지 조항을 명시하려 했다. '자율 무기 개발 금지', '대규모 국내 감시 금지' 같은 직접적 제한이다. 반면 OpenAI는 "기존 법률 준수"라는 우회적 표현을 택했다.

조지워싱턴대 제시카 틸립먼 교수는 이를 명확히 지적했다. "OpenAI의 계약서는 Anthropic 스타일의 독립적 거부권을 주지 않는다. 단순히 현행법을 어기지 말라는 내용일 뿐이다."

법률 vs 윤리: 어느 쪽이 더 안전한가

OpenAI의 논리는 단순하다. 정부가 불법적인 일을 하지 않을 것이라고 믿는다는 것이다. 회사는 2023년 국방부 자율무기 지침부터 수정헌법 4조까지 다양한 법률을 근거로 제시했다.

하지만 이 접근법의 한계는 명확하다. 에드워드 스노든이 폭로한 대규모 감시 프로그램들은 당시 '합법'으로 분류됐었다. 법원이 '불법'으로 판결한 건 수년 후였다.

OpenAI는 두 번째 방어선도 준비했다. "우리가 모델의 안전 규칙을 통제하며, 군대에 안전장치가 제거된 AI를 주지 않겠다"는 약속이다. 하지만 구체적으로 군사용과 민간용 규칙이 어떻게 다른지는 공개하지 않았다.

광고

광고주 모집

[email protected]

광고

한국 기업들이 주목해야 할 이유

이 갈등이 한국에 시사하는 바는 크다. 삼성전자, LG, 네이버, 카카오 같은 기술 기업들도 언젠가 비슷한 선택의 기로에 설 수 있다.

특히 한국은 분단 상황에서 군사 기술의 중요성이 높다. 국내 AI 기업들이 국방부 프로젝트에 참여할 때 어떤 윤리적 기준을 적용할 것인가? OpenAI 방식의 '법률 준수'로 충분할까, 아니면 Anthropic 방식의 '명시적 금지'가 필요할까?

정부도 마찬가지다. 미국 국방장관 피트 헤그세스는 Anthropic을 향해 "오만과 배신의 모범 사례"라며 공급망 위험 업체로 분류하겠다고 위협했다. 한국 정부는 AI 기업의 윤리적 거부에 어떻게 반응할 것인가?

직원들의 반발과 인재 전쟁

OpenAI 내부 반응도 갈렸다. 일부 직원들은 Anthropic의 도덕적 입장을 지지했었다. 알트만의 '실용적 타협'이 이들에게 용납될 수 있을지 의문이다.

AI 업계에서 인재 확보 경쟁이 치열한 상황에서, 윤리적 타협은 인재 유출로 이어질 수 있다. 특히 젊은 개발자들 사이에서 '기술의 사회적 책임'에 대한 관심이 높아지고 있다.

6개월 후, 이란 공습 현장에서

아이러니하게도 Anthropic의 Claude 모델은 이란 공습 작전에서 여전히 사용됐다. 퇴출 명령이 내려진 지 몇 시간 만의 일이었다. 이는 AI 모델 교체가 얼마나 복잡한 작업인지를 보여준다.

국방부는 6개월 안에 Claude를 OpenAI와 일론 머스크의 xAI 모델로 교체하라고 지시했다. 하지만 중동 정세가 긴박한 상황에서 이런 급작스러운 전환이 과연 안전할까?