AI 윤리와 국방의 충돌, 미국의 '중국식' 전환

앤스로픽이 펜타곤과의 계약에서 두 가지 원칙을 고수했다. AI를 대량 감시나 완전 자율 무기에 사용하지 않겠다는 것. 당연해 보이는 요구였지만, 미국 국방부는 이를 받아들이지 않았다. 대신 중국의 화웨이처럼 앤스로픽을 공급망 위험 기업으로 지정했다. 그리고 몇 시간 후, OpenAI가 펜타곤과 새로운 계약을 체결했다.

이 사건이 보여주는 것은 단순한 기업 간 경쟁이 아니다. 미국이 중국을 비판하면서 사용해온 논리 - '권위주의 vs 민주주의'의 AI 경쟁 - 가 무너지고 있다는 신호다.

중국식 군민융합을 따라하는 미국

중국의 '군민융합' 정책은 민간 기술 기업들이 원하든 원하지 않든 군사 목적으로 기술을 제공하도록 강제하는 것이다. 조지 워싱턴 대학교의 제프리 딩 교수는 "펜타곤의 앤스로픽 위협은 중국 군민융합 전략의 최악의 측면을 그대로 복사한 것"이라고 지적했다.

앤스로픽이 거부한 두 가지 - 대량 감시와 완전 자율 무기 - 는 기본적인 인권 문제다. 하지만 펜타곤은 이를 '공급망 위험'으로 규정했다. 이는 외국 적대 세력에게나 사용하던 조치를 미국 기업에 적용한 전례 없는 일이다.

샘 알트만이 이끄는 OpenAI는 다른 선택을 했다. 표면적으로는 앤스로픽과 같은 원칙을 내세우면서도, "모든 합법적 목적"에 AI를 사용할 수 있다는 조건을 받아들였다. 문제는 '합법적'이라는 기준이 기술 발전 속도를 따라가지 못한다는 점이다.

합법이지만 감시인 회색지대

현재 미국 법률로는 정부가 민간 기업이 수집한 데이터를 구매하는 것이 금지되지 않는다. 위치 정보, 웹 브라우징 데이터, 신용카드 사용 내역 등을 AI로 분석하면 모든 시민의 예측 가능한 초상을 그릴 수 있다. 일반인이 보기엔 '대량 감시'지만 기술적으로는 '합법'이다.

앤스로픽은 이런 데이터 수집과 분석을 거부했다. 이것이 펜타곤과의 주요 갈등 지점이었다고 알려졌다. 반면 OpenAI의 계약서 첫 문장은 "모든 합법적 목적"을 명시하고 있다.

계약서의 후속 조항들이 권리를 보호한다고 OpenAI는 주장하지만, 전문가들은 회의적이다. 미네소타 대학교 법학 교수는 이런 조항들이 실제 보장을 제공하지 않는다고 지적했다. AI 안전 연구소의 하이디 클라프 수석 과학자는 "현재의 AI 안전장치는 심각하게 부족하며, 선의의 경우도 쉽게 뚫린다"고 경고했다.

보이콧과 연대의 힘

공개된 OpenAI 계약 내용이 제한적이어서 확실한 판단은 어렵다. 하지만 대중의 반응은 명확하다. 150만 명이 넘는 사람들이 ChatGPT 보이콧 캠페인에 참여했고, 앤스로픽의 클로드가 앱스토어 1위에 올랐다.

역사학자 뤼트허르 브레흐만은 "효과적인 보이콧의 공통점은 좁고, 타겟이 명확하며, 쉽다는 것"이라며 ChatGPT 보이콧이 "AI 시대 첫 대규모 소비자 보이콧 기회"라고 평가했다.

더 주목할 점은 기술 업계 내부의 연대다. OpenAI와 구글 직원 900명 이상이 "우리는 분열되지 않을 것"이라는 공개서한에 서명했다. 이들은 경영진에게 대량 감시와 완전 자율 무기 거부에서 "함께 서달라"고 촉구했다.

한국에서 바라본 AI 군사화

이 사건이 한국에 주는 시사점은 복합적이다. 삼성전자와 SK하이닉스 같은 한국 기업들이 AI 반도체 공급망의 핵심이면서, 동시에 미중 갈등의 최전선에 서 있기 때문이다.

한국 정부도 AI 국가전략을 수립하면서 군사 활용을 고려하고 있다. 하지만 미국의 사례는 보여준다 - 국가 안보를 명분으로 한 기술 통제가 얼마나 쉽게 권위주의적 행태로 변질될 수 있는지를.

네이버와 카카오 같은 국내 AI 기업들도 언젠가 비슷한 선택의 기로에 설 수 있다. 정부의 요구와 윤리적 원칙 사이에서 어떤 결정을 내릴 것인가?