OpenAI의 국방부 계약, '감시 금지'라는 허울 좋은 약속

OpenAI 본사 앞에서 몇 명의 시위자들이 분필로 보도에 메시지를 적고 있었다. "자유를 지켜달라", "대량 감시는 안 된다", "계약을 바꿔달라". 이들이 항의하는 것은 OpenAI가 최근 국방부와 맺은 사업 계약이었다.

갑작스러운 파트너 교체

사건의 발단은 Anthropic의 거부였다. 국방부가 AI 기술을 군사 목적으로 사용하려 하자, Anthropic은 대량 감시와 자율 살상 무기 사용을 금지해달라고 요구했다. 이에 분노한 국방장관 피트 헤그세스는 Anthropic을 "공급망 위험" 기업으로 지정했다. 이는 국방부와 거래하는 모든 기업이 Anthropic 제품 사용을 중단해야 한다는 뜻이었다.

그리고 바로 그 자리를 OpenAI가 차지했다. 샘 알트만 CEO는 지난 목요일 밤 내부 메모에서 국방부가 OpenAI 제품을 "국내 대량 감시"와 "자율 살상 무기"에 사용하지 않도록 하는 "레드라인"을 설정하겠다고 약속했다.

허점투성이 계약서

하지만 계약서를 자세히 들여다보니 상황이 달랐다. 여러 법률 전문가들이 분석한 결과, 이 계약은 사실상 국방부가 OpenAI 기술을 미국인 대량 감시에 사용할 수 있는 법적 근거를 제공한다는 것이다.

계약서에는 "국방부는 모든 합법적 목적을 위해 AI 시스템을 사용할 수 있다"고 명시되어 있다. 그리고 정보 활동에 대해서는 1978년 외국정보감시법(FISA) 등 기존 법률을 준수하면 된다고 되어 있는데, 이 법들은 이미 미국인에 대한 광범위한 감시를 허용하고 있다.

미네소타대학교 법학과 앨런 로젠슈타인 교수는 "일반인이 자동화된 대량 감시라고 생각하는 많은 것들이 단순히 불법이 아니다"라고 지적했다. 예를 들어, 생성형 AI는 세금 신고서, 연방 고용 파일, 수십억 건의 통신 기록, 스마트폰 위치 데이터 등을 분석해 정교한 인사이트를 제공할 수 있다.

뒤늦은 수정, 여전한 의구심

여론의 비판이 거세지자 OpenAI는 월요일 계약 내용을 수정했다. "AI 시스템은 의도적으로 미국인과 미국 국민에 대한 국내 감시에 사용되어서는 안 된다"는 문구를 추가했다. 또한 "의도적 추적, 감시, 모니터링을 금지한다"고 명시했다.

하지만 전문가들은 여전히 의구심을 표한다. "의도적으로"와 "의도적"이라는 표현은 "부수적" 데이터 수집에 대해서는 상당한 여지를 남긴다. 또한 "개인 식별 정보"의 정의가 좁을 경우 여전히 광범위한 국내 정보 수집이 가능하다.

브래드 카슨 전 육군 차관은 이런 수정 사항들을 "좋아 보이는 공허한 것들"이라고 평가했다. 실질적인 보장 없이 겉치레만 바꾼 것이라는 뜻이다.

기술적 안전장치의 한계

OpenAI는 계약상 금지 조항 외에도 기술적 "안전 스택"을 구축해 모델 사용을 모니터링하고, 자사 엔지니어들이 국방부와 협력해 "레드라인이 지켜지는지 독립적으로 검증"하겠다고 했다.

하지만 정부와 OpenAI 사이에 의견 충돌이 생기면 어떻게 될까? 조지워싱턴대학교 제시카 틸리프만 교수는 "일반적으로 정부는 먼저 행동하고 나중에 분쟁을 해결한다"고 말했다.

더욱이 국방부는 Anthropic을 공급망 위험 기업으로 지정함으로써 "교착 상태가 되면 주저하지 않고" 미국 기업에 극단적인 제재를 가할 수 있다는 것을 보여줬다. 알트만도 X에서 이를 "극도로 무서운 선례"라고 인정했다.