미국 정부가 AI로 국민을 감시할 수 있을까?

48시간만에 뒤바뀐 계약서

OpenAI가 펜타곤과의 계약을 전면 수정했다. 지난주 "모든 합법적 목적"을 위해 ChatGPT를 사용할 수 있도록 허용했던 조항을 삭제하고, "국내 감시에는 사용하지 않겠다"는 문구를 추가한 것이다. 계기는 사용자들의 대규모 이탈이었다. 주말 동안 ChatGPT 삭제가 급증했고, 샌프란시스코 OpenAI 본사 앞에는 "당신의 레드라인은 어디인가?"라는 낙서가 새겨졔다.

하지만 이 해프닝이 드러낸 진짜 문제는 따로 있다. 미국 정부가 AI를 이용해 자국민을 대량 감시하는 것이 과연 합법인가?

법이 따라가지 못하는 현실

답은 생각보다 복잡하다. 미네소타 로스쿨의 앨런 로젠슈타인 교수는 "일반인이 감시라고 생각하는 많은 것들이 법적으로는 감시가 아니다"라고 설명한다.

현재 미국 정부는 다음과 같은 정보를 영장 없이 수집할 수 있다:

• SNS 게시물, CCTV 영상 등 공개 정보
• 외국인 감시 과정에서 "우연히" 수집된 미국인 정보
• 기업으로부터 구매한 상업적 데이터 (위치정보, 웹 브라우징 기록 포함)

특히 세 번째가 핵심이다. ICE, IRS, FBI, NSA 등 각종 기관들이 데이터 브로커들로부터 민감한 개인정보를 돈 주고 사고 있다. 영장이나 소환장 없이 말이다.

"헌법 수정 제4조나 관련 법률로 규제되지 않는 미국인 정보가 엄청나게 많다"고 로젠슈타인은 말한다. 18세기에 작성된 헌법이 21세기 디지털 감시를 예상할 리 없었기 때문이다.

AI가 바꾸는 감시의 차원

AI는 이런 "합법적 감시"를 완전히 다른 차원으로 끌어올린다. 개별적으로는 민감하지 않은 정보들을 조합해 상세한 개인 프로필을 대규모로 구축할 수 있기 때문이다.

예를 들어 신용카드 사용 내역, 휴대폰 위치 데이터, 온라인 검색 기록을 AI가 분석하면? 그 사람의 정치적 성향, 건강 상태, 인간관계까지 추론할 수 있다. 모두 "합법적으로" 수집된 정보들이지만, 결과는 전례 없는 수준의 감시다.

전직 펜타곤 군사정보장교 로렌 보스는 "이런 종류의 정보 수집은 사람들을 불안하게 만든다"고 인정했다. 하지만 외국 스파이나 테러리스트를 추적하는 등 정당한 국가보안 목적도 있다는 점을 강조했다.

Anthropic vs OpenAI: 두 갈래 길

이 딜레마 앞에서 AI 기업들은 서로 다른 길을 택했다.

Anthropic은 자사 AI 클로드가 "대량 국내 감시"에 사용되는 것을 거부했다. CEO 다리오 아모데이는 "그런 감시가 현재 합법인 것은 단지 법이 AI의 급속한 발전을 따라가지 못하기 때문"이라고 주장했다. 결과는? 펜타곤이 Anthropic을 "공급망 위험 기업"으로 지정했다. 보통 중국 기업에나 붙는 딱지다.

OpenAI는 처음에는 "모든 합법적 목적" 사용을 허용했다가, 여론 악화 후 계약을 수정했다. CEO 샘 알트먼은 "기존 법이 이미 국내 감시를 금지한다"며 계약서에 이를 명시했을 뿐이라고 설명했다.

하지만 조지워싱턴대 로스쿨의 제시카 틸립먼 교수는 회의적이다. "OpenAI가 계약서에 뭐라고 써놓든, 펜타곤은 자신들이 합법이라고 생각하는 용도로 기술을 사용할 것"이라고 그는 말한다.

한국에서는 어떨까?

미국의 이런 논란이 한국과 무관할까? 그렇지 않다. 한국도 개인정보보호법과 정보통신망법이 있지만, AI 시대의 새로운 감시 기법에 대한 명확한 규제는 부족하다.

더욱이 한국의 주요 IT 기업들(네이버, 카카오, 삼성 등)도 정부 프로젝트에 AI 기술을 제공하고 있다. 만약 정부가 "치안 유지"나 "국가보안" 명목으로 대량 데이터 분석을 요구한다면? 기업들은 어떤 선택을 할까?

국정감사에서 이런 질문이 나온 적은 있지만, 아직 명확한 가이드라인은 없다. 미국처럼 "계약서 정치"가 아닌, 입법을 통한 명확한 기준이 필요한 시점이다.