미국 ICE, AI로 신고 분류한다... 팰런티어 기술 도입

미네소타에서 벌어진 이민단속 과정에서 5살 아이가 체포되고, 항의 시위에 참여한 간호사가 총격으로 숨지는 일이 발생했다. 하지만 이 충격적인 사건들 뒤에는 더 큰 변화가 숨어있다. 미국 이민세관단속청(ICE)이 팰런티어의 AI 도구를 사용해 신고를 분류하고 있다는 사실이다.

AI가 이민 단속을 바꾸는 방법

팰런티어는 원래 국방부와 CIA를 위한 데이터 분석 회사로 시작했다. 이제 이들의 AI 기술이 ICE의 일상적인 업무에 스며들고 있다. 구체적으로 어떤 신고가 우선순위인지, 어떤 지역에 자원을 집중할지를 AI가 판단한다는 뜻이다.

문제는 이런 결정이 어떤 기준으로 내려지는지 알 수 없다는 점이다. AI 알고리즘이 '위험한' 지역이나 '의심스러운' 신고를 어떻게 구분하는가? 미네소타의 소말리아계 미국인 커뮤니티가 타깃이 된 것도 우연일까?

구글 딥마인드 직원들이 회사 경영진에게 ICE로부터 '물리적 안전'을 보장해달라고 요청한 것도 같은 맥락이다. 기술 기업의 직원들조차 자신들이 만든 기술이 어떻게 사용될지 우려하고 있다.

극우 인플루언서와 AI의 만남

미네소타 사태의 발단은 닉 셜리라는 극우 인플루언서의 유튜브 영상이었다. 그는 증거 없이 소말리아계 미국인들이 운영하는 어린이집이 수백만 달러를 부정 사용했다고 주장했다. 이 영상이 트럼프 행정부의 관심을 끌었고, 결국 ICE의 대대적인 단속으로 이어졌다.

여기서 중요한 건 AI가 이런 정보를 어떻게 처리하느냐다. 소셜미디어의 허위정보가 AI 시스템에 입력되면, 그것이 '팩트'로 둔갑할 수 있다. 알고리즘은 조회수가 높은 콘텐츠를 더 중요하게 여기는 경향이 있기 때문이다.

일한 오마르 의원이 타운홀 미팅에서 정체불명의 물질을 뿌린 공격을 받은 후, 극우 세력은 즉시 '자작극'이라는 음모론을 퍼뜨렸다. 심지어 트럼프 대통령도 "그녀를 아는 사람이라면, 아마 자신이 연출했을 것"이라고 말했다.

한국에서도 일어날 수 있는 일

한국도 예외가 아니다. 정부 기관들이 AI를 도입하는 속도가 빨라지고 있다. 하지만 투명성은 여전히 부족하다. 어떤 데이터로 어떤 결정을 내리는지, 시민들은 알 권리가 있다.

네이버나 카카오 같은 플랫폼에서 퍼지는 정보가 정부 정책에 영향을 미칠 가능성도 배제할 수 없다. 특히 외국인 노동자나 다문화 가정에 대한 여론이 AI 시스템의 판단에 반영된다면?

기술 기업들도 고민이 깊어지고 있다. 삼성전자나 LG전자가 개발한 AI 기술이 감시나 단속에 사용될 때, 어디까지가 적절한 선일까? 구글 직원들처럼 한국 기업 직원들도 언젠가 같은 딜레마에 직면할 수 있다.