AI가 정부 보조금을 심사한다면, 누가 심사받을까

750억원. 미국 정부가 작년 한 해 동안 팰런티어에 지급한 금액이다. 그런데 이 돈으로 무엇을 했을까? 바로 AI가 정부 보조금 신청서를 읽고, 특정 키워드가 포함된 프로젝트를 '부적절'하다고 분류하는 일이었다.

AI 심사관의 등장

미국 보건복지부(HHS)가 공개한 2025년 AI 활용 현황 보고서에 따르면, 작년 3월부터 팰런티어의 AI 도구가 보조금과 채용공고를 심사하고 있다. 심사 기준은 트럼프 대통령의 행정명령에 따른 것으로, '젠더 이데올로기'와 다양성·형평성·포용성(DEI) 관련 내용을 찾아내는 것이다.

흥미로운 점은 이 작업이 비밀리에 진행되었다는 것이다. 팰런티어도 HHS도 이런 용도로 AI를 사용한다고 공개적으로 발표한 적이 없다. 정부 계약서에도 DEI나 '젠더 이데올로기' 관련 업무라는 언급이 전혀 없었다.

AI는 먼저 문서를 스캔하고 의심스러운 내용에 '플래그'를 단다. 그러면 담당 공무원이 최종 검토를 한다. 현재 이 시스템은 아동가족청(ACF)에서 활발히 운영되고 있다.

키워드 하나가 바꾼 풍경

그 결과는 극적이었다. 국립과학재단은 '여성', '포용', '체계적', '소외계층' 같은 단어가 포함된 연구를 모두 검토 대상에 올렸다. 질병통제센터는 'LGBT', '트랜스젠더', '논바이너리'가 언급된 연구를 중단했다. 자살예방 상담전화에서 LGBTQ 청소년 서비스까지 사라졌다.

숫자로 보면 더 충격적이다. 국립과학재단과 국립보건원에서만 약 4조원 규모의 보조금이 동결되거나 중단됐다. 1,000개가 넘는 비영리단체가 연방정부 지원을 잃지 않으려고 미션 선언문을 다시 썼다.

교육부, 에너지부, 인사관리청에서는 대규모 해고가 일어났다. DEI 업무와 관련 없던 직원들도 포함됐다. NASA 직원들은 본래 업무를 중단하고 웹사이트에서 여성, 원주민, LGBTQ 관련 언급을 삭제하는 일에 투입됐다.

팰런티어의 황금기

이런 상황에서 팰런티어는 호황을 누리고 있다. 트럼프 2기 첫 해에 1조 3천억원을 벌어들였다. 전년 대비 24% 증가한 수치다. 가장 큰 고객은 육군(5,300억원)과 공군(1,900억원)이었다.

특히 이민세관단속청(ICE)과의 계약이 눈에 띈다. 전년 270억원에서 1,100억원으로 4배 증가했다. 팰런티어는 ICE를 위해 실시간 추방 대상자 추적 시스템, 수사 관리 시스템, 그리고 지역별 용의자 지도까지 만들고 있다.

회사 내부에서도 논란이 일고 있다. 직원들이 슬랙에서 "ICE에 압력을 가할 수 있지 않나"며 회사의 투명성 부족을 지적했다. 1월 24일 미네아폴리스에서 ICE 작전 중 간호사가 총격으로 사망한 사건 이후 이런 목소리가 더 커졌다.

한국에서는 어떨까

한국도 예외는 아니다. 정부 보조금 심사에 AI를 도입하려는 움직임이 있다. 과기정통부는 R&D 과제 선정에 AI 활용을 검토 중이고, 중소벤처기업부도 창업지원 심사 효율화를 위해 AI 도입을 고려하고 있다.

하지만 미국 사례는 중요한 질문을 던진다. AI가 '객관적'이라고 여겨지지만, 실제로는 특정 가치관이나 정책 방향을 반영할 수 있다는 점이다. 한국에서 AI 심사관이 도입된다면, 어떤 기준으로 무엇을 걸러낼까?

국내 네이버, 카카오, 삼성SDS 같은 기업들이 정부 AI 프로젝트에 참여하고 있다. 이들이 만든 AI가 정부 정책을 집행하게 된다면, 그 알고리즘의 투명성과 책임성은 어떻게 보장할 수 있을까?