당신의 음성 데이터가 군사 작전에 쓰였다면?

소말리아 난민이 미군 정찰기를 도왔다

케냐 북서부 사막의 카쿠마 난민촌. 이곳에서 소말리아어 번역 작업으로 생계를 이어가던 이스마일은 자신이 미군의 정찰 작전에 기여하고 있다는 사실을 전혀 몰랐다.

호주 기업 Appen이 전 세계 100만 명의 긱워커를 동원해 미군의 감시 시스템을 훈련시켜왔다는 충격적인 사실이 공개됐다. 이들은 자신의 작업이 베네수엘라 대통령 체포 작전이나 가자지구 감시에 사용될 줄은 꿈에도 몰랐다.

리벳 조인트: 하늘의 귀

미 공군의 리벳 조인트는 세계에서 가장 강력한 감시기 중 하나다. 150마일 떨어진 곳에서도 통신을 가로채고 적의 위치를 파악할 수 있다. 베트남 전쟁 때부터 활약해온 이 '하늘의 귀'는 최근 베네수엘라 국경, 러시아 서부, 중국 연안, 가자지구 상공을 누비며 정보를 수집했다.

하지만 이 첨단 장비도 인간의 언어를 이해하려면 도움이 필요하다. 바로 여기서 Appen이 등장한다.

2005년부터 2020년까지 이 회사는 미군으로부터 1,700만 달러 규모의 계약을 따냈다. 그 중 14만 5,000달러는 리벳 조인트의 '전술 언어 해석기' 개발에 직접 사용됐다.

모르는 사이에 참여한 '저자원 언어' 화자들

Appen의 전 매니저 윌은 "내전으로 인해 원어민 언어학자를 구하기 어려운 언어들을 담당했다"고 증언했다. 소말리아어가 대표적이다. 1970년대까지 아랍 문자로 쓰였고, 수십 년간 내전을 겪으며 표준화된 데이터가 부족한 '저자원 언어'다.

아이러니하게도 미군이 2007년부터 소말리아에서 테러 조직 알샤바브와 교전을 벌이는 동안, 소말리아 난민들이 자국어 데이터를 제공해 미군의 감시 시스템을 돕고 있었던 것이다.

케냐에 거주하는 300만 명의 소말리아계 중 30만 명 이상이 난민촌에 살고 있다. 이들 중 상당수가 Appen의 긱워커로 일했지만, 자신들의 작업이 어디에 쓰이는지 전혀 알지 못했다.

투명성 없는 AI 공급망

이번 사건은 AI 시대의 어두운 단면을 보여준다. 우리가 시리에게 말을 걸거나 구글 번역을 사용할 때, 그 뒤에는 수많은 익명의 노동자들이 있다. 이들은 대부분 개발도상국에서 낮은 임금으로 일하며, 자신의 작업이 최종적으로 어떻게 사용되는지 모른다.

Appen의 전 직원 하산은 "그들은 최종 목표에 대해 비밀스러웠다"며 "작업 지침만 주고 데이터가 어디로 가는지는 절대 알려주지 않았다"고 말했다.

문제는 이것이 업계 표준이라는 점이다. 기업들은 '보안'과 '기밀'을 이유로 긱워커들에게 작업의 진짜 목적을 숨긴다. 하지만 이런 불투명성은 윤리적 문제를 낳는다.