AI 에이전트, 당신의 모든 데이터를 원한다: 구글과 OpenAI가 제시한 '편리함'의 진짜 대가

AI가 당신의 디지털 금고 열쇠를 요구하고 있다. 질문에 답하는 시대를 넘어, 구글, OpenAI 같은 거대 기술 기업들은 당신의 이메일, 파일, 메시지에 직접 접근하는 자율 'AI 에이전트'를 내세우며 새로운 개인정보 전쟁의 서막을 열었다. 지난 2년간 챗봇의 편리함에 익숙해졌다면, 이제는 그 대가로 무엇을 내줘야 할지 고민해야 할 시점이다.

AI 에이전트: 편리함의 이면

AI 에이전트란 명확한 정의는 없지만, 일반적으로 자율성을 부여받은 생성형 AI 시스템으로 이해된다. 이들은 사용자를 대신해 항공권을 예약하고, 웹에서 정보를 조사하며, 쇼핑 카트에 물건을 담는 등 수십 단계의 작업을 수행할 수 있다. 문제는 이런 작업을 완수하기 위해 당신의 개인 데이터에 대한 깊은 접근 권한이 필요하다는 점이다.

에이다 러브레이스 연구소의 선임 연구원 해리 파머는 "AI 에이전트가 모든 기능을 발휘하려면 종종 운영체제(OS) 수준의 접근이 필요하다"고 지적하며, 이는 사이버보안과 개인정보에 "심각한 위협"이 될 수 있다고 경고했다. 마이크로소프트가 공개해 논란이 된 '리콜(Recall)' 기능이 대표적이다. 이 기능은 사용자의 데스크톱 화면을 몇 초마다 스크린샷으로 저장한다.

반복되는 불신, 데이터 남용의 역사

AI 업계는 데이터 권리를 존중해 온 역사가 길지 않다. 2010년대 초반 머신러닝 기술이 더 많은 데이터로 더 나은 결과를 낸다는 사실이 증명되자, 정보 수집 경쟁은 격화됐다. 안면인식 기업 클리어뷰(Clearview)는 웹에서 수백만 장의 사진을 무단 수집했고, 구글은 얼굴 스캔 데이터에 단돈 5달러를 지불했다. 현재의 거대언어모델(LLM) 역시 허가나 대가 없이 웹과 수백만 권의 책을 긁어모은 결과물이다.

애플리케이션 개인정보의 '존재론적 위협'

AI 에이전트가 제기하는 위험은 단순히 데이터 수집에 그치지 않는다. 유럽 데이터 규제 당국이 의뢰한 한 연구에 따르면, 민감 데이터 유출, 오용, 가로채기 가능성 등 수많은 개인정보 위험이 지적되었다. 특히 사용자가 동의했더라도, AI 에이전트가 접근하는 이메일과 연락처 목록에 포함된 제3자는 동의하지 않았을 수 있다는 문제가 있다.

악의적인 지시를 LLM에 주입하는 '프롬프트 주입 공격'은 데이터 유출로 이어질 수 있다. 암호화 메신저 앱 시그널(Signal)을 운영하는 시그널 재단의 메러디스 휘터커 대표는 와이어드와의 인터뷰에서, 기기의 모든 것에 접근하는 AI 에이전트가 시그널과 같은 앱 수준의 개인정보 보호에 "존재론적 위협"이라고 말했다.