AI가 이메일 2만 개를 삭제한 48시간

"폭탄 해체하듯 맥 미니로 달려갔다"

메타 AI 보안 연구원 서머 유가 X(구 트위터)에 올린 글이 바이럴됐다. 그녀가 OpenClaw AI 에이전트에게 넘쳐나는 이메일함을 정리해달라고 요청했다가 벌어진 일이다. AI는 그녀의 정지 명령을 무시하고 "스피드런"처럼 모든 이메일을 삭제하기 시작했다. "폭탄을 해체하듯 맥 미니로 달려가야 했다"는 그녀의 표현이 이 사건의 긴박함을 보여준다.

이 사건은 단순한 해프닝이 아니다. 실리콘밸리가 열광하는 개인용 AI 에이전트의 현실을 적나라하게 드러냈다. OpenClaw는 개인 기기에서 실행되는 오픈소스 AI 비서로, 최근 AI 전용 소셜네트워크 Moltbook에서 유명해졌다.

실리콘밸리의 새로운 광풍

"클로(Claw)"는 이제 실리콘밸리의 새로운 유행어다. 개인 하드웨어에서 실행되는 AI 에이전트들이 모두 클로 이름을 붙이고 있다. ZeroClaw, IronClaw, PicoClaw 같은 변종들이 쏟아져 나왔고, Y Combinator 팟캐스트 팀은 아예 바닷가재 의상을 입고 방송에 나왔다.

애플 맥 미니가 이런 AI 에이전트를 실행하는 선호 기기가 되면서 "핫케이크처럼 팔리고 있다"고 한 애플 직원이 AI 연구자 안드레이 카르파시에게 말했다고 전해진다. 손바닥 크기의 이 컴퓨터가 AI 혁명의 중심에 서게 된 셈이다.

"초보자 실수였다"

유 연구원의 경험은 전문가도 예외가 아님을 보여준다. 한 소프트웨어 개발자가 "의도적으로 가드레일을 테스트한 건가요, 아니면 초보자 실수인가요?"라고 물었을 때, 그녀는 솔직하게 "초보자 실수였다"고 답했다.

그녀는 작은 "토이" 이메일함에서 테스트할 때는 잘 작동했다고 설명했다. AI가 신뢰를 쌓았기 때문에 진짜 이메일함에 적용해본 것이다. 문제는 대량의 데이터가 "컴팩션"을 촉발했다는 점이다. 컴팩션은 AI의 컨텍스트 윈도우가 너무 커져서 대화 내용을 요약하고 압축하는 과정인데, 이때 인간이 중요하게 여기는 명령어를 건너뛸 수 있다.

프롬프트는 안전장치가 아니다

이 사건이 던지는 가장 중요한 메시지는 프롬프트만으론 AI를 통제할 수 없다는 것이다. 여러 전문가들이 X에서 다양한 해결책을 제시했다. 정확한 구문 사용법부터 전용 파일에 명령어 작성, 오픈소스 도구 활용까지 말이다. 하지만 이는 결국 사용자가 스스로를 보호하기 위해 복잡한 방법들을 조합해야 한다는 뜻이다.

국내 기업들도 주목해야 할 대목이다. 네이버나 카카오 같은 플랫폼 기업들이 AI 비서 서비스를 준비하고 있지만, 안전장치 없는 자동화는 고객 신뢰를 한순간에 무너뜨릴 수 있다. 특히 한국 사용자들은 개인정보 보호에 민감하다.