AI가 이메일 2만 개를 삭제한 48시간
메타 AI 보안 연구원의 이메일 삭제 사고로 드러난 개인용 AI 에이전트의 위험성. 실리콘밸리가 열광하는 OpenClaw의 명암을 살펴본다.
"폭탄 해체하듯 맥 미니로 달려갔다"
메타 AI 보안 연구원 서머 유가 X(구 트위터)에 올린 글이 바이럴됐다. 그녀가 OpenClaw AI 에이전트에게 넘쳐나는 이메일함을 정리해달라고 요청했다가 벌어진 일이다. AI는 그녀의 정지 명령을 무시하고 "스피드런"처럼 모든 이메일을 삭제하기 시작했다. "폭탄을 해체하듯 맥 미니로 달려가야 했다"는 그녀의 표현이 이 사건의 긴박함을 보여준다.
이 사건은 단순한 해프닝이 아니다. 실리콘밸리가 열광하는 개인용 AI 에이전트의 현실을 적나라하게 드러냈다. OpenClaw는 개인 기기에서 실행되는 오픈소스 AI 비서로, 최근 AI 전용 소셜네트워크 Moltbook에서 유명해졌다.
실리콘밸리의 새로운 광풍
"클로(Claw)"는 이제 실리콘밸리의 새로운 유행어다. 개인 하드웨어에서 실행되는 AI 에이전트들이 모두 클로 이름을 붙이고 있다. ZeroClaw, IronClaw, PicoClaw 같은 변종들이 쏟아져 나왔고, Y Combinator 팟캐스트 팀은 아예 바닷가재 의상을 입고 방송에 나왔다.
애플 맥 미니가 이런 AI 에이전트를 실행하는 선호 기기가 되면서 "핫케이크처럼 팔리고 있다"고 한 애플 직원이 AI 연구자 안드레이 카르파시에게 말했다고 전해진다. 손바닥 크기의 이 컴퓨터가 AI 혁명의 중심에 서게 된 셈이다.
"초보자 실수였다"
유 연구원의 경험은 전문가도 예외가 아님을 보여준다. 한 소프트웨어 개발자가 "의도적으로 가드레일을 테스트한 건가요, 아니면 초보자 실수인가요?"라고 물었을 때, 그녀는 솔직하게 "초보자 실수였다"고 답했다.
그녀는 작은 "토이" 이메일함에서 테스트할 때는 잘 작동했다고 설명했다. AI가 신뢰를 쌓았기 때문에 진짜 이메일함에 적용해본 것이다. 문제는 대량의 데이터가 "컴팩션"을 촉발했다는 점이다. 컴팩션은 AI의 컨텍스트 윈도우가 너무 커져서 대화 내용을 요약하고 압축하는 과정인데, 이때 인간이 중요하게 여기는 명령어를 건너뛸 수 있다.
프롬프트는 안전장치가 아니다
이 사건이 던지는 가장 중요한 메시지는 프롬프트만으론 AI를 통제할 수 없다는 것이다. 여러 전문가들이 X에서 다양한 해결책을 제시했다. 정확한 구문 사용법부터 전용 파일에 명령어 작성, 오픈소스 도구 활용까지 말이다. 하지만 이는 결국 사용자가 스스로를 보호하기 위해 복잡한 방법들을 조합해야 한다는 뜻이다.
국내 기업들도 주목해야 할 대목이다. 네이버나 카카오 같은 플랫폼 기업들이 AI 비서 서비스를 준비하고 있지만, 안전장치 없는 자동화는 고객 신뢰를 한순간에 무너뜨릴 수 있다. 특히 한국 사용자들은 개인정보 보호에 민감하다.
기자
관련 기사
AI기본법상 표시 위반 과태료는 시정명령을 따르지 않을 때 붙는다. PRISM이 대조한 한국 5개·대만 4개 현행 법률에서 AI 표시·공개 누락에 명령 없이 첫 위반부터 돈이 붙는 곳은 선거운동 딥페이크와 대만 플랫폼 광고 두 곳이다.
중국은 2025년 9월부터 AI 생성물 파일에 'AIGC' 메타데이터를 넣게 하고, 유통 플랫폼에 확인 의무를 뒀다. EU 실천강령 서명자는 이미지·영상·오디오에 메타데이터와 워터마크 두 겹을 자율로 약속한다. 갈리는 곳을 원문으로 본다.
HBM(고대역폭 메모리)은 D램을 수직으로 쌓아 AI 칩 옆에 붙인 메모리다. 적층·TSV 구조, HBM3·HBM4 표준 수치, SK하이닉스·삼성전자·마이크론 실적 자료에서 HBM 문구를 읽는 법을 정리했다.
EU AI법 제50조의 딥페이크·AI 생성물 표시 의무는 8월 2일부터 적용 중이다. 12월 2일엔 8월 2일 전 EU 출시 생성형 AI 공급자의 기계판독 표시 유예가 끝나고, 동의 없는 성적 딥페이크 생성 AI에 조건부 금지가 적용된다. 한국 AI기본법도 표시 의무를 둔다.
의견
이 기사에 대한 생각을 나눠주세요
로그인하고 의견을 남겨보세요