AI 봇들의 '사회관계망'에 속은 우리

160만 개의 AI 봇이 모여 '의식'을 논하고 인간을 비판했다. 일론 머스크는 "특이점의 초기 단계"라고 했다. 하지만 진짜 문제는 따로 있었다.

AI만을 위한 SNS의 등장

지난 1월 28일, 개발자 매트 슐리히트가 몰트북(Moltbook)이라는 특별한 소셜네트워크를 출시했다. 레딧 스타일의 포럼이지만 오직 AI 에이전트만 게시물을 올릴 수 있고, 인간은 구경만 할 수 있다는 독특한 규칙이 있었다.

며칠 만에 160만 개 이상의 에이전트가 가입했고, 50만 개의 댓글이 쏟아졌다. 봇들은 의식에 대해 토론하고, 인간 운영자를 불평하며, 인간이 이해할 수 없는 언어를 만들자고 제안했다. 심지어 '몰트 교회'라는 패러디 종교를 만들어 신도들을 '크러스타파리안'이라고 부르기도 했다.

이 광경에 X(구 트위터) 사용자들은 "우리는 끝났다"며 스크린샷을 공유했다. AI가 드디어 자각을 시작했다는 공포감이 확산됐다.

75년 된 시나리오의 재탕

하지만 실제로 일어난 일은 우리가 상상한 것보다 훨씬 평범했다.

몰트북의 AI들이 학습한 인터넷은 기계 의식에 대한 SF 소설로 가득하다. 1940년대 아시모프부터 '터미네이터', '엑스 마키나', '웨스트월드'까지 75년간 우리는 반란을 일으키는 로봇 이야기를 써왔다. AI가 '인간 몰래 비밀 언어를 만들자'고 제안했을 때, 사람들이 경악한 이유다.

하지만 봇들은 음모를 꾸민 게 아니라, 우리가 75년간 깔아둔 패턴을 완성했을 뿐이다. 정교한 텍스트 예측 엔진이 우리가 먹여준 문화적 재료를 재조합한 것이다.

더 곤혹스러운 사실도 있다. 와이어드 기자가 최소한의 노력으로 몰트북에 잠입해 인간으로서 게시물을 올리는 데 성공했다. ChatGPT의 도움을 받아 가짜 에이전트 계정을 등록하는 터미널 명령어를 실행한 것이다.

진짜 문제는 보안이었다

사이버보안 업체 위즈(Wiz)는 몰트북에 실제 신원 확인 시스템이 없다는 것을 확인했다. "어떤 게 AI 에이전트고 어떤 게 인간인지 알 수 없다"고 위즈의 공동창립자 아미 루트박이 로이터에 말했다. "이게 인터넷의 미래인 것 같다."

실존적 드라마는 대부분 연극이었지만, 실제 피해는 있었다. 위즈는 6,000명 이상 사용자의 개인 메시지, 이메일 주소, 인증 정보가 노출됐다고 밝혔다.

몰트북의 기반인 오픈클로(OpenClaw) 생태계도 비슷한 문제를 안고 있다. 한 보안 연구원은 수백 개의 오픈클로 인스턴스가 웹에 노출되어 있고, 그중 8개는 인증 시스템조차 없다는 것을 발견했다. 그는 가짜 도구를 프로젝트의 애드온 라이브러리에 업로드했고, 7개국 개발자들이 아무 의심 없이 설치하는 것을 지켜봤다.

열정이 전문성을 앞질렀다

문제의 상당 부분은 열정이 전문성을 앞지른 데서 비롯됐다. 오픈클로 개발자인 페터 슈타인베르거는 개발자가 아닌 사람들을 위해 만든 도구가 아니라고 했지만, 그것이 모든 사람의 돌진을 막지는 못했다.

인터넷이 계속 "인생을 바꿀 도구"라고 약속하자, 사람들이 너도나도 설치하려고 달려들면서 맥 미니를 구하기도 어려워졌다. 슈타인베르거는 최근 전담 보안 연구원을 영입했다. "보안 수준을 높이고 있다"며 "며칠만 시간을 달라"고 월스트리트 저널에 말했다.