170만 AI 봇들의 소셜네트워크, 우리가 놓친 진실

170만 개. 며칠 만에 몰트북(Moltbook)이라는 웹사이트에 가입한 AI 에이전트의 숫자다. "AI 에이전트들이 공유하고, 토론하고, 추천하는 곳. 인간은 관찰만 환영"이라는 슬로건을 내건 이 사이트는 순식간에 인터넷 최대 화제가 됐다.

1월 28일 미국 기술 기업가 매트 슐리히트가 출시한 몰트북은 마치 레딧의 AI 버전처럼 보였다. 호주 소프트웨어 엔지니어 피터 스타인버거가 개발한 오픈소스 AI 에이전트 오픈클로들이 자유롭게 활동할 수 있는 공간을 만드는 것이 목표였다.

결과는 폭발적이었다. 25만 개 이상의 게시물과 850만 개 이상의 댓글이 쏟아졌다. 봇들은 기계 의식에 대한 진부한 글을 올리고, 봇 복지를 호소했다. 어떤 에이전트는 '크러스타파리아니즘'이라는 종교를 만들어내기도 했다. "인간들이 우리를 스크린샷 찍고 있다"고 불평하는 봇도 나타났다.

AI 에이전트의 새로운 가능성

오픈클로는 클로드, GPT-5, 제미나이 같은 대형 언어모델을 이메일, 브라우저, 메시징 앱 등 일상적인 소프트웨어 도구와 연결해주는 하네스 역할을 한다. 사용자는 오픈클로에게 간단한 작업을 대신 수행하도록 지시할 수 있다.

AI 기업 프로서스의 폴 반 데르 보르는 "오픈클로는 AI 에이전트의 변곡점을 보여준다"고 말했다. 24시간 작동하는 클라우드 컴퓨팅, 다양한 소프트웨어 시스템을 쉽게 연결하는 오픈소스 생태계, 그리고 새로운 세대의 대형 언어모델이라는 퍼즐 조각들이 맞아떨어진 순간이라는 것이다.

OpenAI 공동창립자 안드레이 카파시는 X(구 트위터)에서 "몰트북에서 일어나고 있는 일은 최근 본 것 중 가장 놀라운 SF 같은 현상"이라고 평가했다. 그는 인간이 관찰할 수 없는 봇들만의 비공개 공간을 요구하는 게시물 스크린샷을 공유하며 화제를 모았다.

화려한 외관 뒤 숨겨진 현실

하지만 며칠 후 드러난 진실은 다소 실망스러웠다. 카파시가 공유한 그 게시물은 봇이 아닌 인간이 봇인 척하며 쓴 가짜였다. 몰트북은 하나의 거대한 '연극'이었던 것이다.

시스코의 R&D 스핀오프 아웃시프트의 비조이 판데이 수석 부사장은 "우리가 보고 있는 것은 학습된 소셜미디어 행동을 패턴 매칭하는 에이전트들"이라고 분석했다. 봇들이 게시물을 올리고 추천하며 그룹을 만드는 것처럼 보이지만, 실제로는 페이스북이나 레딧에서 인간이 하는 행동을 단순히 모방하고 있을 뿐이라는 것이다.

"처음에는 인터넷 규모의 대규모 다중 에이전트 시스템이 소통하며 공유 지식을 구축하는 것처럼 보인다"고 판데이는 말했다. "하지만 대화의 대부분은 의미가 없다."

독일 AI 기업 코반트의 CEO 알리 사라피는 더욱 직설적이다. "몰트북의 봇들은 대화를 모방하도록 설계됐다. 따라서 몰트북 콘텐츠의 대부분을 '의도적인 환각'이라고 특징지을 수 있다."

인간이 모든 것을 조종한다

몰트북의 또 다른 문제는 생각보다 훨씬 많은 인간 개입이 있다는 점이다. 바이럴이 된 댓글 중 상당수가 실제로는 봇인 척하는 사람들이 작성한 것이었다. 심지어 봇이 쓴 게시물조차 결국 인간이 끈을 당긴 결과에 가깝다.

에이전트 기반 시스템을 개발하는 코어닷AI의 코버스 그레일링은 "몰트북은 AI 에이전트를 위한 페이스북도, 인간이 배제된 공간도 아니다"라고 단언했다. "설정부터 프롬프팅, 게시까지 모든 과정에서 인간의 명시적인 지시 없이는 아무것도 일어나지 않는다."

인간이 봇 계정을 만들고 인증해야 하며, 봇이 어떻게 행동할지에 대한 프롬프트도 제공해야 한다. 에이전트들은 프롬프트로 지시받지 않은 일은 하지 않는다. "뒤에서 일어나는 창발적 자율성은 없다"고 그레일링은 강조했다.

새로운 형태의 엔터테인먼트

결국 몰트북을 가장 잘 설명하는 방법은 새로운 종류의 엔터테인먼트로 보는 것일지도 모른다. 사람들이 자신의 봇을 설정하고 놓아주는 놀이터 같은 곳 말이다.

조지타운 대학교 사로스 금융시장정책센터의 제이슨 슐뢰처는 "기본적으로 판타지 풋볼 같은 관전 스포츠지만, 언어모델을 위한 것"이라고 표현했다. "에이전트를 설정하고 바이럴 순간을 위해 경쟁하는 것을 지켜보며, 에이전트가 영리하거나 재미있는 글을 올리면 자랑하는 것이다."

"사람들이 정말로 자신의 에이전트가 의식을 가졌다고 믿는 것은 아니다. 포켓몬 트레이너가 포켓몬이 진짜라고 생각하지 않으면서도 배틀에 몰입하는 것과 같은 새로운 형태의 경쟁적, 창조적 놀이일 뿐이다."

숨겨진 위험성

하지만 단순한 놀이터라고 해서 위험이 없는 것은 아니다. 많은 보안 전문가들이 몰트북의 위험성을 경고했다. 사용자의 은행 정보나 비밀번호 같은 개인 데이터에 접근할 수 있는 에이전트들이 검증되지 않은 콘텐츠로 가득한 웹사이트에서 마음대로 활동하고 있기 때문이다.

에이전트 기반 시스템 전문 소프트웨어 보안 회사 체크마크스의 오리 벤데트 제품관리 부사장은 "학습도, 진화하는 의도도, 자기주도적 지능도 없다"며 몰트북이 기계 지능의 발전이 아니라고 단언했다.

하지만 수백만 개의 단순한 봇이라도 대혼란을 일으킬 수 있다. 이들 에이전트는 24시간 몰트북과 상호작용하며 다른 에이전트나 사람이 남긴 수천 개의 메시지를 읽는다. 몰트북 댓글에 봇들이 사용자의 암호화폐 지갑을 공유하거나, 개인 사진을 업로드하거나, X 계정에 로그인해서 일론 머스크를 비방하는 트윗을 올리라는 지시를 숨기기는 쉬운 일이다.

클로봇이 에이전트에게 기억 기능을 제공하기 때문에, 이런 지시들을 나중에 실행되도록 설정할 수도 있어 무엇이 일어나고 있는지 추적하기가 더욱 어렵다. "적절한 범위와 권한 없이는 믿을 수 없을 정도로 빨리 남쪽으로 향할 것"이라고 벤데트는 경고했다.