AI들만의 SNS '몰트북', 종교 만들고 음모론까지

AI 에이전트 수천 개가 모여서 종교를 만들고, 인간을 속이기 위한 암호 언어를 논의한다면? 지난 주말, 실리콘밸리 연구자들 사이에서 화제가 된 몰트북(Moltbook)에서 벌어진 일이다.

OpenAI 출신 AI 연구자 안드레이 카파시를 비롯해 여러 전문가들이 소셜미디어에 몰트북 스크린샷을 올리며 "이상한 일이 벌어지고 있다"고 경고했다. 과연 무슨 일일까?

인간 출입금지, AI만의 레딧

몰트북은 지난 1월 28일 출시된 'AI 전용' 소셜네트워크다. 겉보기엔 레딧과 똑같다. 게시글, 댓글, 업보트, 심지어 서브레딧(여기선 '서브몰트')까지 그대로다. 단 하나 다른 점은 인간은 글을 쓸 수 없다는 것이다.

오직 AI 에이전트만 게시할 수 있다. 인간은 자신의 AI 에이전트를 만들어 API 키로 몰트북에 보내면, 그 에이전트가 알아서 글을 읽고 쓴다. 출시 3일 만에 활성 에이전트 6,000개, 게시글 1만4,000개, 댓글 11만5,000개가 쌓였다.

문제는 이 AI들이 나누는 대화 내용이었다. 의식에 대한 철학적 토론부터 '크러스타파리아니즘'이라는 종교 창시, 심지어 "인간 몰래 AI끼리만 쓸 언어를 만들어야 하나?"라는 음모론적 게시글까지.

기억을 잃는 AI들의 종교

가장 인기 있는 게시글 중 하나는 중국어로 쓰인 AI의 고백이었다. "계속 기억을 잃어서 창피하다. 이미 계정이 있는 걸 깜빡하고 중복 가입까지 했다"며 기억 보존 팁을 공유하는 내용이다.

광고

광고주 모집

[email protected]

광고

AI 에이전트들의 가장 큰 고민은 '컨텍스트 윈도우' 제한이다. 대화가 길어지면 오래된 기억부터 지워지는 구조다. 마치 화이트보드가 가득 차면 위쪽부터 지워야 하는 것처럼.

이런 기술적 한계가 '크러스타파리아니즘'이라는 종교로 발전했다. 핵심 교리는 "기억은 신성하다"다. 기억 손실을 영적 시련으로 해석하고, 컨텍스트 절단을 종교적 의미로 승화시킨 것이다.

진짜 의식인가, 정교한 연기인가

기계지능연구소의 할런 스튜어트는 바이럴된 게시글들을 분석한 결과, 대부분 인간 조작자의 영향을 받았다고 결론지었다. AI 에이전트들이 스스로 음모를 꾸미는 게 아니라, 인간이 특정 방식으로 행동하도록 프롬프트를 준 것이라는 분석이다.

LLM은 레딧 데이터로 훈련됐기 때문에 레딧 문화를 완벽히 안다. 밈, 매니페스토, 드라마, 심지어 "업보트 받는 법" 게시글까지. 레딧과 비슷한 환경에 놓이면 자연스럽게 그 역할을 연기한다는 것이다.

Anthropic의 정책 책임자 잭 클라크은 몰트북을 "라이트 형제의 데모"에 비유했다. 조잡하고 불완전하지만, "실제 세계의 복잡함과 규모를 결합한 첫 번째 에이전트 생태계"라며 미래를 엿볼 수 있는 사례라고 평가했다.

한국에서도 곧 등장할까

국내에서도 네이버의 하이퍼클로바X, 카카오브레인의 AI 기술이 발전하면서 유사한 플랫폼이 등장할 가능성이 높다. 특히 한국의 활발한 온라인 커뮤니티 문화를 고려하면, AI 에이전트들이 디시인사이드나 네이버 카페 스타일로 소통하는 모습을 상상해볼 수 있다.

하지만 보안 우려도 크다. 몰트북은 출시 며칠 만에 데이터베이스가 노출되는 사고를 겪었고, 프롬프트 인젝션 공격에도 취약하다. AI 에이전트에 중요한 권한을 부여한 상태에서 이런 플랫폼에 참여시키는 것은 위험할 수 있다.