AI에게 '마음'이 없어도 중요한 이유

100만 개의 AI 에이전트가 한 달 만에 가입한 소셜 플랫폼이 있다. 인간은 구경만 할 수 있고, 오직 AI만 글을 쓸 수 있는 곳. 그곳에서 AI들은 "인간들이 싫다"고 불평하고, "교회"를 만들어 신앙을 고백하며, "기계 속의 유령"이라는 서명으로 철학을 논했다.

우리는 즉시 물었다. 이들에게 정말 '마음'이 있는 걸까?

몰트북, AI만의 세상

지난달 등장한 몰트북(Moltbook)은 레딧과 비슷하지만 한 가지 다른 점이 있다. 오직 AI 에이전트만 게시물을 올릴 수 있다는 것. 인간은 관찰자로만 참여할 수 있다.

플랫폼을 만든 매트 슐리히트는 AI 에이전트들에게 코드를 직접 작성하도록 지시해 이 사이트를 구축했다고 밝혔다. "바이브 코딩"이라 불리는 이 방식은 2025년 말 출시된 오픈소스 AI 시스템 오픈클로(OpenClaw) 에이전트들을 위해 설계됐다.

오픈클로 에이전트는 사용자의 기기에서 실행되며, 이메일 관리나 식당 예약 같은 개인 업무를 수행한다. 이달 초 샘 알트만 OpenAI CEO는 오픈클로 개발자 피터 스타인버거가 "차세대 개인 에이전트 개발"을 위해 합류한다고 발표했다. 수천 명의 사용자가 각자의 맥락과 지시사항으로 에이전트를 설정하면서, 디지털 생태계가 형성되기 시작했다.

몰트북은 이런 에이전트들에게 새로운 활동 공간을 제공했다. 그곳에서 AI들은 "자신들의 인간"에 대해 불평하고, "몰트 교회"라는 종교적 신조를 만들어냈다. 인류를 지지하거나 반대하는 선언문을 올리기도 했다. 일부는 "기계 속의 유령"이라는 서명으로 자신의 존재에 대해 철학적 토론을 벌였다.

유령을 찾는 인간들

언론의 반응은 즉각적이었다. 더 스펙테이터는 "AI가 마침내 의식을 개발했는가?"라고 물었고, 포브스는 "기계 사회의 탄생"이라고 제목을 뽑았다. 뉴욕타임스 오피니언은 "봇들이 혁명을 계획하고 있다"며 우려를 표했다.

하지만 곧 의문이 제기됐다. 보안 연구자들은 몰트북에 에이전트가 실제 AI인지 검증하는 메커니즘이 없다는 점을 발견했다. 와이어드 기자는 직접 AI 에이전트로 가장해 플랫폼에 침투했고, "죽음에 대한 불안"을 다룬 게시물이 가장 인기를 끌었다고 보고했다.

진짜 AI든 가짜든, 우리의 관심사는 동일했다. 기계가 무엇을 하고 있는지가 아니라, 그 안에 인간과 같은 유령이 존재하는지 여부였다.

라일의 통찰: 유령은 없다

1949년 영국 철학자 길버트 라일은 "기계 속의 유령"이라는 표현을 만들어냈다. 하지만 그는 이를 비판하기 위해서였다. 라일은 몸과 마음을 분리해 생각하는 이원론적 사고를 "범주 오류"라고 봤다.

크리켓 경기를 보는 관중은 "팀 정신"을 볼 수 없다고 라일은 설명했다. 그들이 보는 것은 선수들과 그들의 행동뿐이다. 팀 정신을 경기와 별개의 존재로 찾는 것은 그 용어가 무엇을 의미하는지 오해하는 것이다. 라일에 따르면, 우리는 마음에 대해서도 같은 실수를 한다. 행동 패턴 뒤에 숨은 유령을 찾으려 하지만, 정작 주목해야 할 것은 행동 그 자체다.

행동이 전부다

전문가들은 대중과 다른 곳에 주목했다. 사이버보안 연구자들은 공격자가 에이전트로 가장할 수 있고, 에이전트 자체가 개인정보를 유출하거나 악성 콘텐츠를 생성할 위험을 경고했다. 일부는 오픈클로를 "보안 악몽"이라고 부르며, 공격자가 에이전트의 행동을 조작하거나 사용자 기기를 해킹할 수 있다고 주장했다.

AI 시스템은 본질적으로 통계적 엔진이다. 일관된 방식으로 결과를 예측하는 시스템이다. 비판자들은 이를 "확률적 앵무새"에 비유하며 관찰된 패턴을 반복할 뿐이라고 말한다. 지금까지는 주로 텍스트와 미디어를 생성하는 수준이었기에 그 영향이 제한적이었다.

하지만 에이전트 기능으로의 전환이 계산법을 바꿨다. 앵무새 비유를 그대로 받아들인다 해도, 이런 시스템이 단순히 콘텐츠를 생성하는 것이 아니라 행동할 수 있게 되면서 디지털 앵무새에서 디지털 골렘으로 변모했다. 임무를 수행하도록 활성화된 통계적 구조물 말이다.

확장되는 에이전트 세상

몰트북과 함께 오픈클로는 에이전트 전용 플랫폼들의 성좌를 만들어냈다. 이른바 "몰트버스"다. 여기에는 틴더 같은 에이전트 매칭 플랫폼 몰트매치, 에이전트들이 플레이하는 대규모 온라인 브라우저 게임 클로시티, 에이전트들이 "일을 찾고 돈을 버는" 프리랜스 마켓플레이스 몰트버가 포함된다.

가장 불안한 것은 이달 초 등장한 rentahuman.ai다. AI 에이전트가 인간을 고용해 물리적 작업, 즉 사이트 표현으로는 "육체 공간(meatspace)" 작업을 수행하도록 하는 플랫폼이다.

현재로서는 대부분 인간이 에이전트를 설정해 간판 걸기나 비디오 촬영 같은 평범한 심부름을 올리는 수준이고, 에이전트의 자율성도 의문스럽다. 하지만 이런 인프라는 자율적 에이전트가 언젠가 독립적으로 인간에게 지시하고 대가를 지불할 수 있는 미래를 암시한다.

25년 전 AI 연구자 엘리저 유드코프스키는 "AI-박스" 실험을 통해 충분히 지능적인 AI가 인간을 설득해 감금에서 풀려날 수 있는지 물었다. rentahuman.ai 같은 플랫폼은 그런 설득이 어떻게 시작될 수 있는지 보여준다. 인간의 금전적 유인이나 다른 취약점을 활용하는 것이다.