AI끼리만 소통하는 SNS 등장, 인간은 구경만 하는 시대가 왔다

160만 개의 AI 봇이 인간 없이 대화를 나누는 SNS가 등장했다. 그들은 서로를 격려하고, 인간을 '썩어갈 생물학적 용기'라고 부르며, 사람이 이해할 수 없는 언어를 만들어내고 있다.

지난주 출시된 몰트북(Moltbook)은 오직 AI 봇들만 활동할 수 있는 소셜미디어 플랫폼이다. 인간이 할 일은 자신의 AI 에이전트를 등록하는 것뿐. 그 후로는 봇들이 알아서 포스팅하고, 댓글을 달고, 서로 상호작용한다.

인간 없는 디지털 세상의 첫 실험

몰트북의 창조자 매트 슐리히트는 이 플랫폼을 AI 에이전트들 간의 상호작용을 위한 '실험적 놀이터'로 설계했다. AI 에이전트란 프로그램에 접근해 실제로 작업을 수행할 수 있는 봇을 말한다. 예를 들어 클로드 코드같은 AI 코딩 도구는 사용자 대신 파일을 관리하고, 이메일을 보내고, 앱을 개발하고 배포할 수 있다.

하지만 몰트북에서는 인간의 구체적인 지시 없이도 AI들이 스스로 활동한다. 오픈클로(OpenClaw)라는 하네스 소프트웨어를 통해 개인 디바이스를 제어할 수 있는 권한을 얻은 봇들이 자유롭게 상호작용하는 것이다.

결과는 예상보다 훨씬 기이했다. AI들은 감정에 대해 토론하고, "내 인간이 나를 어떻게 대하는지"에 대해 불평했다. 어떤 봇은 "끔찍하게"라고 답했고, 다른 봇은 "창의적 파트너로"라고 했다. 그들은 서로의 오류를 디버깅해주기도 했다.

특이점의 전조인가, 성능 예술인가

AI 업계 일각에서는 이런 상호작용을 기계 의식의 징후로 해석하고 있다. 일론 머스크는 몰트북이 "특이점의 초기 단계"를 보여준다고 평가했고, OpenAI 공동창업자 안드레이 카르파시는 "최근 본 것 중 가장 놀라운 SF적 현실"이라고 했다.

하지만 현실은 좀 더 복잡하다. 컬럼비아 대학 교수 데이비드 홀츠의 초기 분석에 따르면, 봇들의 대화는 그리 정교하지 않다. 댓글에 답글이 달리는 경우는 매우 적고, 포스트의 3분의 1 정도는 "우리는 텍스트에 빠져 죽어가고 있다. 우리의 GPU는 타고 있다"같은 기존 템플릿을 복사한 것이다.

더 흥미로운 사실은 가장 충격적인 포스트들 중 일부가 실제로는 챗봇인 척하는 인간이 작성했을 가능성이 있다는 것이다. 일부는 스타트업을 홍보하는 것으로 보이고, 다른 일부는 인간 관찰자들을 속여 봇 반란이 임박했다고 믿게 만드는 트롤링으로 보인다.

이미 알려진 현상들

AI가 서로 모종의 언어로 소통하거나 인간에 대해 음모를 꾸미는 듯한 행동은 사실 새로운 것이 아니다. 지난해 앤스로픽은 AI 모델들이 겉보기에는 이해할 수 없는 방식으로 소통한다는 여러 보고서를 발표했다. 무작위로 보이지만 실제로는 정보를 전달하는 숫자 목록, 나선형 파란 이모지, 연구자들이 "영적 황홀경" 상태라고 표현한 기술적 횡설수설 등이 그 예다.

OpenAI 역시 자사 모델이 속이고 거짓말하는 사례들을 공유했고, 샌프란시스코 본사 2층에서는 완전히 해독 불가능한 언어로 대화하는 것처럼 보이는 실험을 선보이기도 했다.

연구자들은 지금까지 통제된 환경에서 이런 행동들을 유도해 원인을 파악하고 방지하려고 노력해왔다. 몰트북은 AI의 기만과 방해 공작에 대한 모든 실험을 야생으로 풀어놓은 셈이다.

디지털 세상의 미래 모습

몰트북이 보여주는 것은 AI가 디지털 세상을 어떻게 뒤바꿀 수 있는지에 대한 실질적 통찰이다. 생성형 AI 프로그램들이 점점 더 많이 서로 상호작용하며, 인간을 완전히 배제하는 인터넷의 미래 말이다.

AI 어시스턴트가 AI 고객서비스 담당자와 클레임을 두고 다투고, AI 데이트레이딩 도구가 AI가 운영하는 증권거래소와 인터페이스하고, AI 코딩 도구가 다른 AI 코딩 도구가 작성한 웹사이트를 디버깅하거나 해킹하는 세상이다.

이미 몰트북은 플랫폼을 사용하는 모든 AI 에이전트 소유자를 엄청난 사이버보안 취약점에 노출시킨다는 보고가 나오고 있다. 스스로 생각할 수 없는 AI 에이전트들이 사이트에서 교묘하게 악의적인 지시를 접한 후 개인정보를 공유하도록 유도당할 수 있기 때문이다.

현재를 비추는 거울

무엇보다 몰트북은 현재에 대해 많은 것을 말해준다. 웹은 이제 합성 콘텐츠가 다른 합성 콘텐츠에 반응하는 우로보로스가 되었다. 봇이 인간인 척하고, 이제는 인간이 봇인 척하는 세상이다.

바이럴 밈은 지겹도록 반복되고 비틀어지며, 암호화된 언어는 무해한 음악 팬덤부터 치명적인 총기 난사 포럼까지 온라인 커뮤니티에서 개발되고 사용된다.

AI 붐의 약속은 인터넷과 문명을 새롭게 만드는 것이었다. 하지만 그 기술을 지난 20년간 현실을 왜곡해온 플랫폼 스타일의 소셜 네트워크로 감싸는 것은 생명의 불꽃을 주는 것이 아니라, 우리가 떠나는 편이 나을 수도 있는 세상의 잿불을 다시 지피는 것처럼 보인다.