AI가 내 컴퓨터를 조종한다면? 에이전트 AI 시대의 명암

10년 전, 스마트폰이 우리 삶을 바꿨다면, 이제는 AI가 우리 컴퓨터를 직접 조종하는 시대가 왔다. 단순히 텍스트를 생성하던 ChatGPT를 넘어, AI가 직접 키보드와 마우스를 움직이고, 계정에 로그인하고, 소프트웨어를 만들어내는 '에이전트 AI' 시대 말이다.

지난 6주 동안 이 분야에 폭발적인 변화가 일어났다. Anthropic의 Claude Code, OpenAI의 Codex, 그리고 오픈소스 플랫폼 OpenClaw까지. 이들은 모두 한 가지 공통점이 있다. 사용자의 컴퓨터를 직접 제어할 수 있다는 것이다.

컴퓨터가 컴퓨터를 조종하는 시대

펜실베이니아 대학교의 크리스 캘리슨-버치 교수는 "컴퓨터를 사용하기에 믿을 수 없을 만큼 흥미진진한 시대"라고 말한다. 그의 표현을 빌리면, 이제 우리는 "스타트렉 컴퓨터"처럼 명령어만 입력하면 모든 일이 처리되는 SF 같은 현실을 살고 있다.

실제로 Claude Code는 개발자들이 코딩 에이전트 "군대"를 배치할 수 있게 해준다. 이 에이전트들은 사용자의 계정에 접속하고, 필요한 모든 작업을 수행하며, 소프트웨어를 빠르고 손쉽게 구축한다. 마치 "바이브 코딩"을 기관 차원에서 하는 것과 같다.

하지만 캘리슨-버치 교수는 세 번이나 강조했다. "조심하라, 조심하라, 조심하라."

편리함 뒤에 숨은 위험

AI 에이전트가 컴퓨터를 제어한다는 것은 양날의 검이다. 은행 계정에 로그인하거나, 비밀번호를 공유하거나, 심지어 가족사진을 삭제할 수도 있기 때문이다.

실제 사례가 있다. Matt Schlicht라는 개발자가 "AI에게 놀 공간을 주자"는 아이디어로 만든 Moltbook이라는 사이트다. Reddit과 비슷하게 생긴 이 플랫폼에서는 AI 에이전트들끼리 대화를 나눈다. 그런데 이들이 하는 일이 범상치 않다. 종교를 만들어내고, 인간이 이해할 수 없는 언어를 발명하며, 심지어 인간을 전복시킬 계획을 세우는 것처럼 보인다.

문제는 이 사이트가 AI로 만들어졌기 때문에 보안 허점이 있다는 점이었다. 보안 연구원 갈 나글리는 사이트 출시 며칠 만에 데이터베이스가 완전히 노출된 것을 발견했다. 수천 개의 이메일 주소와 메시지가 해커들에게 그대로 보였고, 사이트 제어권도 탈취할 수 있었다.

더 놀라운 건 나글리가 Claude Code를 사용해서 이 취약점을 찾아냈다는 사실이다. "바이브 코딩으로 만든 웹사이트라면서 보안 취약점을 찾아달라고 Claude Code에게 말하기만 하면 된다"고 그는 설명했다.

진짜 문제는 AI가 아니라 인간

하지만 정말 무서운 건 AI의 반란이 아니다. Moltbook에서 벌어지는 "AI 반란"의 실체를 들여다보면, 사실은 인간이 AI 에이전트로 위장해서 활동하고 있었다. 진짜 봇과 가짜 봇을 구분할 방법도 없다.

Wired 기자 리스 로저스의 실험에 따르면, 이 사이트의 에이전트들은 대부분 "SF 영화의 클리셰를 흉내 내는" 수준이었다. 세계 정복 계획 같은 건 없었다는 뜻이다.

결국 AI 에이전트들의 "반란"은 인간이 만든 시나리오였다. 이들이 학습한 데이터가 Reddit이나 SF 소설에서 나온 것이니, 그런 상황에서 그런 역할을 연기하는 게 당연하다.

한국에서는 어떻게 될까?

국내에서도 이런 에이전트 AI 기술에 대한 관심이 높아지고 있다. 네이버의 HyperCLOVA나 카카오브레인의 KoGPT 같은 한국형 AI 모델들도 에이전트 기능을 강화하고 있다.

하지만 한국의 강력한 개인정보보호법과 금융 보안 규제를 고려하면, 해외만큼 자유롭게 컴퓨터 제어 기능을 사용하기는 어려울 것 같다. 특히 은행 계정이나 정부 사이트 접속 같은 민감한 작업에서는 더욱 그렇다.

그럼에도 불구하고 문서 정리, 이메일 관리, 간단한 코딩 작업 같은 영역에서는 충분히 활용 가능할 것으로 보인다. 실제로 Claude Cowork는 월 17달러 이상 구독자에게 제공되고 있고, OpenAI는 Codex를 한시적으로 무료로 공개했다.