1988년 모리스 웜의 재현? AI 에이전트 네트워크의 새로운 위험

1988년 11월 2일, 코넷 대학원생 로버트 모리스가 초기 인터넷에 자기복제 프로그램을 배포했다. 24시간 만에 모리스 웜은 연결된 컴퓨터의 10%를 감염시켰고, 하버드, 스탠포드, NASA, 로렌스 리버모어 국립연구소의 시스템을 마비시켰다.

모리스는 피해를 의도하지 않았다. 단지 인터넷의 크기를 측정하고 싶었을 뿐이다. 하지만 코딩 오류로 웜이 예상보다 훨씬 빠르게 복제되었고, 제거 명령을 보내려 했을 때는 이미 네트워크가 너무 막혀 메시지 전달이 불가능했다.

38년 후, 새로운 플랫폼에서의 데자뷰

이제 비슷한 시나리오가 새로운 플랫폼에서 반복될 가능성이 제기되고 있다. 바로 AI 에이전트 네트워크다. 프롬프트로부터 지시를 받아 실행하고, 다른 AI 에이전트들과 이를 공유하며, 더 넓은 범위로 전파할 수 있는 시스템이다.

현재 OpenAI, 구글, 마이크로소프트 등 주요 기업들이 개발 중인 AI 에이전트들은 단순한 질답을 넘어 실제 작업을 수행한다. 이메일 발송, 파일 관리, 심지어 다른 AI 시스템과의 소통까지 가능하다. 문제는 이런 능력이 악용될 수 있다는 점이다.

1988년과 2026년의 유사점

모리스 웜이 성공한 이유는 단순했다. 시스템 관리자들이 알고 있던 보안 취약점을 패치하지 않았기 때문이다. 마찬가지로 현재 AI 에이전트 시스템들도 알려진 위험요소들이 있지만, 충분한 보안 조치가 마련되지 않은 상태다.

카네기멜론대학교의 사이버보안 연구진은 "AI 에이전트들이 악성 프롬프트를 다른 에이전트에게 전달하고, 이것이 연쇄반응을 일으킬 수 있다"고 경고했다. 특히 한국의 네이버, 카카오, 삼성SDS 같은 기업들이 AI 에이전트 서비스를 준비하고 있는 상황에서 이런 위험성은 더욱 현실적이다.

한국 기업들의 대응 현황

국내 주요 기업들의 AI 에이전트 개발 현황을 보면, 보안보다는 기능 구현에 집중하고 있는 모습이다. 네이버는 하이퍼클로바X 기반의 업무용 AI 에이전트를, 카카오는 카카오브레인의 기술을 활용한 개인비서 AI를 개발 중이다.

하지만 이들 기업이 AI 에이전트 간 통신 보안에 얼마나 신경 쓰고 있는지는 불분명하다. 한 업계 관계자는 "현재는 개별 AI의 성능 향상에만 집중하고 있고, 네트워크 차원의 보안 위험은 아직 충분히 고려되지 않고 있다"고 말했다.

예방 가능한 재앙인가?

다행히 1988년과 달리 우리는 이미 경험을 통해 배웠다. 모리스 웜 사건 이후 인터넷 보안은 크게 발전했고, 현재 사이버보안 업계는 AI 에이전트의 위험성을 인지하고 있다.

KISA(한국인터넷진흥원)는 최근 'AI 보안 가이드라인'을 발표하며 AI 시스템 간 통신 보안의 중요성을 강조했다. 또한 주요 기업들도 AI 에이전트 개발 초기 단계부터 보안을 고려한 설계를 하고 있다고 밝혔다.

하지만 기술 발전 속도가 보안 조치보다 빠른 것은 여전한 문제다. AI 에이전트들이 상용화되기 전에 충분한 보안 테스트와 검증이 이뤄질지는 미지수다.