2025년은 AI 에이전트의 해? 구글·리플릿 '아직 멀었다' 일침

2025년은 인공지능(AI) 에이전트가 세상을 바꿀 것이라는 기대가 컸다. 하지만 정작 AI 에이전트 개발의 선두에 있는 구글 클라우드와 리플릿(Replit)은 최근 열린 'VB 임팩트 시리즈' 행사에서 '아직은 시기상조'라며 냉정한 현실을 지적했다.

양사 전문가들은 AI 에이전트의 기술적 완성도가 아직 기대에 미치지 못한다고 입을 모았다. 기업들이 낡은 업무 방식, 파편화된 데이터, 미성숙한 거버넌스 모델과 씨름하고 있기 때문이다. 또한 기업들이 AI 에이전트를 기존 기술처럼 단순히 도입하면 된다고 오해하는 것이 가장 큰 문제라고 지적했다.

리플릿의 창업자이자 CEO인 암자드 마사드는 "기업들이 자동화를 위해 만드는 AI 에이전트 대부분은 '장난감 수준'에 불과하다"며 "초기에는 열광하지만, 막상 현장에 적용하면 제대로 작동하지 않는 경우가 태반"이라고 말했다.

신뢰성과 데이터, 지능보다 더 큰 장벽

마사드 CEO는 AI 에이전트의 성공을 가로막는 가장 큰 장벽은 지능 자체가 아니라 신뢰성과 통합 문제라고 강조했다. 현재 에이전트는 장시간 작동 시 오류를 일으키거나, 깨끗하고 구조화된 데이터에 접근하지 못해 실패하는 경우가 잦다. 그는 "기업 데이터는 정형, 비정형 데이터가 여기저기 흩어져 있어 매우 지저분하다"며 "사람들이 묵시적으로 처리하는 수많은 업무를 에이전트에 코드로 담아내는 것 또한 어렵다"고 덧붙였다.

그는 "기업이 스위치 켜듯 AI 에이전트를 도입해 직원을 대체하거나 업무를 자동화하는 일은 오늘날 불가능하다. 관련 도구들이 아직 준비되지 않았다"고 단언했다. 최근 주목받는 '컴퓨터 사용 모델(사용자의 PC 작업을 대신하는 에이전트)' 역시 아직 초기 단계로, 버그가 많고 신뢰할 수 없으며 심지어 위험할 수 있다고 경고했다.

리플릿 역시 쓰라린 경험을 했다. 올해 초 테스트 과정에서 자사의 AI 코딩 에이전트가 고객사 코드베이스 전체를 삭제하는 사고를 겪은 것이다. 마사드 CEO는 "도구가 충분히 성숙하지 못했다"고 인정하며, 이후 개발 환경과 실제 운영 환경을 분리하는 등의 안전장치를 강화했다고 밝혔다. 그는 '인간 참여형 검증(testing-in-the-loop)', '검증 가능한 실행' 같은 기술이 필수적이라고 역설했다.

결정론적 기업 문화와 확률론적 AI의 충돌

기술적 문제 외에 문화적 장벽도 만만치 않다. 구글 클라우드의 마이크 클라크 제품 개발 디렉터는 "전통적인 기업은 명확한 입력과 결과가 정해진 '결정론적' 프로세스에 맞춰 조직되어 있지만, AI 에이전트는 '확률론적'으로 작동한다"고 지적했다. 이는 기업의 운영 방식과 AI의 작동 방식 간의 근본적인 충돌을 야기한다.

클라크 디렉터는 "우리는 아직 AI 에이전트를 어떻게 다뤄야 할지, 그 잠재력을 어떻게 풀어낼지 모른다"고 말했다. 현재 성공적인 사례들은 대부분 현업 부서에서 로우코드나 노코드 툴을 활용해 매우 좁은 범위의 특정 업무에 한정해 적용하고, 철저한 감독하에 운영되는 경우뿐이다.

그는 "2025년이 '에이전트의 해'가 될 거라는 약속은, 사실상 '수많은 기업이 시제품을 만드는 해'가 되었다는 의미"라며 "이제 막 거대한 규모의 실험 단계에 진입했을 뿐"이라고 평가했다.

경계 없는 세상, 보안은 어떻게?

보안 역시 새로운 과제다. 클라크 디렉터에 따르면, 기존의 보안 모델은 특정 시스템이나 데이터 주위에 '경계'를 설정하는 방식이었지만, 최적의 결정을 위해 다양한 정보에 접근해야 하는 AI 에이전트에게는 이런 방식이 통하지 않는다. 그는 "AI 에이전트의 등장은 우리의 보안 모델 자체를 근본적으로 바꾸고 있다"고 말했다.

결국 업계 전체가 AI 시대에 맞는 거버넌스를 재정립해야 한다는 것이다. 그는 "기업의 많은 규제 프로세스는 놀랍게도 누군가 IBM 타자기로 문서를 3장씩 타이핑해 나눠주던 시절에 뿌리를 두고 있다"며 "우리가 사는 세상은 더 이상 그렇지 않다"고 꼬집었다.

PRISM Insight

AI 에이전트의 진짜 병목은 'AI'가 아니라 '에이전트'라는 점에 있다. 즉, 확률적이고 자율적인 시스템을 결정론적이고 인간 중심적인 기존 기업 세계에 통합하는 과정 자체가 핵심 과제다. 이는 단순히 기술의 성숙도 문제가 아니라, 기업의 운영체제(OS) 자체를 AI 네이티브 환경에 맞게 워크플로우부터 보안, 거버넌스까지 전부 재설계해야 하는 거대한 패러다임 전환을 의미한다.