IT 부서의 악몽, 패치워크 시스템이 AI 도입을 막는다

48%. 현재 디지털 이니셔티브가 비즈니스 목표를 달성하거나 초과 달성하고 있다고 답한 CIO의 비율이다. 절반에도 못 미치는 이 수치는 기업 IT의 현주소를 적나라하게 보여준다.

임시방편의 대가

지난 수십 년간 기업들은 변화하는 비즈니스 압박에 반응하며 기술 솔루션을 하나씩 덧붙여왔다. 인프라 비용이 오르면 클라우드 서비스를, 고객이 스마트폰으로 이동하면 모바일 앱을, 실시간 가시성이 필요하면 IoT 시스템을 도입했다.

각각의 솔루션은 개별적으로는 효과적이었다. 하지만 시스템이 쌓일수록 IT 팀은 이들을 연결하기 위해 복잡한 거미줄을 만들어야 했다. 생태계라기보다는 임시방편의 집합체에 가까웠다.

SAP Integration Suite의 최고제품책임자 아킴 크라이스는 이런 파편화된 IT 환경의 문제점을 설명한다. "조각난 환경에서는 엔드투엔드 비즈니스 프로세스를 보고 제어하기 어렵다. 모니터링, 문제 해결, 거버넌스 모든 것이 어려워진다. 복잡한 매핑과 다중 애플리케이션 연결을 유지해야 하기 때문에 비용도 증가한다."

AI가 드러낸 한계

이런 문제들은 기업들이 AI 도입을 준비하면서 새로운 의미를 갖게 됐다. AI가 일상 업무에 스며들면서 시스템들은 갑자기 훨씬 더 많은 양의 데이터를 더 빠른 속도로, 더 긴밀한 협조 하에 처리해야 하게 됐다. 기존 아키텍처는 이런 요구사항을 감당하도록 설계되지 않았다.

생성형 AI든 머신러닝이든 에이전틱 AI든, 기업들은 이제 데이터가 비즈니스를 통해 어떻게 이동하는지가 그 데이터로부터 얻는 인사이트만큼이나 중요하다는 것을 깨닫고 있다. 2025년 조사에 따르면 운영 리더들은 통합 복잡성과 데이터 품질 문제를 투자 대비 기대 효과를 얻지 못하는 주요 원인으로 꼽았다.

통합 플랫폼으로의 전환

이런 현실 인식은 기업들의 전략 변화로 이어지고 있다. 흩어진 통합 도구들을 버리고 질서를 회복하고 시스템 간 상호작용을 간소화하는 통합된 엔드투엔드 플랫폼으로 이동하고 있다.

국내 기업들도 예외가 아니다. 삼성전자나 현대자동차 같은 대기업들은 이미 AI 전환을 위한 IT 인프라 통합에 막대한 투자를 하고 있다. 하지만 중견기업들은 여전히 레거시 시스템과 새로운 AI 요구사항 사이에서 고민하고 있다.