스타트업 창업자들이 마주한 새로운 딜레마

90%가 예상 못한 복병

OpenAI의 API 호출 한 번에 0.002달러. 별것 아닌 것 같지만, 사용자 10만 명이 하루에 100번씩 쓰면 월 6만 달러다. 구글 클라우드 글로벌 스타트업 담당 부사장 대런 모리가 최근 테크크런치 팟캐스트에서 공개한 이야기는 충격적이다. "대부분 창업자들이 무료 크레딧 단계를 넘어서면서 예상치 못한 인프라 비용에 당황한다"는 것이다.

무료 점심은 없다는 오래된 진리

구글 클라우드는 스타트업에 최대 20만 달러 상당의 무료 크레딧을 제공한다. AWS도, 마이크로소프트 애저도 마찬가지다. 문제는 그 다음이다. AI 스타트업들이 실제 서비스를 런칭하고 사용자가 늘어나면서 인프라 비용이 기하급수적으로 증가한다.

모리 부사장은 "창업자들이 초기에 GPU 접근성과 파운데이션 모델 때문에 특정 클라우드를 선택하지만, 나중에 그 선택이 족쇄가 되는 경우를 자주 본다"고 말했다. 특히 한국 스타트업들의 경우, 글로벌 진출을 염두에 두고 해외 클라우드를 선택했다가 예상보다 높은 비용 때문에 사업 계획을 수정하는 일이 빈번하다.

투자자들도 예민해졌다

더 큰 문제는 투자 환경의 변화다. 2022년 이후 벤처캐피털들이 수익성을 더 엄격하게 따지면서, 스타트업들은 '진짜 견인력'을 더 빨리 보여줘야 한다. 무료 크레딧으로 버티는 시간이 줄어든 것이다.

네이버 클라우드나 NHN같은 국내 클라우드 업체들은 이런 상황을 기회로 본다. 한국어 지원과 상대적으로 저렴한 비용을 무기로 AI 스타트업들을 유치하고 있다. 하지만 글로벌 확장을 고려하면 여전히 해외 클라우드의 매력이 크다.

선택의 기로에 선 창업자들

모리 부사장이 제시하는 해법은 명확하다. "초기부터 확장성을 고려한 아키텍처를 설계하라"는 것이다. 특정 클라우드 서비스에 종속되지 않는 멀티 클라우드 전략이나, 비용 최적화를 위한 하이브리드 접근법을 권한다.

하지만 현실은 녹록지 않다. 스타트업 창업자들은 제품 개발, 팀 구성, 투자 유치 등 수많은 일을 동시에 해야 한다. 인프라 최적화까지 신경 쓸 여유가 부족하다는게 솔직한 현실이다.