AI가 아마존 서비스를 다운시켰다

수십억 달러 규모의 아마존 서비스가 AI 봇 하나 때문에 멈춰 섰다. 인간이 아닌, 코드를 자동으로 작성하는 AI가 저지른 일이다.

무슨 일이 일어났나

아마존의 AI 코딩 봇이 핵심 서비스 중 하나를 완전히 다운시켰다. 이 봇은 개발자를 돕기 위해 만들어졌지만, 예상치 못한 코드를 생성해 시스템을 마비시켰다. 정확한 피해 규모나 복구 시간은 공개되지 않았지만, 아마존의 클라우드 서비스 AWS가 연간 800억 달러의 매출을 올리는 점을 감안하면 그 파급효과를 짐작할 수 있다.

문제는 단순한 버그가 아니었다. AI가 스스로 판단해 작성한 코드가 시스템의 핵심 부분을 건드린 것이다. 마치 의사가 처방전을 잘못 써서 환자가 위험해진 상황과 비슷하다.

자동화의 딜레마

이번 사건은 AI 자동화의 양면성을 드러낸다. 개발 속도는 10배 빨라질 수 있지만, 실수의 파급력도 그만큼 커진다. 인간 개발자라면 신중하게 검토했을 코드를 AI는 '확신'을 가지고 배포해버렸다.

국내 IT 기업들도 비슷한 위험에 노출돼 있다. 네이버, 카카오, 삼성SDS 모두 AI 코딩 도구를 도입하고 있다. 개발 효율성은 높아지지만, 한 번의 실수가 수백만 사용자에게 영향을 미칠 수 있다는 점은 동일하다.

누구의 책임인가

가장 복잡한 문제는 책임 소재다. AI가 저지른 실수를 누가 책임져야 할까? 개발자? AI를 만든 회사? 아니면 AI를 도입한 기업?

전통적으로 개발자가 코드에 대한 책임을 졌지만, AI가 자동으로 생성한 코드에서 문제가 발생하면 상황이 애매해진다. 마치 자율주행차 사고에서 운전자와 제조사 중 누구를 탓해야 할지 모르는 것과 같다.

보험업계는 벌써 움직이고 있다. 'AI 실수 보험' 같은 새로운 상품이 등장할 조짐이다. 기업들이 AI 도입으로 얻는 이익만큼 새로운 위험도 감수해야 한다는 뜻이다.