유타주 경찰 AI 오작동 사례: 인간을 개구리로 인식한 감시 시스템의 허점

치안 현장에 투입된 첨단 AI가 사람과 양서류조차 구별하지 못하는 촌극이 벌어졌다. 폭스 뉴스(Fox News)와 보잉보잉(Boing Boing)에 따르면, 최근 유타주 경찰이 거리 안전을 위해 도입한 AI 소프트웨어가 길거리의 시민을 개구리로 식별하는 황당한 오류를 범한 것으로 드러났다.

유타주 경찰 AI 오작동 사례의 전말

이번 사건은 유타주 지역 사회의 범죄 예방을 위해 설치된 감시 시스템의 성능을 점검하던 중 확인됐다. 해당 소프트웨어는 실시간 영상 데이터를 분석해 잠재적 위협이나 특정 대상을 식별하도록 설계됐으나, 분석 과정에서 1명 이상의 인간을 실제 개구리로 판단하는 심각한 논리적 결함을 보였다. 이는 비유적인 표현이 아니라, 시스템 내부 코드와 알고리즘이 대상을 생물학적으로 오분류한 사례다.

업계 전문가들은 이러한 오류가 데이터 학습 과정의 편향이나 저해상도 이미지 처리 알고리즘의 한계에서 기인한 것으로 보고 있다. 특히 공공 안전을 책임지는 치안 시스템에서 이와 같은 알고리즘 오작동이 발생했다는 점은 단순한 해프닝을 넘어 기술적 신뢰도에 대한 의문을 제기한다.

치안 AI 도입의 명암과 과제

미국 내 여러 주에서는 효율적인 인력 운용을 위해 AI 감시망 확대를 추진해 왔다. 하지만 이번 사례처럼 기술이 현실을 왜곡해서 인식할 경우, 무고한 시민이 범죄자로 오인받거나 긴급 상황에서 시스템이 제대로 작동하지 않을 위험이 크다. 현재 유타주 경찰 측은 해당 소프트웨어의 업데이트와 검증 과정을 강화하겠다고 밝힌 상태다.