로블록스 AI 연령 인증 오류 파문: 가짜 수염에 뚫린 1억 5천만 명의 안전망

어린이의 얼굴에 검은 펜으로 그린 가짜 수염이 21세 성인 인증권이 됐다. 전 세계 1억 5,000만 명 이상의 일간 활성 사용자를 보유한 메타버스 플랫폼 로블록스(Roblox)가 야심 차게 도입한 AI 연령 인증 시스템이 출시 직후 거센 비판에 직면했다. 아동 보호를 위해 도입된 기술이 오히려 보안 구멍을 노출하며 사용자들의 반발을 사고 있다.

로블록스 AI 연령 인증 오류 사례와 시스템 취약점

와이어드(WIRED)의 보도에 따르면, 지난주 미국을 비롯한 전 세계에 배포된 로블록스의 얼굴 스캔 시스템이 심각한 오작동을 일으키고 있다. 이 시스템은 AI 전문 업체 페르소나(Persona)의 기술을 활용해 사용자의 연령을 추정하지만, 실제로는 성인을 미성년자로, 미성년자를 성인으로 오판하는 사례가 속출하고 있다. 심지어 사망한 가수 커트 코베인의 사진이나 아바타를 이용해 인증을 통과하는 영상이 소셜 미디어를 통해 확산 중이다.

소통 단절과 개발자 커뮤니티의 반발

기술적 결함은 게임 내 생태계에도 타격을 주고 있다. 인증 절차를 거부하거나 오류로 인해 차단된 사용자가 늘어나면서 플랫폼의 핵심인 채팅 기능 이용률이 급감했다. 한 개발자는 이번 업데이트 이후 텍스트 채팅을 사용하는 유저 비율이 기존 85%에서 36%로 폭락했다고 밝혔다. 사용자들은 소통이 단절된 로블록스를 두고 '유령 도시' 같다며 불만을 토로하고 있다.

로블록스의 최고 안전 책임자(CSO) 매트 카우프만(Matt Kaufman)은 이메일을 통해 "전례 없는 규모의 시스템을 구축하면서 하룻밤 사이에 완벽을 기대하는 것은 무리"라며, 이미 수천만 명의 사용자가 인증을 완료한 것에 만족한다는 입장을 밝혔다. 하지만 루이지애나, 텍사스, 켄터키주 검찰총장이 제기한 소송 등 아동 보호 실패에 대한 법적 압박이 거세지는 상황에서 이번 사태는 로블록스의 위기 관리 능력에 의구심을 더하고 있다.