RobloxのAI年齢確認システムが波紋、チャット利用者が大幅減少の事態に

10歳の子供が21歳以上と判定され、大人の会話に放り込まれる――。世界で1億5000万人以上のデイリーアクティブユーザーを抱える人気ゲームプラットフォーム「Roblox（ロブロックス）」が導入したAI年齢確認システムが、リリース直後から深刻な混乱に直面しています。

Roblox AI年齢確認システムの導入と誤判定の現状

WIREDなどの報道によりますと、Robloxは先週、ユーザーが安全に適切な年齢層とチャットを楽しめるよう、顔スキャンによる年齢推定システムを米国などで本格導入しました。このシステムは、Persona社のAI技術を用いて動画から年齢を推測するものですが、すでに多くの誤判定が報告されています。

さらに深刻なのは、システムを欺く手法がSNSで拡散されている点です。ペンで顔にシワを描き込んで「21歳以上」の判定を勝ち取った少年や、eBayでわずか4ドルで販売されている年齢認証済みアカウントの存在も確認されています。これにより、本来の目的である「捕食者（プレデター）から子供を守る」機能が形骸化しているとの懸念が専門家から上がっています。

開発者から悲鳴、チャット利用率は85%から36%へ急落

このアップデートの影響は、プラットフォームの活気にも及んでいます。ある開発者が公開したデータによると、ゲーム内でのテキストチャット利用率は、導入前の85%から36%へと劇的に低下しました。ユーザーからは「街が死んだようだ」「ゴーストタウン化した」といった不満が噴出しており、ソーシャルな繋がりを重視する同プラットフォームの根幹を揺るがしています。