自動運転車は「止まれ」を学べるか

Waymoの自動運転車がスクールバスの停車サインを無視し続けた問題は、AIが「例外」を学ぶことの難しさを浮き彫りにしています。日本の自動運転開発にも示唆する教訓とは。

子どもたちがスクールバスから降り、まだ道路を渡り終えていない——その瞬間に、自動運転車は止まらずに通り過ぎた。

テキサス州オースティンで起きたこの出来事は、1度や2度ではありませんでした。Waymoの自動運転タクシーが、赤いフラッシュライトと停止アームを展開したスクールバスを無視して通過した事例は、学校関係者によれば少なくとも19件に上ります。そのうちの1件では、車両が通過したのは「子どもが車の前を横断したわずか数秒後、その子がまだ道路上にいる間」だったと記録されています。

「学習する」はずのAIが、なぜ学ばなかったのか

Waymoは自社サイトで「Waymoドライバーは、過去のハードウェア世代を含むフリート全体で収集された経験から学習します」と説明しています。自動運転技術の大きな売りのひとつは、1台の車が経験した失敗を、すべての車が共有して学べるという「集合知」の仕組みです。

しかし現実は、その理想通りには進みませんでした。

Waymoは2025年12月初旬、米国道路交通安全局（NHTSA）に対して少なくとも12件の事例を認め、連邦リコールを発令しました。エンジニアはすでに数週間前にソフトウェアの修正を開発していたと連邦記録には記されています。ところがリコール後も、事例は続きました。翌1月中旬までに、さらに少なくとも4件の違反が報告されたのです。

オースティン学区（AISD）は問題解決に向け、異例の対応を取りました。12月中旬、学校の駐車場で半日がかりの「データ収集イベント」を開催し、550台以上の車両から代表的な7種類のバスを集め、Waymoのエンジニアが点滅ライトや停止アームを様々な距離から観察できるようにしたのです。しかし、それでも問題は解決しませんでした。

米国家運輸安全委員会（NTSB）の予備報告書（2026年3月公表）によると、1月12日の事例では、遠隔操作を担当する人間のアシスタントが「前方のスクールバスには信号が出ていない」と誤った情報を車両に伝え、結果として6台の車両がバスを通過してしまったといいます。

広告掲載について

[email protected]

「最後の1%」の壁

ジョージ・メイソン大学で自律走行車を研究するMissy Cummings氏は、この問題の根深さを指摘します。「自動運転ソフトウェアは以前から、点滅する緊急ライトや、ゲートや停止アームのような細長い安全装置の認識に苦労してきた」と言います。「数年前にこれを修正しなかったなら、走れば走るほど問題は大きくなる。まさに今、それが起きている」

カーネギーメロン大学の自律走行車研究者Philip Koopman氏は、スクールバスの停止サインが特に難しい理由を説明します。「止まれ」のサインは文脈によって意味が異なります。交差点の標識、工事現場の誘導員が手に持つサイン、そしてスクールバスに取り付けられたもの——AIはその違いを「非常に微妙なこと」として学ばなければならない。

「安全に走行できる確率を99%にするのは、比較的簡単な部分です。しかし残りの1%が本当に難しい。なぜなら、例外を教えようとしているから」とKoopman氏は語ります。

また、駐車場で収集されたデータが実際の道路環境で役立たなかった可能性も指摘されています。「駐車場で生成されたデータでは不十分」とCummings氏は言い切ります。AIの学習には、データが収集された文脈そのものが重要で、現実の道路状況から切り離された環境での学習には限界があります。

日本の自動運転開発への示唆

この問題は、日本にとって対岸の火事ではありません。トヨタ、ホンダ、日産はいずれも自動運転技術に多額の投資を行っており、国土交通省も2025年以降、特定条件下でのレベル4自動運転の実用化を推進しています。

日本特有の交通環境も考慮が必要です。スクールゾーンの複雑な規制、通学路の見守り活動（黄色い旗を持つ地域住民）、路地の多い住宅街——これらはすべて、AIが「例外」として学ばなければならない場面です。高齢化が進む日本では、自動運転による移動手段の確保は社会的な急務でもありますが、今回の事例は「技術の準備が整う前に展開することのリスク」を改めて示しています。

一方で、日本の自動車メーカーは安全性への慎重なアプローチで知られており、米国のロボタクシー企業と比べて実用化のペースが遅いとも評されます。今回のような事例が、その慎重さを正当化する根拠になるかもしれません。しかし、慎重すぎれば、技術革新の機会を逃すという別のリスクもあります。