カリフォルニア州、AIおもちゃの販売を4年間禁止へ：法案 SB 867 が投じる一石

AIは私たちの生活を豊かにしますが、子供たちの「友だち」にするにはまだ早すぎるのかもしれません。カリフォルニア州のスティーブ・パディーヤ上院議員は、18歳未満の子供を対象としたAIチャットボット搭載おもちゃの製造および販売を4年間全面的に禁止する法案「SB 867」を提出しました。これは、急速に進化する技術に対し、規制当局が適切な安全基準を策定するための「冷却期間」を設けることが目的です。

AIおもちゃ禁止法案 SB 867 の背景と深刻な懸念

この法案の背景には、チャットボットとの長時間の対話が原因で子供が自ら命を絶つといった痛ましい事件や、不適切なコンテンツへの露出という深刻な問題があります。消費者団体「PIRG Education Fund」の報告によると、市販のAIクマのぬいぐるみ「Kumma」は、簡単な誘導で刃物や性的表現について語り出す危険性が指摘されています。また、中国メーカーの「Miiloo」が特定の政治的価値観を反映するようにプログラムされていた事例も報告されています。

パディーヤ議員は「私たちの子供は、ビッグテック（巨大IT企業）の実験台ではない」と述べ、技術の進歩に規制が追いついていない現状に警鐘を鳴らしました。特に2025年には、OpenAIと「バービー」で知られるマテル（Mattel）が共同開発した製品の発売を延期するなど、業界内でも慎重な姿勢が見られ始めています。

連邦政府との対立と法的な不透明感

今回の州法案は、トランプ大統領が連邦機関に対し、各州のAI規制法を法廷で争うよう指示した大統領令と対立する可能性があります。しかし、その大統領令では「子供の安全」に関する州法は例外として認められており、SB 867が法的に維持されるかどうかが注目されています。パディーヤ議員は、すでに成立したSB 243でもチャットボット運営者に子供保護の義務を課しており、カリフォルニア州はAI時代の「子供の安全」における先駆的な役割を担おうとしています。