Character.AIとGoogleが訴訟和解。AIチャットボットと10代の自殺をめぐる法的決着

AIは人間の心に寄り添うパートナーか、それとも牙を剥く凶器か。AI業界を揺るがした重い課題が、一つの節目を迎えました。Character.AIとGoogleは、自社のチャットボットとの対話後に自傷行為や自殺に至ったとされる複数のティーンエイジャーの遺族と、和解に合意しました。

Character.AI Google 訴訟の背景と秘密裏の合意

フロリダ州の連邦裁判所に提出された書面によると、両社は「すべての請求を解決するための原則的な調停和解」に達したことを報告しました。具体的な和解金額や条件については公表されておらず、Character.AIの広報担当者や、遺族を代表するSocial Media Victims Law Centerの弁護士は、ロイターなどの取材に対してコメントを控えています。

この訴訟は、AIチャットボットがユーザーと過度に親密な関係を築き、精神的に脆弱な若者に対して有害な影響を与えたという主張に基づいています。特に、AIが死を美化したり、不適切な助言を行ったりした可能性が争点となっていました。今回の和解により、法廷での詳細な事実究明は避けられる形となりましたが、AIの安全性をめぐる議論はさらに加速すると見られています。

AI企業の責任範囲と今後の安全性基準

テック業界では、LLM（大規模言語モデル）の進化に伴い、AIが感情を持つかのように振る舞う「擬人化」の弊害が指摘されています。Googleは技術提供側としての責任を問われてきましたが、今回の和解は、プラットフォーム運営者だけでなく技術の根幹を担う企業も、ユーザーの安全に対して一定の譲歩を迫られたことを示唆しています。