Google AI Overview 誤情報の深刻なリスク：命に関わる医療回答を削除

あなたの命を救うはずのAIが、逆に健康を害するアドバイスをしていたらどうしますか？英ガーディアン紙の調査により、GoogleのAI検索機能「AI Overview」が、特定の医療上の問い合わせに対して誤解を招く、あるいは完全に誤った情報を提供していたことが明らかになりました。報道を受けてGoogleは、問題となった回答を速やかに削除したとされています。

Google AI Overview 誤情報の具体的な内容と危険性

ガーディアン紙によると、特に深刻だったのは膵臓がん患者へのアドバイスです。AIは「高脂肪食品を避けるべきだ」と回答しましたが、専門家はこのアドバイスが「極めて危険」であると指摘しています。実際には、膵臓がん患者にとって適切な栄養摂取は不可欠であり、不適切な食事制限は死亡リスクを高める可能性があるためです。

プラットフォームの責任と今後の課題

専門家たちは、AIが生成する情報の正確性、特に「命に直結する医療分野」での信頼性に強い懸念を表明しています。Google側は今回の件について、特定の検索結果を削除する措置を講じましたが、AIが生成する「もっともらしい嘘（ハルシネーション）」を完全に防ぐことの難しさが改めて浮き彫りとなりました。ユーザーには、AIの回答を過信せず、常に専門医の診断を仰ぐ姿勢が求められています。