Google AI Overviews 医療情報の誤りで一部削除、肝臓検査やがんケアで深刻なリスク指摘

AIがあなたの「主治医」になれる日は、まだ遠いのかもしれません。米国のテック大手であるGoogleが、生成AIによる検索回答機能「AI Overviews」から、医療・健康に関する一部の要約を削除しました。ガーディアン紙の調査により、重病患者を危険にさらしかねない不正確な情報が含まれていることが判明したためです。

Google AI Overviews 医療情報の誤りが引き起こす生命の危機

ガーディアン紙の報道によると、今回の騒動のきっかけは、AIが提示した「正常値」の定義が実際の医学的基準と異なっていたことでした。特に肝臓の血液検査に関する検索結果では、年齢や性別、人種といった重要な個別の文脈を無視した数値が提示されていました。これにより、重い肝疾患を抱える患者が、自分は「健康である」と誤認してしまい、必要な診察を逃してしまうリスクが指摘されています。

膵臓がん患者に「高脂質な食事」を推奨、医学的根拠を無視したAIの助言

さらに深刻なのは、膵臓がんに関するアドバイスです。AIは患者に対して「高脂肪の食品を避けるように」と提案しましたが、これは体重維持を最優先とする標準的な医療ガイドラインとは真っ向から対立するものでした。不適切な食事制限は、がん患者の体力低下を招き、治療継続を困難にする恐れがあります。