Google AI Overviews 医療検索の削除と信頼性の課題

あなたの健康に関するAIの回答は、本当に信頼できるのでしょうか？Googleは、特定の医療検索クエリに対して提供していたAI Overviews（AIによる概要）の一部を削除しました。これは、ガーディアン紙の調査により、肝機能検査に関するAIの回答が誤解を招く恐れがあると指摘されたことを受けた措置です。

Google AI Overviews 医療検索における誤情報の指摘

ガーディアン紙によると、ユーザーが「肝臓の血液検査の正常範囲」について質問した際、AIは国籍、性別、民族、年齢などの重要な要素を考慮しない数値を提示したと報告されています。これにより、実際には異常があるにもかかわらず、ユーザーが自分の結果を「正常」だと誤認してしまうリスクがありました。これを受けてGoogleは、「肝臓血液検査の正常範囲」や「肝機能検査の正常範囲」といったクエリに対するAI概要の表示を停止しました。

しかし、当初は「lft reference range」のような類似の検索語では依然としてAI生成の要約が表示されていたことが確認されています。その後、調査が進むにつれてこれらの多くも表示されなくなったことが明らかになりました。

Googleの対応と専門家の懸念

Googleの広報担当者はガーディアン紙に対し、「個別の削除についてはコメントしないが、広範な改善に取り組んでいる」と述べました。また、社内の臨床医チームによる検証では、「多くの場合、情報は不正確ではなく、高品質なウェブサイトによって裏付けられていた」とも主張しています。

これに対し、ブリティッシュ・リバー・トラストのバネッサ・ヘブディッチ氏は、今回の削除を「素晴らしいニュース」と歓迎しつつも、「個別の検索結果に対処するだけでなく、医療AIの概要全体に潜むより大きな問題に対処すべきだ」と、根本的な解決の必要性を指摘しています。