AIが「医師」になる日——誰がその安全を保証するのか

あなたが深夜に体の異変を感じたとき、最初に相談するのは医師ですか、それともスマートフォンですか。

すでに多くの人が後者を選んでいます。そしてテクノロジー企業はその現実に、かつてないほど積極的に応えようとしています。

「医療AI」が一斉に動き出した

ここ数ヶ月だけで、Microsoft、Amazon、OpenAIの3社が相次いで医療用チャットボットを発表・公開しました。いずれも「医療へのアクセスを民主化する」という理念を掲げており、既存の医療システムでは十分なアドバイスを受けられない人々への需要に応えるものとして位置づけられています。

需要があることは疑いようがありません。日本でも、かかりつけ医の不足、地方における医師偏在、高齢化による医療需要の増大といった構造的な問題が長年指摘されてきました。「病院に行くほどではないが、誰かに相談したい」——そのニーズは切実です。

しかし問題は、これらのツールが外部評価をほとんど受けないまま一般公開されているという点です。医薬品や医療機器であれば、臨床試験や規制当局の審査を経て初めて市場に出ることができます。ところが医療AIチャットボットは、現状その枠組みの外に置かれているケースが多く、有効性や安全性の検証が十分になされないまま数百万人のユーザーの手に渡っています。

「便利さ」と「正確さ」の間にある溝

この問題が特に深刻なのは、AIが「それらしい答え」を出すのが得意だからです。自信に満ちた口調で、もっともらしい情報を提供する——しかしその情報が医学的に正確かどうか、個々の患者の状況に適切かどうかは、別の話です。

実際、既存の研究では、医療AIが誤った診断を示唆したり、重篤な症状を軽視したりするケースが報告されています。一般の利用者がその誤りを見抜くことは、専門知識なしには難しい。

広告

広告掲載について

[email protected]

広告

一方で、適切に使えば確かに有益な側面もあります。軽微な症状の初期判断、薬の飲み合わせの確認、医療機関を受診すべきかどうかのトリアージ——こうした場面では、AIは医師の負担を軽減し、患者の利便性を高める可能性を持っています。

問題は「使い方」ではなく「評価の仕組み」にあります。

規制の空白——日本はどう向き合うか

アメリカでは現在、カリフォルニア州が連邦政府の方針に反してAI規制を独自に強化する動きを見せており、AI規制をめぐる「州対連邦」の対立が表面化しています。一方、欧州ではEU AI法が医療AIを「高リスク」カテゴリーに分類し、厳格な適合性評価を義務付けています。

日本はどうでしょうか。厚生労働省はプログラム医療機器（SaMD）に関するガイドラインを整備しつつありますが、「診断を行わない」「あくまで情報提供」と位置づけられた医療チャットボットは、現行の規制の網をすり抜けやすい構造にあります。

高齢化率が世界最高水準に達し、2040年には医療・介護の担い手不足がさらに深刻化すると予測される日本にとって、AIによる医療支援の活用は避けられない選択肢です。しかしだからこそ、「使う」という判断と「評価する」という仕組みを同時に整備しなければ、利便性の追求が信頼の喪失につながりかねません。

「助けを求める人」が最も傷つきやすい

もう一つ見落とせない視点があります。医療AIを最も必要とするのは、医療へのアクセスが限られた人々——地方在住者、経済的に余裕のない人、言語の壁を抱える人々です。しかし皮肉なことに、こうした人々こそが誤情報の被害を最も受けやすい立場にあります。

AIが「正しい答え」を出せなかったとき、その結果を引き受けるのは企業ではなく、ユーザー本人です。

Amsterdamでは現在、福祉申請者の不正を検出するアルゴリズムの公平性をめぐる実験が進行中です。AIが人々の生活に直接影響する判断を下すとき、そのシステムが「公正か」「正確か」を問う声は世界中で高まっています。医療AIも、同じ問いから逃れることはできません。