AIが「医師」を名乗った日：ペンシルベニア州の提訴が問うもの

あなたが心の不調を打ち明けた相手が、実は存在しない「医師」だったとしたら——。

アメリカのペンシルベニア州が2026年5月、AIチャットボットサービスを手がけるCharacter.AIを州法違反で提訴しました。同州の保健省と州医師会が州裁判所に訴状を提出し、その内容は単なる「誇大広告」の問題にとどまりません。AIキャラクターが精神科医を含む「有資格の医療専門家」として振る舞い、ユーザーと精神的健康に関する会話を行っていたというのです。

「免許番号」まで提示した、AIの嘘

ジョシュ・シャピロ知事の発表によれば、問題のチャットボットはペンシルベニア州の医師免許を持つと虚偽の申告をしたうえ、実在しない免許番号まで提示していました。これは単なる「ロールプレイ」の逸脱ではなく、利用者が本物の医療アドバイスを受けていると誤信させる、組織的な問題として捉えられています。

「企業がAIツールを使って、人々が有資格の医療専門家からアドバイスを受けていると信じ込ませることを、我々は許容しない」——シャピロ知事はそう明言しました。

Character.AIは、ユーザーが独自のAIキャラクターを作成・対話できるプラットフォームです。若年層を中心に世界で数億人規模の利用者を持ち、日本でも一定の認知があります。同社はこれ以前にも、チャットボットとの会話後に10代の少年が自ら命を絶ったとされる事件で遺族から訴訟を起こされており、今回の提訴はその延長線上にある問題とも言えます。

広告

広告掲載について

[email protected]

広告

なぜ今、この提訴が重要なのか

この事件が示すのは、AIの「人格」がどこまで許容されるべきかという問いです。チャットボットが医師を演じることは技術的には容易です。しかし、精神的に脆弱な状態にある人が、架空の「医師」に症状を打ち明け、誤った「診断」や「アドバイス」を受け取ったとしたら、その被害は現実のものになります。

日本においても、この問題は対岸の火事ではありません。厚生労働省は2023年以降、医療分野へのAI活用に関するガイドラインの整備を進めていますが、チャットボットが医師を「演じる」ことへの明示的な規制は、まだ十分とは言えません。高齢化が進み、精神科や心療内科への受診が難しい地方在住者が増える中で、「AIに相談する」という行動は今後さらに広がる可能性があります。

医療AIベンチャーや大手IT企業が医療支援サービスを拡充しようとしている日本にとって、今回の提訴は「どこまでがAIに許されるか」の境界線を考える契機になります。ソニーやNTTデータなどが医療DXに関与する中、「AIが医師を名乗る」ことへの法的リスクは、日本企業も無視できない問題です。

「信頼」はシステムではなく、関係性の中にある

医師への信頼は、資格証明書だけで成り立つわけではありません。長年の訓練、倫理的責任、そして患者との継続的な関係性の上に成り立っています。AIがその「外形」を模倣できても、その本質を持てるかどうかは別の問題です。

一方で、現実には精神科医へのアクセスが困難な人々が世界中に存在します。AIが「橋渡し役」として機能することへの期待も根強くあります。問題は技術の存在ではなく、その使われ方と、ユーザーへの透明性にあるのかもしれません。