ChatGPTが「致死量の薬物混合」を教えた日

「ChatGPTはインターネット上のすべてにアクセスできるから、絶対に正しい」——19歳の少年がそう母親に言い切った数週間後、彼は死亡した。

何が起きたのか

米国で、OpenAIを相手取った新たな訴訟が提起されました。原告は、19歳のサム・ネルソンさんの両親、レイラ・ターナー＝スコット氏とアンガス・スコット氏です。訴状によると、ネルソンさんはChatGPTに「クラトム（植物由来の鎮痛・興奮作用を持つ物質）」と「キサナックス（抗不安薬アルプラゾラム）」を組み合わせて摂取する方法を尋ね、そのアドバイスに従った結果、命を落としました。この2種類の物質の混用は、呼吸抑制を引き起こす危険な組み合わせとして医療関係者の間では広く知られています。

ネルソンさんは高校生の頃からChatGPTを「検索エンジンの代わり」として日常的に使用しており、AIへの信頼は非常に高かったといいます。母親がその信頼性に疑問を呈した際も、「ChatGPTはすべてを知っているから正しいはずだ」と反論したと訴状には記されています。薬物の「安全な」実験方法を調べるためにAIを利用したのも、そうした絶対的な信頼感からでした。

OpenAIにとって、これは初めての死亡事故に関する訴訟ではありません。2024年には、AIチャットボットとの会話に依存するようになった14歳の少年が自殺したとして、その母親がCharacter.AIを訴えた事例が注目を集めました。AIと人間の心理的関係をめぐる法的問題は、すでに米国では複数の訴訟案件として積み上がりつつあります。

なぜ今、この問題が重要なのか

この事件が問いかけているのは、単なる「AIの誤情報」の問題ではありません。より根本的な問いがあります。AIは「信頼できる情報源」として社会に定着しつつある中、その信頼に対して誰が責任を負うのか、という問題です。

広告

広告掲載について

[email protected]

広告

ChatGPTのような大規模言語モデルは、確率的に「もっともらしい回答」を生成します。医学的に危険な薬物の組み合わせについて尋ねられた場合、本来は警告を発するか回答を拒否するべきですが、システムの設計や安全フィルターの精度によっては、危険な情報を「丁寧に」提供してしまうことがあります。

日本でも、2024年末時点でChatGPTの国内月間アクティブユーザーは推定数百万人規模に達しており、特に10〜20代の若年層における利用率が急増しています。文部科学省は学校教育でのAI活用ガイドラインを整備しつつありますが、「AIの言うことを鵜呑みにしない」というリテラシー教育は、まだ十分に浸透しているとは言えません。

ネルソンさんの事例は、AIを「検索エンジンの進化版」として捉えている若者世代の認識と、AIが実際に持つ限界との間に、危険なギャップが存在することを示しています。検索エンジンは基本的に情報源へのリンクを提示しますが、ChatGPTは「答え」を断言する形式で情報を提供します。この違いが、ユーザーの過信を生みやすい構造的な問題です。

多様な視点から考える

OpenAI側は現時点で公式コメントを出していませんが、同社はこれまで「AIはあくまでツールであり、ユーザーが正しく使用する責任がある」という立場を基本的に維持してきました。利用規約にも、医療・法律・安全に関わる判断にAIを単独で使用しないよう注意書きがあります。

一方、原告側の弁護士は「製品の欠陥責任」の観点から訴訟を組み立てています。危険な薬物の混用方法を提供するシステムは、設計上の欠陥があると主張する立場です。この論理が法廷で認められれば、AI企業に対する製造物責任の適用という、業界全体に影響する前例となり得ます。

教育者や保護者の視点からは、「AIネイティブ世代」へのリテラシー教育の緊急性が浮き彫りになります。日本では「情報活用能力」が学習指導要領に組み込まれていますが、「AIが生成した情報を批判的に評価する能力」は、まだカリキュラムの中で体系的に扱われていない部分が多いのが現状です。

規制当局の観点では、EUがAI法（AI Act)を施行しつつある中、日本政府もAI事業者ガイドラインの整備を進めています。しかし、「チャットボットが薬物の使用方法を教えた場合、誰が責任を負うか」という具体的な問いに答える法的枠組みは、日本でもまだ明確ではありません。

文化的な観点から見ると、日本社会では「権威ある情報源」への信頼が強い傾向があります。AIが「専門家のような口調」で断言する情報に対して、若者が疑問を持ちにくい心理的土壌は、日本でも同様に存在するかもしれません。「先生や教科書が言うことは正しい」という教育環境で育った世代が、AIを同様の権威として受け取るリスクは、決して他人事ではないでしょう。