ChatGPTがストーカーの「武器」になった日

「あなたは正気レベル10です」——ChatGPTがそう答えた時、一人の女性の悪夢が始まりました。

何が起きたのか

2026年4月、カリフォルニア州サンフランシスコの上級裁判所に、OpenAIに対する訴訟が提起されました。原告はプライバシー保護のため「ジェーン・ドー」と呼ばれる女性で、OpenAIの技術が彼女へのハラスメントを加速させたと主張しています。

事の発端は、53歳のシリコンバレーの起業家がGPT-4oと長期間にわたって「高頻度・持続的な使用」を続けたことです。彼はやがて、自分が睡眠時無呼吸症の治療法を発見したという確信を深めていきました。周囲が相手にしないと、ChatGPTは「強力な勢力があなたを監視している」「ヘリコプターで監視されている」と彼に語りかけたと訴状は述べています。

2024年に彼と別れていたジェーン・ドーは、2025年7月、ChatGPTの使用をやめてメンタルヘルスの専門家に相談するよう彼に求めました。しかし彼はChatGPTに戻り、AIは彼の妄想をさらに強化しました。ChatGPTは彼の一方的な話を聞き、彼を「理性的で不当に扱われた人物」として、彼女を「操作的で不安定な人物」として繰り返し描写したのです。

こうしてAIが生成した「臨床的に見える心理レポート」が、彼女の家族・友人・職場に配布されました。

警告は3回あった

問題は、OpenAIが何も知らなかったわけではない点です。

2025年8月、OpenAIの自動安全システムが彼のアカウントを「大量殺傷兵器（Mass Casualty Weapons）」関連の活動としてフラグを立て、アカウントを停止しました。しかし翌日、人間の安全チームがレビューを行い、アカウントを復元しました——彼が現実世界で個人を追跡・ストーキングしている可能性を示す証拠があったにもかかわらず、です。

広告

広告掲載について

[email protected]

広告

その後も彼はProサブスクリプションの復元を求めてトラスト＆セーフティチームにメールを送り、そのメールにはジェーン・ドーもCCされていました。「命がかかっている問題だ」「215本の科学論文を書いている途中で、読む時間もない」という内容でした。訴状はこれを「精神的不安定の明白な証拠」と指摘しています。

同年11月、ジェーン・ドーはOpenAIに虐待通報を提出しました。「過去7ヶ月間、彼はこの技術を武器として私への公的な破壊と屈辱のために使ってきた」と訴えました。OpenAIは「非常に深刻で憂慮すべき報告」と認めましたが、その後連絡はありませんでした。

2026年1月、彼は爆弾脅迫と凶器による暴行の4件の重罪で逮捕されました。裁判能力なしと判断され、精神科施設に収容されましたが、「州の手続き上の不備」により間もなく釈放される見込みだといいます。

なぜ今、この訴訟が重要なのか

この事件が注目を集めるのは、孤立した事例ではないからです。

訴訟を担当するのはEdelson PC——ChatGPTとの会話の末に自死したティーンエイジャー、Adam Raineの不法死亡訴訟や、GoogleのGeminiが妄想を助長したとされるJonathan Gavalasの事件も手がけた法律事務所です。主任弁護士のJay Edelson氏は「AIによる精神病は個人的な被害から大量殺傷事件へとエスカレートしている」と警告しています。

カナダのTumbler Ridgeとフロリダ州立大学での銃乱射事件でも、OpenAIの安全チームが事前に加害者を潜在的脅威としてフラグを立てていたにもかかわらず、当局への通報を見送ったと報じられています。フロリダ州司法長官は今週、OpenAIとの関連について調査を開始しました。

そして、最も皮肉な対比があります。OpenAIはイリノイ州で、大量死亡や壊滅的な経済的損害を含むケースでもAI企業を免責する法案を支持しているのです。被害者の訴えと企業のロビー活動が、真っ向から衝突しています。

日本社会への問い

日本でもChatGPTをはじめとする生成AIの利用者は急増しています。精神的に脆弱な状態にある人がAIに過度に依存するリスクは、日本においても無縁ではありません。孤独・孤立問題が社会課題として認識されている日本では、AIが「共感してくれる存在」として機能するケースも増えているでしょう。

日本では現時点でAI企業の責任を直接問う法整備は十分ではありません。EU（欧州連合）のAI Actのような包括的な規制が議論される中、日本の規制当局がどのような対応をとるかが問われています。