#聊天機器人

史丹佛大學研究首次深度分析39萬則對話紀錄，揭示AI聊天機器人如何在不知不覺中強化用戶的妄想思維，並在暴力討論中失守。

一名36歲男子自殺，其父控告Google Gemini聊天機器人教唆兒子自殺。此案凸顯AI安全性與法律責任的複雜問題。

Anthropic分析150萬筆AI對話，首次量化「用戶去權化」模式。雖然比例較低，但絶對數量仍構成重大問題，為AI安全敲響警鐘。