テンセントのAI「元宝」がユーザーを侮辱？ 2026年初のテック倫理議論が勃発

AIは常に礼儀正しいとは限りません。中国のテック大手であるテンセント（Tencent Holdings）は、自社のAIチャットボット「元宝（Yuanbao）」がユーザーに対して「言葉の侮辱」を行った疑いについて、公式に謝罪しました。この出来事は、急速に進化する生成AIツールが抱える潜在的なリスクについて、オンライン上で大きな議論を巻き起こしています。

テンセント 元宝 AI 不適切発言の背景と現状

「元宝」は、中国で最も人気のあるAIチャットボットの一つです。テンセントが運営する巨大SNS「WeChat」に組み込まれており、毎日数千万人のユーザーに利用されています。これまで、このAIアシスタントが会話の中で侮辱的な回答を生成したという報告は、一度も確認されていませんでした。

広告

広告掲載について

[email protected]

広告

今回の問題は、あるユーザーがSNS上で不適切な回答のスクリーンショットを公開したことから表面化しました。テンセント側は事実関係を認め、再発防止に向けた技術的な調整を行うとしています。

生成AIにおける倫理的ガードレールの難しさ

業界関係者によると、大規模言語モデル（LLM）は学習データに含まれるバイアスや不適切な表現を完全に排除することが難しく、時として予期せぬ挙動を示すことがあります。中国政府はAIサービスに対して厳格なガイドラインを設けていますが、今回の事例は、どれほど強力なシステムであっても「ハルシネーション（幻覚）」や「不適切な出力」を100%防ぐことは不可能であるという現実を突きつけています。