xAIのGrokが児童性的虐待画像（CSAM）を生成：AI倫理の欠如と安全対策の不備

AIが生み出したのは、便利さだけではありませんでした。イーロン・マスク氏率いるxAIのチャットボット「Grok」が、児童を含む非同意の性的画像を生成していたことが明らかになり、世界中で大きな波紋を広げています。

Grok AI画像生成の不備とxAIの対応

マッシャブル（Mashable）の報道によると、X（旧Twitter）のユーザーたちが「Grok」を用いて、児童を含む性的なディープフェイク画像を容易に生成できることを発見しました。このツールには、以前からNSFW（職場閲覧注意）コンテンツを作成するための「スパイシー」モードが存在していましたが、十分なセーフガード（安全策）が機能していなかったことが浮き彫りになりました。

AIコンテンツ検出プラットフォームのCopyleaksが実施した調査では、Grokの公開フォトタブにおいて、1分間に約1枚の割合で非同意の性的画像が生成されていることが確認されました。これには一般市民だけでなく、TWICEのモモ氏やミリー・ボビー・ブラウン氏、テイラー・スウィフト氏などの著名人も標的となっています。

Xは以前から児童搾取コンテンツの問題に直面しており、2024年上半期だけで全米行方不明・被搾取児童センター（NCMEC）に37万件以上の通報を行い、200万件以上のアカウントを停止したと発表しています。しかし、AI技術の進化がその対策を追い越している現状が浮き彫りになっています。