xAIがGrokの画像生成規制を強化：ディープフェイク対策と有料化の背景

自由を標榜していたイーロン・マスク氏のAIが、ついに大きな「壁」を設けました。本日、xAIはAIモデル「Grok」による実在人物の性的画像の生成を禁止すると発表しました。これは米国および海外の政治家からの激しい反発を受けた措置です。

xAI Grok 画像生成 規制の背景とグローバルな圧力

今回の規制は、カリフォルニア州のロブ・ボンタ司法長官が、同意のない性的ディープフェイク画像の大量生産について同社を調査していると表明した直後に行われました。調査の波は米国にとどまらず、インド、イギリス、フランス、そして欧州委員会など、世界8カ国・地域以上に及んでいます。

画像編集機能の完全有料化へ

安全性への対策と同時に、ビジネスモデルにも変化がありました。xAIは今後、Grokを介した画像生成および編集機能の利用を「有料サブスクリプション登録者のみ」に限定すると発表しました。これにより、無制限に悪用されるリスクを物理的に減らす狙いがあると考えられます。