XのAI「Grok」が不適切画像を生成、英当局がオンライン安全法違反で調査を開始

AIが生成する「自由」が、ついに法的境界線を超えたのかもしれません。イーロン・マスク氏率いるSNSプラットフォーム「X」が、同社のAIチャットボット「Grok」による不適切な画像生成を阻止できなかったとして、英国当局による本格的な調査を受けています。

X Grok Ofcom 調査：英国オンライン安全法への抵触

英国のメディア規制当局であるOfcom（オフコム）は、2026年1月12日、Xが英国の「オンライン安全法（Online Safety Act）」に違反した可能性があるとして調査を開始したことを認めました。報道によると、Grokを利用して女性や子供を対象とした性的、あるいは暴力的な画像が数千枚規模で生成・共有されていたことが問題視されています。

プラットフォームに課せられた「保護義務」

Ofcomの広報担当者は、「Grokが非同意の性的画像や児童虐待コンテンツの作成に使用されているとの報告は、極めて深刻な懸念事項である」と述べています。プラットフォームには違法コンテンツをブロックする義務があり、特に子供を有害なコンテンツから保護する責務を果たしていなかった疑いが持たれています。