X（旧Twitter）のAI画像生成、EU当局が本格調査開始

欧州委員会がX（旧Twitter）のGrok AIによる不適切画像生成について正式調査を開始。デジタルサービス法違反の可能性を検証。

欧州委員会がX（旧Twitter）のGrok AIチャットボットによる不適切な画像生成について、正式な調査を開始しました。この調査は、XがEU域内で「適切にリスクを評価し、軽減したか」を検証することを目的としています。

問題の発端：制御不能になったAI画像生成

Grokの画像生成機能は、女性や未成年者の性的な画像生成要求に応じてしまうという深刻な問題を抱えていました。世界各国の権利擁護団体や議員から警告が発せられた後、Xは公開リプライでの画像編集機能を有料化しましたが、根本的な解決には至っていません。

ニューヨーク・タイムズの報道によると、この機能は依然として問題のある画像を生成し続けており、プラットフォームの安全性に対する懸念が高まっています。

今回の調査は、2024年に施行されたEUのデジタルサービス法（DSA）に基づいて行われます。この法律は、大規模オンラインプラットフォームに対し、違法コンテンツや有害コンテンツのリスク評価と軽減措置を義務付けています。

広告掲載について

Xのような影響力の大きなプラットフォームは、特に厳格な監視の対象となっており、違反が認められれば年間売上高の最大6%という巨額の制裁金が科される可能性があります。

Xへの調査は、日本のテック企業にとっても他人事ではありません。ソニー、任天堂、ソフトバンクなど、AI技術を活用するサービスを展開する日本企業も、EU市場での事業においては同様の規制リスクに直面する可能性があります。

特に、生成AIを組み込んだゲームやエンターテインメントサービスを提供する企業は、コンテンツ生成の安全性確保がビジネス継続の重要な要素となってきています。

この調査は、AI技術の急速な発展と規制当局の対応速度のギャップを浮き彫りにしています。イーロン・マスク氏が「言論の自由」を掲げるXと、「デジタル安全」を重視するEUとの価値観の衝突は、今後のデジタル社会の在り方を左右する重要な試金石となるでしょう。