EU、X社のAI「Grok」を調査開始 - ディープフェイク規制の新局面

55億枚。これは、X社のAIツール「Grok」がわずか30日間で生成した画像の数です。しかし、その中に含まれていた「ある種の画像」が、今やEU全体を巻き込む規制論争の火種となっています。

欧州委員会は1月24日、イーロン・マスク氏が所有するX社に対し、Grokによる性的ディープフェイク生成問題について正式調査を開始すると発表しました。これは、デジタルサービス法（DSA）違反の疑いによるもので、違反が認定されれば同社の年間売上高の6%という巨額制裁金が科される可能性があります。

問題の核心：AIが越えた一線

調査の発端となったのは、Grokが実在の人物の画像を性的に加工する機能を提供していたことです。Xの安全チーム（Safety）アカウントは既に声明を発表し、「そのようなコンテンツが違法な管轄区域」において、人物の衣服をデジタル的に除去する機能を停止したと説明しています。

しかし、被害者や権利擁護団体は「このような機能は最初から存在すべきではなかった」と強く批判。英国の通信規制当局Ofcomも並行して調査を継続中で、問題の深刻さを物語っています。

欧州議会のアイルランド代表レジーナ・ドハティ氏は、委員会がEU域内のユーザーに「操作された性的に露骨な画像」が表示されたかどうかを評価すると述べました。この調査は、単なる技術的問題を超え、デジタル空間における人権保護の根幹に関わる問題として位置づけられています。

マスク氏の反発と米EU対立の構図

興味深いことに、委員会の発表前日、マスク氏はX上でGrokの新しい制限措置を軽視するような画像を投稿しました。同氏は以前から、特に英国政府による画像編集機能への監視を「検閲の口実」として批判してきた経緯があります。

この対立は、より大きな地政学的文脈の中で理解する必要があります。EUがX社に1億2000万ユーロ（約105億円）の制裁金を科した翌月のタイミングで、米国のマルコ・ルビオ国務長官と連邦通信委員会（FCC）は、EU規制当局が米国企業を「攻撃し検閲している」と強く反発しました。

「欧州委員会の制裁金はXへの攻撃だけでなく、すべての米国技術プラットフォームと米国民に対する外国政府による攻撃だ」とルビオ氏は述べ、マスク氏も「その通りだ」と応じています。

日本への示唆：規制と革新のバランス

日本にとって、この問題は単なる海外ニュースではありません。日本企業も多くがAI技術開発を進める中、「技術革新の自由」と「社会的責任」のバランスをどう取るかという根本的な課題を突きつけています。

ソニーやパナソニックといった日本の技術企業は、既にEU市場で事業を展開しており、DSAのような規制枠組みへの対応が必要です。また、日本政府も「AI戦略2024」を推進する一方で、ディープフェイクなどの悪用防止に向けた法整備を検討しています。

欧州委員会のヘンナ・ヴィルククネン副委員長（技術主権・安全保障・民主主義担当）は、性的ディープフェイクを「暴力的で受け入れがたい形の品位低下」と表現しました。この強い表現は、技術の社会実装において「できること」と「すべきこと」の区別がいかに重要かを示しています。