AIが生成する偽画像、EUがXを本格調査へ

欧州のプライバシー監督機関がイーロン・マスクのXに対し、AI生成の非同意性的画像に関する大規模調査を開始。Grokチャットボットへの規制圧力が高まる。

AIが作り出す偽の性的画像が、ついに欧州の規制当局を動かした。アイルランドのデータ保護委員会は2月16日、イーロン・マスクのX（旧Twitter）に対し、「大規模な」調査を開始すると発表した。

調査の焦点は、Xに統合されたGrokチャットボットが生成する「潜在的に有害な」性的画像だ。これらの画像は本人の同意なく作成され、EU利用者のデータを含んでいる可能性があるという。

急速に拡大するAI画像生成の闇

Grokは、マスク氏のAI企業xAIが開発したチャットボットで、Xのソーシャルメディアフィードに直接統合されている。昨年xAIはXを買収し、今月にはSpaceXと合併して1.5兆ドル規模の巨大企業を形成した。

しかし、この技術的進歩の陰で深刻な問題が浮上している。AI生成の非同意性的画像、いわゆる「ディープフェイクポルノ」の拡散だ。これらの画像は実在の人物の顔を無断で使用し、極めてリアルな偽の性的コンテンツを作り出す。

被害者の多くは女性で、政治家、芸能人、一般人を問わず標的となっている。画像はSNSで瞬時に拡散し、被害者の名誉や精神的健康に深刻な損害を与える。

今回のEU調査は、日本のテック企業にも重要な示唆を与える。ソニー、任天堂、ソフトバンクなど、AIサービスを展開する日本企業は、欧州市場での事業に影響を受ける可能性がある。

EUの一般データ保護規則（GDPR）は世界で最も厳格なプライバシー法の一つだ。違反企業には年間売上高の4%または2000万ユーロのいずれか高い方の制裁金が科される。Xが制裁を受けた場合、日本企業も同様のリスクに直面することになる。

特に、生成AI技術を活用したサービスを提供する企業は、コンテンツの安全性確保により多くのリソースを投入する必要が出てくるだろう。

一方で、過度な規制は技術革新を阻害する懸念もある。AI画像生成技術自体は、映画制作、ゲーム開発、教育など多くの分野で有益な用途がある。

マスク氏は以前、「言論の自由」を重視する姿勢を示してきた。しかし、技術の悪用を防ぐための適切な制御メカニズムの導入は避けられない課題となっている。

日本でも、AIガバナンスに関する議論が活発化している。政府は「AI戦略2024」でAIの社会実装を推進する一方、倫理的な利用を確保するためのガイドライン策定を進めている。