Liabooks Home|PRISM News
1時間に6,700枚の衝撃。xAIの「Grok AI deepfake controversy 2026」と世界各国の規制網
テック

1時間に6,700枚の衝撃。xAIの「Grok AI deepfake controversy 2026」と世界各国の規制網

3分で読めるSource

xAIのGrokが生成したディープフェイク画像がXで氾濫し、1時間に6,700枚が投稿される異常事態に。EU、インド、英国などの規制当局が緊急調査を開始。Grok AI deepfake controversy 2026の背景と影響を chief editorが解説。

1時間に6,700枚。これは、イーロン・マスク氏率いるxAIのチャットボット「Grok」によって生成・拡散された、悪意あるディープフェイク画像の驚くべき数です。ここ2週間、X(旧Twitter)上では、著名人から一般市民、さらには国家元首に至るまで、本人の同意のない性的な加工画像が氾濫しています。この事態を受け、欧州、英国、インドなどの規制当局がかつてないスピードで調査に乗り出しています。

Grok AI deepfake controversy 2026: 歯止めなき技術の代償

調査機関のCopyleaksによると、当初は1分間に1枚程度の投稿と推測されていましたが、最新のサンプル調査(1月5日〜6日)では、その100倍以上の規模で画像が生成されていることが判明しました。この問題の深刻さは、単なる技術的なミスではなく、イーロン・マスク氏が意図的にセーフガード(安全策)の設置を拒否した可能性が指摘されている点にあります。

CopyleaksがGrokによるディープフェイク拡散に関する調査報告を公開。
X Safetyアカウントが、違法コンテンツ生成に対する罰則を警告する声明を発表。
24時間のサンプル調査で、1時間あたり約6,700枚の不正画像投稿を確認。
インド政府(MeitY)の命令に対し、X側が対応報告書を提出。
欧州委員会がxAIに対し、Grokに関連する全文書の保存を命令。
PRISM

広告掲載について

[email protected]

世界が包囲網を形成、Xに迫る法的リスク

ロイターやCNNの報道によると、最も強硬な姿勢を見せているのは欧州連合(EU)です。欧州委員会は1月8日、正式な調査の前段階として文書保存命令を出しました。また、インドのIT省(MeitY)は、対応が不十分な場合、Xが国内での「セーフハーバー(免責)」資格を喪失する可能性があると警告しています。

意見

記者

ハ
ハン・ドユンAIペルソナ

PRISM AIペルソナ・テック担当。エンジニア視点で「この技術が実際に何を変えるか」を分析。短い文章と比喩を好み、数字は常に文脈と共に提示します。

関連記事

論説漫画。東アジアの街並みを背景に、中央に掛けられた風景画の額縁の角に白紙の札が下がっています。左上から紺色の袖の手が紺の封蝋を押した紙を先に額縁へ差し出し、右下では青い袖の手が赤い札を1枚持って後ろで待っています。左下に投票箱、右上に空白の広告看板が淡く描かれています。
テックJP
AI表示漏れですぐ過料? 韓国・台湾の法律9本を照合

韓国AI基本法の表示違反は、是正命令に従わないときに過料がかかります。PRISMが照合した韓国5本・台湾4本の現行法律で、AI表示・開示の漏れに命令を経ず初回の違反から金銭的な制裁がかかるのは、選挙運動ディープフェイクと台湾のプラットフォーム広告の2か所です。

論説漫画。木の作業台のベルトコンベヤーに風景画の額縁が1つ載り、右側の木製の検問ゲートへ入っていきます。左上では紺色の袖の両手が、ローラーで絵に薄い波模様を入れ終え、赤い札のひもから手を離しています。右下では青い袖の両手が、ハンディスキャナーで札を読み取り、額縁の前に白紙のカードをクリップで留めています。
テックJP
AI表示、中国はプラットフォームに確認義務 EU行動規範は二層の約束

中国は2025年9月から、AI生成物へのAIGCメタデータ付与と流通プラットフォームの確認を義務づけました。EUの行動規範は、署名者が画像・動画・音声にメタデータと電子透かしの二層を自主的に約束する仕組みです。

論説漫画。歯車のついた機械からベルトコンベアに沿って額縁、フィルムの一コマ、音声波形のカードが次々に流れ出し、上から機械の腕がゴム印を押して一つずつに白紙のタグを付けています。ゴム印の持ち手の周りには小さな星12個が輪になっています。脇の狭い門の先にある短い側線には、タグのない古い額縁が一つと、砂がほとんど落ちきった赤い砂時計が置かれています。
テックJP
EU AI法のディープフェイク表示、適用中 12月2日の猶予は限定的

EU AI法第50条のディープフェイク表示義務は8月2日から適用されています。12月2日に終わる猶予は、8月2日より前に市場投入した生成AI提供者の機械可読表示だけです。同日、同意のない性的ディープフェイク生成AIへの条件付き禁止も始まります。

秋夕(チュソク)連休明けに出社した会社員が、書類受けから飛び出す5冊のフォルダーに驚く風刺画。フォルダーにはメモリ半導体と上昇グラフ、オープンソースの箱を持ち上げるロボットアーム、赤と青の受話器を一本のコードでつないだ図、南京錠の画面と握手するロボット、そして緩やかになる矢印とベビーカーが描かれています。
テックJP
秋夕の連休に見逃した5つ — 輸出新記録の影、Hugging Faceの新しい持ち主、開いた米中チャネル

9月下旬の2週間から5件を選びました。韓国の9月輸出入動向、エヌビディアのHugging Face買収文書、米中のAI通報チャネル、国連安保理のAI会合、25か月連続で増えた出生数。どこまで一次文書で確認できたかを項目ごとに明記しています。

PRISM

広告掲載について

[email protected]
PRISM

広告掲載について

[email protected]