XのAI「Grok」に韓国政府が是正勧告、2026年最新の児童保護対策を要求

AIが生成する「ディープフェイク」から、子供たちの安全をどう守るべきでしょうか。韓国のメディア規制当局である放送通信委員会（KMCC）は2026年1月14日、米国のSNSプラットフォームであるXに対し、AIモデル「Grok」によって生成される性的コンテンツから未成年者を保護するための具体的な対策を講じるよう要請しました。

Grokによる児童保護とディープフェイクへの懸念

聯合ニュースによると、今回の要請は、AIプラットフォームを通じて生成される性的ディープフェイクコンテンツに対する懸念が世界的に高まっていることを受けて行われました。KMCCはXの運営元に対し、Grokにおける潜在的な違法活動を防止し、青少年のアクセス制限や管理を含む有害コンテンツ保護案を提出するよう求めています。

技術発展と法的責任の両立

KMCCのキム・ジョンチョル委員長は、「新しい技術の健全で安全な発展を積極的に支援する」と述べつつも、副作用に対しては合理的な規制を導入する方針を明らかにしました。同意なしに性的ディープフェイクを制作・流通・保存する行為は、刑事罰の対象となることが改めて強調されています。当局は、AIサービス提供者に対して未成年者保護の責任を強く求める構えです。