中国がAIディープフェイクに厳戒態勢。外国勢力による「世論操作とデータ盗難」を警告

あなたの顔や声が、知らないうちに社会を混乱させる武器になるかもしれません。南華早報（SCMP）が報じたところによると、中国の最高情報機関である国家安全部（MSS）は2025年12月27日、外国勢力がAIディープフェイク技術を悪用してパニックを助長し、機密情報を盗み出しているとして強い警戒を呼びかけました。

巧妙化する「デジタル工作」の正体

国家安全部が公開した記事では、いわゆる「反中勢力」がAIの深層学習アルゴリズムを利用し、精巧な偽の画像や音声、動画を生成していると指摘されています。これらのディープフェイクコンテンツは、世論を誤導し、社会の安定を損なう目的で国内に拡散されているというのです。当局は、個人の権利侵害にとどまらず、国家安全保障に直結する深刻な脅威であると強調しています。

オープンソースAIが招くデータ流出の罠

技術的な脅威は世論操作だけではありません。国家安全部は、職員が不用意にオープンソースAIツールを使用したことで、パスワードなしでファイルを閲覧可能な状態になり、外国のIPアドレスから機密データがダウンロードされた事例を挙げました。また、AIの学習データに含まれる社会的偏見が、不当な差別やアルゴリズムのバイアスを増幅させるリスクについても警鐘を鳴らしています。

推奨されるセキュリティ対策

こうしたリスクに対抗するため、当局はユーザーに対し、WebベースのAIで機密データを処理しないことや、定期的にチャット履歴を消去することを求めています。さらに、支払用パスワードの保存を避け、身元確認や銀行口座情報の要求には細心の注意を払うよう、具体的な「デジタル足跡」の管理を促しています。