AIが作った偽物を見破る技術、なぜ今必要なのか

マイクロソフトがAI生成コンテンツの真偽を判別する技術基準を提案。デジタル時代の「本物証明」がもたらす可能性と限界を探る。

47%。これは昨年の調査で、InstagramやYouTubeなどの主要プラットフォームでAI生成コンテンツが正しくラベル表示されなかった割合です。つまり、私たちがオンラインで目にするAI作品の半分以上が、その正体を隠したまま拡散されているということになります。

この問題に対して、マイクロソフトが新たな解決策を提示しました。同社のAI安全研究チームがMIT Technology Reviewに共有した技術基準は、デジタル世界における「本物証明」の新しい形を示しています。

レンブラントの真贋鑑定から学ぶデジタル認証

マイクロソフトの最高科学責任者であるエリック・ホルヴィッツ氏は、この技術をレンブラントの絵画に例えて説明します。名画の真贋を証明するには、作品の来歴を詳細に記録し、人間には見えないが機械が読み取れる透かしを施し、筆致から数学的な「指紋」を生成します。

同じ手法をデジタルコンテンツに応用したのが、今回提案された技術基準です。研究チームは60種類の異なる組み合わせを評価し、メタデータの削除やコンテンツの改変など、様々な攻撃シナリオに対する耐性を検証しました。

この取り組みの背景には、カリフォルニア州のAI透明性法（8月施行予定）などの法規制と、音声と映像を驚くほどリアルに組み合わせるAI技術の急速な発展があります。

しかし、この技術には明確な限界があります。レンブラントの絵画の意味を教えてくれないように、これらのツールはコンテンツが正確かどうかは判断しません。単に操作されているかどうかを明らかにするだけです。

カリフォルニア大学バークレー校のデジタル鑑識専門家であるハニー・ファリッド教授は、この技術基準が業界で採用されれば「操作されたコンテンツで大衆を欺くことが大幅に困難になる」と評価する一方で、「問題を完全に解決するわけではないが、かなりの部分を削減できる」と現実的な見方を示しています。

実際、最近の研究では、人々がAI生成コンテンツだと知っていても、それに影響を受ける傾向があることが明らかになっています。ウクライナ戦争に関するロシア系のAI生成動画では、「これはAIで作られた」と指摘するコメントよりも、本物として扱うコメントの方がはるかに多くのエンゲージメントを獲得していました。

技術的な解決策が存在しても、実装には別の課題があります。ファリッド教授は「マーク・ザッカーバーグやイーロン・マスクのような人々が、『AI生成』ラベルがエンゲージメントを減少させると考えれば、当然それを実装しない動機が働く」と指摘します。

マイクロソフト自身も、この基準を自社プラットフォーム全体で使用することについて明確な約束はしていません。同社はCopilot、Azure、LinkedInを運営し、OpenAIに大きな出資をしているにも関わらず、です。

一方で、世界各地で進むAI規制が状況を変える可能性があります。EU のAI法をはじめ、インドなどでも提案されている規則は、AI企業にコンテンツがAIで生成されたことの開示を義務付ける方向にあります。

日本企業にとって、この動きは重要な意味を持ちます。ソニー、任天堂、トヨタなどの企業が海外展開する際、これらの技術基準への対応が必要になる可能性があります。特に、コンテンツ制作や広告において AI を活用する企業は、透明性の確保が競争力に直結する時代が来るかもしれません。

また、日本の高齢化社会では、デジタルリテラシーの格差が偽情報の拡散に与える影響も考慮する必要があります。技術的な解決策だけでなく、社会全体での教育や啓発も重要な要素となるでしょう。