Meta監督委員会、AI時代の新たな挑戦に直面

7割のソーシャルメディア画像がAI生成され、8割のコンテンツ推薦がAIに依存する時代。Metaの監督委員会は、従来の月単位での個別審査モデルが限界に達していることを認めています。

Facebook、Instagram、Threadsのコンテンツ審査を監督する独立機関として2018年に設立されたMeta監督委員会。21名の国際メンバーで構成され、「最高裁判所」のような役割を果たしてきました。しかし、AI技術の急速な普及により、その運営方針の大幅な見直しが迫られています。

個別審査の限界が露呈

委員会唯一のインド人メンバーである法学者スディール・クリシュナスワミー氏は、「生成AI時代では、個別事例ベースではなく、より構造化されたアプローチが必要になる可能性がある」と語ります。

現在の審査プロセスは数か月を要し、数百万件の申請のうちわずかな件数しか処理できません。2026年には企業のソーシャルメディアコンテンツの半数がAI生成になると予測される中、この処理能力の限界は深刻な問題となっています。

機械による自動審査は、アダルトコンテンツの識別では高い精度を示す一方で、ヘイトスピーチや偽情報の判定では「複雑すぎる」課題を抱えています。特に、言語的・文化的・政治的文脈の理解において、西欧以外の地域での性能は著しく低下します。

地域専門知識の重要性

委員会の過去の決定事例は、地域的文脈の重要性を物語っています。アラビア語、ウルドゥー語、ペルシャ語、パンジャブ語、ベンガル語、ヒンディー語で「殉教者」を意味する「shaheed」という単語について、Metaは当初一律禁止していました。しかし委員会の介入により、テロリストの賛美以外の文脈での使用が認められるようになりました。

ケニアでの政治的批判、エチオピア、パキスタン、ウクライナ、イタリアでの当局への抗議表現など、200件を超える決定と320件の勧告を通じて、委員会は地域的多様性の重要性を実証してきました。

「アメリカ人だけで構成されたAI安全委員会では、トルコでもインドでもソマリアでも機能しない」とクリシュナスワミー氏は警告します。

人間とAIエージェントの共存時代

今後のソーシャルメディアでは、人間、AI支援を受けた人間、そして完全自動のAIエージェントが混在することが予想されます。「プラットフォーム上で人間とエージェントが共存する時、何が何なのか判別が困難になり、複雑な事例が発生するだろう」とクリシュナスワミー氏は予測します。

Cornell大学のグローバルAIイニシアティブ責任者アディティア・ヴァシシュタ氏によると、AIはヒンディー語の障害関連の中傷語を見逃すことが多く、Facebookは世界で最も広く話されている言語の一つであるベンガル語のヘイトスピーチ分類器を2020年まで実装していませんでした。

新たな専門知識の必要性

グローバルAIガバナンスセンターの創設者レイチェル・アダムス氏は、委員会が弁護士やジャーナリストに加えて、AI評価専門家、社会言語学者、地域言語専門家、児童安全専門家、ジェンダー暴力・ハラスメント専門家、労働者福祉専門家の採用を検討すべきだと提案しています。

委員会は2025年12月に発表した5年間の評価で、Metaが拘束力のある決定をすべて実行し、勧告の約75%を採用したと報告しました。しかし、アルゴリズムの透明性向上など一部の勧告は部分的な対応にとどまっています。