AIが映し出す「偏見」—技術は社会の鏡か

AIに「普通の人を描いて」と頼んだとき、それは誰の顔をしているだろうか。

映像ディレクターのヴァレリー・ヴィーチ氏は、2024年にOpenAIが一般公開したテキスト→動画生成AIモデル「Sora」に最初に触れたとき、純粋な好奇心を抱いていた。技術の仕組みは完全には理解していなかったが、世界中のアーティストたちがAI生成作品をオンラインで共有するコミュニティを築きつつあることに魅力を感じ、その輪に加わった。

しかし、そこで彼女が目にしたものは期待とはかけ離れていた。

機械が「再生産」するもの

ヴィーチ氏がSoraを使い始めてすぐに気づいたのは、ツールが生成する映像に人種差別的・性差別的な描写が繰り返し現れるという事実だった。特定の人種や性別に対するステレオタイプが、プロンプト（指示文）の意図とは無関係に、まるで「デフォルト設定」のように出力される。

より深刻だったのは、周囲のAI熱狂者たちの反応だ。彼女の新たなコミュニティの仲間たちは、そうした問題をほとんど気にしていないように見えた。技術の可能性に興奮するあまり、機械が何を「学習」し、何を「普通」として定義しているかという問いが、議論の外に置かれていた。

これはSora固有の問題ではない。生成AIは膨大なインターネット上のデータを学習素材とする。そのデータには、人類がデジタル空間に蓄積してきた偏見、差別、不平等な表現がそのまま含まれている。AIは現実を「客観的に」反映しているのではなく、私たちが作り上げてきた偏った現実を忠実に再生産しているのだ。

なぜ「今」この問題が重要なのか

生成AIの偏見問題は以前から研究者の間で指摘されてきた。しかし2024〜2025年にかけて、画像・動画生成AIが一般ユーザーに広く普及したことで、問題の規模と性質が変わった。

広告

広告掲載について

[email protected]

広告

以前は研究室やエンジニアリングチームの内部で議論されていた「学習データのバイアス」が、今や数百万人のクリエイター、マーケター、教育者、報道関係者の手に渡るツールの中に組み込まれている。広告映像、教材動画、ニュースのビジュアル素材——あらゆるコンテンツ制作の現場にAI生成映像が入り込みつつある今、バイアスの「出口」は無数に存在する。

日本においても、この問題は他人事ではない。ソニーのクリエイティブツール、NTTのコンテンツ生成サービス、あるいは教育・医療分野でのAI活用が加速する中、「どのようなデータで学習されたAIを使うのか」という問いは、企業のリスク管理においても避けられない課題になりつつある。

異なる立場から見えるもの

OpenAIをはじめとするAI企業の立場からすれば、コンテンツフィルタリングや安全ガイドラインへの投資は継続しており、問題は「技術的に解決途上にある課題」として位置づけられる。実際、各社はモデルの更新のたびに有害出力の削減を謳っている。

一方、ヴィーチ氏のようなクリエイターや研究者は、問題の根がより深いところにあると見る。フィルタリングは症状への対処であり、学習データそのものの構造的偏りという根本原因には触れていない、という批判だ。

政策立案者の視点では、欧州のAI法（EU AI Act）が2024年に施行され、高リスクAIシステムへの規制が始まっている。日本でも内閣府のAI戦略会議がガイドライン整備を進めているが、生成AIのバイアス問題に特化した法的枠組みはまだ発展途上にある。

文化的な文脈で考えると、日本社会は「和」と「均質性」を重視する傾向があり、差別表現への感度は文脈によって異なる。欧米で問題視される人種的ステレオタイプが日本のユーザーには見えにくい場合もあれば、逆に日本固有のジェンダー規範がAI出力に反映されることへの無自覚もありうる。グローバルなAIツールを使う際、私たちはどの「偏見のフィルター」を通して見ているのかを意識する必要がある。

問われているのは技術ではなく、私たちだ

ヴィーチ氏の体験が示唆するのは、技術の問題というよりコミュニティの問題かもしれない。AIが差別的な映像を生成することよりも、それを「気にしない」人々が集まるコミュニティの存在の方が、より根深い課題を示している。

技術は価値中立ではない。しかし同時に、技術を使う人間のコミュニティが何を「問題」と見なし、何を「許容」するかという文化的判断もまた、AIの出力を形作っていく。