AIディープフェイクが女性を標的に：中国の事例が示すデジタル時代の新たな課題

47%の女性が何らかの形でオンライン・ハラスメントを経験している現代において、AI技術の悪用は新たな脅威として浮上している。中国で起きた事例は、私たちが直面するデジタル時代の複雑な課題を浮き彫りにしている。

何が起きたのか

中国の草の根フェミニスト・メディア集団「Free Nora」は先週、多くのインターネットユーザーがバイトダンスのAIチャットボット「Doubao」を悪用し、実在する女性の非同意ポルノ画像を生成していると報告した。この「デジタル公開羞辱」キャンペーンは、ソーシャルメディアの影の部分で静かに拡散していたという。

問題の深刻さは、単なる技術的な不具合を超えている。これらの画像は実在する女性を標的にしており、その多くが一般市民だった。被害者の中には、自分の顔が勝手に使用されていることを知らない女性も含まれていたと報告されている。

バイトダンスは問題発覚後、迅速に対応し、該当機能の制限を強化したと発表した。しかし、この事件は既に中国国内外で大きな議論を呼んでいる。

技術と規制のジレンマ

広告

広告掲載について

[email protected]

広告

興味深いのは、中国政府の反応である。通常、インターネット規制に厳格な中国当局が、この件についてはまだ公式な声明を出していない。これは、AI技術の発展と社会的害悪の防止という、相反する目標の間での慎重な判断を示しているのかもしれない。

日本企業にとって、この事例は重要な教訓となる。ソニーや富士通など、AI技術を開発・提供する日本企業は、技術的な可能性と倫理的責任のバランスをどう取るべきか、改めて考える必要がある。

特に注目すべきは、技術的な解決策の限界である。画像生成AIの精度が向上する一方で、悪用を完全に防ぐ技術的手段は存在しない。これは、技術的対策だけでなく、法的・社会的な枠組みの必要性を示している。

日本社会への示唆

日本では、2024年に「AI利用ガイドライン」が策定されたが、この中国の事例は既存の枠組みだけでは不十分である可能性を示している。特に、日本の高齢化社会において、デジタル・リテラシーの格差が被害の拡大要因となる可能性がある。

また、日本企業の国際展開を考える上でも重要な視点がある。日本のAI企業が海外市場に進出する際、各国の文化的・法的背景を理解した上での倫理的配慮が求められるだろう。

女性の社会進出が進む日本において、デジタル空間での安全性確保は経済発展にも直結する課題となっている。働く女性の3人に1人がオンライン・ハラスメントを理由に転職を検討したという調査結果もある。