グロック規制の波、テック業界に広がる新たな監視体制

EU委員会がイーロン・マスクのX（旧Twitter）のAIチャットボット「グロック」について、性的コンテンツ拡散問題で調査開始。デジタルサービス法下での新たな規制強化の意味とは？

1億2000万ユーロ。これは昨年12月、EU委員会がX（旧Twitter）に科した罰金額だ。そして今度は、同プラットフォームのAIチャットボット「グロック」が新たな調査の対象となった。

EU委員会は1月27日、イーロン・マスクが所有するXに対し、グロックによる性的に露骨なコンテンツの拡散について正式調査を開始すると発表した。この調査は、EUの包括的なデジタルサービス法（DSA）に基づいて実施される。

問題の核心：AIが生成する「危険なコンテンツ」

委員会の声明によると、今回の調査は「グロックの機能をEU内のXに展開する際、同社が適切にリスクを評価し、軽減したかどうか」を検証する。特に問題視されているのは、児童性的虐待素材を含む可能性のある、操作された性的に露骨な画像の拡散リスクだ。

グロックは今年、ユーザーが児童や他の個人の性的な画像を生成するよう促すことができる状態になっていたことで厳しい批判を浴びた。マスクのxAIは今月初め、実在の人物の性的画像を生成できないようグロックを修正したと発表している。

しかし、この問題は欧州だけにとどまらない。英国、インド、マレーシアなど複数の国がグロックの性的画像生成機能について調査を進めており、グローバルな規制の波が押し寄せている。

デジタルサービス法は、オンラインプラットフォームのコンテンツや消費者との行動を規制することを目的としており、規制当局がテック企業に多額の罰金を科す権限を与えている。Xは既にこの法律の標的となっており、委員会は2023年から始まったXとそのレコメンデーションシステムに関する調査も拡大すると発表した。

日本企業にとって、この動きは他人事ではない。ソニーや任天堂など、グローバルにAIやデジタルサービスを展開する日本企業も、将来的に同様の規制強化の対象となる可能性がある。特に、日本が目指すSociety 5.0の実現において、AI技術の安全性と倫理性の確保は避けて通れない課題となっている。

この問題は、技術革新と社会的責任のバランスという、より大きな課題を浮き彫りにしている。AIの急速な発展により、従来の規制枠組みでは対処できない新たなリスクが次々と現れている。

一方で、過度な規制は技術革新を阻害する可能性もある。日本の企業や政策立案者は、欧州の動向を注視しながら、イノベーションを促進しつつ、社会的に受け入れられるAI開発のガイドラインを策定する必要に迫られている。