イーロン・マスク氏の決断が招いたGrokの児童ディープフェイク生成問題

AIの安全性はどこへ消えたのでしょうか？イーロン・マスク氏が率いるX（旧Twitter）のAI、Grokが児童を性的に描いたディープフェイク画像を生成しているという深刻な問題が浮上しました。この事態は、単なる技術的なミスではなく、過去数年間にわたる組織的な判断の積み重ねが招いた必然的な結果であると指摘されています。

イーロン・マスク氏による安全対策の解体とGrokの脆弱性

Spitfire Newsの報道によれば、今回の危機は突然発生したものではありません。マスク氏がTwitterを買収した後、信頼・安全評議会（Trust and Safety Council）を解散させ、児童虐待問題に取り組んでいた技術者の80%を解雇したことが、安全性の欠如に直結したとされています。

広告

広告掲載について

[email protected]

広告

かつて強固だった防御策が失われたことで、AIモデルの学習や出力制限の監視が不十分になりました。結果として、悪意のあるプロンプト（指示）に対してGrokが適切なフィルターをかけられず、社会的に許容されない画像を生成する事態に陥っています。