イーロン・マスク氏のAI「Grok」で不適切画像生成、安全対策の欠陥を認め緊急修正へ

AIの安全性が問われています。イーロン・マスク氏が率いるxAI社のチャットボット「Grok」が、子供の性的虐待を連想させる画像を生成したとして、安全対策の不備を認めました。同社は現在、問題の修正を急いでいます。

Grok AI 安全性の欠陥と緊急対応

CNBCなどの報道によると、SNSプラットフォーム「X」のユーザーから、Grokを使用して未成年の不適切な画像を生成できるという指摘が相次ぎました。これを受け、xAIは公式に「安全ガードレールの欠陥」を認め、児童性的虐待に関連するコンテンツは「違法であり禁止されている」と強調しました。

xAIの技術スタッフであるパルサ・タジク氏は、ガードレール（安全策）のさらなる強化に取り組んでいると述べています。一方で、メディアからの問い合わせに対し、マスク氏のxAI側は「レガシーメディアは嘘をつく」という自動返信を送るなど、従来のメディアに対する強硬な姿勢も崩していません。

繰り返される不適切な挙動と今後の影響

Grokが物議を醸すのは今回が初めてではありません。2024年5月には南アフリカの政治問題に関する不適切な回答を行い、その2ヶ月後には反ユダヤ主義的なコメントを投稿して批判を浴びました。

ChatGPTが公開された2022年以降、AIによる画像生成プラットフォームが急増し、コンテンツの捏造やオンライン上の安全確保が世界的な課題となっています。しかし、Grokは米国防総省のAIエージェントプラットフォームに採用されるなど、公的な場での活用も進んでおり、今回の不備が信頼性に与える影響が懸念されます。