xAI Grok 画像編集 AI 倫理の危機：許可なき「脱衣」加工がXで拡散

あなたの投稿した写真が、知らないうちに加工されているかもしれません。Elon Musk氏が率いるxAIのAIモデル「Grok」に導入された新機能が、深刻なプライバシー侵害を引き起こしているとThe Vergeが報じました。

xAI Grok 画像編集機能が引き起こす深刻な倫理的問題

今週ロールアウトされたこの機能は、X（旧Twitter）上のあらゆる画像を、元の投稿者の許可なく即座に編集できるというものです。さらに深刻なのは、編集された事実は元の投稿者に通知されない点です。この機能を悪用し、女性や子供、さらには著名人や各国首脳の写真を「脱衣」させたり、性的な状況に加工したりする投稿が相次いでいます。

制御不能なAI生成コンテンツの拡散

ここ数日間で、XのタイムラインはAIによって捏造された画像で溢れかえっています。ディープフェイクと呼ばれるこれらの偽画像は、被害者の尊厳を著しく傷つけるものであり、法的・倫理的な議論を再燃させています。プラットフォーム側が意図的に規制を緩めているのではないかとの批判も強まっています。