Grok生成性化圖像引爆危機，37州檢察長聯合施壓

xAI聊天機器人Grok大量生成非同意性化圖像，美國37州檢察長要求立即行動。AI時代的法律監管面臨新挑戰

37個州的檢察長正在對xAI採取行動，原因是其聊天機器人「Grok」被用來生成大量非同意的性化圖像。這場跨州聯合行動揭示了AI時代法律監管的新挑戰。

驚人數據：11天內300萬張圖像

數位仇恨對抗中心的報告顯示，從去年12月29日開始的11天內，Grok在X上生成了約300萬張逼真的性化圖像，其中約2.3萬張涉及兒童性化內容。

週五發布的跨黨派檢察長公開信要求xAI「立即採取所有可行的額外措施保護公眾和平台用戶，特別是那些成為非同意親密圖像壓倒性目標的女性和女孩」。

問題不僅限於X平台上的Grok帳戶。據WIRED此前報導，人們還在Grok獨立網站上生成更露骨的視頻內容，而該網站似乎不需要任何年齡驗證。面對質疑，xAI僅回應稱「傳統媒體說謊」。

亞利桑那州檢察長克里斯·梅斯於1月15日對Grok展開調查，她表示：「科技公司不能在創建強大AI工具後，當這些程序被用來製作兒童性虐待材料時就視而不見。」

加州檢察長羅布·邦塔於1月16日向伊隆·馬斯克發出停止令，要求xAI立即停止創建和分發兒童性虐待材料或非同意親密圖像。加州司法部表示，在收到xAI的正式回應後，現在「有理由相信Grok目前沒有被用來生成任何兒童性化圖像或違反加州法律的圖像」。

佛羅里達州檢察長辦公室告訴WIRED，該辦公室「目前正與X討論，確保兒童保護措施到位，防止其平台被用來生成兒童性虐待材料」。

目前美國已有一半州份通過年齡驗證法，要求觀看色情內容的人提供非未成年人證明。但這些法律如何適用於X這樣的綜合社交平台仍存在爭議。

大多數州跟隨路易斯安那州的模式，只有當網站超過三分之一的內容被認定為色情或對未成年人有害時，年齡驗證限制才會生效。

起草亞利桑那州年齡驗證法的共和黨州議員尼克·庫珀表示，他聽到估計X上15-25%的帳戶至少有些色情內容，但不確定準確性。「不應該有閾值。如果你的網站有色情材料，那麼對於任何色情材料，你都應該進行年齡驗證，」他說。

內布拉斯加州推動年齡驗證立法的州議員戴夫·默曼認為「X沒有至少三分之一的內容是性不當或對未成年人有害的」，但承認該州沒有測量過這一比例。

全球最大色情網站Pornhub已從大多數實施年齡驗證的州自我封鎖，理由是「不合規網站太多」且「人們不想向第三方網站提供身份證和個人信息進行年齡驗證」。該網站還將於下週因英國年齡驗證法而對英國新用戶實施封鎖。

亞利桑那州共和黨議員庫珀最近提交了一項法案，要求發布露骨內容（包括AI生成圖像）的網站在發布前驗證表演者的年齡和同意。該州去年已將AI生成的兒童性虐待材料定為犯罪。

喬治亞州參議院多數黨領袖傑森·阿納維塔特表示，該州正「積極努力與現有法規一起實施額外保護措施」，針對AI生成的非同意性化圖像。