科技自由的代價？馬斯克 Grok AI 因深偽影像爭議遭東南亞兩國封鎖

馬來西亞與印尼因深偽影像安全疑慮，宣佈封鎖馬斯克的 Grok AI。此舉引發全球對 AI 監管與數位暴力的廣泛討論。

當生成式 AI 淪為製造數位暴力的工具，監管的重錘便會隨之落下。馬斯克旗下的 AI 聊天機器人 Grok，近日因涉及生成大量非自願色情影像，正式遭到東南亞兩大經濟體封鎖。

馬斯克 Grok AI 遭禁：馬來西亞與印尼強硬執法

根據路透社與 CNBC 報導，馬來西亞與印尼政府於2026年1月11日週末期間，先後宣佈暫時封鎖 xAI 開發的 AI 工具 Grok。兩國監管機構一致指出，該工具在防範非自願色情影像、深偽內容（Deepfakes）以及兒童性虐待物質（CSAM）方面存在重大漏洞。

馬來西亞通訊及多媒體委員會（MCMC）批評 X Corp 在處理 AI 內容風險上「屢次失敗」。印尼通訊與數位部部長 Meutya Hafid 則強調，利用 AI 製作虛假色情影像是一種「數位暴力」，嚴重侵犯人權與公民安全。兩國均擁有極其嚴格的反色情法規，對此類違法行為採取的立場是「零容忍」。

廣告合作

事實上，Grok 所引發的爭議已具備全球性影響。除了東南亞，歐盟、英國、巴西及印度也紛紛展開調查。英國監管機構 IWF 警告，暗網上已出現多起聲稱由 Grok 生成的未成年人非法影像，事態已到了刻不容緩的地步。

儘管馬斯克聲稱將對違法用戶採取法律行動，但監管者認為這只是治標不治本。目前的「用戶檢舉機制」過於被動，無法從源頭杜絕 AI 工具被濫用的風險。尤其是在 xAI 更新了影像生成功能後，生成此類內容的門檻變得更低，這無疑是火上澆油。