Liabooks Home|PRISM News
當AI成為霸凌工具:美國校園「誹謗頁面」現象
科技AI分析

當AI成為霸凌工具:美國校園「誹謗頁面」現象

4分钟阅读Source

美國高中生利用AI影片合成工具製作教師誹謗內容,單則影片獲逾10萬讚。這場數位霸凌新浪潮,揭示了生成式AI普及後的社會代價與監管困境。

一段影片裡,學區教育長正在對嘴唱情歌,旁邊站著AI合成的以色列總理內塔尼亞胡,以及已故性罪犯傑弗里·愛潑斯坦。這不是政治諷刺節目,而是美國德州一名高中生在Instagram上發布的「梗圖」——按讚數超過107,000

什麼是「誹謗頁面」?

近年來,美國中學生在Instagram和TikTok上開設專門針對教師與學校行政人員的帳號,利用AI工具製作合成影片與圖像,藉此嘲諷甚至損害師長聲譽。這類帳號在網路上被稱為「slander pages(誹謗頁面)」,是傳統校園惡作劇在AI時代的變種。

其中最常被使用的工具之一是Viggle AI,這個平台能讓使用者將任何人的照片嵌入影片,或將靜態圖像轉換為對嘴影片。截至2025年2月,Viggle AI已擁有超過4,000萬用戶。倫敦國王學院旗下的「全球極端主義與科技網絡」研究機構,將其定性為「自發性極端主義宣傳內容創作的新疆域」。

在德州克蘭德爾高中,情況尤為嚴重。一個名為@crandall.kirkinator的TikTok帳號所發布的教師嘲諷內容,被擁有數十萬粉絲、與該校毫無關聯的外部帳號大量轉發,導致多名教師遭到陌生人騷擾電話及騷擾郵件轟炸。帳號管理者最終發表聲明致歉,承認「從未預料事態會演變至此」,但幾天後又重新開始發文,直到帳號被徹底刪除。

內容並不只是無傷大雅的玩笑。部分影片將教師的臉疊加在模擬吸食芬太尼後癲癇發作的畫面上;另一些則借用新納粹神秘主義的「阿加爾塔」概念,以發光的眼睛標示教師是否「被允許進入」這個虛構的白人純淨世界。誹謗內容中大量使用源自「男性主義論壇」的貶義詞彙,如「mog」(以外貌壓制他人)和「sub5」(形容外貌低於人類標準者)。

Meta(Instagram母公司)表示已移除部分違規內容;TikTok則稱已刪除違反社群守則的影片並建立自動攔截機制。然而,帳號刪了又開、開了又刪的循環,顯示平台治理面臨根本性的困境。

為什麼現在格外值得關注?

嘲笑老師從來不是新鮮事,但這一波現象與過去有三個關鍵差異。

PRISM

廣告合作

[email protected]

首先是規模。 過去的惡作劇止於校園圍牆,今日的一則短影片可以在數小時內觸及全球受眾,並被毫無關聯的外部帳號進一步放大。克蘭德爾的案例清楚說明:地方性的校園糾紛,可以在演算法推波助瀾下演變為全國性的騷擾行動。

其次是工具的平民化。Viggle AI等工具讓任何人都能在幾分鐘內製作出以假亂真的合成影片,無需任何專業技術。這意味著傷害他人聲譽的門檻幾乎降至零。

第三是內容生態的污染。 這些看似無害的「校園梗圖」,實際上嵌入了來自網路極端角落的語彙與符號。研究者擔憂,當青少年在不知情的情況下使用這些詞彙,可能在無意間成為更廣泛仇恨文化的傳播載體。

阿姆斯特丹大學迷因研究學者İdil Galip指出,以色列和愛潑斯坦檔案在當前網路輿論中具有極高的流量節點效應。「令人悲哀的是,這些成了人們可以掛靠自己內容創作的熱門標籤。」

對華人世界的啟示

這一現象對台灣、香港及東南亞華人社群而言,並非遙不可及。

台灣近年來在《數位中介服務法》的立法討論中,持續面臨如何平衡言論自由與平台責任的難題。美國案例顯示,即便平台有明確的反霸凌政策,執行層面仍存在巨大落差。這對台灣的政策制定者提出了一個實際問題:當AI合成工具讓違規內容的生產速度遠超過人工審核的能力,法規應如何因應?

在中國大陸,對社群媒體內容的管控相對嚴格,此類帳號大規模存在的空間較小。然而,Viggle AI等工具本身並不受地域限制,深度偽造(deepfake)技術的濫用問題同樣存在——只是呈現形式不同,更多見於商業詐騙和政治操弄,而非校園霸凌。

香港和東南亞的情況則介於兩者之間:平台管制相對寬鬆,但文化上對公開羞辱師長的行為仍有一定程度的社會規範約束。問題在於,當這種規範與全球化的網路文化相遇,能維持多久?

阿姆斯特丹大學的Geert Lovink教授將問題的核心定義為「深層的技術斷裂」——年輕人眼中的無害玩笑,與這些內容在現實世界造成的後果之間,存在著他們尚未意識到的巨大鴻溝。

Galip的觀察更為深刻:「他們在這種文化中被社會化——臉不再是自己的,而是觀看者的、評論者的、用來取笑的。我們正在見證,當人們透過網路而非鏡子來認識自己時,所產生的連鎖效應。」

本内容由AI根据原文进行摘要和分析。我们力求准确,但可能存在错误,建议核实原文。

观点

相关文章

PRISM

廣告合作

[email protected]
PRISM

廣告合作

[email protected]