Liabooks Home|PRISM News
時事漫畫。木製工作臺上的輸送帶載著一幅風景畫框,正駛進右側的木製檢查拱門。左上方兩隻穿藏青色袖子的手剛完成畫框:一隻手提起在畫面上留下淡淡波紋的滾筒,另一隻手放開紅色吊牌的細繩。右下方兩隻穿藍色袖子的手用手持掃描器讀取吊牌,並把一張空白卡片夾在畫框正面。
科技AI分析

AI標示:中國平台有查核義務,歐盟行為準則有雙層承諾

20分鐘閱讀

中國自2025年9月起,要求AI生成內容的檔案寫入「AIGC」詮釋資料,並要求傳播平台查核。歐盟行為準則的簽署者則自願承諾在圖片、影片、音訊加上詮釋資料與浮水印兩層標記,本文對照原文看兩者分歧。

文字高度至少為畫面最短邊的5%,影片標示至少顯示2秒。若以節奏加進音訊,就是「短长 短短」,也就是摩斯電碼的「AI」。這是中國AI生成內容上「可見標示」的規格。檔案內部則要在「AIGC」名稱下寫入7個欄位。兩者都由強制性國家標準 GB 45438—2025規定(標準原文,Sidley刊載的副本)。這項標準與中國國家網際網路資訊辦公室(CAC)刊載的《人工智能生成合成内容标识办法》(以下簡稱《标识办法》),同在2025年9月1日施行。義務由《标识办法》規定;GB 45438則如標準引言所述,依據《标识办法》等法規訂定標示方法。可見標示適用於可能造成公眾混淆或誤認的情形。

在歐盟,《AI生成內容透明度行為準則》(Code of Practice on Transparency of AI-Generated Content)把不可見標示寫成兩層。簽署準則的提供者承諾,在圖片、影片、音訊中同時加入經簽章的詮釋資料(metadata)與不可見浮水印。經簽章的詮釋資料,是附有數位簽章與時間戳記、遭竄改時可被察覺的檔案資訊;不可見浮水印則是以肉眼看不見的方式嵌入內容中的標示。準則對此附加一項條件:前提是沒有任何單一標記技術能獨力確保符合要件。準則採自願簽署。在不可見標示方面,歐盟《人工智慧法》(AI Act)明定為義務的,只到第50條第2項可機器讀取、可偵測的標示(第1篇)。中國則是《标识办法》鼓勵、GB標準准許浮水印。兩套制度在哪裡分歧?在確認的範圍內,PRISM看兩處:讀取檔案階段的義務,以及生成階段的第二層。

可見標示:放在哪裡、多大、多久

《标识办法》第3條所稱的「显式标识」(可見標示),是「可以被用户明显感知到的标识」。《标识办法》第4條把這項義務套用在《互联网信息服务深度合成管理规定》(以下簡稱《深度合成规定》)第17條第1項所列的服務,也就是「可能导致公众混淆或者误认的」情形。該項列舉對話與寫作、合成人聲、人臉等人物圖像與影片、沉浸式場景,以及其他生成或顯著改變資訊內容的服務。最後一款是概括條款,因此適用對象不以列舉為限。其他服務則須提供標示功能(第17條第2項)。

GB 45438依媒體類型訂定的規格如下:

  • 文字:採文字或「角标」(角落標記)形式。文字須包含「人工智能」或「AI」,以及「生成」、「合成」至少其一。
  • 圖片:置於邊緣或角落,「文字高度不应低于画面最短边长度的5%」。
  • 影片:置於畫面邊緣或角落,文字高度至少5%。以正常速度播放時,須持續顯示2秒以上。
  • 音訊:採語音標示或節奏標示。標準註釋將「短长 短短」節奏寫為「“AI”的摩斯码表示」。須放在開頭、結尾或中間至少一處。
  • 虛擬場景:以文字提示。

下載後,標示也必須留著。《标识办法》第4條規定,提供下載、複製、匯出等功能時,「应当确保」檔案中含有可見標示。例外是第9條:透過使用者協議載明使用者的標示義務與使用責任後,可以提供不含可見標示的版本,此時須留存日誌6個月以上。

在歐盟,可見標示依《人工智慧法》第50條第4項由部署者(deployer)負責,對象是深偽內容,以及涉及公共利益事務的AI文字。歐盟執委會的歐盟圖示(EU icons)有4種變化。執委會寫道:「The use of these EU icons is optional, but the labelling requirements under Article 50 AI Act are not」(這些歐盟圖示可選擇是否使用,但第50條的標示要求不可選擇)。準則則鼓勵簽署者在系統介面提供選用功能,加上看得見的標籤(Measure 1.4)。

檔案內的標示:「AIGC」7個欄位與傳播平台的查核義務

《标识办法》第3條所稱的「隐式标识」(不可見標示),是以技術措施加在檔案資料中、「不易被用户明显感知到」的標示。GB 45438依嵌入位置,分為檔案詮釋資料標示與內容中的標示。詮釋資料依《标识办法》第5條的定義,是「嵌入到文件头部的描述性信息」(嵌入檔案標頭的描述資訊)。

《标识办法》第5條要求生成服務提供者加入這項詮釋資料標示。作為依據的《深度合成规定》第16條,要求在生成或編輯的資訊內容中加入標示,且沒有第17條第1項那樣的範圍限定。格式由GB 45438附錄E規定(《标识办法》第11條也要求符合強制性國家標準)。欄位名稱或關鍵字須包含「AIGC」。從欄位名稱看,組成包括:是否為AI生成(Label)、生成服務與內容編號(ContentProducer、ProduceID)、傳播平台與編號(ContentPropagator、PropagateID),以及兩個ReservedCode。

{"AIGC":{"Label":"value1","ContentProducer":"value2","ProduceID":"value3","ReservedCode1":"value4","ContentPropagator":"value5","PropagateID":"value6","ReservedCode2":"value7"}}

Label的值有三種:屬於生成合成內容取1,「可能」為生成合成內容取2,「疑似」取3。檔案中的詮釋資料標示「仅保留一份」。

Label 2、3的「可能」與「疑似」,和《标识办法》第6條的提醒用語相同。第6條規定,散布內容的平台,也就是「网络信息内容传播服务」(網路資訊內容傳播服務)提供者,「应当」採取以下措施:

  1. 確定:「核验」(查核)檔案詮釋資料中是否含有不可見標示。若詮釋資料標明為生成合成內容,就提醒公眾該內容「属于生成合成内容」。
  2. 可能:詮釋資料中未查核到標示,但使用者聲明為生成合成內容時,提醒公眾該內容「可能为」生成合成內容。
  3. 疑似:兩者皆無,但平台偵測到「显式标识或者其他生成合成痕迹」時,以「疑似」提醒公眾。

透過查核詮釋資料得出的結果,只有「確定」。「可能」與「疑似」是沒有詮釋資料時的路徑。三種情形下,平台都要在詮釋資料中加上自己的名稱或代碼、內容編號等傳播要素。

抖音在2025年9月1日發布的公告中表示,已具備讀取與寫入AI內容詮釋資料的功能。若查核到詮釋資料中的不可見標示,會加上「作品含AI生成内容」;若以技術偵測到創作者未主動標示的內容,則加上「疑似使用了AI生成技术,请谨慎甄别」。據新華網9月9日轉載的《人民郵電報》報導,微信也發布公告,表示會對可能由AI生成的內容加上提示。兩家平台實際上是否已在加註,不在公告能說明的範圍內。

施行已逾一年,仍未找到單獨列出標示違規處分件數的官方統計,也未找到各平台偵測成效的統計。公布時程同樣未能確認。

歐盟準則簽署者的第一層同樣是詮釋資料。依Sub-measure 1.1.1,簽署者將在詮釋資料中記錄內容是否為AI生成或操弄(will record),並加上數位簽章與時間戳記(限有時間資訊的系統)。準則原文中沒有「C2PA」(開發Content Credentials的Coalition for Content Provenance and Authenticity)或「content credentials」字樣。

內容中的標示:浮水印的鼓勵與承諾

浮水印是混入內容本身的不可見標示,也就是GB 45438所說的「内容隐式标识」,標準以數位浮水印為例。《标识办法》第5條「鼓励」加入數位浮水印等形式的標示。GB 45438第6.2節則以「准许采用数字水印等形式」予以准許。

對歐盟準則簽署者來說,浮水印是第二層。Sub-measure 1.1.2寫道:「Signatories will ensure that AI-generated or manipulated content is marked with an imperceptible watermark, with the exception of very short text」(除極短文字外,簽署者將確保AI生成或操弄的內容帶有無法察覺的浮水印)。超過200個token的自由文字,即使可靠性可能較低(may have lower reliability),仍要加上浮水印。準則認為,無法承載詮釋資料的自由文字,以及嵌入受控封閉環境中實體產品的生成式AI,一層標記就已足夠。指紋辨識與日誌記錄屬選用。

兩套制度都沒有用法律要求浮水印。中國以《标识办法》鼓勵、以GB標準准許;在歐盟,則由簽署準則的提供者承諾。

PRISM

廣告合作

[email protected]

以企業為例,OpenAI說明頁面(11月4日查閱)表示,以ChatGPT、Codex與API生成的圖片,會同時加入Content Credentials詮釋資料與Google DeepMind的SynthID浮水印。頁面也寫明,文字浮水印只在歐盟加入,目的是遵守歐盟《人工智慧法》。

標示消失的時候

截一張圖,詮釋資料就會消失嗎?OpenAI自家說明頁面寫道,Content Credentials「can be lost through everyday actions, such as taking a screenshot or converting a file」(可能因截圖或轉換檔案等日常操作而遺失)。浮水印經過大幅裁切、壓縮、大量改寫或翻譯,也可能偵測不到(「can make a watermark undetectable」)。

文字浮水印有數字可查。OpenAI在10月5日公布的自我評估中,把400個token文章裡10%的詞換成同義詞後,浮水印偵測率從約92%降到66%;換掉25%時降到17%。這是僅限文字的數字。

中國《标识办法》在條文中訂有標示消失後的路徑。沒有詮釋資料時,改走「可能」或「疑似」標示;須加可見標示的服務,也必須讓下載的檔案保留該標示。第10條規定,任何組織和個人不得「恶意删除、篡改、伪造、隐匿」標示。《深度合成规定》第18條也禁止以技術手段刪除標示。

歐盟準則簽署者承諾,當自家AI將輸入內容轉換後輸出時,保留既有的詮釋資料標示,不刻意更改或移除(Measure 1.2)。中國的禁令適用於所有人;歐盟的承諾,適用於簽署者用自家AI轉換內容時。兩者性質不同,無法藉這項比較判斷哪一方更能防止標示被移除。

準則簽署者承諾免費提供偵測工具,用來辨別內容是否帶有標示。生成式AI每月使用者未滿100萬人、且偵測工具營運成本高的簽署者,可以收費。讓各簽署者偵測工具彼此相通的互通性方案,期限是2027年2月2日。

雙層承諾所附條件的原文如下:「So long as no single marking technique can, under the state of the art, ensure by itself compliance with the four requirements in Article 50(2) AI Act…」(只要在現有最先進技術下,沒有任何單一標記技術能獨力確保符合第50條第2項的四項要件,即有效性、互通性、穩健性與可靠性)。準則也寫明,未來有空間以替代技術(也可能是單一技術)證明合規。PRISM確認的《标识办法》與GB 45438條文中,沒有找到這類條件。

兩套制度哪一方實際上抓得更多,目前不知道。沒有找到衡量兩套制度偵測成效的一手資料。上述92%、66%是OpenAI對自家文字浮水印的自我評估,不能用於這項比較。

分歧之處與兩種解讀

在確認的範圍內,PRISM解讀兩套制度在兩處分歧。在讀取階段,中國以法律義務要求傳播平台查核詮釋資料並重新標示。在生成階段,歐盟準則簽署者承諾在詮釋資料之外再加浮水印,構成雙層。

同樣的原文也能導出相反的解讀:兩套制度都是「生成階段標示+讀取階段查核」的兩段式結構。中國的「確定」,也要生成服務先寫入詮釋資料才會出現。歐盟文件中也有傳播階段(平台)的條文。依這種解讀,差別在於程度:中國把讀取階段定為法律義務,歐盟則放在鼓勵、工具與風險減緩措施的例子中。相關條文如下:

  • 準則第1節(Measure 1.2末段、Commitment 2、Measure 1.4):經營平台的簽署者確保平台「preserves metadata markings」(保存詮釋資料標示),所有簽署者讓偵測工具「directly available within distribution and communication platforms」(可在傳播與通訊平台中直接使用),兩者都是「are encouraged」(受鼓勵)。協助平台、搜尋引擎與網站提供者呈現標示的支援措施,也屬選用的鼓勵事項。
  • 準則第2節(身為平台或搜尋引擎提供者的簽署者,包括受歐盟《數位服務法》(DSA)第35條第1項規範的超大型平台):透過上傳介面的揭露工具等方式使用歐盟圖示或同等方案,屬「are encouraged」(受鼓勵)。
  • DSA第35條第1項(k):超大型線上平台與搜尋引擎的義務,是採取風險減緩措施(shall put in place)。讓與真實人物、地點等相似、看似真實的生成或操弄圖片、音訊、影片「distinguishable through prominent markings」(以顯著標記加以區別),是這類措施的例子(「may include, where applicable」)。條文中沒有查核詮釋資料的字句。

兩種解讀的爭點只有一個:義務與鼓勵的差別,要看成「種類」之別(誰必須讀取),還是「程度」之別(約束力多強)。兩種解讀共有一項事實:在確認的範圍內,以法律義務要求傳播平台查核並重新標示的是中國;歐盟的平台條文,則是鼓勵事項或風險減緩措施的例子。PRISM在讀取階段所說的「分歧」,只指這個共同部分;屬於種類還是程度,單憑原文無法判定。在歐盟方面,PRISM確認的範圍是《人工智慧法》第50條、行為準則與DSA第35條第1項,其他歐盟平台法規並未確認。

三個問題的解答

Q1. 在中國,AI生成的圖片、影片、語音,標示長什麼樣子?

可能造成公眾混淆或誤認的服務,要加上可見標示。圖片與影片是在邊緣或角落放置高度至少為最短邊5%的文字,影片須顯示2秒以上。音訊則是語音提示,或「短长 短短」(摩斯電碼的「AI」)節奏。下載後的檔案也要保留標示。若以使用者協議載明,並留存日誌6個月以上,也可以提供不含可見標示的版本。

Q2. 浮水印和詮釋資料有什麼不同?被刪除或截圖時會怎樣?

詮釋資料是檔案標頭的描述資訊,浮水印則是嵌入內容本身的標示。中國把詮釋資料定為義務,浮水印則是鼓勵與准許。依OpenAI的說明,截圖或轉檔可能讓詮釋資料消失,大幅裁切或壓縮可能讓浮水印偵測不到。這時,中國有使用者聲明與平台偵測的路徑,以及適用於所有人的刪除禁令。歐盟準則簽署者則承諾,以自家AI轉換時不刪除詮釋資料,並免費提供偵測工具。由於沒有找到衡量兩套制度偵測成效的一手資料,哪一方抓得更多,目前不知道。

Q3. 韓國App若要在中國與歐盟推出AI圖片功能,要加幾層、用什麼?

  • 中國:推出生成功能,就要在檔案詮釋資料中加入「AIGC」標示(《标识办法》第5條)。若屬可能造成公眾混淆或誤認的服務,也要加上可見標示(第4條)。浮水印為鼓勵事項。第6條的查核與重新標示,適用於「网络信息内容传播服务」提供者,也就是散布內容的服務。因此,App是只提供生成功能,還是同時兼營散布使用者內容的服務,要做的事會不同。App商店在上架審核時,會要求說明是否提供生成服務,並查核標示相關資料(第7條)。
  • 歐盟:第50條第2項的機器可讀標示是義務。詮釋資料與浮水印雙層,是簽署準則時的承諾。依執委會簽署名單(9月24日更新),第1節(提供者適用)的簽署者有95家。
  • 能否合為一套:目前不知道。沒有一手資料討論兩種格式能否銜接;而GB要求檔案中只保留一份的,是「AIGC」詮釋資料標示。期限為2027年2月2日的歐盟偵測互通性方案可能提供線索,但該方案是否涵蓋格式對應,目前不知道。

PRISM的解讀與證據強度

PRISM的解讀如下:2025年9月施行的中國規則,要求傳播平台查核「AIGC」詮釋資料並重新標示;歐盟行為準則則讓簽署的提供者承諾,在圖片、影片、音訊中加入詮釋資料與浮水印兩層。在確認的範圍內,兩套制度在讀取階段的義務與生成階段的第二層上分歧。

前兩項事實已用一手原文確認:中國是《标识办法》第6條的「应当」,歐盟是準則Measure 1.1附條件的「will」。「分歧」是PRISM的解讀。中國是法令與強制性國家標準規定的義務,歐盟的雙層是自願準則簽署者的承諾。因此,「分歧」一詞只用來表示兩套制度把規則放在不同位置,不含哪一方較好的判斷。

若歐盟確認有傳播平台的標示義務,或準則的平台條文由鼓勵(are encouraged)改為承諾(will),又或中國把浮水印提升為義務,PRISM將重新檢視這項解讀。

接下來要看的

  • 2027年2月2日:歐盟準則簽署者偵測互通性方案的期限。觀察方案是否涉及偵測率或格式對應。
  • 微信公告原文:抖音公告已確認原文;微信公告未能直接開啟原文,因此依報導轉述。確認原文後,將在本文下方以更新補記。
  • 處分與偵測統計:觀察官方是否公布標示違規處分件數,或各平台的偵測成效。
  • 系列:第3篇(11月19日)談韓國與台灣的罰則。中國《标识办法》本身沒有罰款金額。第4篇(11月26日)談日本與檢查清單。

系列第1篇:歐盟AI法深偽標示8月已適用 12月2日緩衝期範圍很窄

基準:2026年11月12日(韓國時間),CAC《标识办法》、GB 45438副本、歐盟行為準則、DSA原文

資料來源

  • 中國國家網際網路資訊辦公室(CAC),《人工智能生成合成内容标识办法》(CAC刊載2025年3月14日,2025年9月1日施行),https://www.cac.gov.cn/2025-03/14/c_1743654684782215.htm
  • 中國國家網際網路資訊辦公室(CAC),《互联网信息服务深度合成管理规定》,https://www.cac.gov.cn/2022-12/11/c_1672221949354811.htm
  • GB 45438—2025《网络安全技术 人工智能生成合成内容标识方法》標準原文副本(Sidley刊載),2025年2月28日發布、2025年9月1日施行,https://www.sidley.com/en/-/media/resource-pages/ai-monitor/20250314-china-standard-gb-454382025-labeling-method-for-content-generated-by-ai.pdf?la=en
  • 國家標準全文公開系統,GB 45438-2025查詢列表(標為「强标」),https://openstd.samr.gov.cn/bzgk/gb/std_list?p.p2=45438
  • 抖音安全與信任中心,〈抖音关于升级AI内容标识功能的公告〉,2025年9月1日,https://95152.douyin.com/article/69831756697378034
  • 新華網,〈《人工智能生成合成内容标识办法》正式施行 多平台出台內容管理細則〉(轉載自《人民郵電報》),2025年9月9日,https://www.xinhuanet.com/tech/20250909/fb164c6d092146aa8e13ddc283fe416a/c.html
  • 歐盟執委會,《Code of Practice on Transparency of AI-Generated Content》PDF(AI生成內容透明度行為準則),2026年11月6日確認,https://ec.europa.eu/newsroom/dae/redirection/document/129555
  • 歐盟執委會,行為準則簽署名單(Last update 24 September 2026),https://digital-strategy.ec.europa.eu/en/news/strong-backing-code-practice-transparency-ai-generated-content
  • 歐盟執委會,〈EU icons for labelling AI-generated content〉,2026年11月4日確認,https://digital-strategy.ec.europa.eu/en/policies/eu-icons-labelling-ai-generated-content
  • EUR-Lex,規則 (EU) 2022/2065(數位服務法),OJ L 277,2022年10月27日,https://eur-lex.europa.eu/legal-content/EN/TXT/HTML/?uri=CELEX:32022R2065
  • OpenAI說明頁面,〈Provenance signals in OpenAI-generated content〉,2026年11月4日確認,https://help.openai.com/en/articles/8912793-provenance-signals-in-openai-generated-content
  • OpenAI,〈Our approach to EU text provenance rules〉,2026年10月5日,https://openai.com/index/eu-text-provenance/
  • 韓國國家法令資訊中心,《인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 시행령》(韓國人工智慧基本法施行令),2026年11月4日確認,https://www.law.go.kr/법령/인공지능발전과신뢰기반조성등에관한기본법시행령

本內容由AI根據原文進行摘要和分析。我們力求準確,但可能存在錯誤,建議核實原文。

觀點

相關文章

PRISM

廣告合作

[email protected]
PRISM

廣告合作

[email protected]