今后所有由 AI 生成的文字、圖片、音頻、視頻乃至虛擬場景，都必須 “標(biāo)注 AI 生成標(biāo)識”。
該辦法從公布到施行，歷經(jīng)半年，旨在給當(dāng)前真假難辨的 AI 內(nèi)容來一次大整頓，重建大眾對網(wǎng)絡(luò)信息的信任。
此前，歐盟《AI 法》、美國《深度偽造來源保護(hù)法案》、英國《AI 監(jiān)管草案》都要求水印。中國今天起把“建議”變“強(qiáng)制”，一步對齊全球最高標(biāo)準(zhǔn)。
“明牌”加“暗碼”雙保險
“明牌” 即 “顯式標(biāo)識”，讓所有用戶一眼就能看到的顯式標(biāo)識：文字要在開頭或結(jié)尾注明 “人工智能生成”；音頻要在前后插入語音提示；圖片和視頻則要在顯眼位置打上水印。
所謂 “暗碼”，則是隱藏在文件深處的隱式標(biāo)識：在文件的元數(shù)據(jù)中寫入生成者的名稱、內(nèi)容編號和數(shù)字水印隱式標(biāo)識，方便追責(zé)和溯源。
明牌＋暗碼，雙保險點(diǎn)亮 AI 生成身份。
生成端、傳播端、用戶端：三方責(zé)任明確劃分
明確了標(biāo)識方式，接下來就要分清責(zé)任。
首先是 “生成端”，也就是大模型公司、剪輯工具開發(fā)商等，必須在輸出內(nèi)容時自動完成上述標(biāo)識。
其次是 “傳播端”，也就是社交平臺、視頻網(wǎng)站等，必須在內(nèi)容上線前核驗(yàn)標(biāo)識，凡缺標(biāo)的一律彈出風(fēng)險提示。
最后是 “用戶端”，也就是我們每個人，別手癢去摳標(biāo) —— 惡意刪除、篡改、偽造等動作一不小心就違法了。
監(jiān)管方設(shè)計三層技術(shù)過濾機(jī)制
那么，平臺如何確保這些標(biāo)識真實(shí)可靠呢？監(jiān)管方已經(jīng)設(shè)計了三層技術(shù)過濾機(jī)制。
第一層，平臺會自動讀取文件元數(shù)據(jù)，一旦發(fā)現(xiàn)隱式標(biāo)識，便直接亮明身份。
第二層，若元數(shù)據(jù)空白，平臺則通過算法檢測內(nèi)容特征，自動標(biāo)注 “疑似 AI 生成”。
第三層，如果用戶主動聲明內(nèi)容并非 AI 生成，平臺則需進(jìn)行二次確認(rèn)后再決定是否打標(biāo)。
如此一來，AI 生成內(nèi)容想蒙混過關(guān)，難度翻倍。
不過，再精準(zhǔn)的算法也難免會有誤判。對此，法學(xué)專家提前打了預(yù)防針：原創(chuàng)作品被錯殺的情況在所難免。因此，監(jiān)管辦法明確規(guī)定，平臺必須提供申訴渠道，用戶一旦發(fā)現(xiàn)自己被誤標(biāo)，可在 48 小時內(nèi)申請人工復(fù)核，誰誤判誰負(fù)責(zé)。
相關(guān)企業(yè)與開發(fā)者：合規(guī)準(zhǔn)備與接入要求
提醒一下相關(guān)企業(yè)與開發(fā)者。
生成類企業(yè)務(wù)必在 9 月 1 日前完成輸出模塊的升級，實(shí)現(xiàn)顯式與隱式標(biāo)識的雙標(biāo)功能。
平臺類企業(yè)則需盡快上線元數(shù)據(jù)掃描、前端提示、申訴后臺三套系統(tǒng)。
開發(fā)者們更別心存僥幸，最好提前接入浙江大學(xué) GCmark 等合規(guī)檢測平臺，以免被抽查時措手不及。
違規(guī)行為的處罰規(guī)定
《標(biāo)識辦法》強(qiáng)調(diào)，任何組織和個人不得惡意刪除、篡改、偽造、隱匿本辦法規(guī)定的生成合成內(nèi)容標(biāo)識，不得為他人實(shí)施上述惡意行為提供工具或者服務(wù)。
無論是 AI 內(nèi)容的生成方還是傳播方，違規(guī)者將面臨一系列處罰措施，包括不限于：
①被網(wǎng)信部門責(zé)令整改；
②視情節(jié)情況，處以警告、罰款（罰款金額可達(dá)百萬元級別）、暫停相關(guān)服務(wù)、下架、禁言、限流、封號等懲罰措施；
③如果引發(fā)社會危害（如虛假新聞、謠言傳播），或追究更嚴(yán)重的行政或法律責(zé)任。
總之，從 9 月 1 日起，人工智能不再是 “匿名網(wǎng)友”。以后任何 AI 生成的內(nèi)容若想公開發(fā)布，都必須先亮出自己的 “身份證”。
分享
