網(wǎng)信辦聯(lián)合廣播電視總局明確“深度偽造”音視頻管理規(guī)定
近日,國家互聯(lián)網(wǎng)信息辦公室、文化和旅游部、國家廣播電視總局聯(lián)合印發(fā)了《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》明確網(wǎng)絡(luò)音視頻信息發(fā)布相關(guān)守則,網(wǎng)絡(luò)音視頻信息提供者和網(wǎng)絡(luò)音視頻信息使用者利用基于深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等AI技術(shù)應(yīng)用制作、發(fā)布、傳播非真實(shí)音視頻信息的,應(yīng)當(dāng)按照國家有關(guān)規(guī)定開展安全評估,并以顯著方式予以標(biāo)識。
網(wǎng)絡(luò)音視頻信息服務(wù)提供者應(yīng)當(dāng)部署應(yīng)用違法違規(guī)音視頻以及非真實(shí)音視頻鑒別技術(shù),建立辟謠機(jī)制,并將相關(guān)信息報(bào)有關(guān)部門備案。
從網(wǎng)信辦有關(guān)負(fù)責(zé)人處了解,網(wǎng)絡(luò)信息服務(wù)發(fā)展迅速,用戶數(shù)量不斷增加,據(jù)數(shù)據(jù)顯示,我國網(wǎng)絡(luò)音頻用戶規(guī)模已達(dá)6.08億,網(wǎng)絡(luò)視頻用戶規(guī)模已達(dá)7.59億。隨著“深度偽造”等AI技術(shù)應(yīng)用在網(wǎng)絡(luò)音視頻領(lǐng)域的運(yùn)用,也帶來了傳播違法與不良的作假信息、侵犯用戶合法權(quán)益等風(fēng)險(xiǎn)隱患。運(yùn)用AI技術(shù)制作非真實(shí)的音視頻,可能被利用從事危害國家安全、破壞社會穩(wěn)定、擾亂社會秩序、侵犯他人合法權(quán)益等法律法規(guī)禁止的活動(dòng),造成政治安全風(fēng)險(xiǎn)和國家安全、公共安全風(fēng)險(xiǎn),對社會穩(wěn)定造成不良影響。
近些年,隨著AI技術(shù)的高速發(fā)展,人臉識別應(yīng)用在商用場景中大規(guī)模部署。例如,蘇寧任性貸要求刷臉認(rèn)證,支付寶提供了基于人臉的驗(yàn)證登錄手段,很多銀行或者金融公司也提供了遠(yuǎn)程的、基于人臉識別的視頻面審流程。
AI的人臉識別應(yīng)用在精確度上已經(jīng)高達(dá)95%,很多業(yè)務(wù)可以便捷地享受AI科技帶來的便捷核驗(yàn)手段。但深度偽造技術(shù)應(yīng)用到圖像或視頻欺詐中不僅能實(shí)現(xiàn)換臉,更可以通過深度學(xué)習(xí)模擬真人聲音、創(chuàng)造出現(xiàn)實(shí)不存在的人物肖像。利用該技術(shù),可以以視頻這一較為可信的方式讓某人說不曾說過的話,做不曾做的事,達(dá)到混淆觀眾的目的。
國外技術(shù)團(tuán)隊(duì)也成功開展過欺騙“AI”的試驗(yàn),在3D車輛模型的車身上貼上特制的“紙片”,使得模型成功逃逸監(jiān)控識別。從具體效果來看,該“隱身”可在高度運(yùn)動(dòng)、光線變化等復(fù)雜環(huán)境中保持較高的“隱身性”,技術(shù)優(yōu)勢明顯。
AI安全問題已經(jīng)不再只是學(xué)術(shù)談?wù),民眾都?yīng)該提高對AI安全的意識。AI技術(shù)本身是中立的,但發(fā)展成“以子之矛,攻子之盾”的狀況,我們才意識到AI技術(shù),在沒有制約的情況下用在正面領(lǐng)域,帶來了革命性的便捷和高效;應(yīng)用于黑色非法領(lǐng)域,給我們帶來的風(fēng)險(xiǎn)可能遠(yuǎn)超從前。
因此,明確網(wǎng)絡(luò)音視頻信息發(fā)布者的信息內(nèi)容安全管理責(zé)任,規(guī)范網(wǎng)絡(luò)音視頻信息服務(wù)提供者關(guān)于利用AI技術(shù)新應(yīng)用的管理要求,為網(wǎng)絡(luò)音視頻信息服務(wù)及其相關(guān)技術(shù)的提供、使用、管理等提供有效的依據(jù)是非常有必要的,據(jù)悉該規(guī)定將從2020年1月1日起正式施行。

發(fā)表評論
請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個(gè)字
最新活動(dòng)更多
-
7月22-29日立即報(bào)名>> 【線下論壇】第三屆安富利汽車生態(tài)圈峰會
-
7.30-8.1火熱報(bào)名中>> 全數(shù)會2025(第六屆)機(jī)器人及智能工廠展
-
7月31日免費(fèi)預(yù)約>> OFweek 2025具身智能機(jī)器人產(chǎn)業(yè)技術(shù)創(chuàng)新應(yīng)用論壇
-
免費(fèi)參會立即報(bào)名>> 7月30日- 8月1日 2025全數(shù)會工業(yè)芯片與傳感儀表展
-
即日-2025.8.1立即下載>> 《2024智能制造產(chǎn)業(yè)高端化、智能化、綠色化發(fā)展藍(lán)皮書》
-
8月5日立即報(bào)名>> 【在線會議】CAE優(yōu)化設(shè)計(jì):醫(yī)療器械設(shè)計(jì)的應(yīng)用案例與方案解析
推薦專題
- 1 AI 眼鏡讓百萬 APP「集體失業(yè)」?
- 2 豆包前負(fù)責(zé)人喬木出軌BP后續(xù):均被辭退
- 3 一文看懂視覺語言動(dòng)作模型(VLA)及其應(yīng)用
- 4 “支付+”時(shí)代,支付即生態(tài) | 2025中國跨境支付十大趨勢
- 5 中國最具實(shí)力AI公司TOP10
- 6 深圳跑出40億超級隱形冠軍:賣機(jī)器人年入6.1億,港股上市
- 7 特斯拉Robotaxi上路,馬斯克端上畫了十年的餅
- 8 “AI六小虎”到了下一個(gè)賽點(diǎn)
- 9 AI視頻,攪動(dòng)1.5萬億市場
- 10 北京,跑出150億超級獨(dú)角獸:物流機(jī)器人全球第一,揭示3大機(jī)會