欺騙面部識別,F(xiàn)acebook AI讓你在實時視頻中隱身
Facebook AI Research表示,它已經(jīng)創(chuàng)建了一種機器學習系統(tǒng),用于對視頻中的個人進行去身份識別。像D-ID這樣的初創(chuàng)公司和許多先前的研究已經(jīng)為靜態(tài)圖像提供了去識別技術(shù),但這是第一個可用于視頻的技術(shù)。在最初的測試中,該方法能夠阻止最先進的面部識別系統(tǒng)。
使用者無需更改用于自動視頻修改的AI,即可將其應用于每個視頻。它在人的面部上繪制了一個略微變形的版本,以使面部識別技術(shù)難以識別。
一篇解釋該方法的論文說:“人臉識別可能會導致隱私丟失,而人臉替代技術(shù)可能會被誤用于制作誤導性視頻。有關(guān)人臉識別技術(shù)的進步和最新的濫用事件引發(fā)了對去身份識別方法的需求。這是唯一適用于視頻(包括實時視頻)的方法,其呈現(xiàn)的質(zhì)量遠遠超過了文獻方法!
Facebook AI Research工程師、特拉維夫大學教授Lior Wolf在電話采訪中表示,F(xiàn)acebook的方法將對抗性自動編碼器與分類器網(wǎng)絡配對。作為網(wǎng)絡訓練的一部分,研究人員試圖愚弄面部識別網(wǎng)絡。
“因此,自動編碼器會設法使人臉識別網(wǎng)絡的生活變得更加艱難,而實際上,如果您想產(chǎn)生一種掩蓋某人的聲音或在線行為的方法,或者刪除某些類型的可識別信息,也可以使用該自動編碼器,”他說。
像DeepFake軟件一樣,該AI使用編碼器-解碼器體系結(jié)構(gòu)生成蒙版和圖像。在訓練過程中,對應人物的面部會變形,然后饋入網(wǎng)絡。隨后,系統(tǒng)會生成一個人臉的失真和未失真圖像,以將其嵌入視頻中。
一位發(fā)言人表示,F(xiàn)acebook目前尚無計劃將該技術(shù)應用于Facebook系列應用的任何部分,但是這種方法仍然可以使公眾識別出說話人的聲音,而人工智能系統(tǒng)則無法做到。
視頻中的匿名面孔也可以用于AI系統(tǒng)的隱私訓練。5月,谷歌使用了Mannequin挑戰(zhàn)視頻來訓練AI系統(tǒng)以改善視頻深度感知系統(tǒng)。加州大學伯克利分校研究人員的多項研究工作旨在訓練AI代理像人一樣跳舞或進行后空翻,并使用YouTube視頻作為訓練數(shù)據(jù)集。
這項工作將在下周在韓國首爾舉行的計算機視覺國際會議(ICCV)上進行介紹。
在此消息發(fā)布之前,F(xiàn)acebook首席技術(shù)官Mike Schroepfer于本周早些時候宣布,DeepFakes Challenge預覽數(shù)據(jù)集現(xiàn)已可用,而且亞馬遜的AWS已成為Facebook和微軟上個月發(fā)起的DeepFake Detection Challenge倡議的成員。該挑戰(zhàn)是為了提高DeepFake檢測系統(tǒng)的穩(wěn)定性。
除了上述工作之外,F(xiàn)acebook成為該領域領導者的愿望可能源于有關(guān)其平臺被用來傳播錯誤信息以及面部識別技術(shù)自身應用的爭議。
Facebook在今年早些時候?qū)⒚娌孔R別作為其平臺上的默認設置,目前也正在與一項價值350億美元的面部識別訴訟進行斗爭。本周,該社交網(wǎng)絡還向美國的某些用戶推出了News應用。

請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個字
最新活動更多
-
7月22-29日立即報名>> 【線下論壇】第三屆安富利汽車生態(tài)圈峰會
-
7.30-8.1火熱報名中>> 全數(shù)會2025(第六屆)機器人及智能工廠展
-
7月31日免費預約>> OFweek 2025具身智能機器人產(chǎn)業(yè)技術(shù)創(chuàng)新應用論壇
-
免費參會立即報名>> 7月30日- 8月1日 2025全數(shù)會工業(yè)芯片與傳感儀表展
-
即日-2025.8.1立即下載>> 《2024智能制造產(chǎn)業(yè)高端化、智能化、綠色化發(fā)展藍皮書》
-
8月5日立即報名>> 【在線會議】CAE優(yōu)化設計:醫(yī)療器械設計的應用案例與方案解析
推薦專題