瑞萊智慧RealAI參與人工智能安全國(guó)家級(jí)平臺(tái)任務(wù)
近日,由國(guó)家科技部主導(dǎo)的“科技創(chuàng)新2030重大項(xiàng)目—安全大腦國(guó)家新一代人工智能開放創(chuàng)新平臺(tái)”正式進(jìn)入實(shí)施評(píng)審階段,該項(xiàng)目由360牽頭,聯(lián)合清華大學(xué)、瑞萊智慧RealAI、中科院自動(dòng)化所、中科院信工所共同協(xié)作完成。其中“面向人工智能算法的安全對(duì)抗攻防”的課題任務(wù)將由清華大學(xué)與瑞萊智慧RealAI共同承擔(dān)研發(fā)。
人工智能安全是廣泛智能應(yīng)用的基礎(chǔ)。在推動(dòng)新一輪科技革命的同時(shí),人工智能自身存在的嚴(yán)重安全問(wèn)題引入了全新的安全威脅,尤其是涉及國(guó)防、經(jīng)濟(jì)、民生的人工智能設(shè)施系統(tǒng),一旦遭受攻擊,可能威脅到國(guó)防安全、企業(yè)安全、公民財(cái)產(chǎn)和生命安全。
科技創(chuàng)新2030重大項(xiàng)目是體現(xiàn)國(guó)家戰(zhàn)略意圖的重大工程,人工智能算法模型安全研究作為提升人工智能自身安全的重要課題參與其中,體現(xiàn)了國(guó)家新一代人工智能發(fā)展規(guī)劃對(duì)人工智能安全治理的重要布局。
由RealAI負(fù)責(zé)的“面向人工智能算法的安全對(duì)抗攻防”課題項(xiàng)目主要針對(duì)深度學(xué)習(xí)對(duì)抗攻防中存在的問(wèn)題,深度學(xué)習(xí)的對(duì)抗攻擊、魯棒防御和算法庫(kù)等方面進(jìn)行研究,為人工智能模型的安全性和可信賴應(yīng)用提供理論基礎(chǔ)和技術(shù)儲(chǔ)備。
本課題的開展將本著開源開放的原則,技術(shù)層面圍繞人工智能算法對(duì)抗安全,強(qiáng)調(diào)功能性和安全性的有機(jī)結(jié)合,在基礎(chǔ)理論和基本算法等共性技術(shù)面向新一代人工智能“OpenI”的建設(shè)進(jìn)行開源,服務(wù)國(guó)家新一代人工智能開源開放平臺(tái)的建設(shè),為我國(guó)和全球人工智能行業(yè)發(fā)展保駕護(hù)航,也為人工智能長(zhǎng)久穩(wěn)健發(fā)展提供重要積累。
RealAI之所以能參與本次重大項(xiàng)目,與其雄厚的技術(shù)實(shí)力密不可分。作為清華大學(xué)的人工智能研究院的核心孵化企業(yè),RealAI是國(guó)內(nèi)率先對(duì)深度學(xué)習(xí)的對(duì)抗攻擊與防御進(jìn)行深入研究的課題組之一,在人工智能的對(duì)抗安全領(lǐng)域具有深厚的積累,在ICML、NIPS、CVPR、AAAI 等頂級(jí)會(huì)議期刊發(fā)表論文數(shù)十余篇,提出多種代表性的深度學(xué)習(xí)對(duì)抗攻防算法,被主流開源軟件收錄為標(biāo)準(zhǔn)方法,榮獲英偉達(dá)先鋒研究獎(jiǎng)。在 2017NIPS對(duì)抗攻防競(jìng)賽、2018 DEFCON CAAD CTF對(duì)抗攻防賽等多項(xiàng)國(guó)際競(jìng)賽中,RealAI戰(zhàn)勝多支頂尖參賽隊(duì)伍斬獲冠軍,在2019 國(guó)際安全極客安全大賽GeekPwn上更是一舉獲得“CAAD CTF圖像對(duì)抗樣本挑戰(zhàn)賽”及 “CAAD隱身挑戰(zhàn)賽”兩項(xiàng)冠軍。
對(duì)于項(xiàng)目的未來(lái)規(guī)劃,RealAI表示將持續(xù)強(qiáng)化對(duì)抗攻防關(guān)鍵技術(shù)的研發(fā),同時(shí)構(gòu)建對(duì)抗攻防算法系統(tǒng)平臺(tái)和對(duì)抗安全基準(zhǔn),打造行業(yè)應(yīng)用示范,助力建設(shè)國(guó)家級(jí)AI安全防護(hù)體系,為科技創(chuàng)新2030的實(shí)現(xiàn)貢獻(xiàn)力量。

發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
最新活動(dòng)更多
-
7月22-29日立即報(bào)名>> 【線下論壇】第三屆安富利汽車生態(tài)圈峰會(huì)
-
7.30-8.1火熱報(bào)名中>> 全數(shù)會(huì)2025(第六屆)機(jī)器人及智能工廠展
-
7月31日免費(fèi)預(yù)約>> OFweek 2025具身智能機(jī)器人產(chǎn)業(yè)技術(shù)創(chuàng)新應(yīng)用論壇
-
免費(fèi)參會(huì)立即報(bào)名>> 7月30日- 8月1日 2025全數(shù)會(huì)工業(yè)芯片與傳感儀表展
-
即日-2025.8.1立即下載>> 《2024智能制造產(chǎn)業(yè)高端化、智能化、綠色化發(fā)展藍(lán)皮書》
-
8月5日立即報(bào)名>> 【在線會(huì)議】CAE優(yōu)化設(shè)計(jì):醫(yī)療器械設(shè)計(jì)的應(yīng)用案例與方案解析
推薦專題
- 1 AI 眼鏡讓百萬(wàn) APP「集體失業(yè)」?
- 2 豆包前負(fù)責(zé)人喬木出軌BP后續(xù):均被辭退
- 3 一文看懂視覺語(yǔ)言動(dòng)作模型(VLA)及其應(yīng)用
- 4 “支付+”時(shí)代,支付即生態(tài) | 2025中國(guó)跨境支付十大趨勢(shì)
- 5 中國(guó)最具實(shí)力AI公司TOP10
- 6 深圳跑出40億超級(jí)隱形冠軍:賣機(jī)器人年入6.1億,港股上市
- 7 特斯拉Robotaxi上路,馬斯克端上畫了十年的餅
- 8 “AI六小虎”到了下一個(gè)賽點(diǎn)
- 9 張勇等人退出阿里合伙人
- 10 AI視頻,攪動(dòng)1.5萬(wàn)億市場(chǎng)