南京新一代人工智能研究院孫明。篈I芯片評(píng)測(cè)非一日之功,需要AI企業(yè)多參與
AI芯片評(píng)測(cè)工具,引導(dǎo)規(guī)范專用芯片市場(chǎng)
“為專用的芯片設(shè)立一個(gè)基準(zhǔn)測(cè)試是非常重要的工作”孫明俊在鎂客網(wǎng)的采訪中再三強(qiáng)調(diào)了測(cè)試平臺(tái)在整個(gè)AI產(chǎn)業(yè)發(fā)展中的重要性和關(guān)鍵性!斑@是產(chǎn)業(yè)鏈中不可或缺的一個(gè)環(huán)節(jié)。特別是在產(chǎn)業(yè)發(fā)展的初期,技術(shù)路線尚未明確的情況下,一個(gè)好的基準(zhǔn)測(cè)試應(yīng)該做到的是樹(shù)立清晰的指標(biāo)技術(shù)競(jìng)爭(zhēng)體系,這即可以幫助企業(yè)快速進(jìn)步,同時(shí)也客觀反映當(dāng)前產(chǎn)品現(xiàn)狀,一個(gè)行業(yè)如果充斥著太多魚龍混雜的產(chǎn)品,就很難走下去!
所以,必須有個(gè)第三方中立的機(jī)構(gòu)去防止這個(gè)領(lǐng)域出現(xiàn)劣幣驅(qū)逐良幣的現(xiàn)象。
據(jù)孫明俊介紹,AIIA DNN benchmark V0.5測(cè)試主要面向端側(cè),旨在客觀反映具有深度神經(jīng)網(wǎng)絡(luò)加速能力的處理器在完成推斷任務(wù)時(shí)的性能。V0.5版本的評(píng)估工具基于Android/Linux系統(tǒng),支持測(cè)評(píng)的機(jī)器學(xué)習(xí)訓(xùn)軟件框架包括TensorFlow/Caffe等,已經(jīng)完成的移動(dòng)端適配環(huán)境有HiAI /MACE/ SNPE/TensorFlow Lite/Tengine。
在今年3月舉辦的“AI in 5G——引領(lǐng)新時(shí)代論壇”上,研究院發(fā)布了首輪的評(píng)估結(jié)果,包含四大典型場(chǎng)景和兩大類評(píng)測(cè)指標(biāo)。評(píng)測(cè)場(chǎng)景包括圖像分類、目標(biāo)檢測(cè)、超分辨率、分割網(wǎng)絡(luò);評(píng)測(cè)指標(biāo)則包括速度(fps)和算法性能,算法性能指標(biāo)涉及如top1 、top5、mAP、mIoU、PSNR等。
談及當(dāng)前的AI基準(zhǔn)測(cè)試,除了AIIA之外,阿里、寒武紀(jì)以及百度均有動(dòng)作:阿里在去年的云棲大會(huì)上推出了AI Matrix;中科院計(jì)算所、寒武紀(jì)、科大訊飛、京東、銳迪科、AMD等六家則是攜手推出BenchIP。國(guó)外的MLPerf也于去年5月由谷歌牽頭聯(lián)合全球各大科技公司與高校開(kāi)展相關(guān)基準(zhǔn)測(cè)量工具研究。
當(dāng)被問(wèn)及AIIA的評(píng)測(cè)工具相較于其他基準(zhǔn)測(cè)試工具的優(yōu)勢(shì),孫明俊強(qiáng)調(diào),“我們沒(méi)有產(chǎn)品傾向性,是非常中立且不帶產(chǎn)品色彩的獨(dú)立第三方測(cè)試!
值得一提的是,孫明俊也強(qiáng)調(diào)AIIA DNN benchmark是深度學(xué)習(xí)處理器領(lǐng)域首次區(qū)分整型和浮點(diǎn)對(duì)比的Benchmark。
AI芯片評(píng)測(cè)非一日之功,開(kāi)源工具鼓勵(lì)企業(yè)多參與
雖然AI芯片評(píng)測(cè)工具已經(jīng)推出,但是考慮到專用芯片的復(fù)雜性,也給評(píng)估工作帶來(lái)一些困難。
“我們面臨的一個(gè)很大的問(wèn)題是適配,比如TensorFlow/Caffe適配到高通、海思都要做大量的工作,但是以前的通用CPU評(píng)測(cè)就不存在這個(gè)問(wèn)題!
孫明俊表示適配的難度之外,由于芯片上搭載的場(chǎng)景也非常多,所以需要測(cè)試的場(chǎng)景相應(yīng)也會(huì)很多。另外延遲、帶寬、能耗也都要納入考慮范圍,再加上各種神經(jīng)網(wǎng)絡(luò)模型有不同參數(shù),不同參數(shù)下又有不同的輸出曲線,所以測(cè)試基準(zhǔn)工具也得不斷地迭代下去。
雖然有很多企業(yè)也在做AI芯片的基準(zhǔn)測(cè)試,但是整個(gè)業(yè)內(nèi)似乎還缺少統(tǒng)一的標(biāo)準(zhǔn)。對(duì)此,孫明俊解釋道,“AI基準(zhǔn)測(cè)試之所以還沒(méi)有任何一家企業(yè)被公認(rèn)為標(biāo)準(zhǔn)的行業(yè)測(cè)試體系,其原因就在于人工智能處理器的多樣化,處理器的尺寸、功能、構(gòu)架、制程不同,應(yīng)用的領(lǐng)域、范圍、特定場(chǎng)景不同,也就導(dǎo)致了人工智能處理器的復(fù)雜化。”
而評(píng)測(cè)體系如果想要建立好,就必須要把所有處理器可能遇到的場(chǎng)景和問(wèn)題考慮進(jìn)去。這點(diǎn)也正是行業(yè)難點(diǎn)之所在。
所以為了吸引更多的企業(yè)參與到專用芯片測(cè)試中,目前DNN benchmark V0.5評(píng)測(cè)工具已經(jīng)在Github上開(kāi)源。

發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
最新活動(dòng)更多
-
7月22-29日立即報(bào)名>> 【線下論壇】第三屆安富利汽車生態(tài)圈峰會(huì)
-
7.30-8.1火熱報(bào)名中>> 全數(shù)會(huì)2025(第六屆)機(jī)器人及智能工廠展
-
7月31日免費(fèi)預(yù)約>> OFweek 2025具身智能機(jī)器人產(chǎn)業(yè)技術(shù)創(chuàng)新應(yīng)用論壇
-
免費(fèi)參會(huì)立即報(bào)名>> 7月30日- 8月1日 2025全數(shù)會(huì)工業(yè)芯片與傳感儀表展
-
即日-2025.8.1立即下載>> 《2024智能制造產(chǎn)業(yè)高端化、智能化、綠色化發(fā)展藍(lán)皮書》
-
8月5日立即報(bào)名>> 【在線會(huì)議】CAE優(yōu)化設(shè)計(jì):醫(yī)療器械設(shè)計(jì)的應(yīng)用案例與方案解析
推薦專題
- 1 AI 眼鏡讓百萬(wàn) APP「集體失業(yè)」?
- 2 豆包前負(fù)責(zé)人喬木出軌BP后續(xù):均被辭退
- 3 一文看懂視覺(jué)語(yǔ)言動(dòng)作模型(VLA)及其應(yīng)用
- 4 “支付+”時(shí)代,支付即生態(tài) | 2025中國(guó)跨境支付十大趨勢(shì)
- 5 中國(guó)最具實(shí)力AI公司TOP10
- 6 深圳跑出40億超級(jí)隱形冠軍:賣機(jī)器人年入6.1億,港股上市
- 7 特斯拉Robotaxi上路,馬斯克端上畫了十年的餅
- 8 “AI六小虎”到了下一個(gè)賽點(diǎn)
- 9 AI視頻,攪動(dòng)1.5萬(wàn)億市場(chǎng)
- 10 張勇等人退出阿里合伙人