終端與云端并進(jìn) 高通人工智能AI探討
人工智能作為目前手機(jī)的最熱門(mén)功能,是可以與5G相媲美的未來(lái)手機(jī)發(fā)展趨勢(shì)。即使在我們目前所使用的4G手機(jī)中,人工智能也已經(jīng)比不可少,手機(jī)中的很多功能已經(jīng)要借助于人工智能性能來(lái)實(shí)現(xiàn),生物特征解鎖、拍照、語(yǔ)音助手、AR識(shí)別翻譯等功能都是如此。
人工智能離不開(kāi)模型算法的優(yōu)化,同樣也離不開(kāi)底層硬件所提供的性能支持。高通方面作為手機(jī)市場(chǎng)中最主要的供應(yīng)商之一,對(duì)于人工智能方面也有著一套獨(dú)特的做法,高通在人工智能方面有哪些特色,高通產(chǎn)品市場(chǎng)總監(jiān)劉學(xué)徽就為我們進(jìn)行了一番分享。
云端與終端缺一不可 終端側(cè)性能影響最終體驗(yàn)
人工智能在近年的發(fā)展比較迅速,其主要有終端側(cè)與云端兩種不同的配備方案。兩種方式各有所長(zhǎng),云端的優(yōu)勢(shì)在于它的資源非常豐富,不管是計(jì)算資源、能效還是內(nèi)存,都可以通過(guò)強(qiáng)大的計(jì)算能力來(lái)實(shí)現(xiàn)相應(yīng)的運(yùn)算處理。終端側(cè)的限制條件較多,計(jì)算力、電池、存儲(chǔ)空間都會(huì)受到限制,更適合做一些快速的運(yùn)算。
人工智能的運(yùn)用,顯然是要通過(guò)云端與終端兩方面相結(jié)合才能夠獲得優(yōu)秀的體驗(yàn)。目前的手機(jī)市場(chǎng)中,在云端方面大多負(fù)責(zé)AI模型的培訓(xùn),畢竟這方面所需要的大規(guī)模運(yùn)算時(shí),在終端側(cè)根本無(wú)法實(shí)現(xiàn)。另外云端側(cè)還要負(fù)載在終端側(cè)無(wú)法處理的信息。
終端側(cè)則使用云端已經(jīng)訓(xùn)練好的模型,力圖以最小的功耗來(lái)提供最優(yōu)秀的性能表現(xiàn)。因此就實(shí)際的用戶體驗(yàn)來(lái)說(shuō),終端側(cè)與用戶的聯(lián)系是遠(yuǎn)遠(yuǎn)超過(guò)云端的,而影響人工智能使用體驗(yàn)的主要因素,也是在于我們手機(jī)終端側(cè)的性能表現(xiàn)上。
高通三代AI引擎迭代 打造生態(tài)推動(dòng)AI發(fā)展
高通作為AI方面的主要推動(dòng)者之一,十分注重終端側(cè)性能表現(xiàn),驍龍人工智能引擎(AIE)目前已經(jīng)發(fā)展到了第三代。高通早在2008年就開(kāi)始涉足AI方面,在2015年開(kāi)始推出產(chǎn)品,當(dāng)時(shí)Facebook率先在AI方面定義了Caffe模型,高通驍龍820就在CPU上實(shí)現(xiàn)了Neon加速。
第二代支持AI的平臺(tái)驍龍835,已經(jīng)通過(guò)神經(jīng)處理SDK很好地支持了TensorFlow和Caffe兩大主流框架。CPU、GPU和DSP均可以支持運(yùn)算,尤其是在GPU和DSP上,能夠讓AI運(yùn)算的性能和功耗都得到顯著優(yōu)化。
隨著AI的興起以及整個(gè)市場(chǎng)規(guī)模的不斷壯大,在TensorFlow、Caffe之外,百度PaddlePaddle、商湯Parrots、Android NN等等模型的推出,對(duì)終端側(cè)提出了更高的要求。驍龍845平臺(tái)作為高通的第三代AI平臺(tái),對(duì)上述模型有著全方位的支持。
人工智能AI方面除了硬件的基礎(chǔ)性能外,軟件優(yōu)化也能夠顯著的提升性能表現(xiàn);诟咄ǚ矫娴臏y(cè)試數(shù)據(jù),在硬件配置完全相同的情況下,對(duì)軟件方面的優(yōu)化能夠大幅提升性能表現(xiàn),在一年的時(shí)間里就能讓性能翻一番。因此,高通人工處理引擎AI Engine不僅是硬件上的提升,同時(shí)強(qiáng)調(diào)軟件對(duì)模型、算法的支持和優(yōu)化。
此外,高通方面還在與整個(gè)生態(tài)系統(tǒng)合作伙伴共同推動(dòng)AI的發(fā)展。商湯、Face++、虹軟等廠商所推出的創(chuàng)新性的算法和應(yīng)用在驅(qū)動(dòng)高通方面不斷的進(jìn)行改進(jìn)。同時(shí),高通也與騰訊等云端服務(wù)商合作,借助驍龍神經(jīng)處理SDK來(lái)進(jìn)行終端側(cè)的實(shí)際應(yīng)用。比如手機(jī)QQ的“高能舞室”功能,就是直接運(yùn)行在手機(jī)上的人工智能神經(jīng)網(wǎng)絡(luò),無(wú)需在云端進(jìn)行處理。
AI性能衡量標(biāo)準(zhǔn) 要看模型與效率
在面對(duì)以往設(shè)備的性能問(wèn)題上,往往都具備一個(gè)大家所公認(rèn)的基準(zhǔn)測(cè)試標(biāo)準(zhǔn),也就是俗稱(chēng)的跑分,但是AI所誕生的這三年時(shí)間里,卻并沒(méi)有一個(gè)所公認(rèn)的標(biāo)準(zhǔn),大家對(duì)于AI方面的性能描述,還要依靠實(shí)際的使用,這也導(dǎo)致用戶對(duì)于AI性能沒(méi)有一個(gè)衡量標(biāo)準(zhǔn)。
對(duì)于AI基準(zhǔn)測(cè)試,高通方面認(rèn)為有三個(gè)至關(guān)重要的指標(biāo):第一是準(zhǔn)確率,第二是性能,第三是能效。上述三個(gè)重要指標(biāo)的實(shí)現(xiàn),可以在真實(shí)使用環(huán)境中帶來(lái)很好的用例,而真實(shí)生活中的用例才應(yīng)是衡量AI基準(zhǔn)測(cè)試真正關(guān)鍵的指標(biāo),并不僅僅是網(wǎng)路,而是真正的通過(guò)神經(jīng)網(wǎng)絡(luò)帶來(lái)的用例。
現(xiàn)在市面上有很多基準(zhǔn)測(cè)試工具,使用的模型不同、權(quán)重不同,那么測(cè)試結(jié)果也會(huì)不同。甚至有些模型完全沒(méi)有實(shí)際的應(yīng)用落地,只是能夠進(jìn)行壓力測(cè)試,而這樣的模型所表現(xiàn)出的性能基準(zhǔn)測(cè)試成績(jī),甚至可以說(shuō)是毫無(wú)意義。高通方面對(duì)于目前主流的神經(jīng)網(wǎng)絡(luò)模型進(jìn)行了一個(gè)曲線分析,ResNet50和Inception-V3是當(dāng)下在終端側(cè)效率最高的,能夠讓用戶獲得最好的體驗(yàn),是高通方面認(rèn)為基準(zhǔn)測(cè)試應(yīng)當(dāng)最為看重的。
另外AI基準(zhǔn)測(cè)試軟件的性能表現(xiàn),會(huì)受到測(cè)試機(jī)型驅(qū)動(dòng)程序的影響,如果不使用最新的軟件版本的話,是無(wú)法啟用相應(yīng)硬件的加速的。高通方面對(duì)于新版本系統(tǒng)的驅(qū)動(dòng)程序已經(jīng)進(jìn)行了跟進(jìn),最新的Android 9.0系統(tǒng)中,高通方面已經(jīng)開(kāi)始了Adreno GPU的驅(qū)動(dòng)程序更新,在運(yùn)用新款驅(qū)動(dòng)后,在AI基準(zhǔn)性能測(cè)試中的成績(jī)會(huì)有很明顯的變化。

發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
圖片新聞
最新活動(dòng)更多
-
7月22-29日立即報(bào)名>> 【線下論壇】第三屆安富利汽車(chē)生態(tài)圈峰會(huì)
-
7.30-8.1火熱報(bào)名中>> 全數(shù)會(huì)2025(第六屆)機(jī)器人及智能工廠展
-
7月31日免費(fèi)預(yù)約>> OFweek 2025具身智能機(jī)器人產(chǎn)業(yè)技術(shù)創(chuàng)新應(yīng)用論壇
-
免費(fèi)參會(huì)立即報(bào)名>> 7月30日- 8月1日 2025全數(shù)會(huì)工業(yè)芯片與傳感儀表展
-
即日-2025.8.1立即下載>> 《2024智能制造產(chǎn)業(yè)高端化、智能化、綠色化發(fā)展藍(lán)皮書(shū)》
-
8月5日立即報(bào)名>> 【在線會(huì)議】CAE優(yōu)化設(shè)計(jì):醫(yī)療器械設(shè)計(jì)的應(yīng)用案例與方案解析
推薦專(zhuān)題
- 1 AI 眼鏡讓百萬(wàn) APP「集體失業(yè)」?
- 2 豆包前負(fù)責(zé)人喬木出軌BP后續(xù):均被辭退
- 3 一文看懂視覺(jué)語(yǔ)言動(dòng)作模型(VLA)及其應(yīng)用
- 4 “支付+”時(shí)代,支付即生態(tài) | 2025中國(guó)跨境支付十大趨勢(shì)
- 5 中國(guó)最具實(shí)力AI公司TOP10
- 6 深圳跑出40億超級(jí)隱形冠軍:賣(mài)機(jī)器人年入6.1億,港股上市
- 7 特斯拉Robotaxi上路,馬斯克端上畫(huà)了十年的餅
- 8 “AI六小虎”到了下一個(gè)賽點(diǎn)
- 9 張勇等人退出阿里合伙人
- 10 AI視頻,攪動(dòng)1.5萬(wàn)億市場(chǎng)