趨勢丨設(shè)計的代價：深度學(xué)習(xí)已經(jīng)接近計算極限
深度學(xué)習(xí)時代AI模型需規(guī)�；瘮U展
現(xiàn)代AI模型需要消耗大量電力，而且對電力的需求正以驚人的速度增長。在深度學(xué)習(xí)時代，構(gòu)建一流AI模型所需要的計算資源平均每3．4個月翻一番。
在當(dāng)今以深度學(xué)習(xí)為中心的研究范式當(dāng)中，AI的主要進步主要依賴于模型的規(guī)模化擴展：數(shù)據(jù)集更大、模型更大、計算資源更大。
在訓(xùn)練過程中，神經(jīng)網(wǎng)絡(luò)需要為每一條數(shù)據(jù)執(zhí)行一整套冗長的數(shù)學(xué)運算（正向傳播與反向傳播），并以復(fù)雜的方式更新模型參數(shù)。
在現(xiàn)實環(huán)境中部署并運行AI模型，所帶來的能源消耗量甚至高于訓(xùn)練過程。實際上，神經(jīng)網(wǎng)絡(luò)全部算力成本中的80％到90％來自推理階段，而非訓(xùn)練階段。
因此，數(shù)據(jù)集規(guī)模越大，與之對應(yīng)的算力與能源需求也在飛速增長。模型中包含的參數(shù)量越大，推理階段所帶來的電力需求就越夸張。
雖然深度網(wǎng)絡(luò)會是解決方案的一部分，但還需要涉及組合原則和因果模型的互補方法，以捕捉數(shù)據(jù)的基本結(jié)構(gòu)。此外，面對組合性爆炸，需要要再次思考如何訓(xùn)練和評估視覺算法。
每一次人工智能低谷來臨之前，都會有科學(xué)家夸大和炒作他們創(chuàng)造的潛力，僅僅說他們的算法就能夠很好地完成某項任務(wù)是不夠的。
對大多數(shù)問題來說，深度學(xué)習(xí)并不是正確的解決方法，不要試圖為所有的問題尋找通用人工智能解決方案，因為它根本就不存在。
結(jié)尾：
深度學(xué)習(xí)的發(fā)展可能已達極限，但其影響還將持續(xù)深遠。為了避免在“人工智能冬天”中被淘汰的命運，能做的最好的事情就是明確你要解決的問題，并理解其本質(zhì)；然后，尋找為特定問題提供解決方案的直觀路徑的方法。
分享
請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個字
最新活動更多
-
7月22-29日立即報名>> 【線下論壇】第三屆安富利汽車生態(tài)圈峰會
-
7.30-8.1火熱報名中>> 全數(shù)會2025（第六屆）機器人及智能工廠展
-
7月31日免費預(yù)約>> OFweek 2025具身智能機器人產(chǎn)業(yè)技術(shù)創(chuàng)新應(yīng)用論壇
-
免費參會立即報名>> 7月30日- 8月1日 2025全數(shù)會工業(yè)芯片與傳感儀表展
-
即日-2025.8.1立即下載>> 《2024智能制造產(chǎn)業(yè)高端化、智能化、綠色化發(fā)展藍皮書》
-
8月5日立即報名>> 【在線會議】CAE優(yōu)化設(shè)計：醫(yī)療器械設(shè)計的應(yīng)用案例與方案解析
推薦專題
