2025邊緣AI報告:實時自主智能,從范式創(chuàng)新到AI硬件的技術基礎
作者：彭昭（智次方創(chuàng)始人、云和資本聯(lián)合創(chuàng)始合伙人）物聯(lián)網(wǎng)智庫 原創(chuàng)
這是我的第365篇專欄文章。
在上篇文章《巨頭入局TinyML，端側與邊緣AI迎來新拐點》中，我曾提到TinyML基金會進行了品牌重塑，已更名為邊緣智能（Edge AI）基金會。
近日，邊緣智能基金會發(fā)布了2025年度最新版本的《2025邊緣AI技術報告》。該報告對邊緣智能以及微型機器學習TinyML的發(fā)展趨勢進行了全面掃描和總結。
從報告內(nèi)容來看，TinyML的成熟度可能超出了很多人的預期，已經(jīng)在現(xiàn)實場景中產(chǎn)生了眾多應用案例。
報告的亮點如下：
邊緣AI的技術推動因素：報告深入探討了支持邊緣AI部署的軟硬件進步，重點關注了專用處理器和超低功耗設備的創(chuàng)新，這些創(chuàng)新正在克服資源受限環(huán)境中處理能力和可擴展性的限制。
邊緣AI在行業(yè)轉(zhuǎn)型中的作用：報告揭示了邊緣AI如何通過實現(xiàn)實時分析和決策能力，影響各個行業(yè)的運營模式。
未來技術與創(chuàng)新：報告的最后章節(jié)展望了可能影響邊緣AI未來發(fā)展的新興技術，例如聯(lián)合學習、量子神經(jīng)網(wǎng)絡和神經(jīng)形態(tài)計算等。
因此，在今天這篇文章中，我們將一起梳理《2025邊緣AI技術報告》的精華內(nèi)容，全面了解TinyML以及邊緣AI的最新進展和發(fā)展全貌。
實時、在地、高效：邊緣AI在六大行業(yè)的創(chuàng)新應用
隨著市場對低延遲、實時處理的需求日益增長，邊緣AI正在各個行業(yè)掀起一場風潮，尤其是在汽車、制造業(yè)、醫(yī)療、零售、物流和智慧農(nóng)業(yè)領域。邊緣AI通過在數(shù)據(jù)源處進行實時分析和決策，極大地提升了效率，優(yōu)化了資源配置，改善了用戶體驗。
首先來看自動駕駛汽車領域。
隨著攝像頭分辨率達到千兆像素，激光雷達系統(tǒng)每秒可發(fā)射數(shù)百萬個激光脈沖，邊緣人工智能可加快反應時間，并增強安全性。例如，Waymo已擴展模擬訓練和評估，以處理罕見的駕駛情況。與此同時，理想汽車預計其端到端模型將在今年年底前從超過500萬個駕駛數(shù)據(jù)片段中學習。
同樣，隨著人工智能市場的快速增長，實時邊緣人工智能已成為提高效率和減少停機時間的關鍵。在繁忙的汽車生產(chǎn)車間：智能傳感器會立即標記溫度峰值或機械應力，使團隊能夠在問題升級之前防止中斷。從汽車行業(yè)汲取靈感，蔚來的NWM（NIO世界模型）展示了超快速AI預測的強大功能。同樣，基于邊緣AI的分析可以以驚人的精度檢測生產(chǎn)線上的微缺陷。
通過結合速度、可靠性和設備智能，實時數(shù)據(jù)處理正在改變自動駕駛汽車的標準實踐，為全面更具適應性、更高效的未來鋪平了道路。
邊緣AI之所以對自動駕駛汽車如此重要，主要有三個原因：
邊緣系統(tǒng)減少了對云中繼的依賴，實現(xiàn)了50ms以下的防撞響應時間，這對于處理行人突然橫穿馬路，或高速公路突發(fā)事件尤為關鍵。
邊緣AI使得自動駕駛汽車或半自動駕駛汽車即使在蜂窩盲區(qū)，也能保持安全功能（例如車道保持、自適應巡航控制）。5G汽車協(xié)會（5GAA）更新的蜂窩車聯(lián)網(wǎng)（C-V2X）技術路線圖，強調(diào)了混合V2X架構，該架構將邊緣處理與5G-V2X直接通信相結合。邊緣AI硬件和傳感器融合算法，使自動駕駛汽車能夠?qū)Q策延遲縮短30-40%，實現(xiàn)低至20-50毫秒的響應時間。
集成來自攝像頭、激光雷達和雷達等邊緣設備的數(shù)據(jù)可以提高感知可靠性，實現(xiàn)安全導航。例如，Innoviz的2024年激光雷達升級版采用了邊緣優(yōu)化的神經(jīng)網(wǎng)絡，以每秒20幀的速度處理點云數(shù)據(jù)，最大限度地減少了障礙物檢測的延遲。
接著來看制造業(yè)。
生產(chǎn)線每天可以生成大量數(shù)據(jù)，有研究顯示，智能工廠每周生成超過5PB的數(shù)據(jù)。邊緣AI系統(tǒng)可以在本地處理這些信息，提供即時洞察和自動響應。邊緣AI的影響體現(xiàn)在三個關鍵領域：預測性維護、質(zhì)量控制系統(tǒng)和流程優(yōu)化。
據(jù)報道，利用實時傳感器數(shù)據(jù)分析的預測性維護系統(tǒng)可將維護成本降低30%，并將停機時間減少45%。通過持續(xù)監(jiān)控設備性能，邊緣AI算法可以在細微異常和潛在故障發(fā)生之前檢測到它們，從而實現(xiàn)主動維護并最大限度地減少意外停機時間。
在質(zhì)量方面，邊緣AI通過實時檢查和缺陷檢測增強了質(zhì)量控制。例如，一家大型食品飲料制造商在邊緣部署了視覺AI，用于質(zhì)量檢查和閉環(huán)質(zhì)量控制。該系統(tǒng)持續(xù)監(jiān)控產(chǎn)品差異并建議調(diào)整設備設置，將檢查周期縮短50-75%，并提高準確性。
第三，在醫(yī)療保健領域，本地化AI可通過直接在設備中處理醫(yī)療數(shù)據(jù)，加速診斷并改善患者治療效果。
例如，邊緣AI驅(qū)動的遠程患者監(jiān)測設備（如便攜式心電圖和血壓監(jiān)測儀）可以實時分析心律和生命體征。這些設備（例如由AliveCor和Biobeat開發(fā)的設備）使臨床醫(yī)生無需等待基于云的分析即可檢測心律失常和其他異常情況，從而縮短危急情況下的響應時間。
第四，邊緣AI正在通過實時行為分析優(yōu)化店內(nèi)運營并增強客戶體驗，從而改變零售業(yè)。
AI驅(qū)動的智能貨架和結算系統(tǒng)可在本地處理客戶互動，分析購買模式并調(diào)整庫存預測，而無需依賴云同步。零售商正在部署AI驅(qū)動的視頻分析來檢測客流量異常、監(jiān)控庫存水平并減少結賬時間，從而提高效率并降低運營成本。
在運營方面，基于人工智能的智慧零售已經(jīng)在2025年展現(xiàn)出應用前景。人工智能驅(qū)動的計算機視覺可以實現(xiàn)完全的非接觸式交易，將平均結賬時間縮短30%。Amazon Fresh已經(jīng)通過在貨架或手推車上安裝攝像頭，在顧客離開時自動結賬，并提供實時消費預覽。
亞馬遜的Just Walk Out（JWO）系統(tǒng)是零售業(yè)邊緣AI的典范，它集成了傳感器陣列、設備分析和高級機器學習模型。所有計算都在定制邊緣硬件上本地處理，實現(xiàn)實時決策，并提高客戶便利性和運營效率。
第五，邊緣AI與物聯(lián)網(wǎng)傳感器集成，通過直接在配送中心、倉庫和運輸樞紐處理物流數(shù)據(jù)，增強了物流的智能化。
智能傳感器無需將大量信息傳輸?shù)郊惺椒⻊掌�，而是現(xiàn)場分析溫度波動、運動異常和庫存短缺，并在出現(xiàn)偏差時觸發(fā)即時警報。例如，P&O Ferry masters使用人工智能驅(qū)動的船舶裝載程序?qū)⒇涍\能力優(yōu)化了10%，從而保持了整個供應鏈的實時可見性。此外，人工智能驅(qū)動的預測有助于減少20%的物流費用。
最后，邊緣AI正在幫助智慧農(nóng)業(yè)擴大精準種植，以滿足全球不斷增長的糧食需求。
預計到2050年，全球人口將達到98億，農(nóng)業(yè)必須智能地擴大規(guī)模，以滿足不斷增長的糧食需求，同時最大限度地減少對環(huán)境的影響。邊緣人工智能使農(nóng)場能夠在不增加復雜性的情況下擴大其技術覆蓋范圍，分析土壤條件，監(jiān)測天氣模式，并實施自動化灌溉系統(tǒng)。
先進的傳感器和AI模型無需將數(shù)據(jù)發(fā)送到遠程服務器，而是在檢測到土壤濕度或害蟲活動等因素時對其進行評估，從而迅速采取干預措施。CrackSense等項目展示了實時傳感如何確保柑橘、石榴和葡萄等作物的果實質(zhì)量，減少災害和浪費。
配備邊緣人工智能的智能灌溉系統(tǒng)已顯示出成效，可根據(jù)局部土壤水分分析動態(tài)調(diào)整水分配，減少25%的用水量。同樣，人工智能驅(qū)動的害蟲檢測可減少30%的農(nóng)藥使用量，確保精準農(nóng)業(yè)，最大限度地減少浪費。
邊緣AI生態(tài)系統(tǒng)：三層架構下的協(xié)同創(chuàng)新
當今的邊緣AI生態(tài)系統(tǒng)正處于一個關鍵階段：項目的成功取決于硬件供應商、軟件開發(fā)商、云提供商和行業(yè)利益相關者的共同協(xié)作。這種狀態(tài)可能將會持續(xù)較長的一段時間，因此企業(yè)之間的互相協(xié)同成為重點。
如果沒有互操作性標準、可擴展的部署模型和共享的研發(fā)工作，邊緣AI就有可能出現(xiàn)碎片化，從而限制其在制造業(yè)、醫(yī)療保健和物流等關鍵領域的應用。
邊緣AI的生態(tài)系統(tǒng)普遍公認采用三層架構，將計算工作負載分配到邊緣設備、邊緣服務器和云平臺。這種結構允許AI模型在邊緣執(zhí)行實時推理，同時在需要時利用更高的計算能力。每一層在處理、匯總和優(yōu)化數(shù)據(jù)以進行智能決策方面發(fā)揮著獨特的作用。
邊緣設備與終端設備是與現(xiàn)實世界數(shù)據(jù)交互的第一個點。這些設備包括部署在制造業(yè)、醫(yī)療保健、汽車和零售環(huán)境中的物聯(lián)網(wǎng)傳感器、工業(yè)機器人、智能攝像頭和嵌入式計算系統(tǒng)。它們的主要功能是低延遲AI推理——無需依賴持續(xù)的云連接即可在現(xiàn)場處理數(shù)據(jù)。
邊緣服務器充當邊緣設備和云之間的計算中介。這些服務器通常部署在工廠、醫(yī)院、零售店和自動駕駛汽車網(wǎng)絡中，用于匯總來自多個來源的數(shù)據(jù)，并執(zhí)行更為復雜的AI工作負載。邊緣服務器的一個關鍵優(yōu)勢是本地化AI推理：無需將數(shù)據(jù)卸載到遠程數(shù)據(jù)中心即可運行更重的模型。這減少了與云依賴相關的延遲、帶寬成本和安全風險。
這里需要區(qū)分邊緣計算和終端設備，盡管從整體上他們可以歸為一類，但由于功耗、尺寸和算力等約束條件截然不同，“邊緣”和“終端”具有顯著區(qū)別，不能使用同一個思路處理。邊緣設備（例如嵌入式攝像頭或工業(yè)傳感器）專為低功耗AI推理而設計，而功能更強大的邊緣服務器則充當中介，在將數(shù)據(jù)轉(zhuǎn)發(fā)到云端之前，處理復雜的AI工作負載。
云對于模型開發(fā)、大規(guī)模數(shù)據(jù)分析和存儲仍然至關重要。它是深度學習模型在優(yōu)化和部署到邊緣之前進行訓練的支柱。經(jīng)過訓練后，AI模型將部署到邊緣設備和邊緣服務器，在生產(chǎn)環(huán)境中執(zhí)行推理任務。云還充當AI模型監(jiān)控、分析和集中編排的骨干，確保部署在數(shù)千甚至數(shù)百萬個邊緣端點上保持高效。
雖然三層架構涵蓋了邊緣AI的全貌，但是企業(yè)之間的跨界合作正在更加密切的進行。
半導體公司正在與AI開發(fā)人員合作以提高專用硬件上的模型效率；云提供商正在集成邊緣原生計算解決方案；研究機構正在與行業(yè)領導者合作推進可擴展架構。
在硬件和云協(xié)作方面，英特爾通過其邊緣AI合作伙伴支持包推動邊緣AI的采用，該計劃為企業(yè)提供工具、框架和技術資源，以加速邊緣AI的部署。
另一項值得注意的合作涉及高通和Meta，他們致力于將Meta的Llama大型語言模型直接集成到高通的邊緣處理器上。這種合作關系減少了對基于云的LLM的依賴，使設備能夠在現(xiàn)場執(zhí)行生成AI工作負載。
MemryX和Variscite也宣布建立了合作伙伴關系，旨在提高邊緣AI效率。通過將MemryX的AI加速器與Variscite的系統(tǒng)模塊（SoM）解決方案相結合，簡化了邊緣設備上的AI部署，尤其針對工業(yè)自動化和醫(yī)療保健的應用。
Google與Synaptics合作開發(fā)了邊緣人工智能系統(tǒng)。Google的Kelvin MLIR兼容機器學習核心將集成到Synaptics Astra AI-Native IoT計算平臺中。兩家公司將共同努力，為可穿戴設備、家電、娛樂和監(jiān)控等應用定義IoT Edge情境感知計算多模式處理的最佳實現(xiàn)。
政產(chǎn)學研合作在推進邊緣AI研究和部署方面發(fā)揮著至關重要的作用，一些國家推出了邊緣AI的試點項目和協(xié)作平臺。
在英國，國家邊緣人工智能中心是一個協(xié)作平臺，聯(lián)合學術界、工業(yè)界和公共部門推進邊緣人工智能技術。該中心由紐卡斯爾大學牽頭，匯集了來自英國各地機構的多學科團隊，其使命是提高醫(yī)療保健和自動駕駛電動汽車等時間關鍵型應用的數(shù)據(jù)質(zhì)量和決策準確性。
同樣，美國國家科學基金會的NAIRR試點項目是一項旨在實現(xiàn)AI普及的大型計劃。英特爾、英偉達、微軟、Meta、OpenAI和IBM等行業(yè)參與者為開發(fā)安全節(jié)能的AI應用程序的研究人員貢獻了計算能力和AI工具。
從聯(lián)邦學習到神經(jīng)形態(tài)計算：邊緣AI的5大前沿趨勢
技術的發(fā)展日新月異，邊緣AI的5個新興趨勢正在重塑人工智能系統(tǒng)，包括聯(lián)邦學習、邊緣原生AI模型、量子增強智能和邊緣生成AI。這些趨勢彼此結合，讓自動駕駛汽車可以相互訓練，無需依賴集中式數(shù)據(jù)集；醫(yī)院可以部署基于患者數(shù)據(jù)實時演進的AI模型，確保高度個性化的治療；工業(yè)機器人將以預測智能運行，在故障發(fā)生之前檢測并修復。
神經(jīng)形態(tài)計算、多智能體強化學習和后量子密碼學等領域的新興創(chuàng)新也在重新定義邊緣AI的各種可能性，使人工智能系統(tǒng)變得更快、更安全、效率更高。
1. 聯(lián)邦學習：邊緣的去中心化智能
聯(lián)邦學習（FL）正在從隱私保護發(fā)展成為去中心化智能的基石。未來5年，聯(lián)邦框架有望積極增強模型適應性、自主性和跨行業(yè)協(xié)作。市場預測到2030年，聯(lián)邦學習有望實現(xiàn)近3億美元的市場價值，預計復合年增長率為12.7%。
聯(lián)邦學習演進的另一個主要驅(qū)動力是與6G等下一代網(wǎng)絡的集成。隨著邊緣部署規(guī)模的擴大，超低延遲網(wǎng)絡將使AI模型能夠更有效地在分布式設備之間同步，從而減少優(yōu)化和部署更新所需的時間。量子聯(lián)邦學習（QFL）的出現(xiàn)也正在被探索，以減少設備之間的通信負擔，使大規(guī)模物聯(lián)網(wǎng)網(wǎng)絡的通信過程更加高效。
2. 邊緣量子計算和量子神經(jīng)網(wǎng)絡
量子計算將重新定義邊緣AI的功能。雖然當今的邊緣AI依賴于優(yōu)化的深度學習模型和低功耗硬件加速器，但量子計算引入了一種完全不同的方法：利用量子態(tài)來處理指數(shù)級增大的數(shù)據(jù)集，并以傳統(tǒng)方法無法達到的速度優(yōu)化決策。隨著量子處理單元（QPU）超越基于云的基礎設施，混合量子-經(jīng)典AI將在邊緣出現(xiàn)，增強金融、醫(yī)療保健、能源和工業(yè)自動化等行業(yè)的實時決策能力。
量子神經(jīng)網(wǎng)絡（QNN）是一種新型AI模型，它利用量子特性來檢測數(shù)據(jù)中的模式和關系，而“傳統(tǒng)AI”則難以做到這一點。與需要增加功率和內(nèi)存來提高性能的現(xiàn)有神經(jīng)網(wǎng)絡不同，QNN可以以更緊湊、更高效的方式處理信息。
到目前為止，量子計算由于其硬件要求（包括極端冷卻）而僅限于基于云的數(shù)據(jù)中心。然而，移動QPU的最新進展很可能使在室溫下運行量子算法成為可能。在未來幾年，量子計算將不僅限于云端，還可以嵌入到邊緣的自主系統(tǒng)、工業(yè)機器人和物聯(lián)網(wǎng)設備中。
3. 自主人形機器人的邊緣人工智能
人形機器人的下一階段將由具身智能定義，其中人工智能模型變得更具適應性、響應性，并能夠自我改進。
在零售環(huán)境中，人形機器人可以通過回答口頭詢問、分析面部表情和瀏覽商店布局來協(xié)助消費者。同時，在醫(yī)院和養(yǎng)老院中，人工智能機器人可以監(jiān)測患者、協(xié)助行動并檢測可能預示醫(yī)療緊急情況的細微行為變化，所有這些都通過設備端處理來確保數(shù)據(jù)隱私和安全。
4. 人工智能驅(qū)動的AR/VR：下一個進化方向
增強現(xiàn)實（AR）和虛擬現(xiàn)實（VR）已不再局限于游戲和娛樂，邊緣AI是這一發(fā)展的關鍵推動因素。下一代AR/VR設備將在本地處理信息，從而實現(xiàn)實時響應并提高能源效率。
AI驅(qū)動的空間計算將允許AR眼鏡和VR耳機根據(jù)上下文動態(tài)調(diào)整疊加、深度感知和環(huán)境交互。
在工業(yè)環(huán)境中，這意味著AR驅(qū)動的工作空間將為工程師提供免提、AI生成的指令，這些指令可實時適應現(xiàn)實世界的情況。在醫(yī)療保健領域，AR輔助手術將集成AI能力，以提高精度，根據(jù)外科醫(yī)生的動作在幾毫秒內(nèi)更新，而不會出現(xiàn)云引起的延遲。
5. 神經(jīng)形態(tài)計算：低功耗人工智能的未來
通過引入大腦啟發(fā)式架構，神經(jīng)形態(tài)計算有望在邊緣AI領域變得越來越流行，這些架構在能源效率和處理能力方面具有顯著優(yōu)勢。與將內(nèi)存和處理單元分開的傳統(tǒng)計算系統(tǒng)不同，神經(jīng)形態(tài)系統(tǒng)集成了這些功能，模仿了人腦的并行和事件驅(qū)動特性。這種設計使它們能夠以最小的能耗處理復雜的實時數(shù)據(jù)處理任務，使其成為邊緣應用的理想選擇。
例如，2022年《自然》雜志的一項研究中推出的NeuRRAM芯片模擬計算架構的能效，是最先進的“內(nèi)存計算”芯片的兩倍，可以在沒有云連接的情況下在邊緣設備上執(zhí)行復雜的認知任務。這一飛躍反映了從臺式電腦到智能手機的轉(zhuǎn)變，解鎖了曾經(jīng)被認為不可能的便攜式應用程序。
研究和早期商業(yè)部署表明，神經(jīng)形態(tài)芯片可以重新定義智能在邊緣的部署方式。
寫在最后
邊緣AI正在重塑各行各業(yè)，從自動駕駛汽車到智能制造，從醫(yī)療保健到零售物流，再到智慧農(nóng)業(yè)。通過將人工智能的力量帶到數(shù)據(jù)源頭，邊緣AI實現(xiàn)了前所未有的實時洞察、自主決策和資源優(yōu)化。
它的崛起標志著人工智能從集中式云模型向分布式智能的根本性轉(zhuǎn)變。
隨著邊緣AI生態(tài)系統(tǒng)的不斷成熟，創(chuàng)新的步伐正在加快。從聯(lián)邦學習到神經(jīng)形態(tài)計算，從量子增強智能到人工智能驅(qū)動的增強現(xiàn)實，前沿技術正在重新定義邊緣AI的可能性。展望未來，邊緣AI有望成為推動行業(yè)變革和社會進步的關鍵力量。
原文標題 : 2025邊緣AI報告:實時自主智能,從范式創(chuàng)新到AI硬件的技術基礎
分享
請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個字
