回顧2024年AI產(chǎn)業(yè)的發(fā)展，AI大模型依然在高歌猛進(jìn)，不過將AI工作負(fù)載從云端卸載到終端的趨勢(shì)已經(jīng)非常明顯，以邊緣計(jì)算為承載的邊緣AI潛力無限。根據(jù)STL Partners邊緣計(jì)算關(guān)鍵數(shù)據(jù)統(tǒng)計(jì)，全球邊緣計(jì)算市場規(guī)模預(yù)計(jì)將從2020年的90億美元，快速增長到2030年的4450億美元，其間年復(fù)合增長率為48%。AIGC時(shí)代的到來，加速了邊緣計(jì)算與AI的深度融合，邊緣AI的理念得到了各行業(yè)的廣泛認(rèn)可。

在最新的2025年預(yù)測(cè)中，NVIDIA AI專家預(yù)測(cè)，智能商店、新型機(jī)器人將不斷崛起，并且醫(yī)療健康、制造業(yè)等領(lǐng)域?qū)?shí)現(xiàn)突破性發(fā)展。不斷涌現(xiàn)的行業(yè)經(jīng)典案例顯示，邊緣AI讓終端數(shù)據(jù)體現(xiàn)出了更高的價(jià)值，從數(shù)據(jù)轉(zhuǎn)化為智能是當(dāng)下各行業(yè)的重點(diǎn)工作。

NVIDIA 2025年預(yù)測(cè)解讀

NVIDIA 2025年預(yù)測(cè)的主題是《AI將深入挖掘行業(yè)數(shù)據(jù)湖》，在這份預(yù)測(cè)里，NVIDIA的AI專家談到了很多行業(yè)應(yīng)用——手術(shù)機(jī)器人、AI藥廠、移動(dòng)機(jī)器人（AMR）、智慧金融、AI工廠、智能電網(wǎng)、AI智能體、智慧零售等。這些極具創(chuàng)新潛能的應(yīng)用表明，全球各個(gè)行業(yè)都在積極構(gòu)建和定制大語言模型（LLM），AI大模型下沉至終端讓“AI+”從理念走進(jìn)現(xiàn)實(shí)，進(jìn)而促成了這些典型應(yīng)用。

圖源：NVIDIA

正如NVIDIA醫(yī)療健康副總裁Kimberly Powell在談到手術(shù)機(jī)器人時(shí)所說，數(shù)字孿生、模擬和AI讓手術(shù)機(jī)器人變得更加強(qiáng)大，使其能夠以各種方式協(xié)助人類臨床醫(yī)生，從理解和響應(yīng)人類指令，到執(zhí)行和協(xié)助復(fù)雜的手術(shù)。Kimberly Powell強(qiáng)調(diào)，用于訓(xùn)練機(jī)器人執(zhí)行復(fù)雜任務(wù)的新型虛擬世界將會(huì)使自主手術(shù)機(jī)器人成為現(xiàn)實(shí)。這些手術(shù)機(jī)器人將能夠精確地執(zhí)行復(fù)雜手術(shù)任務(wù)，縮短患者的康復(fù)時(shí)間，并減少外科醫(yī)生的認(rèn)知工作量。

NVIDIA Omniverse和仿真技術(shù)副總裁Rev Lebaredian則提議，“讓我們擁抱物理AI，為能夠感知、理解物理世界并與之互動(dòng)的AI模型做好準(zhǔn)備，這是企業(yè)將要競相應(yīng)對(duì)的一項(xiàng)挑戰(zhàn)。”可能很多人對(duì)于物理AI這個(gè)概念還有一些陌生，簡單理解，物理AI就是在數(shù)字世界里通過3D重構(gòu)的方式模擬物理世界，可以讓算法模型更好地理解物理世界，適應(yīng)物理世界的約束。物理AI需要根據(jù)真實(shí)場景完成基于物理學(xué)的大規(guī)模仿真，可以讓機(jī)器人等智能體在虛擬世界中快速完成各種訓(xùn)練，訓(xùn)練的成本和效率都得到了顯著優(yōu)化。

其他NVIDIA AI專家的預(yù)測(cè)就不在此一一展開，但這些預(yù)測(cè)實(shí)際上更多是應(yīng)用領(lǐng)域的差異，在實(shí)現(xiàn)邏輯上有很大的共性，基本是圍繞智能體、AI大模型下沉、虛擬現(xiàn)實(shí)、物理AI、物理仿真等理念展開，完成細(xì)分領(lǐng)域的“AI+”。所實(shí)現(xiàn)的成果就是，基于細(xì)分領(lǐng)域的數(shù)據(jù)構(gòu)建AI模型或仿真，然后用模型和仿真結(jié)果賦能終端實(shí)現(xiàn)更好的智能化。

因而，透過NVIDIA AI專家的預(yù)測(cè)不難看出，從數(shù)據(jù)轉(zhuǎn)化為具體的AI應(yīng)用將為終端行業(yè)帶來巨大的價(jià)值空間。數(shù)據(jù)價(jià)值挖掘是一種通過數(shù)據(jù)分析、機(jī)器學(xué)習(xí)、統(tǒng)計(jì)方法等技術(shù)手段，從大量數(shù)據(jù)中提取有用信息和知識(shí)的過程。隨著AI大模型、物理AI和智能體等概念的強(qiáng)化，數(shù)據(jù)挖掘和轉(zhuǎn)化的目標(biāo)變得更加清晰，數(shù)據(jù)的增長也不再局限于云端或數(shù)據(jù)中心里，終端設(shè)備成為源源不斷的數(shù)據(jù)源。然后基于數(shù)據(jù)的算法、模型和智能體將具備更強(qiáng)大的智能化能力，能夠以更快的速度、更低的成本和更低的功耗提供實(shí)時(shí)分析和反饋。這種相互促進(jìn)讓終端應(yīng)用得以快速迭代，不僅高效、低功耗、安全，并具有很強(qiáng)的垂直屬性，包括個(gè)性化定制的屬性。

綜上所述，邊緣AI在2025年將發(fā)生一些顯著的變化，不再只是簡單地基于通用算法和基礎(chǔ)算力，而是基于行業(yè)數(shù)據(jù)打造專屬的大模型和智能體，能夠根據(jù)實(shí)時(shí)的數(shù)據(jù)采集給出及時(shí)的反饋和策略調(diào)整，已經(jīng)具備具身智能的雛形。這種趨勢(shì)將受到各個(gè)終端行業(yè)的歡迎，正如分析機(jī)構(gòu)Gartner在報(bào)告中提到的，到2025年將有75%的數(shù)據(jù)產(chǎn)生在數(shù)據(jù)中心和云之外，并在邊緣側(cè)進(jìn)行處理；到2026年，86%的邊緣開發(fā)者在項(xiàng)目開發(fā)時(shí)會(huì)將目標(biāo)鎖定在AI方向。

邊緣AI部署的現(xiàn)狀、挑戰(zhàn)和應(yīng)對(duì)之策

NVIDIA AI專家的預(yù)測(cè)告訴我們，2025年邊緣AI是大有可為的，且對(duì)創(chuàng)新有非常大的包容性。當(dāng)然，現(xiàn)階段各行業(yè)所面臨的市場情況并不一致，且有明顯的地域差異。簡單看一下AI在一些典型領(lǐng)域的普及情況：
·自動(dòng)駕駛：乘聯(lián)會(huì)數(shù)據(jù)顯示，2023年中國市場乘用車L2級(jí)自動(dòng)駕駛的滲透率達(dá)到了47.3%，明顯領(lǐng)先于全球（高盛數(shù)據(jù)稱約為20%）；
·智能機(jī)器人：I-AIIG的數(shù)據(jù)指出，美國機(jī)器人市場中AI驅(qū)動(dòng)的高端機(jī)器人系統(tǒng)占比為30%，遠(yuǎn)高于全球平均水平。
·人形機(jī)器人：Omdia最新報(bào)告指出，2027年全球人形機(jī)器人銷量破萬，當(dāng)前處于行業(yè)爆發(fā)的前夜。

隨著各行業(yè)對(duì)于邊緣AI的認(rèn)可度越來越高，參與度越來越深，邊緣AI的部署開始出現(xiàn)既定的方案，比如NVIDIA全球副總裁、汽車事業(yè)部負(fù)責(zé)人吳新宙在分享自動(dòng)駕駛預(yù)測(cè)時(shí)談到的，支撐自動(dòng)駕駛車輛開發(fā)有三臺(tái)關(guān)鍵計(jì)算機(jī)——一臺(tái)用于在數(shù)據(jù)中心訓(xùn)練基于AI的堆棧，另一臺(tái)用于模擬和驗(yàn)證，第三臺(tái)車載計(jì)算機(jī)用于處理實(shí)時(shí)傳感器數(shù)據(jù)以實(shí)現(xiàn)安全駕駛。

更前沿的人形機(jī)器人也是如此，目前人形機(jī)器人主要由感知系統(tǒng)、動(dòng)力系統(tǒng)、控制系統(tǒng)、能源系統(tǒng)和通信模塊等幾個(gè)關(guān)鍵部分組成，其中感知系統(tǒng)和控制系統(tǒng)主要的職責(zé)就是實(shí)現(xiàn)智能化。控制系統(tǒng)是人形機(jī)器人的大腦，包含了主控芯片、子系統(tǒng)控制器和各種控制組件，主控芯片上運(yùn)轉(zhuǎn)著最核心的算法模型。

雖然經(jīng)過一段時(shí)間的發(fā)展，邊緣AI的部署不再是摸著石頭過河，但仍有一些挑戰(zhàn)需要去克服。邊緣AI系統(tǒng)主要包括硅芯片層、硬件系統(tǒng)層、AI和應(yīng)用層、垂直解決方案層。相較于云端AI，邊緣AI在能效、實(shí)時(shí)性和數(shù)據(jù)安全方面展現(xiàn)出明顯優(yōu)勢(shì)，然而，部署邊緣AI方案的硬件資源是非常有限的，包括計(jì)算資源、存儲(chǔ)資源和網(wǎng)絡(luò)帶寬資源皆是如此，如何基于有限的硬件資源構(gòu)建強(qiáng)大的智能應(yīng)用是所有行業(yè)共同研究的課題。為構(gòu)建更好的邊緣AI，開發(fā)者需要更強(qiáng)大的計(jì)算芯片，也需要通過量化技術(shù)、權(quán)重剪枝、低秩分解等技術(shù)盡可能去壓縮AI模型，全面推動(dòng)軟硬件協(xié)同優(yōu)化。

另外，在軟硬件協(xié)同優(yōu)化方面還會(huì)有一些額外的挑戰(zhàn)，比如軟硬件協(xié)同優(yōu)化往往是基于訓(xùn)練數(shù)據(jù)，而忽視了最終的部署場景，上述內(nèi)容已經(jīng)提到，現(xiàn)階段的邊緣AI并不是簡單的部署通用算法，而是需要模型根據(jù)實(shí)時(shí)數(shù)據(jù)進(jìn)行反饋和臨時(shí)決策，這就導(dǎo)致很多優(yōu)化之后的方案在現(xiàn)場部署時(shí)還需要進(jìn)行重新優(yōu)化，有時(shí)候方案可能需要回溯到設(shè)計(jì)之初的階段，這對(duì)開發(fā)者而言是很大的打擊。

為了幫助各行業(yè)應(yīng)對(duì)新時(shí)期邊緣AI的部署挑戰(zhàn)，讓NVIDIA AI專家的預(yù)測(cè)更好地從理念照進(jìn)現(xiàn)實(shí)，NVIDIA提供了豐富的解決方案。NVIDIA Blackwell架構(gòu)和基于該架構(gòu)的計(jì)算平臺(tái)也為邊緣AI提供了充足的算力保障，克服邊緣AI的“算力不足恐懼癥”,為生成式AI和加速計(jì)算帶來突破性的進(jìn)步。

Blackwell架構(gòu)的技術(shù)突破，圖源：NVIDIA

NVIDIA為各行業(yè)的邊緣AI開發(fā)提供了豐富的開發(fā)資源、服務(wù)。面向智能機(jī)器人，基于NVIDIA Omniverse構(gòu)建的Isaac Sim是一款參考應(yīng)用，允許開發(fā)者在基于物理的虛擬環(huán)境中設(shè)計(jì)、模擬、測(cè)試和訓(xùn)練基于AI的機(jī)器人和自主機(jī)器，在此過程中開發(fā)者可以選擇自定義模擬器，也可以選擇基于Isaac Sim現(xiàn)有技術(shù)構(gòu)建方案。

NVIDIA Isaac Sim應(yīng)用框圖，圖源：NVIDIA

面向物理AI，NVIDIA Omniverse平臺(tái)提供了各種API、SDK和服務(wù)，可幫助開發(fā)者輕松將通用場景描述 (OpenUSD) 和RTX渲染技術(shù)集成到現(xiàn)有軟件工具和仿真工作流中，以構(gòu)建這些3D環(huán)境。NVIDIA Omniverse是西門子、富士康等行業(yè)龍頭的共同選擇，可以幫助完成工廠的數(shù)字孿生，機(jī)器人的虛擬訓(xùn)練空間搭建，以及幫助生產(chǎn)線進(jìn)行自動(dòng)光學(xué)檢測(cè)、物體識(shí)別、缺陷檢測(cè)和軌跡規(guī)劃等。

面向汽車自動(dòng)駕駛技術(shù)開發(fā)，NVIDIA DRIVE Orin系統(tǒng)級(jí)芯片已經(jīng)在各品牌車輛上廣泛搭載，同時(shí)基于NVIDIA Blackwell GPU架構(gòu)的NVIDIA DRIVE Thor車載計(jì)算平臺(tái)已經(jīng)成為車企更新下一代自動(dòng)駕駛技術(shù)的首選平臺(tái)，賦能當(dāng)前和未來主流的“AI定義汽車”。

NVIDIA DRIVE Thor車載計(jì)算平臺(tái)，圖源：NVIDIA

實(shí)際上，不僅是NVIDIA AI專家預(yù)測(cè)的這些應(yīng)用，各種邊緣AI的實(shí)現(xiàn)都可以在NVIDIA找到合適的方案，包括計(jì)算平臺(tái)、虛擬空間、參考示例和核心技術(shù)等。同時(shí)，開發(fā)者也可以從云端獲取NVIDIA先進(jìn)的AI技術(shù)，目前NVIDIA NIM微服務(wù)已經(jīng)擴(kuò)展到各項(xiàng)關(guān)鍵的亞馬遜云科技AI服務(wù)中，包括NVIDIA Nemotron-4（先進(jìn)的 LLM）、Llama 3.1 8B-Instruct（8B大語言模型）、Llama 3.1 70B-Instruct（70B大語言模型）和Mixtral 8x7B Instruct v0.1（專家模型）等。

結(jié)語

隨著AI大模型和算力逐漸下沉，2025年邊緣AI可謂是前景無限。正如NVIDIA機(jī)器人與邊緣計(jì)算副總裁Deepu Talla預(yù)測(cè)的那樣：在不久的將來，從手術(shù)室、數(shù)據(jù)中心到倉庫和工廠，機(jī)器人將無處不在。甚至交通控制系統(tǒng)，又或整個(gè)城市，也將從靜態(tài)、人工操作的系統(tǒng)轉(zhuǎn)變?yōu)榛谖锢鞟I的自主交互式系統(tǒng)。

但是需要注意到的是，邊緣AI的核心要義正在發(fā)生變化，已經(jīng)初具具身智能的能力，可以和環(huán)境進(jìn)行交互，這對(duì)整個(gè)邊緣系統(tǒng)提出了更高的要求。在應(yīng)對(duì)這些設(shè)計(jì)挑戰(zhàn)時(shí)，NVIDIA的硬件和方案是開發(fā)者的得力幫手，推動(dòng)邊緣AI方案的升級(jí)迭代。