電子發燒友網報道(文/黃晶晶)今年初,微軟推出引入Copilot功能的全新個人電腦,Copilot作為AI語音助手被確定為AI PC不可或缺的按鍵以及功能,它能夠在不需要云數據中心的情況下處理本地的人工智能任務。同時,微軟還提出,這款全新電腦搭配擁有全新神經處理單元NPU的芯片,可實現每秒超過40萬億次即40+TOPS的運算。那么也就是說,若要符合微軟給出的AI PC的定義,NPU的算力至少要達到40 TOPS。
這一定義的拋出,突顯了NPU的重要性。半導體大廠們普遍認為CPU+GPU+NPU的組合將是AI PC的算力基座。
《AI PC產業白皮書》中指出AI PC五大特性,包括提供多模態自然語言交互、終端內嵌個人的大模型、標配本地混合AI算力、連接開放的AI應用生態、設備級個人數據和隱私安全保護。尤其是本地混合AI算力,即CPU+GPU+NPU異構混合算力保證了AIPC本地推理的可行性,同時隨著端側算力的快速提升,AIPC可以承載更大的AI模型,執行更加復雜的任務。
在分工上,CPU是計算機的運算核心和控制核心,GPU進行圖形處理和大規模并發計算,NPU提供高效能和低功耗的神經網絡運算支持,在多種應用場景中實用智能計算。三者的組合發揮各自的優勢,協同工作,高效實現端側AI的能力。
不過,當前來看NPU別說是多少算力的問題,甚至很多設備都還沒有NPU。以安卓平臺來看,目前70%的第三方 ML/AI 應用運行在CPU上,特別是一些低級別設備很難承擔NPU的費用,CPU+GPU+NPU的組合或許要從高端設備開始。
AI PC的演進過程中,《白皮書》指出應分為AIReady階段和AIOn階段。在AIReady階段,AIPC主要表現為芯片計算架構的升級,具備基本的本地混合AI算力,能夠為AIPC的軟件及服務創新提供基本保障,開啟體驗創新。
如今,NPU以及高算力NPU的導入已經開始。英特爾、AMD、蘋果、高通等廠商紛紛推出了帶有NPU的處理器產品,不少新產品的NPU算力都達到40 TOPS,高算力應對復雜且眾多的本地AI大模型需求,為迎接AI PC的應用爆發做好準備。
英特爾
去年12月,英特爾正式發布酷睿Ultra處理器。它是首款基于 Intel 4 制程工藝打造的處理器,代表了40年來英特爾架構最大的革新。采用了先進的Foveros 3D 封裝技術,在 CPU、GPU 和神經網絡處理單元(NPU)的架構中集成了專屬 AI 加速功能,從而成為英特爾歷史上 AI 性能最強、能效最佳的客戶端處理器。英特爾方面還宣布,將與主流 OEM 伙伴推出 230 余款機型,開啟AI PC新紀元。
根據英特爾的酷睿 Ultra 產品路線圖,2023年為Meteor Lake,2024年將有Lunar Lake、Arrow Lake,2025年為Panther Lake,2026年Future Products還沒有具體架構代號。其中Lunar Lake采用臺積電3nm工藝,NPU性能將是上一代的4倍,達到48 TOPS,滿足 Copilot+ 需求。
另外,英特爾將于年內發布Arrow Lake處理器。報道稱,Arrow Lake涵蓋了臺式機和筆記本電腦產品的多個細分平臺,其中“S”用于臺式機并采用LGA 1851插座,“HX”用于發燒級游戲本,算力方面,Arrow Lake-S和Arrow Lake-HX提供AI算力達37 TOPS,其中Arrow Lake-S/HX的GPU在新架構加持下,AI算力從3 TOPS提高到9 TOPS;內置的NPU提供13 TOPS的AI算力。
AMD
AMD于2023年5月推出的銳龍7040系列是全球首款內置XDNA架構NPU的X86處理器,同年12月推出銳龍8040系列移動處理器,提供高達16TOPS的NPU算力和39 TOPS的整體算力,相較上一代帶來60%的AI性能提升。
在今年6月的臺北電腦展上,AMD重磅發布了Ryzen AI 300 系列處理器,采用Zen 5架構、第三代AMD Ryzen AI,內置XDNA2 NPU,GPU升級為RDNA 3.5。
作為一款專為AI PC打造的處理器,其NPU算力可達50 TOPS,相較而言上一代Ryzen 8040系列芯片只有16 TOPS。
可以看到,這款處理器的亮點之一就在于NPU算力的大幅提升。AMD表示,XDNA2 NPU的計算能力提供5倍多,多任務并行能力翻一番,能效提升最多2倍。并且,XDNA2首次引入全新的Block FP16浮點精度,傳統的8-bit INT8數據類型性能強但準確性低,16-bit FP16數據類型準確性高但性能弱。FP16 NPU可兼顧兩者的性能與準確性,目前大多數AI應用都采用了16-bit精度。另外,AMD已經與超過150家AI賦能的ISV合作伙伴達成深度合作,進而為AMD Ryzen AI提供兼容性更好、性能體驗更好的各類型AI應用。
蘋果
2023年,蘋果A17 Pro處理器對整塊芯片進行了全方位提升,包括 Apple 有史以來最大規模重新設計的圖形處理器。通過微架構和設計上的改進,全新的中央處理器實現了多達 10% 的速度提升,神經網絡引擎的速度也提升多達 2 倍。采用臺積電3nm工藝制程,其NPU擁有16核心,性能達到35 TOPS。
今年5月,蘋果發布的11英寸和13英寸iPad Pro搭載了M4處理器,該處理器基于臺積電第二代3nm工藝,擁有280億個晶體管,NPU算力從18TOPS提升到38 TOPS。
在前不久的蘋果全球開發者大會(WWDC)上,蘋果宣布了全新的AI系統Apple Intelligence。要提升系統的AI能力,NPU的升級必不可少。今年9月蘋果全新一代iPhone 16 Pro將配備最新的A18芯片,據悉臺積電啟動2nm芯片試產,蘋果A18性能或提升30%,而在NPU性能上,有消息稱A18有望超越蘋果自家的M4處理器,可能達到45TOPS。
高通
此次微軟首批Copilot+PC,搭載高通驍龍(Snapdragon)X Elite 芯片。高通于2023年推出為AI PC設計的驍龍 X Elite 處理器,該處理器集成高通定制 Oryon CPU,基于 4nm 工藝打造,采用 12 顆 3.8GHz 大核,全新 Hexagon NPU 最高可提供 45 TOP(每秒萬億次運算)算力,并且可以在設備上以“驚人的速度”運行超過 13B 參數的生成式 AI LLM(大型語言模型)。首批搭載驍龍X Elite 芯片的PC制造商包括榮耀、聯想、小米等。
此外,消息稱,聯發科與英偉達聯手研發Arm架構AI PC處理器,新款芯片將對標蘋果M4,預計2024年第三季度完成設計,第四季度進入驗證階段,將采用臺積電3nm工藝制造,并計劃2025年發布。
小結:
微軟給AI PC劃了一條NPU算力的“紅線”,基于微軟強大的生態號召力,AI PC處理器廠商都十分重視NPU性能的提升,當然這也有利于后續AI PC上端側AI真正的應用普及。40+ TOPS NPU也許會成為今后用戶購買AI PC的一個必選項。
-
處理器
+關注
關注
68文章
19407瀏覽量
231175 -
AI
+關注
關注
87文章
31513瀏覽量
270323 -
NPU
+關注
關注
2文章
292瀏覽量
18783 -
算力
+關注
關注
1文章
1012瀏覽量
14954 -
AI PC
+關注
關注
0文章
124瀏覽量
283
發布評論請先 登錄
相關推薦
評論