吴忠躺衫网络科技有限公司

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

40+TOPS NPU,AI PC處理器開卷算力

花茶晶晶 ? 來源:電子發燒友 ? 作者:黃晶晶 ? 2024-07-14 01:11 ? 次閱讀

電子發燒友網報道(文/黃晶晶)今年初,微軟推出引入Copilot功能的全新個人電腦,Copilot作為AI語音助手被確定為AI PC不可或缺的按鍵以及功能,它能夠在不需要云數據中心的情況下處理本地的人工智能任務。同時,微軟還提出,這款全新電腦搭配擁有全新神經處理單元NPU的芯片,可實現每秒超過40萬億次即40+TOPS的運算。那么也就是說,若要符合微軟給出的AI PC的定義,NPU的算力至少要達到40 TOPS。

這一定義的拋出,突顯了NPU的重要性。半導體大廠們普遍認為CPU+GPU+NPU的組合將是AI PC的算力基座。

《AI PC產業白皮書》中指出AI PC五大特性,包括提供多模態自然語言交互、終端內嵌個人的大模型、標配本地混合AI算力、連接開放的AI應用生態、設備級個人數據和隱私安全保護。尤其是本地混合AI算力,即CPU+GPU+NPU異構混合算力保證了AIPC本地推理的可行性,同時隨著端側算力的快速提升,AIPC可以承載更大的AI模型,執行更加復雜的任務。

在分工上,CPU是計算機的運算核心和控制核心,GPU進行圖形處理和大規模并發計算,NPU提供高效能和低功耗的神經網絡運算支持,在多種應用場景中實用智能計算。三者的組合發揮各自的優勢,協同工作,高效實現端側AI的能力。

不過,當前來看NPU別說是多少算力的問題,甚至很多設備都還沒有NPU。以安卓平臺來看,目前70%的第三方 ML/AI 應用運行在CPU上,特別是一些低級別設備很難承擔NPU的費用,CPU+GPU+NPU的組合或許要從高端設備開始。

AI PC的演進過程中,《白皮書》指出應分為AIReady階段和AIOn階段。在AIReady階段,AIPC主要表現為芯片計算架構的升級,具備基本的本地混合AI算力,能夠為AIPC的軟件及服務創新提供基本保障,開啟體驗創新。

如今,NPU以及高算力NPU的導入已經開始。英特爾AMD、蘋果、高通廠商紛紛推出了帶有NPU的處理器產品,不少新產品的NPU算力都達到40 TOPS,高算力應對復雜且眾多的本地AI大模型需求,為迎接AI PC的應用爆發做好準備。

wKgaomaRAZCAdSMgAAJR7zgP_9M166.jpg

英特爾

去年12月,英特爾正式發布酷睿Ultra處理器。它是首款基于 Intel 4 制程工藝打造的處理器,代表了40年來英特爾架構最大的革新。采用了先進的Foveros 3D 封裝技術,在 CPU、GPU 和神經網絡處理單元(NPU)的架構中集成了專屬 AI 加速功能,從而成為英特爾歷史上 AI 性能最強、能效最佳的客戶端處理器。英特爾方面還宣布,將與主流 OEM 伙伴推出 230 余款機型,開啟AI PC新紀元。

根據英特爾的酷睿 Ultra 產品路線圖,2023年為Meteor Lake,2024年將有Lunar Lake、Arrow Lake,2025年為Panther Lake,2026年Future Products還沒有具體架構代號。其中Lunar Lake采用臺積電3nm工藝,NPU性能將是上一代的4倍,達到48 TOPS,滿足 Copilot+ 需求。

另外,英特爾將于年內發布Arrow Lake處理器。報道稱,Arrow Lake涵蓋了臺式機和筆記本電腦產品的多個細分平臺,其中“S”用于臺式機并采用LGA 1851插座,“HX”用于發燒級游戲本,算力方面,Arrow Lake-S和Arrow Lake-HX提供AI算力達37 TOPS,其中Arrow Lake-S/HX的GPU在新架構加持下,AI算力從3 TOPS提高到9 TOPS;內置的NPU提供13 TOPS的AI算力。

AMD

AMD于2023年5月推出的銳龍7040系列是全球首款內置XDNA架構NPU的X86處理器,同年12月推出銳龍8040系列移動處理器,提供高達16TOPS的NPU算力和39 TOPS的整體算力,相較上一代帶來60%的AI性能提升。

在今年6月的臺北電腦展上,AMD重磅發布了Ryzen AI 300 系列處理器,采用Zen 5架構、第三代AMD Ryzen AI,內置XDNA2 NPU,GPU升級為RDNA 3.5。

wKgaomaRAZyAX8DdAACC5X0tLE8368.jpg

作為一款專為AI PC打造的處理器,其NPU算力可達50 TOPS,相較而言上一代Ryzen 8040系列芯片只有16 TOPS。

可以看到,這款處理器的亮點之一就在于NPU算力的大幅提升。AMD表示,XDNA2 NPU的計算能力提供5倍多,多任務并行能力翻一番,能效提升最多2倍。并且,XDNA2首次引入全新的Block FP16浮點精度,傳統的8-bit INT8數據類型性能強但準確性低,16-bit FP16數據類型準確性高但性能弱。FP16 NPU可兼顧兩者的性能與準確性,目前大多數AI應用都采用了16-bit精度。另外,AMD已經與超過150家AI賦能的ISV合作伙伴達成深度合作,進而為AMD Ryzen AI提供兼容性更好、性能體驗更好的各類型AI應用。

蘋果

2023年,蘋果A17 Pro處理器對整塊芯片進行了全方位提升,包括 Apple 有史以來最大規模重新設計的圖形處理器。通過微架構和設計上的改進,全新的中央處理器實現了多達 10% 的速度提升,神經網絡引擎的速度也提升多達 2 倍。采用臺積電3nm工藝制程,其NPU擁有16核心,性能達到35 TOPS。

今年5月,蘋果發布的11英寸和13英寸iPad Pro搭載了M4處理器,該處理器基于臺積電第二代3nm工藝,擁有280億個晶體管,NPU算力從18TOPS提升到38 TOPS。

在前不久的蘋果全球開發者大會(WWDC)上,蘋果宣布了全新的AI系統Apple Intelligence。要提升系統的AI能力,NPU的升級必不可少。今年9月蘋果全新一代iPhone 16 Pro將配備最新的A18芯片,據悉臺積電啟動2nm芯片試產,蘋果A18性能或提升30%,而在NPU性能上,有消息稱A18有望超越蘋果自家的M4處理器,可能達到45TOPS。


高通

此次微軟首批Copilot+PC,搭載高通驍龍(Snapdragon)X Elite 芯片。高通于2023年推出為AI PC設計的驍龍 X Elite 處理器,該處理器集成高通定制 Oryon CPU,基于 4nm 工藝打造,采用 12 顆 3.8GHz 大核,全新 Hexagon NPU 最高可提供 45 TOP(每秒萬億次運算)算力,并且可以在設備上以“驚人的速度”運行超過 13B 參數的生成式 AI LLM(大型語言模型)。首批搭載驍龍X Elite 芯片的PC制造商包括榮耀、聯想、小米等。

此外,消息稱,聯發科英偉達聯手研發Arm架構AI PC處理器,新款芯片將對標蘋果M4,預計2024年第三季度完成設計,第四季度進入驗證階段,將采用臺積電3nm工藝制造,并計劃2025年發布。

小結:

微軟給AI PC劃了一條NPU算力的“紅線”,基于微軟強大的生態號召力,AI PC處理器廠商都十分重視NPU性能的提升,當然這也有利于后續AI PC上端側AI真正的應用普及。40+ TOPS NPU也許會成為今后用戶購買AI PC的一個必選項。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 處理器
    +關注

    關注

    68

    文章

    19407

    瀏覽量

    231175
  • AI
    AI
    +關注

    關注

    87

    文章

    31513

    瀏覽量

    270323
  • NPU
    NPU
    +關注

    關注

    2

    文章

    292

    瀏覽量

    18783
  • 算力
    +關注

    關注

    1

    文章

    1012

    瀏覽量

    14954
  • AI PC
    +關注

    關注

    0

    文章

    124

    瀏覽量

    283
收藏 人收藏

    評論

    相關推薦

    迅為瑞芯微RK3562開發板主頻2.0內置NPU達1TOPS,核心板擴展更多功能

    。 內置獨立NPU, 達 1TOPS,可用于輕量級人工智能應用。 支持幾乎全格式的H.264解碼,支持1080p@60fps的解碼,支持4K@30fps的H.265解碼,以及108
    發表于 12-24 15:07

    【「芯片 | 高性能 CPU/GPU/NPU 微架構分析」閱讀體驗】--全書概覽

    、GPU、NPU,給我們剖析了芯片的微架構。書中有對芯片方案商處理器的講解,理論聯系實際,使讀者能更好理解
    發表于 10-15 22:08

    超緊湊模塊提供高達 39 TOPS AI

    的 XDNA? NPU 和強大的 Radeon RDNA 3? 圖形處理器,可為AI推理提供高達39 TOPS的驚人
    發表于 09-25 13:46 ?1354次閱讀
     超緊湊模塊提供高達 39 <b class='flag-5'>TOPS</b> <b class='flag-5'>AI</b> <b class='flag-5'>算</b><b class='flag-5'>力</b>

    名單公布!【書籍評測活動NO.43】 芯片 | 高性能 CPU/GPU/NPU 微架構分析

    社會資源和資本力量關注芯片的發展,希望我們的國家能夠更獨立自主地設計制造高性能芯片。 內容簡介: 本書介紹了超級計算機
    發表于 09-02 10:09

    ARMxy工業控制為視頻監控提供1Tops支持

    ARMxy ARM工業控制以其1TopsNPU,在視頻監控中的應用展現出了不錯的性能和廣泛的應用,為用戶提供了高效、穩定和可靠的解決
    的頭像 發表于 08-20 12:03 ?391次閱讀
    ARMxy工業控制<b class='flag-5'>器</b>為視頻監控提供1<b class='flag-5'>Tops</b><b class='flag-5'>算</b><b class='flag-5'>力</b>支持

    用ARMxy ARM工業控制自帶的1Tops實現高性能圖像處理

    ARMxy ARM工業控制憑借其強大的性能、靈活的配置和高度集成的特性,尤其是其內置的1TopsNPU(神經網絡
    的頭像 發表于 08-20 11:55 ?510次閱讀
    用ARMxy ARM工業控制<b class='flag-5'>器</b>自帶的1<b class='flag-5'>Tops</b><b class='flag-5'>算</b><b class='flag-5'>力</b>實現高性能圖像<b class='flag-5'>處理</b>

    刷新AI PC NPU,AMD銳龍AI 9 HX 375領銜55 TOPS

    電子發燒友網報道(文/黃晶晶)最近AMD官網上線了銳龍AI 300系列中的最新成員銳龍AI 9 HX 375處理器。原本Ryzen AI 9 HX 370的
    的頭像 發表于 08-07 00:28 ?3681次閱讀
    刷新<b class='flag-5'>AI</b> <b class='flag-5'>PC</b> <b class='flag-5'>NPU</b><b class='flag-5'>算</b><b class='flag-5'>力</b>,AMD銳龍<b class='flag-5'>AI</b> 9 HX 375領銜55 <b class='flag-5'>TOPS</b>

    NPUAI TOPS是什么?它們有哪些性能?

    可運行AI模型的性能、準確性和效率。如今,TOPS(每秒萬億次運算)是衡量處理器AI性能的主要方式之一。TOPS是基于
    的頭像 發表于 06-13 10:33 ?999次閱讀

    Lunar Lake:NPU性能全面提升,能耗也大幅降低,綜合AI提升至120TOPS

    英特爾CEO帕特·基辛格在COMPUTEX 2024上發表主題演講,正式公布了下一代面向AI PC的移動處理器Lunar Lake,不僅CPU、GPU、NPU性能全面提升,能耗也大幅降
    的頭像 發表于 06-05 15:54 ?8534次閱讀
    Lunar Lake:<b class='flag-5'>NPU</b>性能全面提升,能耗也大幅降低,綜合<b class='flag-5'>AI</b><b class='flag-5'>算</b><b class='flag-5'>力</b>提升至120<b class='flag-5'>TOPS</b>

    AI PC引發的NPU大戰?英特爾:僅30%開發者選擇NPU

    隨著COMPUTEX 2024的日益臨近,關于人工智能(AI)個人計算機(PC)的話題開始變得愈發熱門和受關注。據微軟公司近期發布的相關技術規范要求,所有運行Windows操作系統的AI PC
    的頭像 發表于 06-03 17:24 ?925次閱讀

    實測NPU“空轉”,AI PC首個落地應用只調用GPU?

    電子發燒友網報道(文/梁浩斌)去年開始,整個PC產業鏈,自上而下地都在為AI PC造勢。從處理器端的英特爾、AMD、高通等開始,到下游終端廠商,宣傳上清一色的
    的頭像 發表于 05-22 00:16 ?3284次閱讀

    AI PC市場爭霸:英特爾、AMD、高通芯片誰主沉浮?

    目前英特爾的Meteor Lake處理器NPU只能提供10 TOPS的性能,沒有達到下一代AI PC的標準。而 Lunar Lake 的
    發表于 04-18 14:29 ?488次閱讀

    NPU3倍,新一代酷睿Ultra Lunar Lake搶先看

    在人工智能(AI)工作負載中可以提供100+ TOPS,其中45 TOPS來自于NPU
    的頭像 發表于 04-14 11:04 ?702次閱讀

    AMD推出銳龍8000嵌入式處理器AI高達39 T

    此款CPU選用4納米制程、AMD基于“Zen 4”架構的CPU核心以及使用RDNA 3架構GPU和XDNA架構NPU,實現高達39TOPSAI
    的頭像 發表于 04-03 10:39 ?985次閱讀

    256Tops!CSA1-N8S1684X服務

    (基于BM1684X的高服務)高AI處理器
    的頭像 發表于 03-23 08:02 ?1756次閱讀
    256<b class='flag-5'>Tops</b><b class='flag-5'>算</b><b class='flag-5'>力</b>!CSA1-N8S1684X<b class='flag-5'>算</b><b class='flag-5'>力</b>服務<b class='flag-5'>器</b>
    巨星百家乐的玩法技巧和规则 | 网上百家乐怎么赌能赢钱| 百家乐网上投注文章| 张家港百家乐赌博| BB百家乐HD| 百家乐园选| 大发888游戏下载投注| 大发888 无法进入网页| 百家乐的奥秘| 百家乐博彩吧| 大发888娱乐鸿博娱乐| 六合彩码报| bet365网站| 百家乐官网对打反水| 澳门百家乐官网下注最低| 澳门百家乐官网博客| 百家乐官网连跳趋势| 澳门百家乐官网群代理| 百家乐算号软件| 百家乐的各种打法| 大发888下载亚洲城| 百家乐太阳城球讯网| 网上百家乐赌博出| 大发888 大发888游戏平台| 永胜博| 百家乐官网台布21点| 百家乐官网赢钱打| 百家乐怎样做弊| 玩百家乐的好处| 贵族娱乐城| 新澳博百家乐官网娱乐城| 澳门百家乐秘诀| 百家乐赌台| 贞丰县| 逍遥坊百家乐官网的玩法技巧和规则| 百家乐胜率被控制| 丽景湾百家乐的玩法技巧和规则| 易胜博国际娱乐| 百家乐官网平台在线| 澳门百家乐怎样下注| 大发888游戏平台888|