吴忠躺衫网络科技有限公司

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

PCIe 6.0元年,AI與HPC迎來新速度

E4Life ? 來源:電子發燒友網 ? 作者:周凱揚 ? 2024-01-31 09:02 ? 次閱讀

電子發燒友網報道(文/周凱揚)2022年1月,PCI-SIG發布了PCIe 6.0規范,正式拉開了接口帶寬大幅升級的序幕。然而,在規范公布的兩年時間里,也已經更新了6.0.1和6.1版本,PCIe 6.0似乎在設計層面上已經完善了。但我們這期間并沒有看到PCIe 6.0產品的實際落地,甚至PCIe 5.0產品只是在消費級產品小批量落地而已。而在今年三月,根據PCI-SGI的預測,PCIe 6.0的硬件終于快要面世。

AI/ML、HPC和云端圖形負載渴求的翻倍帶寬

作為從服務器與PC起家的接口,PCIe近幾年已經開始輻射到以數據為核心的應用中去,比如IoT、汽車和醫療電子等。從PCIe 3.0開始,每一代接口標準規范都會為速率帶來翻倍的提升,PCIe 6.0更是將速率提升至64GT/s,x16單向帶寬拔高至256GB/s。

這樣的速率或許在IoT應用中顯得有些多余,但在時下大熱的AI/ML應用中,可以說是大幅提高計算效率的殺手锏。要知道目前爆火的生成式AI應用ChatGPT等,可謂受盡了大量同時訪問與需求的困擾,即便H100的帶寬再高,在PCIe 5.0下依然計算效率受限,得靠NVLink才能突破限制。

目前的數據中心,尤其是其中的AI服務器,已經成了帶寬無底洞。何況對于處理AI/ML訓練模型來說,以快制勝可以說是一條市場鐵則。更快的帶寬意味著生成式AI的并發響應更快,給到更短的文本、圖形生成時間,從而進一步提升用戶體驗。而對于大部分托管/租用服務器的應用開發者來說,這也意味著運營成本大幅降低。

HPC也不例外,在長時間運轉的HPC服務器中,帶寬就意味著計算效率,尤其是量子力學、分子動力學所用到的軟件,所需內存帶寬更高。如果沒有足夠的帶寬,就只能分節點來減小不同進程之間的帶寬競爭。最后一大痛點是云游戲帶來的,對于這種需要多并發高圖形負載的運用而言,帶寬就決定了云游戲的并發數以及圖形質量。

AI/ML會加速PCIe 6.0的落地嗎

從PCIe的發展歷史來看,平均3到4年就會正式推出新的規范,只有從3.0到4.0經歷了7年的漫長的時間,這也是因為彼時的PCIe 3.0已經算是超前的標準,直到2015年后,全球數據流量進入爆發期。此后從4.0演進至5.0花了2年時間,從5.0演進至6.0花了三年時間。據推測,PCIe 7.0規范將在2025年正式推出。

然而我們也發現,基于新標準的PCIe產品在落地速度上并沒有那么快。往往最先落地的是AI加速器、SSD等設備,畢竟本地處理速度再快也要網絡速度跟上才行。就拿還未實現的800G以太網為例,其所需要的單向帶寬也就是100GB/s,正好在PCIe 6.0的帶寬覆蓋范圍內。

所以即便有著AI/ML的推進,今年應該只會有少數PCIe 6.0產品能夠落地,且落地場景還是集中在數據中心領域,且先一步用于AI服務器上,這點從PCIe 6.0控制器IP、服務器CPU IP廠商的動向上也可以看出。

寫在最后

PCIe 6.0作為目前最先進的接口標準之一,注定會為下一輪計算、存儲技術的創新帶來設計便利。但我們也應該實時關注市場需求,過去的PCIe能夠維持主流接口的地位,正是靠的聯合硬件廠商穩步推進市場需求,這個策略在AI時代依舊通用。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 接口
    +關注

    關注

    33

    文章

    8694

    瀏覽量

    151926
  • AI
    AI
    +關注

    關注

    87

    文章

    31536

    瀏覽量

    270344
  • PCIe
    +關注

    關注

    15

    文章

    1262

    瀏覽量

    83195
收藏 人收藏

    評論

    相關推薦

    PCIe 5.0市場加速滲透,PCIe 6.0研發到來

    電子發燒友網報道(文/黃晶晶)PCIe 5.0作為新一代高速接口標準,其帶寬大幅提升至32 GT/s,相較于PCIe 4.0翻了一番。這種高效的數據傳輸能力使得PCIe 5.0在處理高質量圖像、游戲
    的頭像 發表于 01-27 00:03 ?2879次閱讀

    HPC云計算的技術架構

    HPC云計算結合了HPC的強大計算能力和云計算的彈性、可擴展性,為用戶提供了按需獲取高性能計算資源的便利。下面,AI部落小編帶您了解HPC云計算的技術架構。
    的頭像 發表于 02-05 14:51 ?53次閱讀

    慧榮正在開發4nm PCIe 6.0 SSD主控芯片

    慧榮科技正在積極開發采用4nm先進制程的PCIe 6.0固態硬盤主控芯片SM8466。根據慧榮的命名規律,其PCIe 4.0和5.0企業級SSD主控分別名為SM8266和SM8366,因此可以推測,SM8466也將是一款面向企業
    的頭像 發表于 01-22 15:48 ?161次閱讀

    云計算和HPC的關系

    盡管云計算和HPC在架構、應用場景和成本效益等方面存在顯著差異,但云計算和HPC之間并非孤立存在,而是相互補充、協同發展的關系。下面,AI部落小編帶您探討云計算和HPC的關系。
    的頭像 發表于 12-14 10:35 ?175次閱讀

    PCIe的最新發展趨勢

    通過優化信號傳輸和降低功耗,實現了更高的能效。例如,PCIe 5.0和6.0在保持高速度的同時,也實現了更低的功耗。 3. 更
    的頭像 發表于 11-06 09:35 ?992次閱讀

    如何測試PCIe插槽的速度

    插槽的速度取決于其版本和通道數。例如,PCIe 3.0 x16插槽的理論最大帶寬為32 Gbps,而PCIe 4.0 x16插槽的理論最大帶寬為64 Gbps。 2. 檢查硬件規格 在測試之前,需要
    的頭像 發表于 11-06 09:23 ?2614次閱讀

    維諦技術(Vertiv):未來HPC,你想象不到的酷炫變革!

    隨著AI技術的迅猛發展,高性能計算(HPC)也迎來了新的變革浪潮。在2024全球超級計算機Green500排行榜上,位列前三的超算都采用了“超智融合”的技術理念。超級大腦+AI,科技新
    的頭像 發表于 10-30 11:12 ?313次閱讀
    維諦技術(Vertiv):未來<b class='flag-5'>HPC</b>,你想象不到的酷炫變革!

    AIHPC技術推動先進封裝行業發展

    “隨著人工智能(AI)和高性能計算(HPC)技術的迅猛發展,半導體行業也迎來了新的變革浪潮。”——這句話在2024的今天,早已被喻為行業共識。
    的頭像 發表于 10-22 11:22 ?515次閱讀

    Cadence展示完整的PCIe 7.0 IP解決方案

    十多年來,Cadence 對 PCIe 技術的堅定承諾和支持,在業界有目共睹。我們深知強大 PCIe 生態系統的重要性,并感謝 PCI-SIG 提供的平臺。在 PCI-SIG 開發者大會迎來 32 周年之際,Cadence 宣布
    的頭像 發表于 08-29 09:14 ?625次閱讀
    Cadence展示完整的<b class='flag-5'>PCIe</b> 7.0 IP解決方案

    新思科技PCIe 7.0驗證IP(VIP)的特性

    在近期的博文《新思科技率先推出PCIe 7.0 IP解決方案,加速HPCAI等萬億參數領域的芯片設計》中,新思科技宣布推出綜合全面的PCIe Express Gen 7(
    的頭像 發表于 07-24 10:11 ?841次閱讀
    新思科技<b class='flag-5'>PCIe</b> 7.0驗證IP(VIP)的特性

    如何簡化PCIe 6.0交換機的設計

    由于全球數據流量呈指數級增長,PCIe 6.0 交換機的市場需求也出現了激增。PCIe 6.0 交換機在高性能計算(HPC)系統(尤其是數據
    的頭像 發表于 07-05 09:45 ?653次閱讀
    如何簡化<b class='flag-5'>PCIe</b> <b class='flag-5'>6.0</b>交換機的設計

    華為汪濤:5G-A商用元年AI入端元年碰撞,將開啟“移動AI時代”

    [中國,上海,20246月26日] 2024 MWC上海期間,華為常務董事、ICT基礎設施業務管理委員會主任汪濤在大會上發表了“加速5G-A發展,開啟移動AI時代”的主題演講。他表示,2024
    的頭像 發表于 06-27 17:28 ?1274次閱讀

    下一代PCIe5.0 /6.0技術熱潮趨勢與測試挑戰

    大模型時代已經到來,AI大模型技術快速成熟,進入萬億參數時代,對于AI算力性能要求越來越高,表現為計算系統的節點內卡間互聯與節點間的網絡互聯,高速互聯的底層是PCIe,對于PCIe的技
    的頭像 發表于 03-06 10:35 ?1213次閱讀
    下一代<b class='flag-5'>PCIe</b>5.0 /<b class='flag-5'>6.0</b>技術熱潮趨勢與測試挑戰

    AI視頻大爆發!2023AI視頻生成領域的現狀全盤點

    2023,也是AI視頻元年。過去一究竟有哪些爆款應用誕生,未來視頻生成領域面臨的難題還有哪些?
    的頭像 發表于 02-20 10:40 ?1390次閱讀
    <b class='flag-5'>AI</b>視頻<b class='flag-5'>年</b>大爆發!2023<b class='flag-5'>年</b><b class='flag-5'>AI</b>視頻生成領域的現狀全盤點

    重讀AI大模型元年:“百模趕考,文心奪魁”

    AI大模型爆發元年,留給我們的行業思考與未來洞察
    的頭像 發表于 02-12 19:01 ?2724次閱讀
    重讀<b class='flag-5'>AI</b>大模型<b class='flag-5'>元年</b>:“百模趕考,文心奪魁”
    大发888充值网站| 文登市| 百家乐娱乐城提款| 网上百家乐官网骗人的吗| 博彩百家乐五2013124预测| 葡京百家乐官网的玩法技巧和规则 | 正品百家乐玩法| 做生意门朝山| 百家乐官网庄闲收益率| 东方太阳城| 真人游戏机| 赌博百家乐下载| 太子娛樂城网址| 威尼斯人娱乐城投注| 百家乐记牌器| 发中发百家乐官网的玩法技巧和规则| 冕宁县| 998棋牌游戏| 互联网百家乐的玩法技巧和规则 | 博彩百家乐官网网址| 木兰县| 网上老虎机| 体球网足球比分| 大发888 下载| 壹贰博百家乐官网娱乐城| 大发888注册步骤| 威尼斯人娱乐开户送18| 玩百家乐有何技巧| 百家乐的注码技巧| 澳门百家乐十大缆| 百家乐官网怎么玩| 百家乐官网注码投注论坛| 百家乐官网如何计牌| 博九最新网址| 宝龙线上娱乐城| 四会市| 奇博网上娱乐| 菲律宾豪门娱乐| 疏勒县| 大发888 登陆不上| 老k棋牌游戏大厅|