電子發燒友網報道(文/周凱揚)2022年1月,PCI-SIG發布了PCIe 6.0規范,正式拉開了接口帶寬大幅升級的序幕。然而,在規范公布的兩年時間里,也已經更新了6.0.1和6.1版本,PCIe 6.0似乎在設計層面上已經完善了。但我們這期間并沒有看到PCIe 6.0產品的實際落地,甚至PCIe 5.0產品只是在消費級產品小批量落地而已。而在今年三月,根據PCI-SGI的預測,PCIe 6.0的硬件終于快要面世。
AI/ML、HPC和云端圖形負載渴求的翻倍帶寬
作為從服務器與PC起家的接口,PCIe近幾年已經開始輻射到以數據為核心的應用中去,比如IoT、汽車和醫療電子等。從PCIe 3.0開始,每一代接口標準規范都會為速率帶來翻倍的提升,PCIe 6.0更是將速率提升至64GT/s,x16單向帶寬拔高至256GB/s。
這樣的速率或許在IoT應用中顯得有些多余,但在時下大熱的AI/ML應用中,可以說是大幅提高計算效率的殺手锏。要知道目前爆火的生成式AI應用ChatGPT等,可謂受盡了大量同時訪問與需求的困擾,即便H100的帶寬再高,在PCIe 5.0下依然計算效率受限,得靠NVLink才能突破限制。
目前的數據中心,尤其是其中的AI服務器,已經成了帶寬無底洞。何況對于處理AI/ML訓練模型來說,以快制勝可以說是一條市場鐵則。更快的帶寬意味著生成式AI的并發響應更快,給到更短的文本、圖形生成時間,從而進一步提升用戶體驗。而對于大部分托管/租用服務器的應用開發者來說,這也意味著運營成本大幅降低。
HPC也不例外,在長時間運轉的HPC服務器中,帶寬就意味著計算效率,尤其是量子力學、分子動力學所用到的軟件,所需內存帶寬更高。如果沒有足夠的帶寬,就只能分節點來減小不同進程之間的帶寬競爭。最后一大痛點是云游戲帶來的,對于這種需要多并發高圖形負載的運用而言,帶寬就決定了云游戲的并發數以及圖形質量。
AI/ML會加速PCIe 6.0的落地嗎
從PCIe的發展歷史來看,平均3到4年就會正式推出新的規范,只有從3.0到4.0經歷了7年的漫長的時間,這也是因為彼時的PCIe 3.0已經算是超前的標準,直到2015年后,全球數據流量進入爆發期。此后從4.0演進至5.0花了2年時間,從5.0演進至6.0花了三年時間。據推測,PCIe 7.0規范將在2025年正式推出。
然而我們也發現,基于新標準的PCIe產品在落地速度上并沒有那么快。往往最先落地的是AI加速器、SSD等設備,畢竟本地處理速度再快也要網絡速度跟上才行。就拿還未實現的800G以太網為例,其所需要的單向帶寬也就是100GB/s,正好在PCIe 6.0的帶寬覆蓋范圍內。
所以即便有著AI/ML的推進,今年應該只會有少數PCIe 6.0產品能夠落地,且落地場景還是集中在數據中心領域,且先一步用于AI服務器上,這點從PCIe 6.0控制器IP、服務器CPU IP廠商的動向上也可以看出。
寫在最后
PCIe 6.0作為目前最先進的接口標準之一,注定會為下一輪計算、存儲技術的創新帶來設計便利。但我們也應該實時關注市場需求,過去的PCIe能夠維持主流接口的地位,正是靠的聯合硬件廠商穩步推進市場需求,這個策略在AI時代依舊通用。
-
接口
+關注
關注
33文章
8694瀏覽量
151926 -
AI
+關注
關注
87文章
31536瀏覽量
270344 -
PCIe
+關注
關注
15文章
1262瀏覽量
83195
發布評論請先 登錄
相關推薦
PCIe 5.0市場加速滲透,PCIe 6.0研發到來
HPC云計算的技術架構
慧榮正在開發4nm PCIe 6.0 SSD主控芯片
云計算和HPC的關系
如何測試PCIe插槽的速度
維諦技術(Vertiv):未來HPC,你想象不到的酷炫變革!
![維諦技術(Vertiv):未來<b class='flag-5'>HPC</b>,你想象不到的酷炫變革!](https://file1.elecfans.com/web1/M00/F3/F0/wKgaoWchpBqAM2piAAC7I4z-gLc719.png)
AI與HPC技術推動先進封裝行業發展
Cadence展示完整的PCIe 7.0 IP解決方案
![Cadence展示完整的<b class='flag-5'>PCIe</b> 7.0 IP解決方案](https://file1.elecfans.com/web2/M00/05/72/wKgaombPy7eALWZOAADDBKlO4-Q705.jpg)
新思科技PCIe 7.0驗證IP(VIP)的特性
![新思科技<b class='flag-5'>PCIe</b> 7.0驗證IP(VIP)的特性](https://file1.elecfans.com/web2/M00/FE/FB/wKgaomagYzaAVq8XAAA79qVoSv4799.png)
華為汪濤:5G-A商用元年和AI入端元年碰撞,將開啟“移動AI時代”
下一代PCIe5.0 /6.0技術熱潮趨勢與測試挑戰
![下一代<b class='flag-5'>PCIe</b>5.0 /<b class='flag-5'>6.0</b>技術熱潮趨勢與測試挑戰](https://file1.elecfans.com//web2/M00/C3/B5/wKgaomXn1m2ABkEBAACPbvv-FLE77.webp)
評論