/導讀/
內存,對于裝機愛好者來說已經再熟悉不過了。它是計算機的重要部件,用于暫時存放CPU中的運算數據,以及與硬盤等外部存儲器交換的數據。簡單來說,內存就是CPU的“草稿紙”,負責將CPU這個大腦暫時用不到的數據存放起來,以備隨時取用。這種將數據放在CPU外暫存的結構被稱為“馮·諾依曼結構”。即使將CPU升級為服務器級別,其數據交換方式仍舊是這樣。
不過,隨著AI時代來臨,服務器核心的算力越來越高,它與內存間的數據交換頻率也水漲船高,算力的增長非常顯著,但是帶寬上的進步卻無法改善,造成兩者間不匹配,也導致了很多GPU資源的浪費。存儲帶寬制約了計算系統的有效帶寬,這也導致芯片算力增長步履維艱。近日,Rambus在產品發布會上帶來了GDDR6 PHY產品,可以有效提升內存數據傳輸速率,滿足生成式AI等先進計算應用的需求。
/01/
服務器的GDDR時代來了
傳統內存,按照不同代際分為DDR至DDR5。DDR的全稱為Double Data Rate SDRAM(雙倍速率的SDRAM)。DRAM指動態隨機存取內存,SDRAM就是一種傳輸速率更高的DRAM。
DDR內存從1代進化到5代,它的時鐘周期變短了,頻率也就變高了,因此傳輸速度也就更快。此外,更高代的內存支持的最大容量也越大,電壓更低,耗電更少。
而GDDR通常指的是用在顯卡上的內存,本質上還是雙倍速率同步動態隨機存儲器,它是為了設計高端顯卡而特別設計的高性能 DDR 存儲器規格,其有專屬的工作頻率、時鐘頻率、電壓,因此與市面上標準的 DDR 存儲器有所差異,與普通 DDR 內存不同且不能共用。一般它比主內存中使用的普通 DDR 存儲器時鐘頻率更高,發熱量更小,所以更適合搭配高端顯示芯片。
GDDR的出現是因為程序需要進行更頻繁的圖形計算,需要頻繁讀取內存中的數據,因此就需要更高性能的內存來輔助顯卡運行。
AI應用對于內存帶寬有著旺盛需求,其訓練集每年也以10倍的速度增長。GDDR內存逐漸成為眾望所歸。Rambus GDDR6 PHY提供市場領先的數據傳輸速率,最高可達24 Gb/s,能夠為每個GDDR6內存設備帶來96 GB/s的帶寬。作為系統級解決方案的一部分,Rambus GDDR6能夠為人工智能/機器學習(AI/ML)、圖形和網絡應用提供高成本效益、高帶寬的內存性能。
Rambus首席運營官范賢志表示:“憑借Rambus GDDR6 PHY所實現的新一級性能,設計人員可以為帶寬要求極為苛刻的工作負載提供所需的帶寬。和我們領先的HBM3內存接口一樣,這項最新成就表明了我們不斷致力于開發最先進的內存性能,以滿足生成式AI等先進計算應用的需求。”
/02/
快,就夠了嗎?
人工智能的推理正在向邊緣端進行遷移,要做到這一點需要更高的帶寬和更低延遲的內存。
Rambus GDDR6 PHY除了業界領先的24Gb/s性能外,還經過了全方位的優化,可滿足AI/ML及其他需要高帶寬、低延遲內存解決方案的先進應用的需求。Rambus能夠實現24Gb/s的數據傳輸速率,依靠的是其在信號完整性和電源完整性(SI/PI)方面享譽世界的專業知識,這些知識可用于設計PHY、芯片封裝和印刷電路板(PCB)。Rambus GDDR6 PHY可與Rambus GDDR6數字控制器IP相結合,提供完整的GDDR6內存接口子系統解決方案。
值得一提的是,GDDR6現在已經支持比較先進的FinFET工藝節點。從2019年開始,Rambus就已經在該工藝上進行布局,包括24Gb/s速率的GDDR6。此外,Rambus還針對PCB以及封裝提供相關的參考設計。
IDC內存半導體副總裁Soo-Kyoum Kim表示:“憑借領先的速度和帶寬,Rambus GDDR6 PHY將為新一代圖形應用帶來巨大的性能提升。”
/03/
客戶需要怎樣的內存?
本次發布會上,Rambus還回答了記者的采訪。其中包括為什么GDDR會被用到服務器上?DDR和GDDR這兩種不同的產品優勢和差別分別是什么?用戶在具體選擇的時候,有怎么樣的標準?
Rambus IP核產品營銷高級總監Frank Ferro表示:以DDR4為例,它的成本相對是比較低的。劣勢是運行速度相對較慢,它的速度可能最高能達到3.2Gb/s。作為GDDR這項技術,從幾年前開始就已經能夠實現16Gb/s的帶寬,而這已經是超過了DDR技術三到四倍之多。由于在DDR4和GDDR6兩者之間存在著巨大的性能差異的鴻溝,越來越多的客戶也開始探尋如何把GDDR6應用到自己的設計上的方法。這也是為什么GDDR6轉變到非圖形應用的重要契機和原因。
有關DDR和GDDR的差別,需求端來講,帶寬是主要的標準和最重要的衡量因素,但如果是從存儲密度,也就是能夠存儲多少數據,以及對成本的敏感性來看的話,DDR是更好的選擇了。同時, DDR、GDDR和LPDDR這些不同的產品,都是以標準的DRAM為基礎。不管你怎么設計,在整個功耗性能上其實都是大同小異。LPDDR,更加關注的更低功耗管理,DDR本身的數據存儲密度會更高一點, GDDR是更關注于速度,這三者之間各有千秋。
記者也就AI對于內存的需求與落地時間進行提問。
Rambus 大中華區總經理Raymond Su(蘇雷)表示:對于內存產品的需求,首先就是要實現高帶寬。在滿足帶寬需求的大前提下,方案的成本和復雜性就成為第二個考量因素。GDDR技術是在帶寬、成本和方案復雜性的各因素之間,提供了一個非常完美的折中技術方案。在設計階段,Rambus直接和客戶合作,提供信號完整性和功能完整性的技術分析,還會幫助客戶優化芯片的布局。
關于產品的落地時間,芯片業界的一般規律是從IP最初加入芯片設計,到最終芯片流片成功到推出市場,一顆芯片的誕生需要一到兩年的時間。因此我們可能會在2025年或2026年市場上看到使用GDDR6 IP的芯片。
-
存儲器
+關注
關注
38文章
7528瀏覽量
164342 -
DDR
+關注
關注
11文章
715瀏覽量
65527 -
服務器
+關注
關注
12文章
9303瀏覽量
86061 -
AI
+關注
關注
87文章
31513瀏覽量
270328
原文標題:Rambus GDDR6 PHY 賦能AI服務器
文章出處:【微信號:Rambus 藍鉑世科技,微信公眾號:Rambus 藍鉑世科技】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
紫光國芯發布GDDR6控制器芯片:12nm工藝 速率可達16Gbps
Rambus通過業界領先的24Gb/s GDDR6 PHY提升AI性能
如何緩解GDDR6 DRAM實施所帶來的挑戰
探究GDDR6給FPGA帶來的大帶寬存儲優勢以及性能測試(上)
探究GDDR6給FPGA帶來的大帶寬存儲優勢以及性能測試(下)
美光已完成12Gbps /14Gbps GDDR6認證 計劃2018年量產
![美光已完成12Gbps /14Gbps <b class='flag-5'>GDDR6</b>認證 計劃2018年量產](https://file1.elecfans.com//web2/M00/A7/1C/wKgZomUMQnSAVjDbAAAPFkq5PI8917.jpg)
Rambus GDDR6 PHY內存達18 Gbps 延續了公司長期開發領先產品的傳統
GTX 1650 GDDR6和GTX 1650 GDDR5區別在哪里
![GTX 1650 <b class='flag-5'>GDDR6</b>和GTX 1650 <b class='flag-5'>GDDR</b>5區別在哪里](https://file.elecfans.com/web1/M00/C2/7D/pIYBAF8W9WqAJAEAAAPvWM2osKY640.png)
憑借12nm工藝,國產芯片終殺進GDDR6存儲控制器市場
紫光國芯宣布推出12nm工藝的GDDR6存儲控制器和物理接口IP
部分AMD Radeon RX 6000系列顯卡搭載美光GDDR6內存
Rambus推出提升GDDR6內存接口性能的Rambus GDDR6
為AI推理打造高達24Gb/s的GDDR6 PHY,Rambus全面支持中國市場的AI升級
![為<b class='flag-5'>AI</b>推理打造高達24Gb/s的<b class='flag-5'>GDDR6</b> <b class='flag-5'>PHY</b>,<b class='flag-5'>Rambus</b>全面支持中國市場的<b class='flag-5'>AI</b>升級](https://file1.elecfans.com/web2/M00/88/C0/wKgZomRwcJ2AGar_AAD1RESvckc517.png)
緩解AI推理算力焦慮,高帶寬GDDR6成殺手锏?
![緩解<b class='flag-5'>AI</b>推理算力焦慮,高帶寬<b class='flag-5'>GDDR6</b>成殺手锏?](https://file1.elecfans.com/web2/M00/89/21/wKgaomR5n6OAMJZGAAAYEHleYH4203.jpg)
評論