電子發(fā)燒友網報道(文/周凱揚)隨著AI與HPC運算的盛行,如今為了將算力繼續(xù)擴展下去,CPU和GPU都在朝著多核的方向發(fā)展下去,計算密度也在大幅提升。此外,數據中心也越來越多地開始轉向異構工作負載,對基礎架構、性能和可用性提出了又一輪的要求,也在加速存儲產品的轉型,催生了CXL這樣的新技術,但僅僅只靠CXL,是無法打破我們所說的內存瓶頸的。
加速內部流量成為服務器性能的新關鍵
100GbE模塊的出現后,在網絡交換與傳輸性能如此發(fā)達的當下,遠程存儲已經成了越來越多企業(yè)的首選。但本地存儲也在經歷一輪性能的革命,NVMe、NVDIMM等技術演進進一步降低了存儲的網絡延遲,解決了一路走高的內部帶寬需求。
那么服務器內部數據的移動要如何跟上呢?在復雜的服務器基礎架構中,內部數據的交換往往由多個內存緩沖拷貝組成,比如內核到I/O、I/O到特定硬件,實現方式主要靠不同層級的軟件棧,但軟件到軟件間的數據交換仍靠的是CPU。
當下的內存數據移動的軟件標準為memcpu,雖然已經足夠穩(wěn)定,但也限制了應用的性能。比如為了提供上下文隔離而招致更大的軟件開銷。所以大家開始嘗試DMA,這種用于卸載軟件復制循環(huán)的策略。雖說這樣做解放了CPU的部分負擔,但這種方案與特定設備的接口綁定,只適合專門的特權軟件和I/O用例,更別提前向兼容了,尤其是在公有云這種多人功用的虛擬環(huán)境中。
SDXI,新的數據加速器接口標準
這就引出了一系列痛點,比如既要從CPU執(zhí)行周期中將I/O解放出來,又要保證架構的穩(wěn)定性。提供虛擬機加速的同時,又能幫助開發(fā)者從已有軟件棧中遷移到新的方案上,還要考慮到當下新的內存互聯(lián)方案,比如CXL、Gen-Z等等。為了解決這些痛點,2020年起,SNIA(全球網絡存儲工業(yè)協(xié)會)成立了一個新的工作組并提出了SDXI(智能數據加速器接口)這一概念,為的就是提供一個可擴展、虛擬化且前向兼容的內存數據移動與加速接口規(guī)范。
![CleanShot 2023-03-08 at 15.34.22@2x](https://file.elecfans.com/web2/M00/97/10/pYYBAGQIXTmAV1y2AAKDdqkUAPo804.png)
SDXI下的內存間數據移動 / SNIA
SDXI作為一個標準化方案,不僅要兼容DRAM、SCM、MMIO、CXL和Gen-Z這些不同的內存,也要為CPU、GPU、FPGA、智能I/O等提供標準的加速器接口。如此一來,SDXI可以在不同的地址空間實現數據移動,包括用戶地址空間和不同的虛擬機等。而且一旦連接建立,數據移動再也不需要特權軟件作為中介。從戴爾在PCIe 3.0 FPGA上的原型測試上來安,改用SDXI可以實現超過memcpy兩倍以上的線性拷貝速度。
截至目前,不少內存廠商和服務器廠商都已經加入了對SDXI的貢獻行列中來,比如AMD、Arm、戴爾、HPE、IBM,以及美光、三星、SK海力士等。他們也在考慮在1.0標準之后,繼續(xù)從QoS、延遲、RAS上加以改進,在實現未來版本前向與后向兼容的同時,一起推動SDXI在CXL系統(tǒng)架構中的普及。
小結
在ARM、RISC-V紛紛入局數據中心,并推出百核、千核的CPU處理器后,更快的數據交換將成為一個必然的需求,未來的網絡與存儲技術也需要SDXI提供這樣的擴展性。何況SDXI提供的不僅僅是加速,還是一個標準化接口,在滿足數據移動性能的同時,支持軟件愛你的重復利用和虛擬化。
加速內部流量成為服務器性能的新關鍵
100GbE模塊的出現后,在網絡交換與傳輸性能如此發(fā)達的當下,遠程存儲已經成了越來越多企業(yè)的首選。但本地存儲也在經歷一輪性能的革命,NVMe、NVDIMM等技術演進進一步降低了存儲的網絡延遲,解決了一路走高的內部帶寬需求。
那么服務器內部數據的移動要如何跟上呢?在復雜的服務器基礎架構中,內部數據的交換往往由多個內存緩沖拷貝組成,比如內核到I/O、I/O到特定硬件,實現方式主要靠不同層級的軟件棧,但軟件到軟件間的數據交換仍靠的是CPU。
當下的內存數據移動的軟件標準為memcpu,雖然已經足夠穩(wěn)定,但也限制了應用的性能。比如為了提供上下文隔離而招致更大的軟件開銷。所以大家開始嘗試DMA,這種用于卸載軟件復制循環(huán)的策略。雖說這樣做解放了CPU的部分負擔,但這種方案與特定設備的接口綁定,只適合專門的特權軟件和I/O用例,更別提前向兼容了,尤其是在公有云這種多人功用的虛擬環(huán)境中。
SDXI,新的數據加速器接口標準
這就引出了一系列痛點,比如既要從CPU執(zhí)行周期中將I/O解放出來,又要保證架構的穩(wěn)定性。提供虛擬機加速的同時,又能幫助開發(fā)者從已有軟件棧中遷移到新的方案上,還要考慮到當下新的內存互聯(lián)方案,比如CXL、Gen-Z等等。為了解決這些痛點,2020年起,SNIA(全球網絡存儲工業(yè)協(xié)會)成立了一個新的工作組并提出了SDXI(智能數據加速器接口)這一概念,為的就是提供一個可擴展、虛擬化且前向兼容的內存數據移動與加速接口規(guī)范。
![CleanShot 2023-03-08 at 15.34.22@2x](https://file.elecfans.com/web2/M00/97/10/pYYBAGQIXTmAV1y2AAKDdqkUAPo804.png)
SDXI下的內存間數據移動 / SNIA
截至目前,不少內存廠商和服務器廠商都已經加入了對SDXI的貢獻行列中來,比如AMD、Arm、戴爾、HPE、IBM,以及美光、三星、SK海力士等。他們也在考慮在1.0標準之后,繼續(xù)從QoS、延遲、RAS上加以改進,在實現未來版本前向與后向兼容的同時,一起推動SDXI在CXL系統(tǒng)架構中的普及。
小結
在ARM、RISC-V紛紛入局數據中心,并推出百核、千核的CPU處理器后,更快的數據交換將成為一個必然的需求,未來的網絡與存儲技術也需要SDXI提供這樣的擴展性。何況SDXI提供的不僅僅是加速,還是一個標準化接口,在滿足數據移動性能的同時,支持軟件愛你的重復利用和虛擬化。
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。
舉報投訴
發(fā)布評論請先 登錄
相關推薦
內存擴展CXL加速發(fā)展,繁榮AI存儲
電子發(fā)燒友網報道(文/黃晶晶)CXL即Compute Express Link,是一種全新的互連協(xié)議,為各種處理器包括CPU、GPU、FPGA、加速器和存儲設備提供統(tǒng)一接口標準,可以有
![內存擴展<b class='flag-5'>CXL</b>加速發(fā)展,繁榮AI存儲](https://file1.elecfans.com/web2/M00/03/06/wKgZoma_IHiAaHO3AAS8xx3aMnM285.png)
SMART Modular世邁科技CXL內存擴充卡獲CXL聯(lián)盟認證
商名單。 這一重要里程碑不僅標志著SMART Modular在CXL技術領域的領先地位,更是對其長期以來致力于高質量、高兼容性內存解決方案的肯定。CXL作為一種高性能、低延遲的互連技術
瀾起科技CXL?內存擴展控制器芯片通過CXL 2.0合規(guī)性測試
公布的首批CXL 2.0合規(guī)供應商清單。 此次通過CXL 2.0合規(guī)性測試,標志著瀾起科技的CXL?內存擴展控制器芯片在技術規(guī)格、互操作性和性能等方面均達到了CXL聯(lián)盟制定的嚴格
瀾起科技MXC芯片列入首批CXL 2.0合規(guī)供應商清單
近日,瀾起科技研發(fā)的CXL內存擴展控制器(MXC)芯片成功通過了CXL 2.0合規(guī)性測試,列入CXL聯(lián)盟公布的首批CXL 2.0合規(guī)供應商清單。這是繼2023年率先列入
![瀾起科技MXC芯片列入首批<b class='flag-5'>CXL</b> 2.0合規(guī)供應商清單](https://file1.elecfans.com/web3/M00/06/B3/wKgZPGePB32AaZ6TAAAKFrBfs8M486.jpg)
韓國無晶圓廠初創(chuàng)公司Panmnesia展示第一個支持CXL的AI集群
在2024?OCP全球峰會上,開發(fā)CXL交換機SoC和CXL IP的韓國無晶圓廠初創(chuàng)公司Panmnesia展示了第一個支持CXL的AI集群,該集群采用
鴻蒙生態(tài)發(fā)布統(tǒng)一互聯(lián)技術標準
期間,GIIC聯(lián)合拓維信息、開鴻智谷等多家企事業(yè)單位共同發(fā)布了《鴻蒙生態(tài)設備統(tǒng)一互聯(lián)系列技術標準》。這一標準的發(fā)布,旨在打破不同品牌和體系智能終端設備之間的壁壘,通過
研華科技推出SQRAM CXL 2.0 Type 3內存模塊SQR-CX5N
10月15日最新消息,研華科技(Advantech)于昨日正式揭曉了其最新研發(fā)的SQRAM CXL 2.0 Type 3 內存模塊——SQR-CX5N。該模塊遵循EDSFF E3.S 2T標準,擁有
ALVA AR技術助力數字化展示升級
隨著科技的發(fā)展,技術產品更新?lián)Q代的速度日益加快。要在激烈的市場競爭中脫穎而出,企業(yè)只靠技術實力還不夠,有效的營銷展示方式也成為重要抓手。
新思科技CXL 3.1驗證解決方案
、內存緩沖區(qū)、智能網絡接口卡、持久存儲器和固態(tài)驅動器等設備之間的開放式行業(yè)標準互連接口。CXL基于PCIe靈活的數據帶寬提供了緩存一致性和存儲語義,同時實現比PCIe低得多的延時。
![新思科技<b class='flag-5'>CXL</b> 3.1驗證解決方案](https://file1.elecfans.com/web2/M00/01/08/wKgaomasgOCAWn-FAABB-jgQzlA440.png)
蔚來與中國一汽達成充換電全面戰(zhàn)略合作,今年將新增1000座換電站
據了解,各車企將共同制定電池標準體系,研發(fā)換電乘用車及換電服務站點,推廣使用統(tǒng)一標準化電池包的換電車型,并實現換電服務的站端解決方案。
bluenrg緩存不夠報錯怎么解決?
有沒有人用過st的藍牙芯片啊?感覺太不好了,FAE也不給力,藍牙與手機連接后會斷開,數據在上傳時因為ble buffer緩存不夠也會報錯,然后斷開連接,問FAE為什么修改連接間隔第
發(fā)表于 05-13 09:02
三星研發(fā)CXL混合存儲模組,實現閃存與CPU數據直傳
據三星展示的圖片顯示,此模組可以通過CXL接口在閃存部分及CPU之間進行I/O塊傳輸,也可以運用DRAM緩存和CXL接口達到64字節(jié)的內存I/O傳輸。
利用CXL技術重構基于RDMA的內存解耦合
本文提出了一種基于RDMA和CXL的新型低延遲、高可擴展性的內存解耦合系統(tǒng)Rcmp。其顯著特點是通過CXL提高了基于RDMA系統(tǒng)的性能,并利用RDMA克服了CXL的距離限制。
發(fā)表于 02-29 10:05
?3592次閱讀
![利用<b class='flag-5'>CXL</b>技術重構基于RDMA的內存解耦合](https://file1.elecfans.com/web2/M00/C2/06/wKgZomXf5-2AToOKAAAlpP6w5oc356.png)
小米22.5W移動電源靠譜嗎?
小米22.5W移動電源靠譜嗎? 小米22.5W移動電源是小米生態(tài)鏈公司推出的一款高容量、高功率的移動電源產品,其標稱容量為22.5W,實際容
評論