![](https://file1.elecfans.com//web2/M00/99/64/wKgZomTnf4GAPQP6AAbNInVuhAw940.png)
從數據中心到人工智能工廠
NVIDIA DOCA 引領加速云服務的發展
![](https://file1.elecfans.com//web2/M00/99/64/wKgZomTnf4KAGrpEAALZeQDBc7A006.png)
NVIDIA DOCA 2.0
支持全新的 BlueField-3 用例
NVIDIA DOCA 可為
BlueField-3 DPA 提供可編程性
NVIDIA DOCA 2.0 添加了增強功能,以利用 BlueField-3 DPA 編程子系統。DPA 是一種高度可編程的嵌入式處理器,存在于 BlueField-3 DPU 中。它專為網絡密集型、低計算量任務而構建,如設備仿真、擁塞控制、自定義協議等。
NVIDIA DOCA DPA 庫是 NVIDIA DOCA 軟件開發套件的一部分,它提供了一種編程模型,用于卸載以網絡為中心的代碼,并在 DPA 處理器上運行。DPA 有助于從 CPU 卸載更多類型的流量,并通過 DPU 加速來提高性能。
將用于設備仿真的 VirtIO
卸載到 BlueField-3 DPA
在使用 VirtIO-net 進行設備仿真時,NVIDIA DOCA 和帶有 DPA 的 BlueField-3 DPU 比以前的選項有了顯著的改進。在虛擬化環境中,虛擬機(VM)需要像物理機一樣訪問網絡。
在此示例中,虛擬機通常調用 CPU 來處理特定任務,例如訪問網卡。將此任務從 CPU 卸載到 BlueField-3 DPU 上專門構建的 DPA 引擎,可實現比 BlueField-2 DPU 高 2 倍的性能,以更高的效率來助力降低數據中心功耗。這有效地消除了數據中心網絡稅,否則就會占用本該用于應用程序的 CPU 核心資源。
借助 NVIDIA DOCA IPsec 的安全通信
IPsec 是一種安全協議,提供加密、身份驗證和完整性服務,以保護 IP 數據包免受未經授權的訪問、篡改或竊聽。對安全和高速通信的需求日益增長,這給傳統基于 CPU 的 IPsec 處理帶來了壓力,使卸載成為一種有吸引力的解決方案。
在加速防火墻解決方案中,將 IPsec 卸載到 BlueField-3 DPU 可以優化安全性并加速性能。穿過防火墻的流量可以卸載到 DPU,并通過 IPsec 隧道發送到接收主機,例如,提供具有 200 Gbps 雙向流量的 32K 并發 IPsec 隧道。這降低了 CPU 的利用率,并通過快速、高效的方法管理可信流量。需要進行威脅檢查的剩余流量通過主機和 CPU 進行路由。此過程現已得到優化,由于 CPU 不再管理 IPsec 流量,因此防火墻應用程序可提供更好的性能。
DOCA IPsec 庫的添加為下一代防火墻(NGFW)應用程序帶來了顯著的優勢。庫中包含的資源池,包括消息模板、預寫代碼和子例程,有助于簡化整個開發流程并減少上市時間。DOCA IPsec 庫與 DOCA Flow 庫相互操作,使開發者能夠將多個 DOCA Flow 管道鏈接在一起,用于各種網絡管線設計(例如,DOCA Flow NAT 管道)。
最后,NVIDIA DOCA 現在能夠以更高的速率對新路由和 NAT 表進行編程,使以接近線速速率進行 IPsec 加密和解密既可行又實用,同時減輕了 CPU 的負擔。
NVIDIA Aerial 是一個用于構建高性能、軟件定義 5G L1 堆棧的軟件開發套件,并通過 GPU 的并行處理進行了優化。具體而言,NVIDIA Aerial 軟件開發套件可用于構建基帶單元(BBU)軟件,該軟件負責發送(下行鏈路)或接收(上行鏈路)的無線客戶端數據幀,這些數據幀通過無線電單元(RU)分拆為多個以太網數據包。
在上行鏈路中,BBU 接收分組,驗證它們,并在觸發信號處理之前重建每個 RU 的原始數據幀。使用 NVIDIA Aerial 軟件開發套件,這將發生在 GPU 中,每個時隙的 RU 都有一個專用的 CUDA 內核。然而,隨著基站數量的增加,在網卡和 GPU 之間運行的 CPU 成為了瓶頸。
NVIDIA DOCA 軟件框架提供了一種將 CPU 從關鍵路徑中移除并實現網卡和 CUDA 內核之間的直接通信的方法(GPUDirect 異步內核啟動技術)。新的 DOCA GPUNetIO 庫提供了 CUDA 設備功能,應用程序可以在 CUDA 內核中調用這些功能,以便直接向 GPU 發送或從 GPU 接收數據包,而無需使用 CPU 核心或內存。
通過這種方式,NVIDIA Aerial BBU 軟件可以提供一種高度并行化和可擴展的方法,每個基站都有一個專用的 CUDA 內核來接收數據包。這使系統容量提高了 4 倍(從采用以 CPU 為中心的 4 個基站到通過 DOCA GPUNetIO 的以 GPU 為中心的 16 個基站)。
CPU 不再需要與 GPU 通信來提供數據包信息,使 CPU 能夠專注于應用程序處理,而不是管理網絡開銷。
掃描下方二維碼,立即注冊 NVIDIA DOCA GPUNetIO 搶先體驗計劃。
加速人工智能服務
NVIDIA DOCA 現已開放接受申請,掃描下方二維碼即可注冊體驗!
![](https://file1.elecfans.com//web2/M00/99/64/wKgZomTnf4KAViVYAABAFFJlyZc195.gif)
掃描海報二維碼,或點擊“閱讀原文”,即可觀看 NVIDIA 創始人兼首席執行官黃仁勛 GTC23 主題演講重播!
原文標題:借助 NVIDIA DPU 和 NVIDIA DOCA 為人工智能時代的數據中心帶來變革
文章出處:【微信公眾號:NVIDIA英偉達企業解決方案】歡迎添加關注!文章轉載請注明出處。
-
英偉達
+關注
關注
22文章
3847瀏覽量
91968
原文標題:借助 NVIDIA DPU 和 NVIDIA DOCA 為人工智能時代的數據中心帶來變革
文章出處:【微信號:NVIDIA-Enterprise,微信公眾號:NVIDIA英偉達企業解決方案】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
利用NVIDIA DPF引領DPU加速云計算的未來
![利用<b class='flag-5'>NVIDIA</b> DPF引領<b class='flag-5'>DPU</b>加速云計算的未來](https://file1.elecfans.com/web3/M00/07/0B/wKgZPGeS7aKAGUIAAAAbxIpaJKw881.png)
NVIDIA DOCA 2.9版本的亮點解析
![<b class='flag-5'>NVIDIA</b> <b class='flag-5'>DOCA</b> 2.9版本的亮點解析](https://file1.elecfans.com/web3/M00/00/19/wKgZPGdGj2CALUN3AAAd4Bt9wgQ818.png)
嵌入式和人工智能究竟是什么關系?
人工智能對數據中心的挑戰
![<b class='flag-5'>人工智能對數據中心</b>的挑戰](https://file1.elecfans.com/web2/M00/0C/68/wKgaomc0XlWAMz6oAAAm7J6iatg970.png)
NVIDIA DOCA-OFED的主要特性
NVIDIA 在 Hot Chips 大會展示提升數據中心性能和能效的創新技術
![<b class='flag-5'>NVIDIA</b> 在 Hot Chips 大會展示提升<b class='flag-5'>數據中心</b>性能和能效的創新技術](https://file1.elecfans.com//web2/M00/04/78/wKgZombO4h6AflHlAAEIfgYck7I686.jpg)
IB Verbs和NVIDIA DOCA GPUNetIO性能測試
![IB Verbs和<b class='flag-5'>NVIDIA</b> <b class='flag-5'>DOCA</b> GPUNetIO性能測試](https://file1.elecfans.com/web2/M00/04/E1/wKgaombIUG6AWlOKAAH2SzSPRP8059.png)
借助電源完整性測試提高人工智能數據中心的能效
![<b class='flag-5'>借助</b>電源完整性測試提高<b class='flag-5'>人工智能</b><b class='flag-5'>數據中心</b>的能效](https://file1.elecfans.com/web2/M00/FF/4F/wKgZomaoRECAEBz6AAAUk6cwTL0765.png)
AI時代,我們需要怎樣的數據中心?AI重新定義數據中心
![AI<b class='flag-5'>時代</b>,我們需要怎樣的<b class='flag-5'>數據中心</b>?AI重新定義<b class='flag-5'>數據中心</b>](https://file1.elecfans.com/web2/M00/FD/A7/wKgaomaV60OAVxpnAAA4JNscNqc103.png)
人工智能數據中心的新型連接解決方案
![<b class='flag-5'>人工智能</b><b class='flag-5'>數據中心</b>的新型連接解決方案](https://file.elecfans.com/web2/M00/66/37/poYBAGMPDQSAXp1vAABWyupZRxs706.png)
評論