在 COVID-19 大流行導致范式轉變之后,我們大多數人仍在通過在線視頻會議與我們的同事會面。您可能沒有過多考慮從會議中流式傳輸所有內容和提要需要什么。但是,如果您是數據中心運營商,您可能在過去一年中沒有睡很多覺,擔心如何應對前所未有的視頻流量大流行性激增。
不僅如此,如今的數據中心還必須處理來自視頻會議、流媒體內容、在線游戲和電子商務等廣泛工作負載的非結構化數據的爆炸式增長。其中許多應用程序對延遲非常敏感,并且還受制于不斷發展的壓縮、加密和數據庫架構標準。
這迫使數據中心擴展其基礎架構以滿足各種苛刻工作負載的性能和延遲要求,同時努力將成本和功耗降至最低。事實證明這是非常困難的,它迫使數據中心運營商重新考慮他們當前的架構并探索本質上更具可擴展性和效率的新配置。
目前,大多數數據中心都有固定資源集的機架,將 SSD、CPU 和加速器組合在單個服務器中。雖然這確保了計算和存儲之間的高帶寬連接,但它在資源利用率方面非常低效,因為每臺服務器中的存儲和計算比率都是固定的。由于工作負載需要不同的計算和存儲組合,因此每臺服務器中都會留下未使用的資源孤島。
可組合基礎設施
一種新的架構正在出現,它有望顯著提高資源利用率。它被稱為“可組合基礎設施”??山M合基礎設施需要 解耦 資源,而是將它們匯集在一起??,讓它們可以從任何地方訪問。可組合的基礎架構可以使用適量的資源來配置工作負載,并通過軟件進行快速重新配置。
一個包含 CPU、SSDS 和加速器池的可組合架構,這些池聯網在一起并由基于標準的配置框架控制,有望大大提高數據中心的資源效率。在這樣的架構中,不同的工作負載可能有不同的計算、存儲和加速要求,這些資源將被相應地分配,而不會浪費硬件。這在理論上聽起來不錯,但在實踐中,有一個大問題:延遲。
延遲挑戰
當您分解資源并將它們移得更遠時,由于 CPU 和 SSD 之間或 CPU 和加速器之間的網絡流量,您會產生更多的延遲和減少的帶寬。除非您有某種方法可以減少網絡流量并以有效的方式互連資源,否則這可能會受到嚴重限制。這就是 FPGA 在解決延遲挑戰中發揮三個主要作用的地方:
FPGA 充當自適應加速器,可以針對每個工作負載進行定制,以獲得最佳性能。
FPGA 還可以使計算更接近數據,從而減少延遲并最小化所需的帶寬。
FPGA 的適應性強、智能結構可實現資源的有效池化,而不會產生過多的延遲。
自適應加速度
基于 FPGA 的計算加速器的第一個顯著優勢是顯著提高了當今需求量很大的工作負載的性能。在實時流媒體應用的視頻轉碼用例中,FPGA 解決方案的性能通常比 x86 CPU 高 30 倍,這有助于數據中心運營商應對同時流媒體數量的巨大增長。另一個例子是基因組測序的關鍵領域。Xilinx 基因組學最近的一位客戶發現,我們基于 FPGA 的加速器提供答案的速度比 CPU 快 90 倍,幫助醫學研究人員測試 DNA 樣本的時間縮短了過去的一小部分。
讓計算更接近數據
可組合數據中心中 FPGA 的第二個關鍵優勢是能夠使自適應計算接近數據,無論是靜止的還是運動的。SmartSSD 計算存儲設備中使用的賽靈思 FPGA 可加速高速搜索、解析、壓縮和加密等功能,這些功能通常由 CPU 執行。這有助于為更復雜的任務卸載 CPU,但也減少了 CPU 和 SSD 之間的流量,從而減少了帶寬消耗并減少了延遲。
同樣,我們的 FPGA 現在用于 SmartNIC,例如我們的新 Alveo SN1000,通過線速數據包處理、壓縮和加密服務以及適應特定數據中心或客戶的自定義交換要求的能力來加速運動中的數據。
智能面料
當您將 FPGA 的自適應計算加速與低延遲連接相結合時,您可以在可組合數據中心更進一步。您可以將計算繁重的工作負載分配給通過適應性強的智能結構互連的加速器集群——按需創建高性能計算機。
當然,如果您不能使用最佳加速算法對計算加速器、SmartSSD 和 SmartNIC 進行編程,然后為每個工作負載以正確的數量配置它們,那么這一切都是不可能的。為此,我們構建了一個全面的軟件堆棧,該堆棧利用 TensorFlow 和 FFMPEG 等特定領域的行業框架,這些框架與我們的 Vitis 開發平臺配合使用。我們還看到了 RedFish 等更高級別的供應框架在幫助智能資源分配方面的作用。
未來是現在
可組合數據中心的承諾是一個激動人心的變化,Xilinx 器件和加速器卡是這種新型高效架構的關鍵構建塊。憑借快速的可重構性、低延遲和能夠適應不斷變化的工作負載的靈活架構,Xilinx 完全有能力成為這一演變的主要參與者。
-
FPGA
+關注
關注
1630文章
21796瀏覽量
606012 -
Xilinx
+關注
關注
71文章
2171瀏覽量
122139 -
SSD
+關注
關注
21文章
2887瀏覽量
117858
發布評論請先 登錄
相關推薦
評論