11月19日消息,人工智能(AI)芯片大廠英偉達(NVIDIA)正式推出了兩個全新的AI解決方案硬件平臺,一個是Blackwell GB200 NVL4,一個是Hopper H200 NVL。
據介紹,英偉達GB200 NVL4是一個全新的模塊,是基于原有的GB200 Grace Blackwell Superchip AI解決方案的更大擴展。GB200 NVL4模塊是在更大的主板上配置兩個Blackwell GB200 GPU,即擁有兩個Grace CPU和4個Blackwell B200 GPU。該模塊被設計為具有4-GPU NVLINK域和1.3T相干內存的單服務器解決方案。在性能方面,該模塊將使模擬性能提高2.2倍,訓練和推理性能提高1.8倍。英偉達的合作伙伴將在未來幾個月內提供NVL4解決方案。
此外,基于 PCIe 的Hopper H200 NVL已全面上市,這些卡可以通過 NVLINK 域連接多達 4 個 GPU,可提供比標準 PCIe 解決方案快7倍的帶寬。英偉達表示,H200 NVL 解決方案可以適應任何數據中心,并提供一系列針對混合 HPC 和 AI 工作負載優化的靈活服務器配置。
在規格方面,Hopper H200 NVL解決方案提供了1.5倍的HBM內存、1.7倍的LLM推理性能和1.3倍的HPC性能。您將獲得114個SM,總共14592個CUDA內核、456個張量內核和最多3個FP8 TFLOP(FP16累積)性能。GPU具有跨5120位接口配置的80 Gb HBM2e內存,TDP為350瓦。
至于 TDP,由于 Superchip 模塊的功率約為 2700W,預計更大的 GB200 NVL4 解決方案的功耗接近 6000W 的功率。人們可以很容易地看到英偉達 為加速 AI 計算領域所做的努力。
英偉達最近在MLPerf v4.1中發布了訓練和推理方面的世界紀錄,不僅最新的Blackwell平臺令人驚嘆,而且上一代的Hopper通過持續優化也變得越來越好。該公司還將其人工智能路線圖加速到一年的節奏,并計劃在未來幾年推出幾個新的基礎設施,如Blackwell Ultra和Rubin。
編輯:芯智訊-浪客劍
-
芯片
+關注
關注
456文章
51170瀏覽量
427225 -
人工智能
+關注
關注
1796文章
47666瀏覽量
240272 -
英偉達
+關注
關注
22文章
3847瀏覽量
91969
發布評論請先 登錄
相關推薦
評論