數以萬計的 NVIDIA GPU、NVIDIA Quantum-2 InfiniBand 以及全棧式 NVIDIA AI 軟件即將登陸 Azure;NVIDIA、微軟和多家全球企業將使用該平臺進行快速、經濟的 AI 開發和部署
NVIDIA 于昨日宣布與微軟展開一項為期多年的合作,雙方將共同打造全球最強大的 AI 超級計算機。微軟 Azure 的先進超級計算基礎設施,結合 NVIDIA GPU、網絡和全棧式 AI 軟件為此超級計算機賦能,以幫助企業訓練、部署和擴展包括大型、先進模型在內的 AI。
Azure 的云端 AI 超級計算機包括強大、可擴展 ND 與 NC 系列虛擬機,其專為 AI 分布式訓練和推理而優化。Azure是首個采用 NVIDIA 先進 AI 堆棧的公有云,在其平臺上添加了數以萬計的 NVIDIA A100 和 H100 GPU、NVIDIA Quantum-2 400Gb/s InfiniBand 網絡和 NVIDIA AI Enterprise 軟件套件。
此次合作中,NVIDIA 將使用 Azure 的可擴展虛擬機實例來研究并進一步加快生成式 AI 的發展。生成式 AI 是正在迅速興起的 AI 領域,其中像 Megatron Turing NLG 530B 這樣的基礎模型是無監督、自學習算法的基準,這些算法被用來創造新的文本、代碼、數字圖像、視頻或音頻。
兩家公司還將合作優化微軟的 DeepSpeed 深度學習優化軟件。NVIDIA 的全棧式 AI 工作流和軟件開發工具包皆專為 Azure 進行了優化,并將提供給 Azure 企業客戶。
NVIDIA 企業計算副總裁 Manuvir Das 表示:“AI 技術正在加速發展,行業的采用速度也在同時加快。基礎模型上的突破引發了研究浪潮、培育了新的初創企業并啟動了新的企業應用程序。我們將與微軟一同為研究者和企業提供最先進的 AI 基礎設施和軟件,使他們能夠充分利用 AI 的變革性力量。”
微軟云與 AI 事業部執行副總裁 Scott Guthrie 表示:“AI 正在掀起整個企業和工業計算的下一輪自動化浪潮,幫助企業機構在變幻莫測的經濟環境中得以事半功倍。我們與 NVIDIA 合作,打造全球可擴展性最強的超級計算機平臺,為微軟 Azure 上的每家企業提供最先進的 AI 功能。”
通過 Azure 上的 NVIDIA 計算與
Quantum-2 InfiniBand實現可擴展峰值性能
微軟 Azure 的 AI 優化虛擬機實例采用了 NVIDIA 最先進的數據中心 GPU,并且是首個搭載 NVIDIA Quantum-2 400Gb/s InfiniBand 網絡的公有云實例。客戶可以在單個集群中部署數千 GPU 來訓練最具規模的大型語言模型,大規模地構建最復雜的推薦系統以及實現生成式 AI。
目前的 Azure 實例采用了 NVIDIA Quantum 200Gb/s InfiniBand 網絡和 NVIDIA A100 GPU。未來的實例將集成 NVIDIA Quantum-2 400Gb/s InfiniBand 網絡和 NVIDIA H100 GPU。結合 Azure 先進的計算云基礎設施、網絡和存儲,這些通過 AI 優化的產品將為任何規模的 AI 訓練和深度學習推理工作負載提供可擴展的峰值性能。
加速 AI 的開發和部署
另外,該平臺將支持廣泛的 AI 應用和服務,包括微軟 DeepSpeed 和 NVIDIA AI Enterprise 軟件套件。
微軟 DeepSpeed 將使用 NVIDIA H100 Transformer 引擎來加速基于 Transformer 的模型,這些模型可用于大型語言模型、生成式 AI 和編寫計算機代碼等應用。該技術將 8 位浮點精度能力應用于 DeepSpeed,大大加快了 Transformer 的 AI 計算速度,使其吞吐量達到 16 位運算的兩倍。
被全球企業廣泛采用的 NVIDIA AI 平臺軟件 NVIDIA AI Enterprise 已通過認證并支持搭載 NVIDIA A100 GPU 的微軟 Azure 實例。未來的軟件版本將增加對搭載 NVIDIA H100 GPU 的 Azure 實例的支持。
NVIDIA AI Enterprise 包括用于語音 AI 的 NVIDIA Riva 以及 NVIDIA Morpheus 網絡安全應用框架,可簡化從數據處理和 AI 模型訓練到仿真和大規模部署等 AI 工作流中的每一步。
原文標題:NVIDIA 攜手微軟打造大規模云端 AI 計算機
文章出處:【微信公眾號:NVIDIA英偉達】歡迎添加關注!文章轉載請注明出處。
-
英偉達
+關注
關注
22文章
3847瀏覽量
91976
原文標題:NVIDIA 攜手微軟打造大規模云端 AI 計算機
文章出處:【微信號:NVIDIA_China,微信公眾號:NVIDIA英偉達】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論