從 AI 訓(xùn)練到部署，從半導(dǎo)體到軟件庫，從系統(tǒng)到云服務(wù)，黃仁勛闡述了全新一代的諸多技術(shù)突破將如何實(shí)現(xiàn)觸手可及

ChatGPT 僅是一個(gè)起點(diǎn)。

正如 NVIDIA 創(chuàng)始人兼首執(zhí)行官黃仁勛所說，計(jì)算正在以“光速”發(fā)展。黃仁勛宣布與谷歌、微軟、Oracle 等一眾領(lǐng)軍企業(yè)開展廣泛的合作，為各行各業(yè)帶來新的 AI、模擬和協(xié)作能力。

黃仁勛在 NVIDIA GTC 大會(huì)主題演講中表示：“如果把加速計(jì)算比作曲速引擎，那么 AI 就是動(dòng)力來源。生成式 AI 的非凡能力，使得公司產(chǎn)生了緊迫感，他們需要重新構(gòu)思產(chǎn)品和商業(yè)模式。”

作為這場(chǎng)為期四天活動(dòng)的主題演講，黃仁勛在長達(dá) 78 分鐘的演講中概述了 NVIDIA 及其合作伙伴如何提供訓(xùn)練和部署尖端 AI 服務(wù)所需的各種技術(shù)。他發(fā)布了全新的半導(dǎo)體和軟件庫以推動(dòng)行業(yè)新突破，以及一套完整的系統(tǒng)和服務(wù)，幫助各類初創(chuàng)公司及企業(yè)將這些創(chuàng)新在全球發(fā)揮作用。

黃仁勛在演講中用生動(dòng)的例子說明了該生態(tài)系統(tǒng)的作用。他宣布 NVIDIA 和微軟將把數(shù)億 Microsoft 365 和 Azure 用戶連接到一個(gè)用于構(gòu)建和操作超現(xiàn)實(shí)虛擬世界的平臺(tái)，并介紹了亞馬遜如何使用復(fù)雜的模擬能力訓(xùn)練新的自主倉庫機(jī)器人。他還談到 ChatGPT 等最近大火的新一代生成式 AI 服務(wù)的興起。

在強(qiáng)調(diào) NVIDIA 創(chuàng)新成果的基礎(chǔ)作用時(shí)，黃仁勛詳細(xì)介紹了 NVIDIA 在計(jì)算光刻技術(shù)領(lǐng)域所取得的突破，以及與 ASML、TSMC 和 Synopsis 的合作，這些將為制造高效、強(qiáng)大的新一代 2 納米半導(dǎo)體奠定基礎(chǔ)。

黃仁勛表示，加速計(jì)算和 AI 的出現(xiàn)恰逢其時(shí)。摩爾定律正在放緩，各個(gè)行業(yè)正在應(yīng)對(duì)可持續(xù)發(fā)展，生成式 AI 以及數(shù)字化等強(qiáng)大的動(dòng)態(tài)挑戰(zhàn)。“各個(gè)行業(yè)的企業(yè)正在競(jìng)相進(jìn)行數(shù)字化轉(zhuǎn)型，希望成為軟件驅(qū)動(dòng)的技術(shù)公司，成為行業(yè)顛覆者而不是被顛覆者。”

加速計(jì)算可助力企業(yè)應(yīng)對(duì)這些挑戰(zhàn)。黃仁勛表示：“加速是重獲優(yōu)勢(shì)、實(shí)現(xiàn)可持續(xù)發(fā)展，以及達(dá)到凈零排放的最佳途徑。”

GTC：行業(yè)領(lǐng)先的 AI 大會(huì)

進(jìn)入到第 14 個(gè)年頭的 GTC 已成為全球最重要的 AI 大會(huì)之一。本次大會(huì)有超過 650 場(chǎng)會(huì)議，演講嘉賓包括來自 DeepMind、Adobe、Netflix、蘇黎世聯(lián)邦理工學(xué)院等企業(yè)和機(jī)構(gòu)的行業(yè)領(lǐng)導(dǎo)者，此外，本屆大會(huì)還有一場(chǎng)黃仁勛和 OpenAI 聯(lián)合創(chuàng)始人 Ilya Sutskever 的爐邊談話，ChatGPT 正是 OpenAI 的產(chǎn)品。

超過 25 萬名注冊(cè)用戶將深入?yún)⑴c GTC 各個(gè)主題的會(huì)議，其中涵蓋如何修復(fù) 2000 年前失傳的羅馬馬賽克、建造未來工廠、用新一代大型望遠(yuǎn)鏡探索宇宙、通過重新排列分子加速藥物研發(fā)、以及 70 多場(chǎng)關(guān)于生成式 AI 的講座等。

AI 的 iPhone 時(shí)刻

NVIDIA 技術(shù)是 AI 的基礎(chǔ)，黃仁勛講述了 NVIDIA 如何在生成式 AI 變革初期就已參與進(jìn)來。早在 2016 年，他就向 OpenAI 親手交付了第一臺(tái) NVIDIA DGX AI 超級(jí)計(jì)算機(jī)——支持 ChatGPT 的大型語言模型突破背后的引擎。

去年年底推出的 ChatGPT 幾乎在一夜之間爆火，吸引了超過 1 億用戶，成為有史以來增長最快的應(yīng)用。黃仁勛認(rèn)為 “我們正處于 AI 的 iPhone 時(shí)刻 ”。

黃仁勛表示，最初作為 AI 研究儀器使用的 NVIDIA DGX 超級(jí)計(jì)算機(jī)現(xiàn)已在世界各地的企業(yè)中全天候運(yùn)行，用于完善數(shù)據(jù)和處理 AI。《財(cái)富》100 強(qiáng)企業(yè)中有一半都安裝了 DGX AI 超級(jí)計(jì)算機(jī)。

“DGX 超級(jí)計(jì)算機(jī)是現(xiàn)代 AI 工廠”。

用于數(shù)據(jù)中心的 NVIDIA H100、

Grace Hopper 和 Grace

黃仁勛表示，類似 ChatGPT 大型語言模型（LLM）的部署是一個(gè)重要的全新推理工作負(fù)載。為了支持像 ChatGPT 這樣的大型語言模型推理，黃仁勛發(fā)布了一款新的 GPU——帶有雙 GPU NVLink 的 H100 NVL。

基于 NVIDIA Hopper 架構(gòu)的 H100 配有一個(gè) Transformer 引擎，旨在處理驅(qū)動(dòng) ChatGPT 的類似 GPT 模型。與用于 GPT-3 處理的 HGX A100 相比，配備四對(duì) H100 與雙 GPU NVLink 的標(biāo)準(zhǔn)服務(wù)器的速度最高可達(dá) 10 倍。

黃仁勛表示：“ H100 可以將大型語言模型的處理成本降低一個(gè)數(shù)量級(jí)。”

在過去十年中，云計(jì)算每年增長 20% 并已發(fā)展成為一個(gè)萬億美元的產(chǎn)業(yè)。NVIDIA 為這個(gè) AI 和云優(yōu)先的世界設(shè)計(jì)了 Grace CPU，其中 AI 工作負(fù)載由 GPU 加速。Grace 正在進(jìn)行樣品調(diào)測(cè)。

通過 900GB/s 高速芯片對(duì)芯片的接口，NVIDIA Grace Hopper 超級(jí)芯片可連接 Grace CPU 和 Hopper GPU。黃仁勛解釋說，“ Grace Hopper 是處理超大型數(shù)據(jù)集的理想選擇，比如用于推薦系統(tǒng)的 AI 數(shù)據(jù)庫和大型語言模型。”

“客戶希望構(gòu)建規(guī)模大幾個(gè)數(shù)量級(jí)的 AI 數(shù)據(jù)庫，那么 Grace Hopper 是最理想的引擎。”

DGX 是構(gòu)建 AI 基礎(chǔ)設(shè)施的藍(lán)圖

最新版本的 DGX 搭載 8 個(gè) NVIDIA H100 GPU，它們連接成為一個(gè)巨大的 GPU。黃仁勛表示：“ NVIDIA DGX H100 是全球客戶構(gòu)建AI基礎(chǔ)設(shè)施的藍(lán)圖”，現(xiàn)已全面投入生產(chǎn)。

H100 AI 超級(jí)計(jì)算機(jī)現(xiàn)已開始上線。Oracle Cloud Infrastructure 宣布配備 H100 GPU 的新 OCI Compute 裸機(jī) GPU 實(shí)例在一定條件可用。

此外，亞馬遜云科技發(fā)布了即將推出的 P5 實(shí)例 EC2 UltraClusters，其規(guī)模可擴(kuò)展到 2 萬個(gè)互連的 H100 GPU。

上周，微軟 Azure 發(fā)布了其 H100 虛擬機(jī) ND H100 v5 的私人預(yù)覽版。

Meta 現(xiàn)已為其內(nèi)部的 AI 生產(chǎn)和研究團(tuán)隊(duì)部署了由 H100 驅(qū)動(dòng)的 Grand Teton AI 超級(jí)計(jì)算機(jī)。

OpenAI 將在其 Azure 超級(jí)計(jì)算機(jī)上使用 H100 來支持其持續(xù)進(jìn)行的 AI 研究。

提供 H100 的其他合作伙伴包括 Cirrascale 和 CoreWeave，這兩家公司今天都宣布全面上市。此外，Google Cloud、Lambda、Paperspace 和 Vult 都計(jì)劃提供 H100。

DGX Cloud：隨時(shí)隨地將 AI 帶給每家公司

為了加快把 DGX 能力帶給初創(chuàng)企業(yè)和其他各類企業(yè)，以助力其快速打造新產(chǎn)品和制定 AI 戰(zhàn)略，黃仁勛發(fā)布了 NVIDIA DGX Cloud。通過與微軟 Azure、Google Cloud 和 Oracle Cloud Infrastructure 合作，“從瀏覽器上” 即可實(shí)現(xiàn)將 NVIDIA DGX AI 超級(jí)計(jì)算機(jī) “帶給每家公司”。

DGX Cloud 經(jīng)過優(yōu)化可以運(yùn)行 NVIDIA AI Enterprise，這款全球領(lǐng)先的加速軟件套件將推動(dòng) AI 端到端開發(fā)和部署。黃仁勛表示：“DGX Cloud 為客戶提供 NVIDIA AI 和世界領(lǐng)先云服務(wù)提供商的出色服務(wù)。”

NVIDIA 正與領(lǐng)先的云服務(wù)提供商一起托管 DGX Cloud 基礎(chǔ)設(shè)施，Oracle Cloud Infrastructure 是最早合作的云服務(wù)提供商。微軟 Azure 預(yù)計(jì)將在下個(gè)季度開始托管 DGX Cloud，該服務(wù)將很快擴(kuò)展到 Google Cloud 等。

黃仁勛表示，此次合作將 NVIDIA 的生態(tài)系統(tǒng)帶給云服務(wù)提供商，同時(shí)擴(kuò)大了 NVIDIA 的規(guī)模和影響力。企業(yè)將能夠按月租用 DGX Cloud 集群以便快速、輕松地?cái)U(kuò)展大型多節(jié)點(diǎn)訓(xùn)練工作負(fù)載的開發(fā)。

賦能生成式 AI

為了加速企業(yè)使用生成式 AI 的工作，黃仁勛發(fā)布了 NVIDIA AI Foundations 云服務(wù)系列，為需要構(gòu)建、完善和運(yùn)行自定義大型語言模型及生成式 AI 的客戶提供服務(wù)，他們通常使用專有數(shù)據(jù)進(jìn)行訓(xùn)練并完成特定領(lǐng)域的任務(wù)。

AI Foundations 服務(wù)包括 NVIDIA NeMo，用于構(gòu)建自定義語言文本-文本轉(zhuǎn)換生成模型；Picasso 視覺語言模型制作服務(wù)，適用于想要構(gòu)建使用授權(quán)或?qū)Ｓ袃?nèi)容訓(xùn)練而成的自定義模型的客戶；以及 BioNeMo，助力 2 萬億美元規(guī)模的藥物研發(fā)行業(yè)的研究人員。

Adobe 正與 NVIDIA 一起構(gòu)建一整套用于未來創(chuàng)作工作的新一代 AI。

Getty Images 正在與 NVIDIA 一起訓(xùn)練負(fù)責(zé)任的生成式文本-圖像，以及文本-視頻轉(zhuǎn)換基礎(chǔ)模型。

Shutterstock 正在與 NVIDIA 一起訓(xùn)練一個(gè)生成式文本-3D 轉(zhuǎn)換基礎(chǔ)模型，以簡化詳細(xì) 3D 資產(chǎn)的創(chuàng)建。

推動(dòng)醫(yī)療的進(jìn)步

NVIDIA 宣布，Amgen 正在使用 BioNeMo 加速其藥物研發(fā)服務(wù)。其他 BioNemo 的搶先體驗(yàn)客戶包括 Alchemab Therapeutics、AstraZeneca、Evozyne、Innophore 和 Insilico。

黃仁勛解釋說，BioNeMo 幫助研究人員使用他們的專有數(shù)據(jù)創(chuàng)建、微調(diào)和提供自定義模型。

此外，黃仁勛宣布，NVIDIA 和全球最大的醫(yī)療技術(shù)提供商 Medtronic 正在一起為軟件定義醫(yī)療設(shè)備構(gòu)建一個(gè) AI 平臺(tái)。此次合作將為 Medtronic 系統(tǒng)創(chuàng)建一個(gè)涵蓋手術(shù)導(dǎo)引和機(jī)器人輔助手術(shù)的通用平臺(tái)。

Medtronic 今日宣布，其 GI Genius 系統(tǒng)使用 AI 實(shí)現(xiàn)了結(jié)腸癌早期檢測(cè)。該系統(tǒng)建立在用于實(shí)時(shí)傳感器處理系統(tǒng)的軟件庫 NVIDIA Holoscan 之上，并將于今年年底左右出貨。

黃仁勛表示：“全球 2500 億美元的醫(yī)療儀器市場(chǎng)正在轉(zhuǎn)型。”

加快生成式 AI 應(yīng)用的部署

為了幫助企業(yè)部署處于快速發(fā)展的生成式 AI 模型，黃仁勛發(fā)布了用于 AI 視頻、圖像生成、大型語言模型部署和推薦器推理的推理平臺(tái)。這些平臺(tái)將 NVIDIA 的全套推理軟件與最新的 NVIDIA Ada、Hopper 和 Grace Hopper 處理器相結(jié)合，包括同時(shí)在今天推出的 NVIDIA L4 Tensor Core GPU 和 NVIDIA H100 NVL GPU。

• 用于 AI 視頻的 NVIDIA L4 可提供比 CPU 高出 120 倍的由 AI 支持的視頻性能，同時(shí)提高 99% 的能效。

• 用于圖像生成的 NVIDIA L40 針對(duì)圖形以及 AI 賦能的 2D、視頻和 3D 圖像生成進(jìn)行了優(yōu)化。

• 用于大型語言模型部署的 NVIDIA H100 NVL 是規(guī)模化部署 ChatGPT 等大型語言模型的理想選擇。

• 用于推薦模型的 NVIDIA Grace Hopper 是圖形推薦模型、矢量數(shù)據(jù)庫和圖形神經(jīng)網(wǎng)絡(luò)的理想選擇。

Google Cloud 是首家向客戶提供 L4 的云服務(wù)提供商。該公司已推出新的 G2 虛擬機(jī)并在今日提供私人預(yù)覽版。谷歌還將 L4 集成到其 Vertex AI 模型商店中。

微軟與 NVIDIA 一起將 Omniverse 帶給數(shù)億用戶

黃仁勛宣布，NVIDIA 正在與微軟合作，將 NVIDIA Omniverse Cloud 這一完全托管的云服務(wù)引入全球各行各業(yè)，并推出又一項(xiàng)云服務(wù)以加速企業(yè)實(shí)現(xiàn)前所未有的模擬和協(xié)作能力。

黃仁勛表示：“微軟和 NVIDIA 將為數(shù)億 Microsoft 365 和 Azure 用戶提供 Omniverse” 。他同時(shí)還發(fā)布了最新 NVIDIA OVX 服務(wù)器、搭載 NVIDIA RTX Ada Generation GPU 的新一代工作站，以及英特爾為 NVIDIA Omniverse 優(yōu)化的最新 CPU。

為了展示為 3D 設(shè)計(jì)協(xié)作及數(shù)字孿生模擬而構(gòu)建的開放平臺(tái) NVIDIA Omniverse 的強(qiáng)大功能，黃仁勛分享了一段視頻，展示了 NVIDIA Isaac Sim 如何通過完全保真的數(shù)字孿生幫助亞馬遜節(jié)省時(shí)間和金錢。NVIDIA Isaac Sim 是在 Omniverse 基礎(chǔ)上構(gòu)建的機(jī)器人模擬和合成生成平臺(tái)。

該視頻展示了亞馬遜如何為其第一個(gè)完全自主的倉庫機(jī)器人 Proteus 編排動(dòng)作，使其能夠在亞馬遜的巨大倉庫中與人類和其他機(jī)器人一起搬運(yùn)裝有產(chǎn)品的箱子。

助力 3 萬億美元規(guī)模汽車產(chǎn)業(yè)的數(shù)字化

為了展示 Omniverse 的能力，黃仁勛深入介紹了 Omniverse 在 3 萬億美元汽車產(chǎn)業(yè)數(shù)字化中的作用。黃仁勛表示，到 2030 年，汽車制造商將建立 300 家工廠，生產(chǎn) 2 億輛電動(dòng)汽車，而電池制造商正在建設(shè) 100 家巨型工廠。他表示：“數(shù)字化將提高該行業(yè)的效率、生產(chǎn)力和速度。”

談到 Omniverse 在整個(gè)行業(yè)的應(yīng)用，黃仁勛表示， Lotus 正在使用 Omniverse 以虛擬方式組裝焊接站。梅賽德斯-奔馳使用 Omniverse 為新車型建立、優(yōu)化和規(guī)劃裝配線。Rimac 和 Lucid Motors 在 Omniverse 上使用真實(shí)設(shè)計(jì)數(shù)據(jù)創(chuàng)建數(shù)字商店，以實(shí)現(xiàn)對(duì)汽車逼真的描繪。

寶馬與 Idealworks 合作，使用 Omniverse 中的 Isaac Sim 生成訓(xùn)練工廠機(jī)器人的合成數(shù)據(jù)和場(chǎng)景。黃仁勛表示，寶馬正在使用 Omniverse 規(guī)劃全球工廠的運(yùn)營，在實(shí)際工廠開業(yè)兩年之前，他們會(huì)在 Omniverse 中完整建造一間新的電動(dòng)汽車工廠。

NVIDIA 還宣布全球領(lǐng)先的新能源汽車制造商比亞迪將在其更廣泛的車型中擴(kuò)展對(duì) NVIDIA DRIVE Orin 集中式計(jì)算平臺(tái)的使用。

加速半導(dǎo)體行業(yè)的突破

黃仁勛宣布，隨著當(dāng)前生產(chǎn)工藝接近物理學(xué)的極限，NVIDIA cuLitho 將助力 ASML、TSMC 和 Synopsis 等半導(dǎo)體領(lǐng)導(dǎo)者加速新一代芯片的設(shè)計(jì)和制造。這項(xiàng)突破將加速計(jì)算引入到計(jì)算光刻領(lǐng)域。

全球領(lǐng)先的代工廠 TSMC，以及電子設(shè)計(jì)自動(dòng)化領(lǐng)域的領(lǐng)導(dǎo)者 Synopsys 正在將全新的 NVIDIA cuLitho 計(jì)算光刻技術(shù)軟件庫整合到最新一代 NVIDIA Hopper 架構(gòu) GPU 的軟件、制造工藝和系統(tǒng)中。

設(shè)備制造商 ASML 正在 GPU 和 cuLitho 方面與 NVIDIA 展開合作，并計(jì)劃在其所有計(jì)算光刻軟件產(chǎn)品中加入對(duì) GPU 的支持。黃仁勛表示，光刻技術(shù)已臨近物理極限，NVIDIA 推出的 cuLitho 可為行業(yè)的 2 納米及更高工藝奠定基礎(chǔ)。

他表示：“芯片產(chǎn)業(yè)幾乎是每一個(gè)行業(yè)的基礎(chǔ)。”

加速全球大型企業(yè)的發(fā)展

眾多知名的全球企業(yè)均支持黃仁勛的愿景。

電信巨頭 AT&T 采用 NVIDIA AI，以實(shí)現(xiàn)更高效地?cái)?shù)據(jù)處理。同時(shí)，他們正在測(cè)試 Omniverse ACE 和 Tokkio AI 虛擬化身工作流為客服部門及其員工幫助臺(tái)建立、定制和部署虛擬助手。

美國運(yùn)通、美國郵政署、Microsoft Office 和 Teams 以及亞馬遜等 4 萬家客戶都在使用高性能的 NVIDIA TensorRT 推理優(yōu)化器和運(yùn)行時(shí)，以及多框架數(shù)據(jù)中心推理服務(wù)軟件 NVIDIA Triton。

Uber 使用 Triton 實(shí)現(xiàn)每秒為數(shù)十萬車輛預(yù)測(cè)到達(dá)時(shí)間。

擁有超過 6000 萬日活用戶的 Roblox 使用 Triton 提供游戲推薦模型、構(gòu)建頭像、審核內(nèi)容和市場(chǎng)廣告。

微軟、騰訊和百度都在使用 NVIDIA CV-CUDA 實(shí)現(xiàn) AI 計(jì)算機(jī)視覺。這項(xiàng)目前處于公測(cè)階段的技術(shù)可優(yōu)化前處理和后處理，節(jié)省 4 倍成本和能耗。

助力完成不可能的任務(wù)

在演講尾聲，黃仁勛向 NVIDIA 的系統(tǒng)、云和軟件合作伙伴以及研究人員、科學(xué)家和員工致謝。

黃仁勛宣布，NVIDIA 已更新了 100 個(gè)加速庫，包括用于量子計(jì)算的 cuQuantum 和新開源的 CUDA Quantum、用于組合優(yōu)化的 cuOpt 以及用于計(jì)算光刻的 cuLitho。

黃仁勛表示，全球 NVIDIA 生態(tài)目前已有 400 萬名開發(fā)者、4 萬家公司和 NVIDIA 初創(chuàng)加速計(jì)劃中的 1.4 萬家初創(chuàng)企業(yè)。

“我們正在助力全球完成不可能的任務(wù)。”

掃描海報(bào)二維碼，或點(diǎn)擊“閱讀原文”，即可觀看 NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛 GTC23 主題演講重播！

?

百里挑一！

3 月 23 日不可錯(cuò)過的演講!

GTC23 | 黃仁勛與 Ilya Sutskever 的爐邊談話重磅來襲！— 看 AI 的現(xiàn)狀和未來