10 月 31 日 – 11 月 2 日，2023 云棲大會在杭州云棲小鎮(zhèn)圓滿舉辦，本屆大會以 “計算，為了無法計算的價值” 為主題，為開發(fā)者們呈現(xiàn)了一場精彩紛呈的云計算和 AI 技術盛會。

NVIDIA 在本屆大會也帶來了海量干貨與技術內(nèi)容：多維度解讀 AI 及大語言模型（LLM）開發(fā)和應用的精彩演講、阿里云、螞蟻集團的 LLM 應用案例、NVIDIA 全棧 AI 和加速計算展區(qū)、開發(fā)者社區(qū)招募和 AI 體驗、初創(chuàng)加速計劃和 NVIDIA 深度學習培訓中心（DLI）福利…… 現(xiàn)在，就讓我們帶您一同回顧本次大會的高光時刻！

NVIDIA 精彩演講

高光時刻

01

AI 女性 “進化論”：

追光而行、全力奔跑！

大會首日，NVIDIA 全球副總裁劉念寧在“無畏 · 無限” 新女性新機遇的聚合話題演講中，通過科技女性數(shù)據(jù)、AI 女性典范以及溫暖有愛的個人故事，將科技女性身上展現(xiàn)的她力量高度凝練為 “毅力” 、“彈力” 和“聚力” ，激勵科技女性們勇敢擁抱加速計算和生成式 AI 的全新時代。她的演講金句 “AI 的星辰大海，除了追光與奔跑，還有愛與生命”，收獲了現(xiàn)場觀眾的熱烈反響。

高光時刻

02

Networking for AI

NVIDIA 網(wǎng)絡與高性能計算高級副總裁 Gilad Shainer 也為大家?guī)砹司实难葜v分享。Gilad 從云（Cloud）、生成式 AI 云（Generative AI Cloud）以及 AI 工廠（AI Factories）三個角度展開，與在場觀眾一起探討了人工智能網(wǎng)絡的復雜性，闡述了正在發(fā)揮作用的各種技術及其對現(xiàn)代數(shù)據(jù)中心的影響，并針對網(wǎng)絡技術如何塑造人工智能格局的重要議題進行了深入淺出地拆解剖析。

高光時刻

03

NVIDIA 聚合話題演講，群英云集！

11 月 1 日，來自 NVIDIA 和阿里云的資深技術專家，齊聚“NVIDIA 加速計算 創(chuàng)造生成式 AI 新時代”聚合話題演講，分享 LLM 的全棧 AI 開發(fā)方案及開發(fā)者工具和服務。

NVIDIA 解決方案架構(gòu)與工程總監(jiān)王淼、NVIDIA 解決方案架構(gòu)師翟健、NVIDIA 產(chǎn)品研發(fā)總監(jiān)周國峰、阿里云資深算法專家黃俊、阿里云高級技術專家張杰、NVIDIA 解決方案架構(gòu)師高慧怡、NVIDIA GPU 計算專家薛博陽、NVIDIA GPU 計算專家顏子杰、NVIDIA GPU 性能架構(gòu)師樊士慶，依次發(fā)表精彩的專題演講。

<<<左右滑動查看更多照片>>>

（以上照片按照演講順序排列）

NVIDIA 技術專家圍繞大語言模型（LLM）主題，分享了 NVIDIA 端到端的數(shù)據(jù)中心級全棧 AI 和加速計算解決方案和軟件全棧與行業(yè)解決方案更新概覽，介紹了 NVIDIA 最新發(fā)布的開源大型語言模型推理加速庫 TensorRT-LLM 的產(chǎn)品定位、基本功能和使用方法，全新 GPU 架構(gòu)下的重要特性 FP8 訓練與推理和相應軟件解決方案 Transformer Engine，以及 NVIDIA Megatron Core 對下一代大規(guī)模 LLM / MoE 訓練的支持。同時，阿里云的技術專家也分享了阿里云人工智能平臺 PAI (Platform of AI) 團隊研發(fā)的 Pai-Megatron-Patch，以 NVIDIA Megatron-LM 為核心開發(fā)的靈駿集群訓練 LLM 的一站式工具箱，以及其自主研發(fā)的大規(guī)模模型 RLHF 高效訓練框架 PAI-ChatLearn 的架構(gòu)、性能，和如何基于 Megatron 進行高效 RLHF 訓練。

高光時刻

04

NVIDIA 技術演講

精彩內(nèi)容令人應接不暇！另有 3 場干貨十足的演講為 2023 云棲大會注入了 NVIDIA 特色的技術靈感。

11 月 1 日，NVIDIA 教科研應用技術總監(jiān)李順在云棲 SHOW 場，圍繞 “NVIDIA 科學智能（AI4S）賦能科學發(fā)現(xiàn)” 做專題演講，并邀請觀眾參與阿里云與 NVIDIA 主辦的 2023 AI for Science GPU 黑客松。

（了解更多信息，請查閱：https://tianchi.aliyun.com/competition/entrance/532163?spm=a2c22.12281949.0.0.52753b74tEfONb）

NVIDIA 解決方案架構(gòu)師金國強受邀分享 “NVIDIA 生成式 AI 加速優(yōu)化方案概覽”，帶領觀眾們從多個角度感受 NVIDIA 數(shù)據(jù)中心 GPU 在大語言模型及圖像生成領域的強大性能。

11 月 2 日，NVIDIA GPU、CUDA 應用市場總監(jiān)侯宇濤應阿里云天池邀請，在云棲 SHOW 場-云上開發(fā)者大賽專場，以 “引領技術，推動應用” 為主題做專題分享，引導和鼓勵開發(fā)者學習 NVIDIA GPU 加速和優(yōu)化技術，并和阿里云開發(fā)者關系總監(jiān)孟晉宇共同發(fā)布了 3 個聯(lián)合舉辦的 AI 算法開發(fā)大賽。

<<<左右滑動查看更多照片>>>

（以上照片按照演講順序排列）

NVIDIA 技術交流互動展區(qū)

NVIDIA 全棧 AI 和加速計算展區(qū)人流如織，既然來到現(xiàn)場，當然不能錯過在這里探討影響未來數(shù)字世界發(fā)展的重要技術！

高光時刻

01

沉浸式互動觀展

NVIDIA 在展區(qū)空間內(nèi)帶來了眾多采用 NVIDIA AI 技術的客戶案例，包括 NVIDIA TensorRT-LLM 如何幫助螞蟻團隊優(yōu)化開源代碼大模型 CodeFuse 的推理加速、NVIDIA GPU 及 NVIDIA Clara Parabricks 如何為阿里云金融與醫(yī)療行業(yè)提供最佳的解決方案，包含開箱即用的魔搭開源模型和靈積模型服務高效 GPU 優(yōu)化、Megatron 加速通義大模型訓練，確保訓練性能在大集群上的可擴展性、基于 NVIDIA Megatron 開發(fā)的深度學習大語言模型工具等豐富內(nèi)容。

此外，NVIDIA 還展示了加速基礎設施、AI 軟件、模型和服務的加速計算解決方案，包括 NVIDIA 加速的基礎設施、InfiniBand 網(wǎng)絡計算端到端解決方案、NVIDIA AI Enterprise、AI Models and Foundries 等生成式 AI 技術底座、AI Playground 生成式 AI 互動體驗等。

<<<左右滑動查看更多照片>>>

高光時刻

02

AI 小課堂報道

AI 互動展示區(qū)域內(nèi)，NVIDIA 精心打造的 AI 小課堂如期而至， NVIDIA 的技術專家們分享了關于 NVIDIA AI Enterprise、NeMo、TensorRT、Omniverse、Spectrum-X 平臺的開發(fā)技術，為各位開發(fā)者的 NVIDIA AI 入門和進階學習拓寬了靈感思路。

精彩課程內(nèi)容包括：

• NVIDIA AI Enterprise 全面助力生成式 AI 全棧開發(fā)

• 基于 LLM 大模型構(gòu)建中文對話引擎：NeMo + ChatGLM

• 生成式 AI 應用實踐：一個文字生成圖像的代碼實現(xiàn)流程

• 合成數(shù)據(jù)應用初探——圖像分類數(shù)據(jù)集的制作案例

• 利用 NVIDIA BlueField-3 DPU 構(gòu)建云

• NVIDIA Spectrum-X 平臺助力生成式 AI 云服務

現(xiàn)場觀眾跟隨精彩講解做筆記劃重點，講解結(jié)束更積極與技術大咖們交流探討，仿佛每個人都在 NVIDIA 的 AI 小課堂上完成了一次“版本升級”。

<<<左右滑動查看更多照片>>>

高光時刻

03

動手體驗玩轉(zhuǎn)開發(fā)

展位現(xiàn)場的動手體驗環(huán)節(jié)更是圈粉無數(shù)！

利用人工智能技術實現(xiàn) Jetbot 自動駕駛小車避障功能的動手體驗活動，在展位現(xiàn)場人氣爆棚。開發(fā)者踴躍嘗試、積極動手，體驗了 NVIDIA 計算機視覺 AI 技術在避障和路徑優(yōu)化場景的應用。

Full-Stack 語音 AI 開發(fā)全流程動手編程體驗同樣人氣滿滿，開發(fā)者經(jīng)過學習當場實現(xiàn)了借助 NVIDIA NeMo 工具庫結(jié)合中文語音數(shù)據(jù)訓練，基于 Jetson 嵌入式平臺來完成中文 ASR 功能的開發(fā)。

總結(jié)

隨著生成式 AI 與大語言模型的快步向前，加速計算與各行各業(yè)的交互、融合的新時代已經(jīng)到來。本屆云棲大會雖然已落下帷幕，但 NVIDIA 仍將發(fā)揮在加速計算領域的優(yōu)勢，持續(xù)創(chuàng)新、不斷深耕，進而源源不斷地為各行業(yè)和生態(tài)提供穩(wěn)定且高效的全棧 AI 解決方案支持。

最后，感謝所有線上線下觀眾朋友的熱情關注與踴躍參與。NVIDIA 期待與大家再次相聚，共同見證 AI 新時代的發(fā)展！

GTC 2024 將于 2024 年 3 月 18 至 21 日在美國加州圣何塞會議中心舉行，線上大會也將同期開放。點擊“閱讀原文”或掃描下方海報二維碼，關注更多會議及活動信息。