來自 AI 生態系統各個領域的 150 余家合作伙伴嵌入了 NIM 推理微服務，將企業級 AI 應用的部署時間從數周縮短至幾分鐘

NVIDIA 開發者計劃會員可免費使用 NIM 來進行研究、開發和測試

NVIDIA 于今日宣布，全球 2,800 萬開發者現可下載NVIDIA NIM——一種推理微服務，通過經優化的容器的形式提供模型——以部署在云、數據中心或工作站上。借助 NVIDIA NIM，開發者能夠輕松地為 copilots、聊天機器人等構建生成式 AI 應用，所需時間從數周縮短至幾分鐘。

NVIDIA 創始人兼首席執行官黃仁勛表示：“每個企業都希望在其運營中融入生成式 AI，但并非每個企業都擁有專門的 AI 研究團隊。NVIDIA NIM 可被集成到任意平臺中，任何地方的開發者都可以訪問，并且可以在任意環境中運行——它正在助力科技行業將生成式 AI 普及到每一個企業組織。”

40 余個 NIM 微服務

為跨模式的生成式 AI 賦能

NIM 容器是預構建的，以加速模型部署，可用于 GPU 加速推理，其中包括NVIDIA CUDA軟件、NVIDIA Triton 推理服務器和NVIDIA TensorRT-LLM軟件。

數百家 AI 生態系統合作伙伴已嵌入 NIM

包括 Canonical、Red Hat、Nutanix 和 VMware（已被博通收購）在內的平臺提供商已在開源 KServe 或企業解決方案方面支持 NIM。AI 應用公司 Hippocratic AI、Glean、Kinetica 和 Redis 也在部署 NIM 來支持生成式 AI 推理。

行業巨頭通過 NIM 加強生成式 AI

行業領導者 Foxconn、和碩、Amdocs、勞氏公司、ServiceNow 和西門子利用 NIM 來加強生成式 AI 應用，涉及制造業、醫療、金融服務、零售、客戶服務等領域。

審核編輯：彭菁