吴忠躺衫网络科技有限公司

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

NVIDIA發布Riva語音AI和大型LLM軟件

星星科技指導員 ? 來源:NVIDIA ? 作者:Siddharth Sharma ? 2022-04-01 16:27 ? 次閱讀

NVIDIA 發布了 NVIDIA Riva 在語音人工智能方面的新突破, NVIDIA NeMo 在大規模語言建模( LLM )方面的新突破。 Riva 是一款 GPU 加速語音人工智能 SDK ,用于企業為其品牌和虛擬助手生成富有表現力的類人語音。 NeMo 是語音和 NLU 的加速培訓框架,它現在有能力開發具有數萬億參數的大規模語言模型。

語音和語言人工智能的這些進步使企業和研究機構能夠輕松構建針對其行業和領域定制的最先進的對話人工智能功能。

英偉達 Riva

NVIDIA 發布了一個具有定制語音功能的新版本,企業只需 30 分鐘的語音數據即可輕松創建獨特的語音來代表其品牌。

此外, NVIDIA 宣布了Riva Enterprise,這是一項付費計劃,包括為需要大規模 Riva 部署的企業提供 NVIDIA 專家支持。 Riva 仍然免費提供給工作量較小的客戶和合作伙伴。

亮點包括:

在 A100 上用一天 30 分鐘的音頻數據創建一個新的神經語音。

細粒度控件以生成富有表現力的聲音。

A100 上的 Fastpitch + HiFiGAN 比 V100 上的 Tacotron2 + WaveGlow 性能高 12 倍。

支持五種其他語言的世界級語音識別

擴展到成百上千的實時流。

在任何云端、本地和邊緣運行。

注冊以接收有關 Riva Enterprise 的最新消息和更新,以進行大規模部署 》》

使用 Riva 開發應用程序

閱讀此introductory post to了解 Riva 工作流中的組件。

接下來,按照本教程構建您自己的端到端語音識別服務:

Parthart: 1-EC6

Parthart: H2-Em7

Parthut: 3-ECEN-18

有關構建virtual assistants和transcription with entity recognition等語音應用程序的更多教程,請訪問Riva Getting Started. 》》

NVIDIA NeMo Megatron 、 Triton 多 – GPU 多節點推理和 Megatron 530B

NVIDIA 還推出了為企業構建、定制和部署大型語言模型的功能。 NeMo Megatron 是 NeMo 框架中的一項新功能,用于培訓多達數萬億個參數的大型語言模型( LLM )。

它包括Megatron方面的進步,這是一個由 NVIDIA 研究人員領導的開源項目,旨在開發有效培訓法學碩士的技術。企業可以使用 NeMo Megatron 定制 LLM ,如 Megatron 530B ,并使用 NVIDIA Triton 推理服務器跨多個 GPU 和節點進行部署。

亮點包括:

在包含數十億頁文本的龐大數據集上自動化數據整理。

為新的域和語言培訓Megatron 530B等模型。

從單節點擴展到超級計算機,包括數十個DGX A100系統。

導出到多個節點和 GPU s ,用于使用 NVIDIA Triton 推理服務器進行實時推理。

關于作者

Siddharth Sharma 是NVIDIA 加速計算的高級技術營銷經理。在加入NVIDIA 之前, Siddharth 是 Mathworks Simulink 和 Stateflow 的產品營銷經理,與汽車和航空航天公司密切合作,采用基于模型的設計來創建控制軟件。

審核編輯:郭婷

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • NVIDIA
    +關注

    關注

    14

    文章

    5076

    瀏覽量

    103726
  • 服務器
    +關注

    關注

    12

    文章

    9306

    瀏覽量

    86069
  • 人工智能
    +關注

    關注

    1796

    文章

    47681

    瀏覽量

    240298
  • LLM
    LLM
    +關注

    關注

    0

    文章

    299

    瀏覽量

    400
收藏 人收藏

    評論

    相關推薦

    NVIDIA發布全新NIM AI Guardrail微服務

    NVIDIA近期推出了一項旨在保障代理式AI應用安全性的重要技術——NIM AI Guardrail微服務。這一全新微服務是NVIDIA NeMo Guardrails
    的頭像 發表于 01-18 11:48 ?427次閱讀

    NVIDIA 發布保障代理式 AI 應用安全的 NIM 微服務

    務是 NVIDIA NeMo Guardrails 軟件工具系列的一部分。這些可移植且經過優化的推理微服務可幫助企業提高生成式 AI 應用的安全性、精準性
    發表于 01-17 16:29 ?72次閱讀

    NVIDIA TensorRT-LLM中啟用ReDrafter的一些變化

    Recurrent Drafting (簡稱 ReDrafter) 是蘋果公司為大語言模型 (LLM) 推理開發并開源的一種新型推測解碼技術,該技術現在可與 NVIDIA TensorRT-LLM 一起使用。
    的頭像 發表于 12-25 17:31 ?260次閱讀
    在<b class='flag-5'>NVIDIA</b> TensorRT-<b class='flag-5'>LLM</b>中啟用ReDrafter的一些變化

    解鎖NVIDIA TensorRT-LLM的卓越性能

    NVIDIA TensorRT-LLM 是一個專為優化大語言模型 (LLM) 推理而設計的庫。它提供了多種先進的優化技術,包括自定義 Attention Kernel、Inflight
    的頭像 發表于 12-17 17:47 ?278次閱讀

    NVIDIA TensorRT-LLM Roadmap現已在GitHub上公開發布

    感謝眾多用戶及合作伙伴一直以來對NVIDIA TensorRT-LLM的支持。TensorRT-LLM 的 Roadmap 現已在 GitHub 上公開發布
    的頭像 發表于 11-28 10:43 ?339次閱讀
    <b class='flag-5'>NVIDIA</b> TensorRT-<b class='flag-5'>LLM</b> Roadmap現已在GitHub上公開<b class='flag-5'>發布</b>

    NVIDIA助力Amdocs打造生成式AI智能體

    正在使用NVIDIA DGX Cloud 與 NVIDIA AI Enterprise軟件開發和交付基于商用大語言模型(LLM)和領域適配
    的頭像 發表于 11-19 14:48 ?419次閱讀

    NVIDIA AI Foundry 為全球企業打造自定義 Llama 3.1 生成式 AI 模型

    借助 NVIDIA AI Foundry,企業和各國現在能夠使用自有數據與 Llama 3.1 405B 和 NVIDIA Nemotron 模型配對,來構建“超級模型” NVIDIA
    發表于 07-24 09:39 ?743次閱讀
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>AI</b> Foundry 為全球企業打造自定義 Llama 3.1 生成式 <b class='flag-5'>AI</b> 模型

    【算能RADXA微服務器試用體驗】+ GPT語音與視覺交互:1,LLM部署

    。環境變量的配置,未來在具體項目中我們會再次提到。 下面我們正式開始項目。項目從輸入到輸出分別涉及了語音識別,圖像識別,LLM,TTS這幾個與AI相關的模塊。先從最核心的LLM開始。
    發表于 06-25 15:02

    AI初創公司Alembic攻克LLM虛假信息難題

    近日,AI領域的創新者Alembic公司宣布了一項重大突破:其全新AI系統成功解決了LLM大型語言模型)中的虛假信息生成問題。這一成就標志著長久以來困擾
    的頭像 發表于 06-18 14:26 ?590次閱讀

    NVIDIA 通過 Holoscan 為 NVIDIA IGX 提供企業軟件支持

    Enterprise-IGX軟件現已在NVIDIA IGX平臺上正式可用,以滿足工業邊緣對實時 AI 計算日益增長的需求。它們將共同幫助醫療、工業和科學計算領域的解決方案提供商利用企業級軟件
    的頭像 發表于 06-04 10:21 ?566次閱讀

    NVIDIA 通過 Holoscan 為 NVIDIA IGX 提供企業軟件支持,實現邊緣實時醫療、工業和科學 AI 應用

    NVIDIA Holoscan 的 NVIDIA AI Enterprise-IGX 軟件現已在 NVIDIA IGX 平臺上正式可用,以
    發表于 06-03 09:48 ?338次閱讀
      <b class='flag-5'>NVIDIA</b> 通過 Holoscan 為 <b class='flag-5'>NVIDIA</b> IGX 提供企業<b class='flag-5'>軟件</b>支持,實現邊緣實時醫療、工業和科學 <b class='flag-5'>AI</b> 應用

    研華與英偉達深化合作, 成為NVIDIA AI Enterprise軟件全球分銷商

    )的軟件平臺。近日發布NVIDIA AI Enterprise 5.0將為用戶提供一系列微服務,其中包括NVIDIA NIM。這是一套用于
    發表于 05-07 11:21 ?425次閱讀
    研華與英偉達深化合作, 成為<b class='flag-5'>NVIDIA</b> <b class='flag-5'>AI</b> Enterprise<b class='flag-5'>軟件</b>全球分銷商

    英偉達H200性能顯著提升,年內將推出B200新一代AI半導體

    同一天,NVIDIA發布了H200的性能評估報告,表明在與美國Meta公司的大型語言模型——LLM“Llama 2”的對比中,H200使AI
    的頭像 發表于 04-01 09:36 ?1491次閱讀

    基于NVIDIA Megatron Core的MOE LLM實現和訓練優化

    本文將分享阿里云人工智能平臺 PAI 團隊與 NVIDIA Megatron-Core 團隊在 MoE (Mixture of Experts) 大語言模型(LLM)實現與訓練優化上的創新工作。
    的頭像 發表于 03-22 09:50 ?883次閱讀
    基于<b class='flag-5'>NVIDIA</b> Megatron Core的MOE <b class='flag-5'>LLM</b>實現和訓練優化

    TensorRT LLM加速Gemma!NVIDIA與谷歌牽手,RTX助推AI聊天

    NVIDIA今天在其官方博客中表示,今天與谷歌合作,在所有NVIDIA AI平臺上為Gemma推出了優化。
    的頭像 發表于 02-23 09:42 ?664次閱讀
    TensorRT <b class='flag-5'>LLM</b>加速Gemma!<b class='flag-5'>NVIDIA</b>與谷歌牽手,RTX助推<b class='flag-5'>AI</b>聊天
    大发888娱乐城网址| 馆陶县| 大发888娱乐游戏注册| 百家乐三珠连跳打法| 百家乐官网平注胜进与负追| 澳门赌场筹码| 真钱娱乐场游戏| 百家乐官网博彩博彩网| 百家乐官网赌博娱乐| 博彩娱乐网| 银泰国际娱乐城| 百家乐官网视频大厅| 百家乐官网哪家有优惠| 鸡东县| 百家乐娱乐网会员注册| 网上百家乐赌城| 德州百家乐扑克桌| 百家乐游戏| 百家乐技术辅助软件| 百家乐官网怎么推算| 在线百家乐官网大家赢| 网上百家乐官网真实度| 豪盈国际娱乐| 云博娱乐城官网注册| 百家乐官网存在千术吗| 百家乐官网投注翻倍方法| 百家乐官网压钱技巧| 百家乐官网赌博赌博平台| 百家乐官网币| 百家乐官网| 玩百家乐请高手指点| 富田太阳城租房| 赌球平台| 百家乐官网路有几家| 百家乐2号破解下载| 德州扑克 单机版| 老虎机破解| 百家乐官网娱乐城介绍| 免费百家乐规律| 大发888代充| 百家乐官网散台|