吴忠躺衫网络科技有限公司

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

NVIDIA Triton開源推理服務軟件三大功能推動效率提升

NVIDIA英偉達企業解決方案 ? 來源:NVIDIA英偉達企業解決方案 ? 作者:NVIDIA英偉達企業解 ? 2022-01-04 14:20 ? 次閱讀

Microsoft Teams借助AI生成的實時字幕和轉錄功能,幫助全球學生和職場人士順利進行在線會議。用于訓練的NVIDIA AI計算技術和用于推理語音識別模型的NVIDIA Triton推理服務器進一步提升了這兩個功能。

Microsoft Teams 是全球溝通和協作的重要工具,每月有近2.5億活躍用戶。Microsoft Azure 認知服務為Teams提供28種語言的字幕和轉錄,并將很快能夠在NVIDIA GPU上運行關鍵的計算密集型神經網絡推理。

實時字幕功能幫助與會者實時跟蹤對話,轉錄功能方便與會者在日后回顧當時的創意或回看未能參與的會議。

實時字幕對聾啞人、聽力障礙者,或者異國與會者特別有用。

NVIDIA Triton開源推理服務軟件能夠幫助Teams使用認知服務優化語音識別模型。

使用Triton,認知服務能夠支持高度先進的語言模型,以極低的延遲實時提供高度準確、個性化的語音轉文本結果。同時,可以保證運行這些語音轉文本模型的NVIDIA GPU充分發揮其潛力,在消耗更少計算資源的同時,為客戶提供更高的吞吐量,進而降低成本。

底層語音識別技術作為認知服務中的一個API,開發人員可以使用它定制和運行自己的應用程序——客服電話轉錄、智能家居控制或為急救人員提供AI助手。

字字達意的AI

認知服務會生成Teams的轉錄和字幕,將語音轉換為文本,并識別說話人。同時也能夠識別專業術語 、姓名和其他會議背景,提高字幕的準確性。

Microsoft Teams的通話、會議及設備首席項目經理Shalendra Chhabra表示:“這樣的AI模型非常復雜,需要數千萬個神經網絡參數才能識別幾十種不同的語言。但模型越大,就越難以經濟高效地實時運行。”

NVIDIA GPU和Triton軟件能夠幫助微軟在不犧牲低延遲的情況下,通過強大的神經網絡,實現高準確性,確保語音-文本的實時轉換。

當啟用轉錄功能時,與會者可以在會議結束后輕松補上錯過的內容。

Triton三大功能推動效率提升

NVIDIA Triton有助于簡化AI模型部署,并解鎖高性能推理。用戶甚至可以為自己的應用開發自定義后端。軟件的一些關鍵功能可將Microsoft Teams的字幕和轉錄功能擴展到更多會議和用戶,包括:

流推理:新型流推理功能——通過跟蹤語音上下語境,提高延遲、敏感性字幕的準確度,它助力NVIDIA和Azure認知服務合作定制語音轉文本的應用程序。

動態合批:批大小指神經網絡同時處理的輸入樣本數量。通過Triton的動態合批,單項推理請求被自動組合成一個批次,因此能夠在不影響模型延遲的情況下更好地利用GPU資源。

并發模型執行:實時字幕和轉錄需要同時運行多個深度學習模型。Triton使開發人員能夠在單個GPU上同時完成這些工作,包括使用不同深度學習框架的模型。

即刻啟程,借助Azure 認知服務,在您的應用中使用語音轉文本的功能,并進一步了解NVIDIA Triton 推理服務軟件如何幫助團隊大規模部署AI模型。

NVIDIA 將參加 CES 2022, 并將在 1 月 5 日凌晨 0 點(北京時間)發表 NVIDIA 特別演講。

NVIDIA GeForce 高級副總裁 Jeff Fisher 和 NVIDIA 汽車部門副總裁兼總經理 Ali Kani 將展示加速計算在設計、仿真、游戲和自動駕駛汽車方面的新突破。掃描下方海報,即刻將該日程添加到日歷!

原文標題:Microsoft Azure 認知服務和NVIDIA AI提升Microsoft Teams實時字幕和轉錄功能

文章出處:【微信公眾號:NVIDIA英偉達企業解決方案】歡迎添加關注!文章轉載請注明出處。
審核編輯:湯梓紅

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • NVIDIA
    +關注

    關注

    14

    文章

    5076

    瀏覽量

    103724
  • 功能
    +關注

    關注

    3

    文章

    589

    瀏覽量

    29368
  • 開源
    +關注

    關注

    3

    文章

    3407

    瀏覽量

    42713

原文標題:Microsoft Azure 認知服務和NVIDIA AI提升Microsoft Teams實時字幕和轉錄功能

文章出處:【微信號:NVIDIA-Enterprise,微信公眾號:NVIDIA英偉達企業解決方案】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    NVIDIA 發布保障代理式 AI 應用安全的 NIM 微服務

    NVIDIA NeMo Guardrails 軟件工具系列的一部分。這些可移植且經過優化的推理服務可幫助企業提高生成式 AI 應用的安全性、精準性
    發表于 01-17 16:29 ?72次閱讀

    借助NVIDIA GPU提升魯班系統CAE軟件計算效率

    本案例中魯班系統高性能 CAE 軟件利用 NVIDIA 高性能 GPU,實現復雜產品的快速仿真,加速產品開發和設計迭代,縮短開發周期,提升產品競爭力。
    的頭像 發表于 12-27 16:24 ?233次閱讀

    Triton編譯器如何提升編程效率

    在現代軟件開發中,編譯器扮演著至關重要的角色。它們不僅將高級語言代碼轉換為機器可執行的代碼,還通過各種優化技術提升程序的性能。Triton 編譯器作為一種先進的編譯器,通過多種方式提升
    的頭像 發表于 12-25 09:12 ?335次閱讀

    Triton編譯器在機器學習中的應用

    1. Triton編譯器概述 Triton編譯器是NVIDIA Triton推理服務平臺的一部分
    的頭像 發表于 12-24 18:13 ?518次閱讀

    Triton編譯器功能介紹 Triton編譯器使用教程

    Triton 是一個開源的編譯器前端,它支持多種編程語言,包括 C、C++、Fortran 和 Ada。Triton 旨在提供一個可擴展和可定制的編譯器框架,允許開發者添加新的編程語言特性和優化技術
    的頭像 發表于 12-24 17:23 ?642次閱讀

    NVIDIA助力提供多樣、靈活的模型選擇

    在本案例中,Dify 以模型中立以及開源生態的優勢,為廣大 AI 創新者提供豐富的模型選擇。其集成的 NVIDIAAPI Catalog、NVIDIA NIM和Triton 推理
    的頭像 發表于 09-09 09:19 ?537次閱讀

    魔搭社區借助NVIDIA TensorRT-LLM提升LLM推理效率

    “魔搭社區是中國最具影響力的模型開源社區,致力給開發者提供模型即服務的體驗。魔搭社區利用NVIDIA TensorRT-LLM,大大提高了大語言模型的推理性能,方便了模型應用部署,提高
    的頭像 發表于 08-23 15:48 ?512次閱讀

    全新 NVIDIA NeMo Retriever微服務大幅提升LLM的準確性和吞吐量

    企業能夠通過提供檢索增強生成功能的生產就緒型 NVIDIA NIM 推理服務,充分挖掘業務數據的價值。這些微服務現已集成到 Cohesit
    的頭像 發表于 07-26 11:13 ?927次閱讀
    全新 <b class='flag-5'>NVIDIA</b> NeMo Retriever微<b class='flag-5'>服務</b>大幅<b class='flag-5'>提升</b>LLM的準確性和吞吐量

    NVIDIA攜手Meta推出AI服務,為企業提供生成式AI服務

    NVIDIA近日宣布了一項重大舉措,正式推出NVIDIA AI Foundry服務NVIDIA NIM(NVIDIA Inference
    的頭像 發表于 07-25 16:57 ?601次閱讀

    英偉達推出全新NVIDIA AI Foundry服務NVIDIA NIM推理服務

    NVIDIA 宣布推出全新 NVIDIA AI Foundry 服務NVIDIA NIM 推理服務
    的頭像 發表于 07-25 09:48 ?791次閱讀

    英偉達推出AI模型推理服務NVIDIA NIM

    英偉達近日宣布推出一項革命性的AI模型推理服務——NVIDIA NIM。這項服務將極大地簡化AI模型部署過程,為全球的2800萬英偉達開發者提供前所未有的便利。
    的頭像 發表于 06-04 09:15 ?731次閱讀

    NVIDIA與Google DeepMind合作推動大語言模型創新

    支持 NVIDIA NIM 推理服務的谷歌最新開源模型 PaliGemma 首次亮相。
    的頭像 發表于 05-16 09:44 ?511次閱讀

    NVIDIA加速微軟最新的Phi-3 Mini開源語言模型

    NVIDIA 宣布使用 NVIDIA TensorRT-LLM 加速微軟最新的 Phi-3 Mini 開源語言模型。TensorRT-LLM 是一個開源庫,用于優化從 PC 到云端的
    的頭像 發表于 04-28 10:36 ?637次閱讀

    利用NVIDIA組件提升GPU推理的吞吐

    本實踐中,唯品會 AI 平臺與 NVIDIA 團隊合作,結合 NVIDIA TensorRT 和 NVIDIA Merlin HierarchicalKV(HKV)將推理的稠密網絡和熱
    的頭像 發表于 04-20 09:39 ?822次閱讀

    使用NVIDIA Triton推理服務器來加速AI預測

    這家云計算巨頭的計算機視覺和數據科學服務使用 NVIDIA Triton 推理服務器來加速 AI 預測。
    的頭像 發表于 02-29 14:04 ?634次閱讀
    新世纪百家乐现金网| 博彩百家乐龙虎| 营口市| 梦幻城百家乐的玩法技巧和规则 | 澳博娱乐| 百家乐如何制| 百家乐官网彩金| 皇冠线上开户| 威尼斯人娱乐场 送2688元礼金领取lrm64| 免费百家乐官网缩水工具| 鹤庆县| 大发888真钱娱乐场下载| 百家乐桌子10人| 百家乐官网家乐娱乐城| 百家乐官网作弊工具| 大发888出纳柜台 2014| 百家乐买对子技巧| 百家乐视频世界| 现场百家乐官网能赢吗| 百家乐官网破解的方法| 香港六合彩官方网| 大发真钱麻将| 大发888 大发888| 百家乐网页qq| 网上百家乐娱乐场开户注册| 澳门百家乐家用保险柜| 百家乐赌博怎么玩| 百家乐官网群详解包杀| 百家乐官网真人游戏| 肯博百家乐官网的玩法技巧和规则| 江北区| 百家乐预测和局| 百家乐官网网络娱乐场开户注册| 百家乐官网买对子技巧| 百家乐官网怎么玩最保险| 百家乐官网专业术语| 百家乐官网77scs| 百家乐稳赢玩法| 金盈会百家乐现金网| 百家乐电投| 公海百家乐的玩法技巧和规则|