12月28日,昆侖芯科技將聯(lián)合百度飛槳FastDeploy團隊帶來“產(chǎn)業(yè)級AI模型部署全攻略 -昆侖芯科技專場”直播課程,就產(chǎn)業(yè)AI硬件部署解決方案進行交流,屆時會詳細講解昆侖芯AI加速卡R200特性,并實戰(zhàn)昆侖芯科技硬件與FastDeploy如何快速完成AI模型部署。
共同探討AI部署相關(guān)話題!
關(guān)于FastDeploy
為了解決AI部署落地難題,百度飛槳發(fā)布了新一代面向產(chǎn)業(yè)實踐的推理部署工具FastDeploy,旨在為AI開發(fā)者提供模型部署最優(yōu)解。FastDeploy具備全場景、簡單易用、極致高效兩大特點,可滿足開發(fā)者對高性能部署的需求,大幅提升AI產(chǎn)業(yè)部署的開發(fā)效率。
全場景:多端部署,統(tǒng)一部署API,一行代碼切換不同推理后端和推理硬件;多框架支持,一行命令實現(xiàn)其他深度學(xué)習(xí)框架到飛槳以及ONNX的相互轉(zhuǎn)換;多硬件適配,目前支持X86 CPU、NVIDIA GPU、Jetson、昆侖芯XPU、GraphcoreIPU、ARM CPU(聯(lián)發(fā)科、瑞芯微、樹莓派、高通等硬件)、瑞芯微NPU、晶晨NPU、恩智浦NPU等十多類AI硬件。
簡單易用:多語言統(tǒng)一模型API,三行代碼搞定AI模型部署。模型豐富,預(yù)置飛槳和生態(tài)的150+產(chǎn)業(yè)級SOTA模型,覆蓋Text、Vision、Speech、Cross-modal四大領(lǐng)域;覆蓋20+主流應(yīng)用場景,算法場景包括圖像分類、圖像分割、語義分割、物體檢測、字符識別(OCR)、人臉檢測、人臉關(guān)鍵點檢測、人臉識別、人像扣圖、視頻扣圖、圖像超分、姿態(tài)估計、文本分類、信息抽取、文圖生成、行人跟蹤、語音合成等。
極致性能:聯(lián)合自動壓縮工具與推理引擎深度聯(lián)動的能力以及AI模型前后預(yù)處理加速庫的優(yōu)化,實現(xiàn)AI模型端到端極致的推理性能。
關(guān)于昆侖芯科技
昆侖芯科技深耕AI加速領(lǐng)域10余年,專注打造擁有強大通用性、易用性和高性能的通用人工智能芯片。目前,昆侖芯科技已實現(xiàn)兩代通用AI芯片產(chǎn)品的量產(chǎn)及落地應(yīng)用,在互聯(lián)網(wǎng)、智能制造、智慧交通、智慧金融等領(lǐng)域均已實現(xiàn)規(guī)模部署。在云端推理訓(xùn)練均有完備覆蓋的基礎(chǔ)上,應(yīng)用于邊緣場景的昆侖芯AI加速卡R100已正式發(fā)布,進一步擴充落地場景。更先進的第三代、第四代芯片產(chǎn)品正在研發(fā)中。
昆侖芯科技致力于構(gòu)建軟硬一體化的AI芯片生態(tài),打造從芯片到終端、應(yīng)用、云端、服務(wù)的生態(tài)閉環(huán)。此前,昆侖芯2代AI芯片及AI加速卡與飛槳完成III級兼容性測試,兼容性表現(xiàn)良好。
昆侖芯和飛槳的適配自2018年啟動,目前雙方已共同完成框架層面的適配,支持XPU Device及大部分算子。在雙方合作的訓(xùn)練部分中,昆侖芯XPU和飛槳的適配在一些場景下能夠做到通過僅切換一行代碼便可指定到昆侖芯XPU的后端,低成本地從CPU/GPU切換到昆侖芯,滿足絕大部分用戶的需求。目前,昆侖芯軟件棧已集成到飛槳上,完成對接與支持。此外,雙方已經(jīng)完成了多款主流CPU及操作系統(tǒng)的適配,方便廣大開發(fā)者和用戶更高效、更便捷地開發(fā)。
昆侖芯科技的使命是“讓計算更智能”,愿景是“成為劃時代,全球領(lǐng)先的智能計算公司”。昆侖芯科技始終致力于成為芯片創(chuàng)新鏈、產(chǎn)業(yè)鏈的“賦能者”,與上下游企業(yè)攜手,通過用算力賦能不同場景中的AI應(yīng)用,驅(qū)動千行百業(yè)的智能化轉(zhuǎn)型。
-
API
+關(guān)注
關(guān)注
2文章
1511瀏覽量
62399 -
AI
+關(guān)注
關(guān)注
87文章
31534瀏覽量
270342 -
NPU
+關(guān)注
關(guān)注
2文章
292瀏覽量
18787 -
飛槳
+關(guān)注
關(guān)注
0文章
33瀏覽量
2328 -
昆侖芯科技
+關(guān)注
關(guān)注
0文章
29瀏覽量
650
原文標(biāo)題:直播預(yù)告|明晚20:30鎖定『產(chǎn)業(yè)級AI模型部署全攻略 - 昆侖芯科技專場』
文章出處:【微信號:昆侖芯科技,微信公眾號:昆侖芯科技】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
相關(guān)推薦
首發(fā) | 昆侖芯 | 國產(chǎn)AI卡Deepseek訓(xùn)練推理全版本適配、性能卓越,一鍵部署等您來(附文檔下載方式)
![首發(fā) | <b class='flag-5'>昆侖</b><b class='flag-5'>芯</b> | 國產(chǎn)<b class='flag-5'>AI</b>卡Deepseek訓(xùn)練推理全版本適配、性能卓越,一鍵<b class='flag-5'>部署</b>等您來(附文檔下載方式)](https://file1.elecfans.com/web3/M00/07/4B/wKgZPGekYe6ALgUoAAAaqqZWWfY490.jpg)
昆侖芯率先完成Deepseek訓(xùn)練推理全版本適配
![<b class='flag-5'>昆侖</b><b class='flag-5'>芯</b>率先完成Deepseek訓(xùn)練推理全版本適配](https://file1.elecfans.com/web3/M00/07/56/wKgZO2ekYe6AXr19AAAHdC0RDAk912.png)
避坑指南:云服務(wù)器數(shù)據(jù)庫購買方法全攻略
企業(yè)AI模型部署攻略
AI模型部署邊緣設(shè)備的奇妙之旅:目標(biāo)檢測模型
恩智浦eIQ Time Series Studio 工具使用全攻略
![恩智浦eIQ Time Series Studio 工具使用<b class='flag-5'>全攻略</b>](https://file1.elecfans.com/web3/M00/01/F7/wKgZPGdaP8GAdNVjAAAehAsyGKk659.png)
AI模型部署和管理的關(guān)系
如何在STM32f4系列開發(fā)板上部署STM32Cube.AI,
企業(yè)AI模型部署怎么做
k8s可以部署私有云嗎?私有云部署全攻略
四大企業(yè)聯(lián)手共建昆侖大模型
霧化芯配件外觀尺寸檢測全攻略
![霧化<b class='flag-5'>芯</b>配件外觀尺寸檢測<b class='flag-5'>全攻略</b>](https://file1.elecfans.com//web2/M00/E5/21/wKgaomY_Bo6ANy01AAN4MkEHmb4104.png)
評論