阿里MNN支持華為NPU，優(yōu)化MNN的性能和精度問題
今天上午據(jù)軟件綠色聯(lián)盟消息，阿里MNN已經(jīng)接入華為 HiAI生態(tài)，正式支持華為NPU。
據(jù)了解，阿里MNN為Mobile Neural Network，是阿里巴巴淘系技術(shù)部開源的端側(cè)推理引擎，目前已覆蓋淘寶、天貓、優(yōu)酷和UC等20多個手機(jī)應(yīng)用，每天穩(wěn)定運(yùn)行超過500億次，已經(jīng)接受了兩屆“雙11”的考驗(yàn)。
官方表示，當(dāng)App功能日益強(qiáng)大時，性能和精度的矛盾就逾顯尖銳；官方表示利用HiAI Foundation芯片能力開放，阿里MNN快速轉(zhuǎn)化和遷移已有模型，并借助異構(gòu)調(diào)度和NPU加速，大幅提升應(yīng)用算力和能效比，可以優(yōu)化MNN的性能和精度問題。比如會加快以圖搜圖的搜索速度，耗電方面也會降低；此外，掃商家Logo也是運(yùn)用了此功能。
責(zé)任編輯：gt
聲明：本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問題，請聯(lián)系本站處理。
舉報投訴
-
華為
+關(guān)注
關(guān)注
216文章
34537瀏覽量
253015 -
阿里
+關(guān)注
關(guān)注
6文章
441瀏覽量
32897
發(fā)布評論請先 登錄
相關(guān)推薦
NPU支持的編程語言有哪些
NPU（Neural Processing Unit）是一種專門為深度學(xué)習(xí)和人工智能應(yīng)用設(shè)計的處理器。NPU支持的編程語言通常與它所集成的平臺或框架緊密相關(guān)。以下是一些常見的編程語言和框架，它們可以
NPU的工作原理解析
隨著人工智能技術(shù)的快速發(fā)展，深度學(xué)習(xí)算法在各個領(lǐng)域得到了廣泛應(yīng)用。為了滿足日益增長的計算需求，NPU應(yīng)運(yùn)而生。 NPU的基本概念 NPU是一種專用硬件加速器，專門為深度學(xué)習(xí)算法設(shè)計。它通過優(yōu)化
如何選擇合適的NPU型號
、智能家居等）來選擇NPU。不同場景對NPU的性能、功耗、靈活性等要求不同。 性能需求 ： 確定您需要的計算性能，包括TOPS（每秒萬億次浮
NPU在邊緣計算中的優(yōu)勢
和GPU相比，NPU在處理神經(jīng)網(wǎng)絡(luò)相關(guān)的計算任務(wù)時，能夠提供更高的能效比和更快的處理速度。NPU通過優(yōu)化數(shù)據(jù)流和計算結(jié)構(gòu)，使得神經(jīng)網(wǎng)絡(luò)的前向傳播和反向傳播更加高效。 NPU在邊緣計算中
NPU技術(shù)如何提升AI性能
隨著人工智能技術(shù)的飛速發(fā)展，深度學(xué)習(xí)作為AI領(lǐng)域的核心驅(qū)動力，對計算能力的需求日益增長。NPU技術(shù)應(yīng)運(yùn)而生，為AI性能的提升提供了強(qiáng)大的硬件支持。 NPU技術(shù)概述
什么是NPU芯片及其功能
在人工智能（AI）技術(shù)迅猛發(fā)展的今天，NPU芯片已經(jīng)成為推動這一領(lǐng)域進(jìn)步的關(guān)鍵技術(shù)之一。NPU芯片，即神經(jīng)網(wǎng)絡(luò)處理單元，是一種專門為深度學(xué)習(xí)算法設(shè)計的硬件加速器。 一、NPU芯片的概念 NPU
NPU與GPU的性能對比
NPU（Neural Processing Unit，神經(jīng)網(wǎng)絡(luò)處理單元）與GPU（Graphics Processing Unit，圖形處理單元）在性能上各有千秋，它們各自的設(shè)計初衷和優(yōu)化方向決定了
NPU在深度學(xué)習(xí)中的應(yīng)用
設(shè)計的硬件加速器，它在深度學(xué)習(xí)中的應(yīng)用日益廣泛。 1. NPU的基本概念 NPU是一種專門針對深度學(xué)習(xí)算法優(yōu)化的處理器，它與傳統(tǒng)的CPU和GPU有所不同。NPU通常具有高度并行的處理能
什么是NPU？什么場景需要配置NPU？
在人工智能（AI）技術(shù)如火如荼的今天，NPU神經(jīng)處理單元（Neural Processing Unit）作為一種新興的硬件加速器，正在成為ARM主板配置中的新寵。與傳統(tǒng)的CPU和GPU相比，NPU在
NXP推出集成NPU的MCU，支持AI邊緣設(shè)備！MCU實(shí)現(xiàn)AI功能的多種方式
旨在顯著節(jié)省功耗，可在邊緣端提供高達(dá)172倍的AI加速。 ? MCU 集成NPU 支持AI 功能 ? 恩智浦推出的這款i.MX RT700內(nèi)部集成了恩智浦自研的eIQ Neutron NPU，這是一種
寶礫微25V雙口充電管理高性能MCU支持PD協(xié)議
12-bit高精度ADC
☆ 內(nèi)置NTC檢測電路* 多重保護(hù)功能、高可靠性
☆ 輸出過壓、欠壓保護(hù)☆ 輸出過流、短路保護(hù)
☆ 過溫保護(hù)
☆ CC1、CC2、DP、DM支持30V耐壓* 工作范圍
☆ 工作電壓
發(fā)表于 09-24 10:33
名單公布！【書籍評測活動NO.43】 算力芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析
和像素統(tǒng)一的G80到現(xiàn)在重金難求的H100；AMD的Zen系列CPU和RDNA系列GPU兩線作戰(zhàn)；中國的高性能計算芯片逐步獲得更多TOP500排名；華為Ascend 910 NPU芯片也成為AI時代
發(fā)表于 09-02 10:09
基于RK3588的NPU案例分享！6T是真的強(qiáng)！
設(shè)計能夠?qū)崿F(xiàn)高效的神經(jīng)網(wǎng)絡(luò)推理計算。這使得RK3588在圖像識別、語音識別、自然語言處理等人工智能領(lǐng)域有著極高的性能表現(xiàn)。此外，RK3588的NPU還支持多種學(xué)習(xí)框架，包括TensorFlow
發(fā)表于 07-17 10:55
芯品# 物聯(lián)網(wǎng)市場性能最高的 NPU
提高數(shù)據(jù)隱私和安全性。 Arm 的 Ethos NPU 如何增強(qiáng)邊緣和端點(diǎn)的 AI 性能？ 多年來，Arm 一直在開發(fā)邊緣 AI 加速器，以支持對邊緣和端點(diǎn)推理工作負(fù)載日益增長的需求。通過 Arm 的 Ethos-U55 和 E
微軟畫圖即將支持NPU，Windows內(nèi)置應(yīng)用AI功能持續(xù)優(yōu)化
神經(jīng)網(wǎng)絡(luò)處理單元（NPU），作為一款Win11筆記本上的專屬硬件組件，主要承擔(dān)AI及機(jī)器學(xué)習(xí)任務(wù)處置。相較于云服務(wù)或通CPU，NPU能有效提升本地設(shè)備的AI任務(wù)處理能力。
工商網(wǎng)監(jiān)
評論