離線NLP,這是探境科技給出的答案。離線NLP,或稱端側NLP技術,是不依賴云端算力,通過端側芯片來實現自然語言理解的方案。探境科技CEO魯勇堅信:隨著AI語音模型的輕量化,以及端側芯片算力的逐步提高,AI語音最終將全部以分布式的部署到終端設備上。每一個時代都有一種占主導地位的交互方式,人類的生產及生活方式也因此被改變。
未來十年我們的生活將變成什么樣子?盡管眾多科技公司的技術演進方式并不相同,但語音交互一定是繞不開的命題。
自1952年AT&T貝爾實驗室研發的語音識別系統Audry算起,語音已在科技史上歷經了70年的變革,語音方案也漸漸從云計算中心向邊緣端下沉。
當時間的飛輪馳入2022年,語音又將給出什么樣的驚喜?
離線NLP,這是探境科技給出的答案。離線NLP(Natural Language Processing,自然語言處理),或稱端側NLP技術,是不依賴云端算力,通過端側芯片來實現自然語言理解的方案。探境科技CEO魯勇堅信:隨著AI語音模型的輕量化,以及端側芯片算力的逐步提高,AI語音最終將全部以分布式部署到終端設備上。
01離線NLP即普世,又普適
盡管語音成為 IoT 設備的交互標配是大勢所趨,但從現實來看,在各式各樣名目繁多智能音箱在不斷的“教育和打磨”市場后,AI語音的智能家居并未如設想一般進入尋常百姓家。
這主要由于傳統實現語音支持主要通過云端來實現,配置維護難度極高,如Wi-Fi經常斷網、下載各類APP、要進行各種繁瑣操作等,復雜程度讓人望而卻步,用戶不愿意花精力去學習。
“所有的高科技一定是要化繁為簡,家電應該以人為中心,越智能的家電,用起來就應該越簡單、那些讓人望而生畏的家電,只適合被敬仰,不適合被使用。”魯勇解讀說。“想要翻越用戶體驗這座大山,必須解決傳統配置方式帶來的市場端問題。”
與之相比,離線語音方案則無需依賴云端技術,可以直接在本地語音控制家電產品,并且不需要其它額外的操作,即插即用,擁有更快的響應速度和更好的隱私保護,與云端相比,更符合原有家電使用習慣,屬于更為普世的“百姓智能”。
如果說AI語音從在線到離線是一大躍遷的話,那從離線到離線NLP則是另一個層面的飛躍。離線NLP讓自然語義從云端下移到了端側,用戶與家電之間的交互就像日常對話,既操作簡單,又交互自然。離線NLP在應用層面給到用戶更普適體驗的同時,也勢必會加速其在國內家電市場落地的腳步。
此外,將語音處理放在端側,對于家電廠家而言,從搭建并運營一套復雜的云端系統,變成了元器件級別的改造,直接從生產端切入,降低了產品間的轉換成本,這也是魯勇對于離線NLP落地前景看好的底氣之一。
02芯片和算法 咬合緊密的雙輪 NLP 引擎
越易用的產品,內核往往越復雜。
離線NLP方案的挑戰在于要低功耗情況下保持高性能、低成本,減少由于環境復雜和模型壓縮帶來的精度損失。這對于技術層面的考驗有兩個:一方面在芯片設計時要在低成本的前提下,考慮到算法的需求,包括算力、存儲容量等是否滿足需求,并且是否有盈余以應對未來的再升級。
另一方面,在算法層面要考慮對深度學習的支持度上是否夠廣泛,同時根據芯片所能實現的能力進一步優化和整合,保持原信息處理能力的輕量化算法重新構建能力。
這就需要在底層芯片與高精度算法間騰挪跌宕,進行軟硬協同的全面整合,才能實現兩者間的高度耦合。
探境的離線NLP芯片Voitist721,作為探境性能強勁的三核AI芯片,集成NPU、DSP和CPU三核,并且實現了對算法模型的端到端支持。
此外,支撐端到端的 NLP意味著不用局限于人為設計的數量有限的關鍵詞,而是依靠知識圖譜和基于注意力機制的深度學習算法,挖掘出自然語言表達中所蘊含的信息,以適應更為靈活的表達方式和更為廣泛的落地場景。
要想在離線NLP領域構筑全新價值,需要做到以下兩點,一是語義識別的廣泛度,二是更高的準確度。
這就需要在算法模型下足功夫,“深挖洞,廣積糧”,探境的算法模型工業化生產平臺,是終端智能落地應用的強有力支撐,能夠有效解決遠場識別、誤喚醒率、噪聲干擾、地域口音、詞語泛化等核心用戶體驗痛點,其基于統一數據管理系統的采集、訓練、測試三大系統平臺整體聯動,快速響應能滿足批量化發布的業務需求。
據魯勇透露,探境NLP算法今年上半年就已經研發成功,并且憑借超強的人機交互能力,讓多個頭部客戶的眼前一亮,從而獲得了進一步打開離線AI語音市場的新“鑰匙”。
03正在形成的正反饋
不止是技術要“探路”,市場也更是循序漸進式的。
“智能家居市場的需求是碎片化的,每個公司每個品牌都有不同的利益訴求,我們的做法是先做出一些爆款,在市場打響,相當于走到市場中教育了一部分用戶,然后用戶反饋來拉動更多廠家的加入,慢慢形成正反饋,從而達到反哺這一行業的目的。”魯勇對離線NLP應用充滿信心。
“從目前來看,燈具、空調、窗簾、風扇等應用的接受度都在肉眼可見的擴大,許多頭部的大客戶開始逐步進入批量出貨階段,這也意味著市場在真正起勢。”魯勇的話語透露出一股自豪。
探境科技合作伙伴包括美的、海爾、松下、歐普、奧克斯等知名廠商,從0到1的突破之后,從1到100也變得順理成章。探境不僅客戶層面形成了規模效應,芯片層面的布局也一一展現,探境擁有更強算力的722芯片已成功點亮,明年年初實現量產,面向超低功耗可穿戴市場的芯片也將面世。
魯勇表示,今年探境的出貨量在幾百萬片,憑借離線NLP等技術的加持,及多個芯片系列的推出,預計明年銷量會實現指數型的上升。
魯勇認為,家居場景下的智能化可分為三步。第一步是輕智能,賦予電子產品輕量級卻實用性很高的語音控制功能,快速將單品智能化推向用戶市場。
第二步是重智能,在終端AI芯片上升級更強大的算法,讓單品變得更加智能,例如自然語義理解、多模態識別等,同時疊加IOT聯網,無需連接云端,單品之間就可以構建一個保護隱私且用戶體驗更好的智能家居整體場景。
第三步是進一步深化軟硬件協同,實現深度智能,構建屬于未來的AI產品,包括情感分析、對話、類人機器人等科幻級產品,將AI技術提高并融入生活。
探境的愿景其實很簡單:讓用戶在家居場景下能夠實現“想到-說到-做到”的自然交互過程,不必再看那些冗長繁瑣的說明書,學習那些復雜的家電操作步驟,實現“有電就有智能化”的體驗。
就像科幻電影鋼鐵俠的賈維斯,用戶回到自己家里以后,不需要特意去尋找開關或者遙控器也好,他可以在屋子里的任意一個角落,邊走邊說,賈維斯把窗簾都打開,給我倒一杯檸檬水,這些設備就開始配合工作起來了。
柯林斯在《從優秀到卓越》提到過飛輪效應,有一個巨大的、無比沉重的輪子,想讓它轉起來,開始要費很大的勁,但只要你用力的方向正確,一直推下去,輪子會越轉越快,到后面,你只要使很少的力,輪子依靠以往積聚的勢能就可以轉得飛快。
從離線NLP到更高級的深度智能,“飛輪效應”正在向我們駛來。
-
nlp
+關注
關注
1文章
489瀏覽量
22110 -
探境科技
+關注
關注
0文章
4瀏覽量
1831
原文標題:離線芯片+NLP方案 探境給出的端側語音最優解
文章出處:【微信號:探境科技,微信公眾號:探境科技】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
AI與物聯網雙向奔赴,達實智能已在AI應用賽道先行一步
啟英泰倫新推出多意圖自然說,重塑離線人機交互新標準!
![啟英泰倫新推出多意圖自然說,重塑<b class='flag-5'>離線</b>人機交互新標準!](https://file.elecfans.com/web2/M00/4B/7E/pYYBAGKpMnSAOhxnAAAcxe7JyFw626.jpg)
臺積電擬進一步收購群創工廠擴產先進封裝
英特爾將進一步分離芯片制造和設計業務
RFTOP進一步擴充波導同軸轉換器產品線
![RFTOP<b class='flag-5'>進一步</b>擴充波導同軸轉換器產品線](https://file1.elecfans.com/web2/M00/05/1C/wKgZombW0buAMgMUAAHckp9pYns203.jpg)
iPhone 15在美國市場需求進一步減弱
西門子與微軟進一步擴展戰略合作關系
進一步解讀英偉達 Blackwell 架構、NVlink及GB200 超級芯片
**十萬級口語識別,離線自然說技術,讓智能照明更懂你**
risc-v多核芯片在AI方面的應用
安霸發布5nm制程的CV75S系列芯片,進一步拓寬AI SoC產品路線圖
Arbe在中國上海設立分公司,進一步增強企業影響力
英飛凌重組銷售與營銷組織,進一步提升以客戶為中心的服務及領先的應用支持能力
![英飛凌重組銷售與營銷組織,<b class='flag-5'>進一步</b>提升以客戶為中心的服務及領先的應用支持能力](https://file1.elecfans.com/web2/M00/C2/4C/wKgZomXhkpiARzKoAAF6kDte0QA318.jpg)
評論