超算難勝大腦,何不依照神經(jīng)結(jié)構(gòu)打造芯片?
伴隨著第四次工業(yè)革命的到來,人工智能和機器學習成了半導體行業(yè)熱捧的技術。從訓練和推理的角度來看,這些技術用到的數(shù)據(jù)量已經(jīng)足夠龐大,但AI芯片依然很難做到像大腦一樣思考。
以目前世界排名第二的超算IBM Summit為例,其運算速率已達200 PFLOPS,但大腦的運算性能仍然是它的5倍。研究人員開始反思為何不仿制一個大腦結(jié)構(gòu)的芯片,依照人體神經(jīng)元網(wǎng)絡結(jié)構(gòu)打造的神經(jīng)形態(tài)芯片也因此出爐。
大腦中的神經(jīng)元可以通過無數(shù)個突觸實現(xiàn)互通,從而快速處理大腦信息,進行記憶、推理和計算。基于馮諾依曼結(jié)構(gòu)的AI芯片依然需要在多個部件之間進行信息傳輸,造成處理速度瓶頸,這也是為何近年來業(yè)內(nèi)仍在發(fā)展互聯(lián)技術的原因。
而神經(jīng)形態(tài)芯片基于人腦的架構(gòu),采用了脈沖神經(jīng)網(wǎng)絡(SNN),不僅顯著提升了處理速度,更是可以同步進行多項操作,同時進行數(shù)據(jù)輸入和輸出,且功耗與當前的AI芯片相比大大降低。
嗅覺識別
2017年11月,英特爾發(fā)布了自己的神經(jīng)形態(tài)芯片Loihi。這一60mm2大小的芯片基于14nm工藝制造,采用了128個“神經(jīng)核”的設計,囊括了13萬神經(jīng)元。英特爾稱其設計基于專為SNN算法優(yōu)化的架構(gòu),每個神經(jīng)元都可以數(shù)千個神經(jīng)元相互通信。Loihi支持的SNN運算,不需要在傳統(tǒng)的卷積神經(jīng)網(wǎng)絡下進行訓練。
![](https://file.elecfans.com/web2/M00/0F/80/poYBAGEUfYKAfxenAAEIOc_qg_E219.jpg)
Loihi芯片 / Intel
去年3月17日,英特爾研究院和美國康奈爾大學研究人員聯(lián)合發(fā)表了一篇論文,展示了一種基于哺乳動物嗅覺系統(tǒng)的神經(jīng)算法,即便存在明顯干擾和遮蓋的情況下,英特爾的神經(jīng)形態(tài)芯片Loihi依然可以學習和識別危險甲苯和一氧化碳等化學品。此外,由于神經(jīng)形態(tài)芯片的優(yōu)勢,Loihi僅需單一樣本就可以識別氣味,不像過去的深度學習一樣需要大量的訓練樣本。
在與不少學術機構(gòu)合作的過程中,研究人員同樣發(fā)現(xiàn)Loihi具備超低功耗的特性。在運行一個實時深度學習測試中,Loihi的功耗要比一片GPU低109倍,與專用的IoT推理硬件相比低5倍。更棒的是,即便將深度學習網(wǎng)絡的規(guī)模擴展50倍,Loihi不僅能夠保持同樣的實時性能表現(xiàn),其功耗占用也只有30%而已,而IoT硬件的功耗已經(jīng)高至6倍,且無法再滿足實時處理了。
視覺識別
今年1月,澳大利亞斯威本大學、電子科大和中國科學院聯(lián)合發(fā)表了一篇論文,該團隊聲稱打造出了性能最強大的光學神經(jīng)形態(tài)處理器。領導這項研究工作的David Moss教授聲稱,該芯片基于光微梳打造,可以實現(xiàn)10 TOPS的運算性能。
該芯片可以生成25萬像素的圖像卷積,對于人臉識別之類的應用已經(jīng)綽綽有余。在測試中,他們在該芯片上用10個輸出神經(jīng)元依次組成一個光學卷積神經(jīng)網(wǎng)絡,在識別手寫數(shù)字圖像上準確率可達88%。同樣的方法也可以擴展到更復雜的網(wǎng)絡上,比如用于自動駕駛和實時視頻識別等等。
![](https://file.elecfans.com/web2/M00/0F/88/pYYBAGEUfYyAFMW0AABTN7kdcko968.jpg)
TrueNorth芯片 / IBM
同樣在用神經(jīng)形態(tài)技術進行視覺識別的還有IBM,其TrueNorth芯片包含了100萬個神經(jīng)元和2.56億個突觸。這個4096個內(nèi)核的芯片基于三星的28nm工藝制造,支持多對象檢測和分類,正常工作情況下的功耗卻只有60至70mW。
視覺傳感器也開始應用神經(jīng)形態(tài)技術,以Prophesee為例,這家公司基于自己神經(jīng)形態(tài)技術,在去年與索尼聯(lián)合發(fā)布了基于事件的工業(yè)級視覺傳感器。該公司也在今年7月獲得了創(chuàng)新工場、小米和韋豪創(chuàng)芯的投資。
結(jié)語
從以上案例可以看出,神經(jīng)形態(tài)芯片和人腦結(jié)構(gòu)一樣,在處理龐大的多樣化數(shù)據(jù)上上有著不小的優(yōu)勢。而傳統(tǒng)AI和機器學習場景中,許多都需要需要大數(shù)據(jù)支持而且無法完成直接替代,這些應用往往也與人類感知器官相關。
除了嗅覺和視覺外,也有像荷蘭初創(chuàng)公司Innatera這樣專注于音頻和健康的神經(jīng)形態(tài)芯片公司。可以說神經(jīng)形態(tài)芯片在發(fā)揮傳感應用的全部性能上,具備著現(xiàn)有AI芯片難以媲美的優(yōu)勢。
不過這項技術在硬件和軟件上尚未成熟,目前大型的神經(jīng)形態(tài)芯片還沒有出現(xiàn),而且已有的一些算法也很可能難以兼容。憑借其低功耗和小體積的優(yōu)勢,神經(jīng)形態(tài)芯片最對口的使用場景也許還是移動設備和AIoT。
伴隨著第四次工業(yè)革命的到來,人工智能和機器學習成了半導體行業(yè)熱捧的技術。從訓練和推理的角度來看,這些技術用到的數(shù)據(jù)量已經(jīng)足夠龐大,但AI芯片依然很難做到像大腦一樣思考。
以目前世界排名第二的超算IBM Summit為例,其運算速率已達200 PFLOPS,但大腦的運算性能仍然是它的5倍。研究人員開始反思為何不仿制一個大腦結(jié)構(gòu)的芯片,依照人體神經(jīng)元網(wǎng)絡結(jié)構(gòu)打造的神經(jīng)形態(tài)芯片也因此出爐。
大腦中的神經(jīng)元可以通過無數(shù)個突觸實現(xiàn)互通,從而快速處理大腦信息,進行記憶、推理和計算。基于馮諾依曼結(jié)構(gòu)的AI芯片依然需要在多個部件之間進行信息傳輸,造成處理速度瓶頸,這也是為何近年來業(yè)內(nèi)仍在發(fā)展互聯(lián)技術的原因。
而神經(jīng)形態(tài)芯片基于人腦的架構(gòu),采用了脈沖神經(jīng)網(wǎng)絡(SNN),不僅顯著提升了處理速度,更是可以同步進行多項操作,同時進行數(shù)據(jù)輸入和輸出,且功耗與當前的AI芯片相比大大降低。
嗅覺識別
2017年11月,英特爾發(fā)布了自己的神經(jīng)形態(tài)芯片Loihi。這一60mm2大小的芯片基于14nm工藝制造,采用了128個“神經(jīng)核”的設計,囊括了13萬神經(jīng)元。英特爾稱其設計基于專為SNN算法優(yōu)化的架構(gòu),每個神經(jīng)元都可以數(shù)千個神經(jīng)元相互通信。Loihi支持的SNN運算,不需要在傳統(tǒng)的卷積神經(jīng)網(wǎng)絡下進行訓練。
![](https://file.elecfans.com/web2/M00/0F/80/poYBAGEUfYKAfxenAAEIOc_qg_E219.jpg)
Loihi芯片 / Intel
去年3月17日,英特爾研究院和美國康奈爾大學研究人員聯(lián)合發(fā)表了一篇論文,展示了一種基于哺乳動物嗅覺系統(tǒng)的神經(jīng)算法,即便存在明顯干擾和遮蓋的情況下,英特爾的神經(jīng)形態(tài)芯片Loihi依然可以學習和識別危險甲苯和一氧化碳等化學品。此外,由于神經(jīng)形態(tài)芯片的優(yōu)勢,Loihi僅需單一樣本就可以識別氣味,不像過去的深度學習一樣需要大量的訓練樣本。
在與不少學術機構(gòu)合作的過程中,研究人員同樣發(fā)現(xiàn)Loihi具備超低功耗的特性。在運行一個實時深度學習測試中,Loihi的功耗要比一片GPU低109倍,與專用的IoT推理硬件相比低5倍。更棒的是,即便將深度學習網(wǎng)絡的規(guī)模擴展50倍,Loihi不僅能夠保持同樣的實時性能表現(xiàn),其功耗占用也只有30%而已,而IoT硬件的功耗已經(jīng)高至6倍,且無法再滿足實時處理了。
視覺識別
今年1月,澳大利亞斯威本大學、電子科大和中國科學院聯(lián)合發(fā)表了一篇論文,該團隊聲稱打造出了性能最強大的光學神經(jīng)形態(tài)處理器。領導這項研究工作的David Moss教授聲稱,該芯片基于光微梳打造,可以實現(xiàn)10 TOPS的運算性能。
該芯片可以生成25萬像素的圖像卷積,對于人臉識別之類的應用已經(jīng)綽綽有余。在測試中,他們在該芯片上用10個輸出神經(jīng)元依次組成一個光學卷積神經(jīng)網(wǎng)絡,在識別手寫數(shù)字圖像上準確率可達88%。同樣的方法也可以擴展到更復雜的網(wǎng)絡上,比如用于自動駕駛和實時視頻識別等等。
![](https://file.elecfans.com/web2/M00/0F/88/pYYBAGEUfYyAFMW0AABTN7kdcko968.jpg)
TrueNorth芯片 / IBM
同樣在用神經(jīng)形態(tài)技術進行視覺識別的還有IBM,其TrueNorth芯片包含了100萬個神經(jīng)元和2.56億個突觸。這個4096個內(nèi)核的芯片基于三星的28nm工藝制造,支持多對象檢測和分類,正常工作情況下的功耗卻只有60至70mW。
視覺傳感器也開始應用神經(jīng)形態(tài)技術,以Prophesee為例,這家公司基于自己神經(jīng)形態(tài)技術,在去年與索尼聯(lián)合發(fā)布了基于事件的工業(yè)級視覺傳感器。該公司也在今年7月獲得了創(chuàng)新工場、小米和韋豪創(chuàng)芯的投資。
結(jié)語
從以上案例可以看出,神經(jīng)形態(tài)芯片和人腦結(jié)構(gòu)一樣,在處理龐大的多樣化數(shù)據(jù)上上有著不小的優(yōu)勢。而傳統(tǒng)AI和機器學習場景中,許多都需要需要大數(shù)據(jù)支持而且無法完成直接替代,這些應用往往也與人類感知器官相關。
除了嗅覺和視覺外,也有像荷蘭初創(chuàng)公司Innatera這樣專注于音頻和健康的神經(jīng)形態(tài)芯片公司。可以說神經(jīng)形態(tài)芯片在發(fā)揮傳感應用的全部性能上,具備著現(xiàn)有AI芯片難以媲美的優(yōu)勢。
不過這項技術在硬件和軟件上尚未成熟,目前大型的神經(jīng)形態(tài)芯片還沒有出現(xiàn),而且已有的一些算法也很可能難以兼容。憑借其低功耗和小體積的優(yōu)勢,神經(jīng)形態(tài)芯片最對口的使用場景也許還是移動設備和AIoT。
聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。
舉報投訴
-
AI
+關注
關注
87文章
31520瀏覽量
270335 -
人工智能
+關注
關注
1796文章
47674瀏覽量
240292 -
神經(jīng)形態(tài)芯片
關注
0文章
21瀏覽量
13899
發(fā)布評論請先 登錄
相關推薦
機器人“大腦+小腦”范式:算力魔方賦能智能自主導航
和實時調(diào)整。 這種分工明確的架構(gòu)不僅提高了機器人的自主性和適應性,還為機器人在復雜環(huán)境中的應用提供了更多可能。 一, 算力魔方 ? : 機 器人“大腦”的強大算力支撐 在“大腦+小腦”
人工神經(jīng)網(wǎng)絡的原理和多種神經(jīng)網(wǎng)絡架構(gòu)方法
所擬合的數(shù)學模型的形式受到大腦中神經(jīng)元的連接和行為的啟發(fā),最初是為了研究大腦功能而設計的。然而,數(shù)據(jù)科學中常用的神經(jīng)網(wǎng)絡作為大腦模型已經(jīng)過時
![人工<b class='flag-5'>神經(jīng)</b>網(wǎng)絡的原理和多種<b class='flag-5'>神經(jīng)</b>網(wǎng)絡架構(gòu)方法](https://file1.elecfans.com/web3/M00/05/61/wKgZO2d_M_6Ad26pAAAPSvfyTCo490.png)
LSTM神經(jīng)網(wǎng)絡的結(jié)構(gòu)與工作機制
網(wǎng)絡的結(jié)構(gòu)與工作機制的介紹: 一、LSTM神經(jīng)網(wǎng)絡的結(jié)構(gòu) LSTM神經(jīng)網(wǎng)絡的結(jié)構(gòu)主要包括以下幾個部分: 記憶單元(Memory Cell)
《算力芯片 高性能 CPUGPUNPU 微架構(gòu)分析》第二篇閱讀心得:芯片拓撲學:并行擴展與CPU設計的巨頭對決
1 芯片拓撲結(jié)構(gòu):多核互聯(lián)的藝術
繼續(xù)深入《算力芯片》一書,第5-6章探討了芯片拓撲結(jié)構(gòu)與經(jīng)典C
發(fā)表于 10-29 01:48
神經(jīng)元芯片的主要特點和優(yōu)勢
神經(jīng)元芯片,又稱神經(jīng)芯片或神經(jīng)元網(wǎng)絡芯片,是一種專為實現(xiàn)網(wǎng)絡通信和控制功能而設計的先進半導體
人工智能神經(jīng)元的基本結(jié)構(gòu)
人工智能神經(jīng)元的基本結(jié)構(gòu)是一個復雜而深入的話題,涉及到計算機科學、數(shù)學、神經(jīng)科學等多個領域的知識。 引言 人工智能(Artificial Intelligence,簡稱AI)是計算機科學的一個分支
遞歸神經(jīng)網(wǎng)絡和循環(huán)神經(jīng)網(wǎng)絡的模型結(jié)構(gòu)
遞歸神經(jīng)網(wǎng)絡是一種旨在處理分層結(jié)構(gòu)的神經(jīng)網(wǎng)絡,使其特別適合涉及樹狀或嵌套數(shù)據(jù)的任務。這些網(wǎng)絡明確地模擬了層次結(jié)構(gòu)中的關系和依賴關系,例如語言中的句法
![遞歸<b class='flag-5'>神經(jīng)</b>網(wǎng)絡和循環(huán)<b class='flag-5'>神經(jīng)</b>網(wǎng)絡的模型<b class='flag-5'>結(jié)構(gòu)</b>](https://file1.elecfans.com/web2/M00/FB/AF/wKgaomaOSc6ARPuXAABcNn5proc493.png)
人工智能神經(jīng)網(wǎng)絡的結(jié)構(gòu)是什么
人工智能神經(jīng)網(wǎng)絡是一種模擬人腦神經(jīng)網(wǎng)絡的計算模型,其結(jié)構(gòu)和功能非常復雜。 引言 人工智能神經(jīng)網(wǎng)絡是一種模擬人腦神經(jīng)網(wǎng)絡的計算模型,其
神經(jīng)元的結(jié)構(gòu)及功能是什么
神經(jīng)元是神經(jīng)系統(tǒng)的基本結(jié)構(gòu)和功能單位,它們通過電信號和化學信號進行信息傳遞和處理。神經(jīng)元的結(jié)構(gòu)和功能非常復雜,涉及到許多不同的方面。 一、
BP神經(jīng)網(wǎng)絡的原理、結(jié)構(gòu)及 訓練方法
神經(jīng)網(wǎng)絡是一種受人類大腦神經(jīng)元結(jié)構(gòu)啟發(fā)的計算模型,由大量的神經(jīng)元(或稱為節(jié)點、單元)通過權重連接而成。每個神經(jīng)元接收輸入信號,通過激活函數(shù)
神經(jīng)網(wǎng)絡算法的結(jié)構(gòu)有哪些類型
神經(jīng)網(wǎng)絡算法是深度學習的基礎,它們在許多領域都有廣泛的應用,如圖像識別、自然語言處理、語音識別等。神經(jīng)網(wǎng)絡的結(jié)構(gòu)有很多種類型,每種類型都有其獨特的特點和應用場景。以下是對神經(jīng)網(wǎng)絡算法
科學計算的下一輪創(chuàng)新,AI超算與數(shù)字孿生
應用的行列中來。 ? AI 超算與數(shù)字孿生 ? 在過去通用計算負載的時代,我們難以采用更大規(guī)模的計算集群來打造數(shù)字孿生。可隨著AI技術,尤其是生成式AI技術的出現(xiàn),采用高度定制化的AI超
![科學計算的下一輪創(chuàng)新,AI<b class='flag-5'>超</b><b class='flag-5'>算</b>與數(shù)字孿生](https://file1.elecfans.com/web2/M00/E0/C9/wKgZomY4rkWAJlEdAAC0_LFVnME853.jpg)
“捷智算”正式入駐國家超算互聯(lián)網(wǎng)平臺
ABSTRACT摘要2024年4月2日,本公司旗下算力服務品牌“捷智算”正式入駐國家超算互聯(lián)網(wǎng)平臺,開設云gpu旗艦店。我們將借助國家超
![“捷智<b class='flag-5'>算</b>”正式入駐國家<b class='flag-5'>超</b><b class='flag-5'>算</b>互聯(lián)網(wǎng)平臺](https://file.elecfans.com/web2/M00/55/FB/poYBAGLfmrOAMNitAAAqLsDZxGI249.png)
千億美元打造一個系統(tǒng),成本越來越高的AI超算
和OpenAI合作,打造一個千億美元級別的超算系統(tǒng)。 ? 千億美元打造 AI 超算 ? 根據(jù)外媒
人的大腦相當于什么水平的 GPU 和 CPU ?
人腦的基本結(jié)構(gòu)和功能人類的大腦是一個驚人的機器,能處理復雜的信息,使我們能理解和響應周圍的世界。它由大約860億個神經(jīng)元組成,每個神經(jīng)元可以與其他神
![人的<b class='flag-5'>大腦</b>相當于什么水平的 GPU 和 CPU ?](https://file.elecfans.com/web2/M00/4E/DC/poYBAGLCjeiALm_WAAAYmfR7Qec474.png)
評論