自從以深度學習為代表的神經網絡算法的精度大大提升以后，人工智能開始終于又再次火了起來，且有席卷全球之勢。根據BBC預測，到2020年，人工智能總體市場將會高達1190億元的規模，年平均復合增長率也將達到19.7%。龐大的市場潛力就吸引了眾多的芯片、算法和應用廠商投身其中。

和過去的大多數應用不一樣，人工智能在模型訓練與推理中需要大量的計算。但受限于其算法和計算本身的特性，過往一直被廣泛使用的傳統計算芯片卻無法滿足這些需求，這就要求芯片廠商去為神經網絡算法打造專用的芯片，尤其是推理端的芯片，也就是俗稱的神經網絡加速器。由于這個市場大家幾乎都處于同一起跑線，所以很多新興的和傳統的芯片廠商在上面角逐，這就給開發者的芯片選擇帶來了困擾。

為此，我們從概念入手，為大家提供神經網絡加速器的（NNA）基本面了解，希望對大家有所啟發。

神經網絡加速器是趨勢

在談神經網絡加速器之前，我們先了解一下什么是神經網絡。

據維基百科，在機器學習和認知科學領域，人工神經網絡是一種模仿生物神經網絡（動物的中樞神經系統，特別是大腦）的結構和功能的數學模型或計算模型，用于對函數進行估計或近似。神經網絡由大量的人工神經元聯結進行計算。大多數情況下人工神經網絡能在外界信息的基礎上改變內部結構，是一種自適應系統。現代神經網絡是一種非線性統計性數據建模工具。

典型的神經網絡具有以下三個部分：

1）結構（Architecture）

結構指定了網絡中的變量和它們的拓撲關系。例如，神經網絡中的變量可以是神經元連接的權重（weights）和神經元的激勵值（activities of the neurons）。

2）激勵函數（Activity Rule）

大部分神經網絡模型具有一個短時間尺度的動力學規則，來定義神經元如何根據其他神經元的活動來改變自己的激勵值。一般激勵函數依賴于網絡中的權重（即該網絡的參數）。

3）學習規則（Learning Rule）

學習規則指定了網絡中的權重如何隨著時間推進而調整。這一般被看做是一種長時間尺度的動力學規則。一般情況下，學習規則依賴于神經元的激勵值。它也可能依賴于監督者提供的目標值和當前權重的值。例如，用于手寫識別的一個神經網絡，有一組輸入神經元。輸入神經元會被輸入圖像的數據所激發。在激勵值被加權并通過一個函數（由網絡的設計者確定）后，這些神經元的激勵值被傳遞到其他神經元。這個過程不斷重復，直到輸出神經元被激發。最后，輸出神經元的激勵值決定了識別出來的是哪個字母。

人工神經網絡通常是通過一個基于數學統計學類型的學習方法（Learning Method）得以優化，所以人工神經網絡也是數學統計學方法的一種實際應用，通過統計學的標準數學方法我們能夠得到大量的可以用函數來表達的局部結構空間，另一方面在人工智能學的人工感知領域，我們通過數學統計學的應用可以來做人工感知方面的決定問題（也就是說通過統計學的方法，人工神經網絡能夠類似人一樣具有簡單的決定能力和簡單的判斷能力），這種方法比起正式的邏輯學推理演算更具有優勢。

擁有了這些神經網絡之后，不但可以在云端架設服務器提供人工智能服務，且可以應用到智能手機、智能安防甚至智能汽車中實現圖像識別、物體跟蹤和語音識別等任務。但這些應用由于其應用場景的不同，還有算法特性的限制，這就要求他們提供低功耗、高效的，專門設計用來運行這些神經網絡算法的芯片，我們就把他們稱之為“神經網絡加速器”。

再者，從目前看來，由于數據收集需要大量運算，因此各國的人工智算法仍然以云端發展為主。但考慮到信息安全、功耗以及對產品設計帶來的挑戰問題，以云為中心的架構方式并非在任何情況下都是最理想的解決方案，這就推動了對嵌入式人工智能的關注。那就對相關的芯片提出了更高的需求。

來源：搜狐