神經網絡算法含義

神經網絡算法是由多個神經元組成的算法網絡。

邏輯性的思維是指根據邏輯規則進行推理的過程；它先將信息化成概念，并用符號表示，然后，根據符號運算按串行模式進行邏輯推理；這一過程可以寫成串行的指令，讓計算機執行。然而，直觀性的思維是將分布式存儲的信息綜合起來，結果是忽然間產生的想法或解決問題的辦法。這種思維方式的根本之點在于以下兩點：

1、信息是通過神經元上的興奮模式分布儲在網絡上。

2、信息處理是通過神經元之間同時相互作用的動態過程來完成的。

思維學普遍認為，人類大腦的思維分為抽象（邏輯）思維、形象（直觀）思維和靈感（頓悟）思維三種基本方式。

神經網絡的基本原理是：每個神經元把最初的輸入值乘以一定的權重，并加上其他輸入到這個神經元里的值（并結合其他信息值），最后算出一個總和，再經過神經元的偏差調整，最后用激勵函數把輸出值標準化。

神經網絡算法是用來干什么的

神經網絡算法是由多個神經元組成的算法網絡。

邏輯性的思維是指根據邏輯規則進行推理的過程；它先將信息化成概念，并用符號表示，然后，根據符號運算按串行模式進行邏輯推理；這一過程可以寫成串行的指令，讓計算機執行。然而，直觀性的思維是將分布式存儲的信息綜合起來，結果是忽然間產生的想法或解決問題的辦法。

神經網絡利用現有的數據找出輸入與輸出之間得權值關系（近似），然后利用這樣的權值關系進行仿真，例如輸入一組數據仿真出輸出結果，當然你的輸入要和訓練時采用的數據集在一個范疇之內。

1.利用神經生理與認知科學研究人類思維以及智能機理。

2.利用神經基礎理論的研究成果，用數理方法探索功能更加完善、性能更加優越的神經網絡模型，深入研究網絡算法和性能，如：穩定性、收斂性、容錯性、魯棒性等;開發新的網絡數理理論，如：神經網絡動力學、非線性神經場等。

神經網絡算法三大類

神經網絡一般可以分為以下常用的三大類：CNN（卷積神經網絡）、RNN（循環神經網絡）、Transformer（注意力機制）。

1、CNN（卷積神經網絡）

卷積神經網絡是LeCun于1989年提出，用Lenet卷積網絡來識別信封或郵件上的手寫數字。卷積神經網絡是一種專門用來處理具有類似網格結構的數據的 神經網絡。卷積網絡在諸多應用領域都表現優異。“卷積神經網絡” 一詞表明該網絡使用了 卷積（convolution）這種數學運算。

2、RNN（循環神經網絡）

循環神經網絡（recurrent neural network）或 RNN （Rumelhart et al.， 1986c）是一類用于處理序列數據的神經網絡。就像卷積網絡是專門用于處理網格化數據 X（如一個圖像）的神經網絡，循環神經網絡是專門用于處理序列 x （1）， 。 。 。 ， x（τ） 的神經網絡。

3、Tansformer（注意力機制）

卷積只能通過疊加很深的層才能獲得全局感受野，循環神經網絡不好訓練且慢。2017年《Attention is all you need》誕生了一種全新的網絡架構，self-attention。使用self-attention的BERT巨大的提升了自然語言處理的精度和速度，近些年來BERT，GPT2，GPT3，基本都是基于Transformer的架構了。另外從2020年的vit開始，Transformer也開始進入圖像處理領域大放異彩，如swin transformer。

文章綜合CSDN（aifans_bert）、好學者百科、飛槳（一心煉銀）