神經(jīng)網(wǎng)絡(luò)算法是根據(jù)邏輯規(guī)則進(jìn)行推理的過程。邏輯性的思維是指根據(jù)邏輯規(guī)則進(jìn)行推理的過程;它先將信息化成概念，并用符號表示，然后，根據(jù)符號運算按串行模式進(jìn)行邏輯推理;這一過程可以寫成串行的指令，讓計算機(jī)執(zhí)行。然而，直觀性的思維是將分布式存儲的信息綜合起來，結(jié)果是忽然間產(chǎn)生的想法或解決問題的辦法。

這種思維方式的根本之點在于以下兩點: 1.信息是通過神經(jīng)元上的興奮模式分布存儲在網(wǎng)絡(luò)上; 2.信息處理是通過神經(jīng)元之間同時相互作用的動態(tài)過程來完成的。

思維學(xué)普遍認(rèn)為，人類大腦的思維分為抽象(邏輯)思維、形象(直觀)思維和靈感(頓悟)思維三種基本方式。

人工神經(jīng)網(wǎng)絡(luò)就是模擬人思維的第二種方式。這是（指人工神經(jīng)網(wǎng)絡(luò)）一個非線性動力學(xué)系統(tǒng)。其特色在于信息的分布式存儲和并行協(xié)同處理。雖然單個神經(jīng)元的結(jié)構(gòu)極其簡單，功能有限， 但大量神經(jīng)元構(gòu)成的網(wǎng)絡(luò)系統(tǒng)所能實現(xiàn)的行為卻是極其豐富多彩的。

神經(jīng)網(wǎng)絡(luò)算法的三大類分別是:1.前饋神經(jīng)網(wǎng)絡(luò):這是實際應(yīng)用中最常見的神經(jīng)網(wǎng)絡(luò)類型。第一層是輸入層最后網(wǎng)層是輸出。如果有多谷隱藏層，我們稱之為“深度”神經(jīng)網(wǎng)絡(luò)。他們計算出一系列改變樣本相似性的變換。各層神經(jīng)元的活動是前層活動的非線性函數(shù)。

2、循環(huán)網(wǎng)絡(luò):循環(huán)網(wǎng)絡(luò)在他們的連接圖中定向了循環(huán);,這意味著你可以按照箭頭回到你開始的地方。他們可以有復(fù)雜的動態(tài)，使其很難訓(xùn)練。他們更具有生物真實性.循環(huán)網(wǎng)絡(luò)的目的是用來處理序列數(shù)據(jù)。

在傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)模型中,是從輸入層到隱含層再到輸出層，層與層之間是全連接的，每層之間的節(jié)點是無連接的。但是這種普通的神經(jīng)網(wǎng)絡(luò)對于很多問題卻無能和無力

具體的表現(xiàn)形式為網(wǎng)絡(luò)會對前面的信息進(jìn)行記憶并應(yīng)用于當(dāng)前輸出的計算中，即隱藏層之間的節(jié)點不再無連接而是有連接的，并且隱藏層的輸入不僅包括輸入層的輸出還包括上時刻隱藏層的輸出。

3.對稱連接網(wǎng)絡(luò):對稱連接網(wǎng)絡(luò)有點像循環(huán)網(wǎng)絡(luò),但是單元之間的連接是對稱的(它們在兩個方向上權(quán)重相同)。比起循環(huán)網(wǎng)絡(luò)，對稱連接網(wǎng)絡(luò)更容易分析。這個網(wǎng)絡(luò)中有更多的限制，因為它們遵守能量函數(shù)定律。沒有隱藏單元的對稱連接網(wǎng)絡(luò)被稱為“Hopfield網(wǎng)絡(luò)” 。有隱藏單元的對稱連接的網(wǎng)絡(luò)被稱為玻爾茲曼機(jī)。