上期內(nèi)容我們主要描述了如何給Stoop任務(wù)建模，本期內(nèi)容將主要討論聯(lián)結(jié)主義的學(xué)習(xí)過程。錯過上期內(nèi)容的朋友請回顧一下上期內(nèi)容?斯特魯普Stroop任務(wù)的聯(lián)結(jié)主義模型?。

?

【回顧】

粗體的連接表示我們更加熟悉命名文字信息，而不是墨水顏色信息。因此我們閱讀文字會更加“自動化”，因為連接命名文字的權(quán)重量級更大。

問題來了，上圖中，我們主要是習(xí)慣于命名文字，但當(dāng)模型得到大量練習(xí)來命名墨水顏色時，會發(fā)生什么？

如上圖所示，當(dāng)模型得到大量練習(xí)來命名墨水顏色時，命名墨水顏色的心理表征的連接（粗體連接）的權(quán)重量級會更大。

?

而這就會導(dǎo)致反向斯特魯普效應(yīng)效應(yīng) Reverse Stroop Effect：

在上圖中我們可以發(fā)現(xiàn)，隨著練習(xí)的時間增長，當(dāng)?shù)玫酱罅烤毩?xí)來命名墨水顏色時，命名墨水顏色的過程會變得更加“自動化”，即我們在大量練習(xí)之后，會更加習(xí)慣于命名墨水顏色而不是命名文字（我們在這種練習(xí)前曾更擅于命名文字）。

?

聯(lián)結(jié)主義?Connectionism

聯(lián)結(jié)主義是一種基于大腦結(jié)構(gòu)（神經(jīng)網(wǎng)絡(luò)）的認(rèn)知建模方法。

連接主義模型的基本元素：單元?Units 和?連接?Connections

神經(jīng)網(wǎng)絡(luò)是最常用的聯(lián)結(jié)主義模型，大多數(shù)神經(jīng)網(wǎng)絡(luò)模型中的變化來自：

（1）單元的解釋?Interpretation of Units：單元Units可以被解釋為神經(jīng)元或神經(jīng)元組。

（2）激活的定義?Definition of Activation：激活可以通過多種方式來定義。

（3）學(xué)習(xí)算法?Learning Algorithm：不同的網(wǎng)絡(luò)會以不同的方式修改其連接。連接權(quán)重通常會隨時間而改變，用于該變化的數(shù)學(xué)定義就是“學(xué)習(xí)算法”。

?

在連接主義模型中學(xué)習(xí)

- 模型從經(jīng)驗中學(xué)習(xí)（錯誤驅(qū)動的學(xué)習(xí)）：

（1）模型產(chǎn)生回應(yīng)；

（2）計算誤差量；

（3）調(diào)整權(quán)重（與它們引起的錯誤量成正比），使得將來的模型減少錯誤。

?

舉例：綠色墨水的“紅色”文字，要求識別墨水顏色。

【這個例子與上期、本期開頭第一張圖一致。】

輸出：0.8激活值的紅色墨水的red文字 以及 0.1激活值的綠色墨水的green文字。但是實際上，我們的任務(wù)是識別墨水顏色，即0激活的紅色輸出單元以及1激活的綠色輸出單元。

因此：

- 我們現(xiàn)在的模型是0.8激活的紅色輸出單元，應(yīng)該是0激活的紅色輸出單元；

- 我們現(xiàn)在的模型是0.1激活的綠色輸出單元，應(yīng)該是1激活的綠色輸出單元。

接下來計算誤差量：

- 紅色輸出單元0.8 - 0 = 0.8

- 綠色輸出單元0.1 - 1 = -0.9

下一步：調(diào)整權(quán)重，與它們引起的錯誤量成正比，使得將來的模型減少錯誤。

調(diào)整權(quán)重：減小通往紅色輸出單元的連接權(quán)重，增加去往綠色輸出單元的連接權(quán)重。注意通往紅或綠色輸出單元的連接不全是粗體的。

減弱通往紅色輸出單元的連接的效果是這樣的：

我們可以看出凈輸入值減少了（從1.85到1.64）。而根據(jù) 凈輸入-激活 圖像：

?隨著權(quán)重值的下降，凈輸入減少了，紅色輸出單元的激活值也下降了。原本的激活值是0.8，任務(wù)的需求是0，激活值下降就是學(xué)習(xí)的過程。

?

而加強(qiáng)通往綠色輸出單元的連接的效果是這樣的：

我們可以看出凈輸入值增加了（從-1.85到-1.64，注意負(fù)二比負(fù)一?。６鶕?jù) 凈輸入-激活 圖像：

?隨著權(quán)重值的增加，凈輸入增加了，綠色輸出單元的激活值也增加了。原本的激活值是0.1，任務(wù)的需求是1，激活值增加就是學(xué)習(xí)的過程。

?

對更復(fù)雜的知識建模

聯(lián)結(jié)主義方法

1.?心理表征是模式而不是符號；

2.?通過“擴(kuò)展激活”來處理。

?

本期內(nèi)容到此結(jié)束，感謝您的閱讀！下期內(nèi)容將回歸《思考，快與慢》的閱讀。如果想繼續(xù)看文集但是不想讀書的朋友可以跳過接下來的兩期專欄~

作者：離久-張所長