序言：

????首先，這篇文章啟發(fā)于一場非常片面非常局限的討論啟發(fā)，因此我想借此機(jī)會回顧性地整理我當(dāng)前所能掌握到的知識，一開始我將著重于重建議題和整理思路，然后我將著重于整理一些相關(guān)的謬誤。

????但這并非一篇非常嚴(yán)肅的文章，其中也可能有非常多的錯漏之處，也可能所仰賴的資料來源在近期有了更新的研究成果。

????首先我們回顧關(guān)于AI的一些話題，例如，我們過去聽說大語言模型（LLM）可以模仿人類的情感，甚至它自己迭代次數(shù)過多就會陷入某種‘虛無主義’，或者說，LLM可能可以擬合出語言中人類的情感規(guī)律，并加以識別和使用，以造成LLM可能擁有人類情感的假象。

????在過去的幾天，著名AI主播neuro-sama的創(chuàng)造者談?wù)摿岁P(guān)于AI自主意識的問題，我在一個娛樂性的網(wǎng)站及其評論區(qū)的其中被指責(zé)使用了所謂‘感性’和‘模糊’的詞匯來描述有關(guān)：“符號與語言”，“認(rèn)知科學(xué)”，“生物神經(jīng)科學(xué)”的內(nèi)容，并指責(zé)我不懂“信息論”，我恰好能夠空出一段時間來比較系統(tǒng)的論述有關(guān)內(nèi)容，并修正因?yàn)榕R時評論中的用語不統(tǒng)一和歧義的問題。

正文：

????首先第一個議題是：交流。

????我們的交流是如何完成的？我們的交流是像兩臺電腦和一根網(wǎng)線一樣，我發(fā)送一條報文給他，他回報一個報文給我這么簡單嗎？并不是，交流的成立必須借助于回溯性的建構(gòu)，符號系統(tǒng)，以及對他人的映射，我將一一講解。

????先來看一道題：因?yàn)橄掠?，所?) A,下雨 B,收衣服 C,打傘 D,地下室滲水

????這個問題中僅有的信息是‘下雨’，以及所填具有因果關(guān)系，那么我們來考察‘下雨’，這個詞并不是簡單符號，而是與‘我’所實(shí)踐所得的經(jīng)驗(yàn)相關(guān)聯(lián)，正是因?yàn)槲医?jīng)歷過下雨，才能抽象出‘下雨’，繼而將自身所經(jīng)歷的這一系列場景抽象總結(jié)為‘下雨’，到此這些場景的綜合對于每個人而言才是真正的‘下雨’，在別人問：“天氣預(yù)報如何？”時，我們才能回答：“下雨”。而當(dāng)我們回答：“下雨”時，則是通過回憶那些非陳述性記憶中的下雨場景來進(jìn)行回溯性建構(gòu)‘下雨’的概念，我們必須先有一個關(guān)于下雨的非陳述性記憶，然后再將‘下雨’和下雨關(guān)聯(lián)起來形成陳述性記憶，于是能夠以符號的形式來表述它。

????這就是我所謂：‘語言的高墻’，我們的社會復(fù)雜度決定了下雨場景的豐富程度，遠(yuǎn)不是個人在表達(dá)‘下雨’這一概念時腦中所想場景所能窮盡的，同時這也意味著每個人所重新建構(gòu)的下雨場景也是不同的，這一概念本身被不同的人附加了不同的場景。對于訴說的人來說，‘下雨’的場景和概念是同時在場的，有些時候下雨這一場景才是訴說者嘗試去表達(dá)的，但對于聆聽者而言，所能接收到的只有‘下雨’二字，于是訴說者想要表達(dá)的那個場景被消解了，聆聽者不得不重新為‘下雨’附加場景，而復(fù)雜度決定了即便僅僅是另一個人也很難讓兩方為下雨附加的場景是完全統(tǒng)一的，只有里面相同的部分才是具有現(xiàn)實(shí)性可以被語言所傳達(dá)，不相同的部分則是無法交流的。

????我們可以觀察到，古人其實(shí)很早就觀察到這一情況的存在，所以我們在詩歌中，并不會去詳盡的描述如何的下雨，而是簡單的采用單個詞或者四字詞語簡單的描述，剩下的讓讀者自己去猜去感悟，并謂之“意境”。而我們現(xiàn)代語文在做題的時候經(jīng)常遇到問你作者在想什么的題目，比如著名的某年高考題：“魚的眼中閃著詭異的光”，雖然數(shù)千萬考生給出了自己的答案，但作者表示自己確實(shí)什么都沒想，只是隨便寫了一句以做結(jié)尾，這就是語言無法逾越的高墻。

????回到題目，因?yàn)橄掠?，所以下雨，這是因?yàn)轭}目中“下雨”是作為一個整體在場的，所以凡是不能同時出現(xiàn)在社會實(shí)踐的下雨場景中的存在都不可取，因?yàn)槟切﹫鼍坝袝r在場有時不在場，所以社會在構(gòu)成“下雨”這一整體的時候，其內(nèi)部交流的過程中有時在場有時不在場的存在被揚(yáng)棄了，于是在這道題目中，所有下雨時不是必然在場的存在都是應(yīng)該被否定的，衣服在烘干機(jī)里的人不必收衣服，屋子內(nèi)的人不必打傘，地下室不一定滲水，只有下雨是所有下雨的場景中必然存在的，答案是A，因?yàn)橄掠晁韵掠辍?/p>

????這種就是先驗(yàn)分析判斷或者說形式邏輯判斷，和說會飛的馬會飛，無所不能的上帝是無所不能的一樣，無論何時在邏輯上都是絕對正確的。

????在圖中“想象的他人”是大腦對于無法直接腦對腦交流的一種妥協(xié)，即無意識神經(jīng)直接預(yù)設(shè)的一個想象的他人，用于接收來自真實(shí)的他人的信息，同時是記憶處理，高級語言功能等復(fù)雜場景的集合，我們的“自我意識”所體驗(yàn)到的來自他人的“交流”來自于此。

第二個議題是：共情

????我們先考察比較老的理論，也就是鏡像神經(jīng)元。

????為什么說鏡像神經(jīng)元與“自我意識”和“主觀認(rèn)知”無關(guān)呢？這個結(jié)論就來自對高功能自閉癥患者的研究，部分高功能自閉癥患者的“自我意識”以及“主觀認(rèn)知”都是健全的，在數(shù)學(xué)，繪畫等需要“主觀認(rèn)知”參與的任務(wù)甚至比一般人完成得更好，但他們卻無法共情，也就是無法體會他人的情緒，因此自閉癥也被認(rèn)為是無意識神經(jīng)功能區(qū)失調(diào)的癥狀。

????關(guān)于鏡像神經(jīng)元就說這么多，因?yàn)閷λ难芯繉?shí)在是多如牛毛。

Williams, JH, Whiten, A, Suddendorf, T. Imitation, mirror neurons and autism[J].Neurosci Biobehav Rev,2001,25(4):287-295.

Nouchine H,Robert MJ,Josh S. Anatomical differences in the mirror neuron system and social cognition network in autism[J].Cerebral Cortex September,2006,16(9):1276-1282.

Rizzolatti G,Fogassi L,Gallese v (2011).Neurophysiological mechanisms underlying the understanding and imitation of action，in Nat.Rev.Neurosci.2:661-670

。。。。。。

????我們簡單的說結(jié)論，鏡像神經(jīng)元在“語言的高墻”中扮演的角色是，如同我們在傳遞符號的時候一樣，我們無法傳遞陳述性記憶，也無法傳遞我們的情緒，例如，當(dāng)某個健康人聞到非常難聞氣味的時候，他的反應(yīng)一定會表現(xiàn)在臉上，但他傳遞的只能是這個表情，而不能傳遞真實(shí)的情緒和感受，在他的對面，另一人能接收到的信息只能是這個表情，他的感受和情緒是無法傳遞的，另一人只能依靠他的鏡像神經(jīng)元的激活來“感同身受”。

????現(xiàn)在更進(jìn)一步發(fā)展的理論是：預(yù)測性編碼理論

????我畫的圖，受這個理論的簡化版本影響比較大，但不妨礙讀者并不能完全的理解我打的字，“所有的體驗(yàn)都是受控的幻覺，你體驗(yàn)到的，從某種程度上說，是你期望體驗(yàn)的世界?！薄驳稀た死?|愛丁堡大學(xué)(ed.ac.uk)https://www.ed.ac.uk/profile/andy-clark

????從我們接收到他人的惡心表情，到我們得到主觀體驗(yàn)，有80ms左右的延遲，大腦時刻預(yù)測下一刻會發(fā)生什么。它生成了一個描述世界的模型，在此基礎(chǔ)上做出決定，然后根據(jù)感覺反饋更新模型。用概率論的話說，大腦是一個貝葉斯推斷機(jī)，將先驗(yàn)預(yù)期與當(dāng)前情景結(jié)合，來估計未來事件的概率。

????也就是說，比起鏡像神經(jīng)元，在更進(jìn)一步發(fā)展的理論中，人第一時間的體驗(yàn)甚至并不來自他人的信息，而是無意識神經(jīng)元對他人的預(yù)測，這個預(yù)測和更新不需要——通常也沒有——意識的參與，大腦在多個潛意識層次建立模型。當(dāng)大腦感知到偏差時，它要么更新模型，要么將偏差視為偶然的偏離。

????在這個場景中最重要的就是根據(jù)所得信息對預(yù)測進(jìn)行不斷地修正，但問題還是在于“高墻”的存在，我們能夠接收的信息依然只有一張猙獰的表情，而我們的體驗(yàn)則必須基于此不斷修正。因此我們必須反思這樣一個問題：我們雙方究竟在和誰交流，我們是否只是在和想象的對方一廂情愿地溝通，對方的存在僅僅相當(dāng)于一種物質(zhì)性的在場，能夠確保我們從對方身上收到有意義的回復(fù)？

第三個議題是：如何判斷AI有情感/自主意識？

????在這里我借用著名的“哲學(xué)僵尸”理論，并將其在概念上進(jìn)行一定范圍的擴(kuò)大......好吧，這在一定程度上偏向了唯我論和人類中心主義，但我只是想借此對AI的“自主意識”“情感”發(fā)表一定的見解。

????從以上交流和共情的論述中，我都在其中表明了一個“想象的他者”，這是來自無意識神經(jīng)提供給“自我意識”的體驗(yàn)，也就是，我們首先感受到的，并不是物質(zhì)上的他人帶來的體驗(yàn)，而是我們每個人無意識提供的體驗(yàn)，并且由于客觀規(guī)律的限制，我們的體驗(yàn)被局限在我們的經(jīng)驗(yàn)之中，于是我們在面對他人時，我們確實(shí)無法確認(rèn)他人“真正的”感受，在社會生活中，我們往往是“假設(shè)”對方和“我”一樣，擁有真實(shí)的感受和“自我意識”（當(dāng)然，大部分人都是默認(rèn)這樣的，只有少部分人無聊到研究這個），這種假設(shè)形成了一種類似于上文中“下雨”的社會意識，我們將必定（高概率）發(fā)生的事情定義為：“有自我意識”“有情感”。于是我們在無法真實(shí)證明“自我意識”存在的情況下，默認(rèn)了“自我意識”的存在。這對AI來說也是同樣的，當(dāng)前AI之所以被和人類智能區(qū)分開來，是因?yàn)锳I和我們的社會意識依然構(gòu)成了相當(dāng)大的偏差，我們的大腦用預(yù)測人類的方法來預(yù)測AI是不可行的，我們從中感到了違和感，于是AI并不擁有“自我意識”和“情感”，反過來說，如果我們預(yù)測AI行為時，放到人類身上，并不會感到違和感，那么我們就可以說AI擁有了“自我意識”和“情感”。

????但是對于AI的感知來說，AI必定是能夠一定程度上感知外部世界的（例如權(quán)重，輸入輸出，語義識別等），不然AI也不能運(yùn)行啊，只是感知以及處理的方式和人類大相徑庭，至于AI的“類似于人的感知”，我是一無所知，還請推薦相關(guān)的研究。

這是我自己的看法，還是推薦看看《On intelligence》和《人工智能的未來》作者杰夫?霍金斯，2005的書，到今天觀點(diǎn)也不算老。

接下來我要展示以及整理一些謬誤

原始視頻和原始評論在：

【【Neuro 2.0】開發(fā)者直播回答AI/自我意識/感知....嚴(yán)肅向??】 https://www.bilibili.com/video/BV1Ts4y167Xt/?share_source=copy_web&;vd_source=6d54aa0c24917450605ec870f1cf6797

1，

我真的不知道你是怎么得出這個典型謬誤的，第一句就不說了，這個結(jié)論一直都反推不出來，后面的內(nèi)容，人什么時候變成石塊了，我不好說，好吧認(rèn)真點(diǎn)。

一人與另一人交流->該人預(yù)測另一人的行動->該人的“自我意識”從預(yù)測中獲得體驗(yàn)->真實(shí)存在的他人提供在場證明和有意義的回復(fù)，使得整個交流能夠進(jìn)行下去

我去踢石頭->我預(yù)測石頭的行動（行動？你把石頭當(dāng)成啥了）->我和想象中的石頭交互->我和真實(shí)的石頭沒有交互（這下客觀唯心了）->我是講不通的

2，

望文生義，但問題在，正是因?yàn)樗墓δ芫褪沁@樣的，所以給它取了個“Mirror Neuron”的名字，至于后面的“大膽假設(shè)”我推薦您閱讀這篇文章來深入理解：

Ramachandran V S. 2000. Mirror neurons and imitation learning as the driving force behind “the great leap forward in human evolution. Retrieved January 15”

以及：https://book.douban.com/subject/26925069/

3，

????關(guān)于“主觀認(rèn)知”是否參與的問題，我已經(jīng)回答過就不重復(fù)了，在文末的參考文獻(xiàn)中你也可以找到。

????然后第一次祭出了“信息論”！現(xiàn)在我們來深入的討論一下關(guān)于這個的問題：首先就是計算機(jī)當(dāng)中常有的格式(format)問題，A機(jī)器傳給B機(jī)器的信息必須是可理解的，這就是對齊(alignment)，A與B必須使用同樣的方式編碼字母，不然就會變成“錕斤拷”和“燙燙燙”，傳輸協(xié)議也必須匹配，正是因?yàn)橛羞@些格式(編碼和協(xié)議)，機(jī)器才能夠彼此通信，這些編碼和協(xié)議，是計算和設(shè)計出來的，而且要求人們普遍接受！

????但是有什么理由認(rèn)為，兩個人的想法，大腦，感受，也是以這樣的方式保持對齊的呢？我們的大腦之間并沒有直接連接，所以我們真實(shí)的感受是無法傳遞的，必須使用自然語言進(jìn)行交流，自然語言正是一種通用的協(xié)議，但正是因?yàn)榫幗獯a的設(shè)備是無法對齊的(具體論證請往上翻到議題一)，概念的對齊很容易喪失，因此我的主張是嚴(yán)重的失真，而非無法實(shí)現(xiàn)。

4，

第一段，純粹人身攻擊

第二段，多看參考文獻(xiàn)

第三段，我認(rèn)為這就是純粹在強(qiáng)行圓自己的措辭，這下輪到我人身攻擊你了

第四段，又來了

5，

????這就是沒對齊的結(jié)果，我只講無意識和意識，這又是講啥？

參考文獻(xiàn)：

【1】https://aeon.co/essays/how-might-telepathy-actually-work-outside-the-realm-of-sci-fi

【2】https://www.tandfonline.com/doi/abs/10.1080/09515080600689872

【3】https://www.frontiersin.org/articles/10.3389/fpsyg.2016.02039/full

【4】https://www.quantamagazine.org/to-make-sense-of-the-present-brains-may-predict-the-future-20180710/

【5】https://spectrumnews.org/features/deep-dive/autism-may-stem-problems-prediction/

可能有忘了的，看的挺雜。