語言常被認(rèn)為是思維駕馭著的工具，人們“表達(dá)出”、“說出想法”，人們遵循著“思維的列車”或是“意識流”。而人類創(chuàng)造的一些巔峰——音樂，幾何，計算機(jī)編程，則被定義為隱喻語言。這其中隱含了一種假設(shè)，即大腦通過一系列單詞來處理世界以及我們對世界的體驗(yàn)。這種假定的聯(lián)系也正是ChatGPT和類似程序如此神奇的原因：AI能夠用類似人類的語言回答任何提詞，這意味著機(jī)器具有某種意圖，甚至是感知。

但隨后程序說了一些完全荒謬的東西，例如在“nineteen”中有12個字母、或是旗魚是哺乳動物——語言智能的“面紗”就此掉落。盡管ChatGPT可以生成流暢甚至優(yōu)雅的散文，輕松通過困擾了AI領(lǐng)域超過70年的圖靈測試基準(zhǔn)，但它也可能看起來非常愚蠢，甚至危險：它在數(shù)學(xué)上會出錯，無法給出最基礎(chǔ)的烹飪建議，還會表現(xiàn)出令人震驚的偏見。

在一篇新論文*中，認(rèn)知科學(xué)家和語言學(xué)家通過將語言交流和思維行為分離來解決這種不協(xié)調(diào)：具有一種能力并不代表具有另外一種。在專家們專注于生成式人工智能顛覆我們生活和工作的潛力之際，他們的爭論也應(yīng)該迫使人們?nèi)ブ匦略u估人工智能于人類智能的局限與其復(fù)雜性。

*譯者注：本文考慮了大語言模型在語言使用的兩個不同方面的表現(xiàn)來評價其能力，即"形式語言能力"——包括指定語言的規(guī)則和模式的知識，以及"功能語言能力"——現(xiàn)實(shí)世界中語言理解和使用所需的一系列認(rèn)知能力。大語言模型在形式語言的任務(wù)中表現(xiàn)令人深刻，卻在很多需要功能語言能力的測試中失敗。

研究人員解釋道，作為思想的借代/提喻，語言的效果或許并不是很好。畢竟人們是基于視覺與語言思維的連續(xù)性來識別自我的*，無法用語言表達(dá)一個想法的體驗(yàn)，或許和語言本身一樣是人類所特有的。這項研究的兩位主要作者之一、麻省理工學(xué)院的認(rèn)知神經(jīng)科學(xué)家安娜·伊萬諾娃（Anna Ivanova）也說道，當(dāng)代對人腦的研究也表明“語言與思想之間存在分割”。對使用數(shù)十種語言的人們進(jìn)行腦掃描后，研究人員發(fā)現(xiàn)了一個特殊的神經(jīng)元網(wǎng)絡(luò)*，其激活與所使用的語言無關(guān)（包括虛構(gòu)的納維語Na’vi和多斯拉克語Dothraki*）。

*譯者注

識別自我：在Visual Thinking: The Hidden Gifts of People Who Think in Pictures, Patterns, and Abstractions一書中，Temple Grandin提到了一種思維風(fēng)格的連續(xù)體，大致分為三部分，其中一端為語言思考者——更傾向于有序的、基于符號的方法，而另外一端則是，對象可視化思考者——他們通過使用具體的、類似于照片的心理圖像來得出結(jié)論，而在中間的則是空間可視化思考者，他們似乎結(jié)合了抽象和具體的方法。鏈接：https://www.newyorker.com/magazine/2023/01/16/how-should-we-think-about-our-different-styles-of-thinking

研究人員發(fā)現(xiàn)了一個特殊的神經(jīng)元網(wǎng)絡(luò)：https://www.nature.com/articles/s41593-022-01114-5

虛構(gòu)的納維語Na’vi和多斯拉克語Dothraki：分別為《阿凡達(dá)》與《冰與火之歌》中的虛構(gòu)語言。

該神經(jīng)元網(wǎng)絡(luò)一般不涉及包括數(shù)學(xué)，音樂與編程在內(nèi)的思想活動。此外，許多喪失了理解和處理語言能力的失語癥患者，仍然擁有計算或是其他非語言性心智任務(wù)的能力。結(jié)合來看，這兩項證據(jù)表明語言本身并非思想的媒介，它更像是一個信使。人類語言的特殊之處便在于，它能夠使用語法和詞匯來與涉及了其他腦區(qū)的功能相連通，例如社交與邏輯。

雖然ChatGPT和其他類似的軟件，展現(xiàn)出了將單詞串聯(lián)在一起的令人難以置信的能力，但它們在其他任務(wù)上卻很吃力。如果你想要一封向孩子解釋“圣誕老人是虛假的”的信，它會生成一個由圣誕老人本人簽名的感人回復(fù)。這些大語言模型，或被稱為LLMs*，基于前文的一切預(yù)測一句話中的下一個單詞（例如在“相較于”后接上“主流看法”）。但如果讓ChatGPT做一些基本計算和拼寫，或是為煎蛋給出建議，你可能會得到語法完美的廢話：“如果你在煎蛋時用力過大，蛋殼就會碎裂?！?/p>

*譯者注：LLMs，Large language models

這些缺陷表明了一種與人腦中所存在的相同的區(qū)別，即拼湊單詞與拼湊想法的區(qū)別——論文的作者分別稱之為形式語言能力與功能語言能力。該論文的另外一名作者，德克薩斯大學(xué)奧斯汀分校（the University of Texas at Austin）的語言學(xué)家凱爾·馬霍瓦爾德（Kyle Mahowald） 表示“語言模型確實(shí)很擅長生成流利且合乎語法的語句，但這并不一定意味著一個東西能夠生成符合語法的語言，它就能夠進(jìn)行數(shù)學(xué)計算、邏輯推理、思考或者確認(rèn)社會語境?！?/p>

如果人類大腦的語言網(wǎng)絡(luò)不負(fù)責(zé)數(shù)學(xué)，音樂或編程這些思考任務(wù)，那么一個在TB級文本上訓(xùn)練的人工“神經(jīng)網(wǎng)絡(luò)”也就沒理由擅長這些。作者寫道，“與認(rèn)知神經(jīng)科學(xué)的證據(jù)一致，LLMs的行為突出了擅長語言和擅長思考之間的差異?！盋hatGPT在一些商學(xué)院和法學(xué)院的考試中取得中等分?jǐn)?shù)的能力，與其說是理解能力的象征，不如說只是泡影。

盡管如此，關(guān)于下一代語言模型的炒作仍然四起：下一代將會在更多的單詞之上進(jìn)行訓(xùn)練，并且擁有更強(qiáng)大的計算能力。ChatGPT的創(chuàng)始者OpenAI聲稱，他們的程序正在靠近所謂的通用智能，這將會使機(jī)器與人類處于同等智慧水平。如果該比較成立，那么僅僅是讓模型更擅長于單詞預(yù)測并不能讓他們接近這個目標(biāo)。換句話說，你可以駁斥ChatGPT這樣的AI程序具有靈魂或是像外星人入侵這類觀念。

伊萬諾娃和馬霍瓦爾德認(rèn)為需要不同的訓(xùn)練方式來促進(jìn)AI的更進(jìn)一步發(fā)展——例如針對邏輯或是社會推理的方法，而非單詞預(yù)測。ChatGPT可能已經(jīng)在該方向上跨出了一步，它不僅是閱讀大量文本，還包含了人類反饋，監(jiān)督者（用戶）可以評論是什么構(gòu)成了好或壞的回答。但由于缺乏ChatGPT的訓(xùn)練細(xì)節(jié)，尚不明確人類輸入的目標(biāo)是什么，程序顯然認(rèn)為1000同時大于和小于1062。（OpenAI在2023.2.2發(fā)布了對ChatGPT的更新，據(jù)說提高了它的“數(shù)學(xué)能力”，但據(jù)報告，它仍在努力解決基本的文字問題。）

而應(yīng)該注意的是，有人認(rèn)為大語言模型在語言方面并不如伊萬諾娃和馬霍瓦爾德寫的那樣優(yōu)秀，它們不過是被美化了的自動填充器，其缺陷和能力一樣大。認(rèn)知科學(xué)家和著名的人工智能研究人員蓋瑞·馬爾庫斯表示“語言不僅僅是句法，它還和語義相關(guān)。這不僅僅是因?yàn)槿斯ぶ悄芰奶鞕C(jī)器人不懂?dāng)?shù)學(xué)或如何煮雞蛋，它們也難以理解一個句子是如何從其各部分的結(jié)構(gòu)中衍生出含義的?！?/p>

例如，想象三個排成一排的塑料球：綠色球、藍(lán)色球、藍(lán)色球，有人讓你抓“第二個藍(lán)色球”，你能夠理解他們指的是序列中的最后一個球，但一個聊天機(jī)器人可能會將指令理解為指的是第二個球，而它恰好也是藍(lán)色的。馬爾庫斯說“大語言模型擅長語言的說法是被夸大的?！钡菍σ寥f諾娃而言，像藍(lán)球這樣的例子需要的并不只是編譯單詞，還需要設(shè)想一個場景，因此“這并非關(guān)于語言本身，而是語言使用。”

無論它們的語言使用多么令人嘆服，像ChatGPT這類程序僅通過書籍和維基百科輸入數(shù)據(jù)，關(guān)于它們實(shí)際上 “理解”了多少這個世界，仍然存在著一場有益的辯論*。伊利諾伊大學(xué)厄巴納-香檳分校的計算語言學(xué)家羅克珊娜·吉魯（Roxana Girju）認(rèn)為“意義不是給出的。意義是在我們的互動和討論中商定的，不止是和其他人，還有和這個世界的互動。這是我們在參與語言活動的過程中所達(dá)到的目標(biāo)?！比绻@是正確的，那么構(gòu)建一個真正智能的機(jī)器將需要一種不同的結(jié)合語言和思想的方式，不只是分層不同的算法，還需要設(shè)計一個程序，例如同時學(xué)習(xí)語言和如何處理社會關(guān)系。

*譯者注：https://arxiv.org/abs/2208.02957

伊萬諾娃和馬霍瓦爾德并沒有徹底否認(rèn)語言是人類智慧縮影的觀點(diǎn)，他們將其復(fù)雜化了。人類之所以“擅長”語言，是因?yàn)槲覀儗⑺枷肱c表達(dá)結(jié)合在了一起。一個能夠熟練掌握語言的規(guī)則并運(yùn)用的計算機(jī)，必然是智能的；然而另一方面，正是狹隘地模仿人類語言限制了其發(fā)展。但在我們用我們的有機(jī)體大腦更好的理解硅基大腦前，我們需要新的觀點(diǎn)和新的單詞來理解語言本身的意義。

后記

阿朔：看到這篇文章后，我的第一反應(yīng)是《我是誰，或什么》中收錄的一篇文章——《馬克3型獸的靈魂》，文章描述了機(jī)械動物，主人公啟動了它之后，它便開始在地板上搜尋，在插座面前停下，伸出一對插頭試著插進(jìn)了電源，并發(fā)出了和貓一樣的呼嚕聲——就像在進(jìn)食。主人公的朋友在用錘子打傷它之后，它流出了紅色的液體，并發(fā)出了輕柔的哭聲，給了那位朋友很大的沖擊。

這只機(jī)械動物沒有任何的語言能力，也沒有很高的“智力”，但卻讓人難以對它下殺手。所以對我來說，認(rèn)同一個個體，是取決于它的語言能力嗎？亦或是身體內(nèi)的蛋白質(zhì)？或許重要的是它能否向我傳達(dá)“意義”，我能否將自我投射于它，馬克3型獸雖然簡單，卻明確的傳達(dá)了生存的欲望，仿佛是它意識到了自身的處境。

在ChatGPT剛面世時，我便開始思考：“這是我想要的強(qiáng)人工智能嗎？”我想，至少暫時，答案是否定的。

Qiumsky：在ChatGPT能說出“語法完美的句子”背后，（至少）有兩點(diǎn)需要大家明確：第一，句子的內(nèi)在結(jié)構(gòu)應(yīng)該呈現(xiàn)出樹狀的層級，而不是表面所顯現(xiàn)出的線性結(jié)構(gòu)；第二，單詞之間的組合并不依靠概率，而是存在一些其他的決定性因素。在更深入探討ChatGPT如何反映“言說與思考之差”之前，如何讓ChatGPT真正地理解語言，同樣值得我們?nèi)ニ伎肌?/p>

作者：MATTEO WONG?|?譯者：阿朔?|?審校：Qiumsky

排版：騏跡?|?封面：Carmela Montanero

原文：

https://www.theatlantic.com/technology/archive/2023/01/chatgpt-ai-language-human-computer-grammar-logic/672902/