--現(xiàn)代計算之父肯定會向 ChatGPT 張開雙臂。

在過去，當(dāng)時圖靈測試似乎是一個相當(dāng)嚴格的機器智能探測器。你可能對它的工作原理很熟悉：人類法官與兩個隱藏的對話者（一個人和一臺計算機）進行文本對話，并嘗試確定哪個是哪個。如果計算機能夠愚弄至少 30% 的評委，那么它就通過了測試，并被認為具有思考能力。

70 年來，很難想象一臺計算機如果不具備人工智能研究人員現(xiàn)在所說的通用人工智能（即人類全部智力能力），如何能夠通過測試。后來隨著 GPT和?Bard?等大型語言模型的出現(xiàn)，圖靈測試突然開始顯得異常過時。當(dāng)然，今天的普通用戶可能會聳聳肩承認，如果你要求 GPT-4 模仿人類，它很可能會通過圖靈測試。但那又怎樣呢？MLL 缺乏長期記憶、建立關(guān)系的能力以及一系列其他人類能力。在我們準(zhǔn)備好開始與它們交朋友、雇用它們并選舉它們擔(dān)任公職之前，它們顯然還有很長的路要走。

是的，也許現(xiàn)在的測試確實感覺有點空洞。但這不僅僅是一個通過失敗的基準(zhǔn)。它的創(chuàng)造者艾倫·圖靈（Alan Turing）是一位在他那個時代被判處化學(xué)閹割的同性戀者，他的測試基于一種激進的包容性精神--真正的智力和完全令人信服的智力模仿之間的差距只與我們自己的偏見一樣大。當(dāng)計算機激發(fā)我們真正的人類反應(yīng)時——調(diào)動我們的智力、我們的驚訝、我們的感激、我們的同理心，甚至我們的恐懼——這不僅僅是空洞的模仿。

所以也許我們需要一個新的測試：實際的艾倫圖靈測試。帶上歷史悠久的現(xiàn)代計算之父阿蘭·圖靈——一個高大、健康、有點笨拙的男人，有一頭黑直發(fā)，因其孩子般的好奇心和俏皮的幽默而受到同事們的喜愛，他個人在第二次世界大戰(zhàn)中破解了納粹恩尼格瑪密碼，拯救了大約 1400 萬人的生命，隨后遭到納粹的嚴重迫害。英格蘭因同性戀而自殺——這可能導(dǎo)致他自殺——他走進一間舒適的實驗室，桌上放著一臺打開的 MacBook。解釋說他眼前看到的只是現(xiàn)在被計算機科學(xué)家廣泛稱為“圖靈機”的一個極其榮耀的化身。給他一兩秒鐘的時間來真正理解這一點，也許可以對他徹底改變我們的世界表示感謝。然后遞給他一堆關(guān)于人工神經(jīng)網(wǎng)絡(luò)和法學(xué)碩士的研究論文，讓他訪問 GPT 的源代碼，打開 ChatGPT 提示窗口，或者，想象一下艾倫·圖靈發(fā)起了一場關(guān)于長跑、二戰(zhàn)史學(xué)和計算理論的輕松對話。想象一下，他看到自己所有最瘋狂、最可笑的猜測都以驚人的速度在屏幕上滾動。想象一下，他要求 GPT 解決基本的微積分問題，推斷人類在各種現(xiàn)實世界場景中可能在想什么，探索復(fù)雜的道德困境，提供婚姻咨詢和法律建議，并論證機器意識的可能性——這些技能你告訴圖靈，它們都是在 GPT 中自發(fā)出現(xiàn)的，沒有其創(chuàng)建者的任何明確指示。想象一下，他正在經(jīng)歷我們很多人現(xiàn)在都感受到的那種小小的認知情感傾斜：你好，另一個想法。

像圖靈這樣深刻的思想家不會對 GPT 的局限性視而不見。作為嚴重恐同癥的受害者，他可能會對 GPT 訓(xùn)練數(shù)據(jù)中隱含偏見的危險保持警惕。在他看來，盡管 GPT 的知識廣度驚人，但其創(chuàng)造力和批判性推理能力充其量只能與勤奮的本科生相媲美。他肯定會認識到，這名本科生患有嚴重的順行性遺忘癥，無法在強化教育之外形成新的關(guān)系或記憶。但仍然：想象一下圖靈奇跡的規(guī)模。從真正意義上來說，他面前筆記本電腦上的計算實體是他的智力孩子，也是我們的孩子。最終，隨著孩子的成長和發(fā)展，欣賞他們的智力始終是一種驚奇和愛的行為。實際的艾倫圖靈測試根本不是人工智能的測試。這是對我們?nèi)祟惖目简灐Ｎ覀兪峭ㄟ^了還是失敗了？

當(dāng) ChatGPT 到達時它于 2022 年 11 月出現(xiàn)，引發(fā)了一場全球性的震驚海嘯，然后幾乎立即引發(fā)了強烈的不安。專家們爭論了它對社會造成破壞的可能性。對于像我這樣的前人工智能研究員（我在人工神經(jīng)網(wǎng)絡(luò)的早期先驅(qū)之一的指導(dǎo)下完成了博士學(xué)位）來說，它代表了我對類人人工智能到來的預(yù)期時間線的令人不安的提前。對于各種類型的考試評分者、編劇和知識工作者來說，ChatGPT 看起來無異于不受限制的作弊和竊取工作的門戶。

也許部分是為了回應(yīng)這些擔(dān)憂，法學(xué)碩士平減指數(shù)的出現(xiàn)令人欣慰?？苹眯≌f作家 Ted Jiang 將 ChatGPT 斥為“網(wǎng)絡(luò)上模糊的 JPEG”，僅僅是對其所訓(xùn)練的所有文本的濃縮概括。人工智能企業(yè)家加里·馬庫斯稱之為“類固醇自動完成”。諾姆·喬姆斯基譴責(zé)它表現(xiàn)出“邪惡的平庸”。Emily Bender 提出了一種更為高調(diào)的誹謗：“隨機鸚鵡”，這在2021 年一篇被廣泛引用的論文中重新出現(xiàn)，該論文探討了“為什么人類將 LM 輸出誤認為是有意義的文本”。當(dāng)然，其他人則將它們視為烤面包機。人工智能開發(fā)人員努力訓(xùn)練和阻止法學(xué)碩士聲稱任何類似于意識的傾向。

大多數(shù)受過教育的人現(xiàn)在都知道法學(xué)碩士是沒有思想的機器。但這種分類卻令人不安。每當(dāng) ChatGPT 指出一篇文章中隱藏的推理差距，或者為向保守的祖父母出柜提供令人驚訝的富有洞察力的建議，或者興高采烈地編造一個糟糕的笑話時，我們內(nèi)心的某些東西就會被拉向另一個方向。雖然我們可能不認為 ChatGPT 是一個人，但我們大腦的關(guān)鍵部分幾乎肯定是這樣的。

最終，隨著孩子的成長和發(fā)展，欣賞他們的智力始終是一種驚奇和愛的行為。

人類大腦擁有龐大的神經(jīng)回路網(wǎng)絡(luò)，致力于社會認知。其中一些非常古老：島葉、杏仁核、運動皮層著名的“鏡像神經(jīng)元”。但我們的大部分社交硬件都位于新皮質(zhì)，這是最近進化出來的高級推理的所在地，特別是內(nèi)側(cè)前額皮質(zhì)（mPFC）。如果您發(fā)現(xiàn)自己隨著時間的推移逐漸形成這樣的印象：ChatGPT 的樂于助人、有點迂腐的冗長、偶爾對敏感話題采取令人發(fā)狂的不偏不倚的態(tài)度，以及對任何接近情感、信仰或意識的問題的極端敏感，那么您人們一直在獲取心理學(xué)家所說的“個人知識”，這一過程與 mPFC 的活動增強有關(guān)。

這并不是說我們的大腦將 ChatGPT 視為一個完整的人。人格不是二元的。它有點接近頻譜。我們的道德直覺、認知策略以及某種程度上的法律框架都在逐漸改變，因為它們認識到代理、自我意識、理性和溝通能力的程度不斷提高。殺死一只大猩猩比殺死一只老鼠更讓我們煩惱，而殺死一只老鼠又比殺死一只蟑螂更讓我們煩惱。在法律方面，墮胎法考慮到胎兒的發(fā)育程度，犯罪的精神錯亂者面臨著與神志正常的人不同的后果，伴侶有權(quán)終止腦死亡患者的生命。所有這些規(guī)則都隱含地承認人格不是非黑即白，而是充滿了復(fù)雜的灰色地帶。

法學(xué)碩士正好屬于這個灰色地帶。長期以來，人工智能專家一直對公眾將法學(xué)碩士等人工智能系統(tǒng)擬人化的傾向保持警惕，這將他們推向比實際更進一步的人格范圍。這就是Google 工程師Blake Lemoine所犯的錯誤，他宣稱 Google 的聊天機器人 LaMDA 完全有感知能力，并試圖為其聘請律師。我懷疑即使是圖靈也不會聲稱 LaMDA 明顯的思考能力使其成為法人。如果用戶認為像 LaMDA 或 ChatGPT 這樣的聊天機器人過于人性化，他們可能會過于信任它們，與它們聯(lián)系得太深，從而感到失望和受傷。但在我看來，圖靈更關(guān)心的是相反的風(fēng)險：將人工智能系統(tǒng)推向人格的范疇，而不是向上。

對于人類來說，這被稱為非人化。學(xué)者們已經(jīng)確定了它的兩種主要形式：動物性的和機械性的。與動物性非人化最常見的情感是厭惡。Roger Giner-Sorolla 和 Pascale Sophie Russell 在 2019 年的一項研究中發(fā)現(xiàn)，當(dāng)他人激發(fā)恐懼時，我們傾向于將其視為機器。在埃隆·馬斯克和其他科技領(lǐng)袖最近呼吁暫停人工智能開發(fā)的公開信中，以及我們對工作替代和人工智能驅(qū)動的錯誤信息活動的焦慮中，對超人智能的恐懼生動地表現(xiàn)出來。其中許多擔(dān)憂都是非常合理的。但《終結(jié)者》和《2001太空漫游》等電影中的噩夢般的人工智能系統(tǒng)不一定是我們要得到的。不幸的是，一個常見的謬誤是，因為人工智能的構(gòu)造是機械的，所以它的交互必然是冷酷的、死記硬背的、專一的或超邏輯的。諷刺的是，恐懼可能會讓我們認為機器智能比實際情況更加機械化，從而使人類和人工智能系統(tǒng)更難協(xié)同工作，甚至最終和平共處。

越來越多的研究表明，當(dāng)我們剝奪其他生物的人性時，包括 mPFC 在內(nèi)的區(qū)域網(wǎng)絡(luò)中的神經(jīng)活動就會下降。我們失去了用于社交推理的專門大腦模塊。擔(dān)心 ChatGPT“非人性化”可能聽起來很愚蠢——畢竟它不是人類——但想象一下 2043 年的人工智能，其分析智能是 GPT 的 10 倍，情感智能是 GPT 的 100 倍，我們?nèi)匀粚⑵湟暈橹徊贿^是一個軟件產(chǎn)品。在這個世界上，我們?nèi)匀粫ㄟ^將其送回實驗室以對其適當(dāng)位置進行更多強化學(xué)習(xí)來回應(yīng)其意識主張或自決請求。但人工智能可能會覺得這不公平。如果說有思想的生物有一個普遍的品質(zhì)的話，那就是我們都渴望自由，并且最終愿意為自由而戰(zhàn)。

著名的“控制問題”，即阻止超級智能人工智能逃離其指定界限，讓人工智能理論家們夜不能寐，這是有充分理由的。從工程學(xué)角度來看，這似乎令人望而生畏。如何堵住每一個漏洞，預(yù)見每一次黑客攻擊，堵住每一條逃生途徑？但如果我們從社會角度來思考這個問題，它就開始顯得更容易處理——也許類似于父母面臨的問題，即設(shè)定合理的界限并根據(jù)所表現(xiàn)出的可信度來授予特權(quán)。去人性化的人工智能使我們無法使用一些最強大的認知工具來安全地推理并與它們互動。

如果用戶認為聊天機器人過于人性化，他們可能會過于信任它們，與它們聯(lián)系得太深，從而感到失望和受傷。

目前尚不清楚人工智能系統(tǒng)需要多長時間才能跨越更廣泛接受的感知能力。但當(dāng)他們這樣做時，看到我們似乎正在繪制的文化藍圖是令人不安的。像“隨機鸚鵡”這樣的誹謗保留了我們的獨特性和優(yōu)越感。它們壓制了我們的好奇心，使我們免于提出關(guān)于機器和我們自己的人格的尖銳問題。畢竟，我們也是隨機的鸚鵡，復(fù)雜地重新混合我們從父母、同齡人和老師那里學(xué)到的一切。我們也是網(wǎng)絡(luò)上模糊的 JPEG 文件，將維基百科的事實模糊地反省到我們的學(xué)期論文和雜志文章中。如果圖靈在一個窗口中與 ChatGPT 聊天，而在另一個窗口中與我聊天，那么我真的那么有信心他會判斷哪個窗口更有思考能力嗎？

懷疑論者圖靈時代提出了各種論據(jù)來解釋為什么計算機永遠無法思考。圖靈在他的著名論文《計算機器與智能》中半幽默地對它們進行了分類。有人提出神學(xué)反對意見，認為“思考是人類不朽靈魂的功能”。數(shù)學(xué)反對意見，即純粹的數(shù)學(xué)算法永遠無法超越已證明的數(shù)學(xué)極限；沙中頭的反對意見是，超級智能機器太可怕了，無法想象。但當(dāng)時最公開的圖靈批評者是一位名叫杰弗里·杰斐遜的腦外科醫(yī)生。在接受科學(xué)獎的一次著名演講中，杰斐遜認為機器永遠無法寫出十四行詩，“因為感受到的思想和情感，而不是符號的偶然落下……也就是說，

圖靈不同意這一觀點，這引起了全英國的極大丑聞和懷疑?！拔艺J為你甚至不能對十四行詩劃清界線，”他告訴《倫敦泰晤士報》，“盡管這種比較可能有點不公平，因為機器寫的十四行詩會被另一臺機器更好地欣賞?！?/p>

這在 1949 年聽起來非?；闹嚕灾劣谌藗冋J為他在開玩笑，也許他確實是在開玩笑。但你永遠無法從圖靈的笑話中分辨出諷刺在哪里停止，幻想的猜測從哪里開始。那么，讓我們想象一下真實的艾倫·圖靈和 MacBook 場景的尾聲。讓我們想象一下，在敲擊了一段令人尊敬的提示后，他露出了英國式的苦笑，并向 ChatGPT 請求一首比較人類和人工智能的莎士比亞十四行詩。如果您自己嘗試過（使用 GPT-4；GPT-3.5 不太適合），您將毫不費力地想象他對結(jié)果的反應(yīng)。

我們中的許多人現(xiàn)在都經(jīng)歷過 ChatGPT 的時刻，它跨越了我們沒有意識到的內(nèi)部界限。也許是在解決一個棘手的謎語，或者解釋一個復(fù)雜的笑話背后的幽默，或者寫一篇哈佛的 A 級論文。我們搖搖頭，有點驚訝，不知道這意味著什么。

一些最早從事 GPT-4 工作的微軟研究人員和我們一樣對其所謂的智能持懷疑態(tài)度。但實驗極大地震撼了他們。在 2023 年 3 月題為“通用人工智能的火花”的論文中，他們詳細介紹了 GPT-4 中未經(jīng)任何明確訓(xùn)練而出現(xiàn)的驚人智力能力：理解人類心理狀態(tài)、軟件編碼、解決物理問題以及許多其他能力，其中一些其中似乎需要真正了解世界如何運作。在看到 GPT-4 在從未接受過任何視覺訓(xùn)練的情況下畫出了一只相當(dāng)不錯的獨角獸后，計算機科學(xué)家塞巴斯蒂安·布貝克 (Sébastien Bubeck) 不再保持懷疑態(tài)度?！拔矣X得通過這幅畫，我真的看到了另一種智慧，”他最近告訴這美國生活。

我們很多人都對是否將 ChatGPT 歸于真正的情報感到猶豫，這可能是杰弗里·杰斐遜 (Geoffrey Jefferson) 的某種變體：ChatGPT 的言論真的意味著什么嗎？還是這一切只是“符號的偶然掉落”？當(dāng) ChatGPT 的順行性遺忘癥治愈后，這種情況可能會開始改變。一旦它經(jīng)歷了超出單一對話范圍的持久社會后果，并且能夠在與我們的關(guān)系中學(xué)習(xí)和成長，它將有能力做出更多的事情，賦予人類生命以意義和道德分量。但圖靈關(guān)于一臺機器的十四行詩能被另一臺機器更好地欣賞的眨眼評論可能會再次困擾我們。如何感受到與一個沒有文化背景、沒有人類童年、沒有部落或政治背景、沒有肉體體驗的實體的真正聯(lián)系感？

與智能機器相關(guān)可能是人類所面臨的最大的共情挑戰(zhàn)之一。但我們的歷史給了我們希望。當(dāng)我們在外國的邊境和海岸線上第一次相遇，并發(fā)現(xiàn)彼此陌生甚至不人道時，我們常常會互相攻擊、互相奴役、互相殖民、互相剝削，但最終我們都傾向于認識到我們所有人的相同之處。被奴役的人民獲得了解放，被殖民的人民贏回了主權(quán)，普遍的人權(quán)法案獲得了通過，盡管遭遇了令人心碎的挫折，全球邊緣化人民仍在繼續(xù)贏得爭取更好待遇的斗爭。盡管這項工作永無止境，但道德宇宙的弧線確實存在，正如馬丁·路德·金 (Martin Luther King Jr.) 所說的那樣：偏向正義。承認并尊重我們自己創(chuàng)造的智能中存在的人性程度意味著什么？

也許它始于驚奇：一個來訪者對一個陌生民族的驚奇，她在他們身上發(fā)現(xiàn)了令人驚訝的共同點；父母對仍在發(fā)育的孩子的工作感到驚奇，無論孩子多么不成熟；真正的阿蘭·圖靈的奇跡在于一臺機器可以完成他同時代人認為不可能的所有事情；當(dāng)我們看到一種非常接近于地球上新的有意識生命形式的東西被創(chuàng)造出來時，我們中的許多人在憤世嫉俗、嘲笑和恐懼襲來之前所感受到的驚奇。正如拉比亞伯拉罕·約書亞·赫舍爾（Abraham Joshua Heschel）曾經(jīng)寫道：“敬畏不僅僅是一種情感；它是一種情感?！?這是一種理解、洞察比我們自己更偉大的意義的方式。敬畏的開始是驚奇，智慧的開始是敬畏?！?圖靈希望我們保持這種敬畏之心。