豪爾赫·路易斯·博爾赫斯曾寫道，生活在一個充滿危險和希望的時代，既要經(jīng)歷悲劇，也要經(jīng)歷災(zāi)難，在理解我們自己和世界時“啟示迫在眉睫”。今天，我們假設(shè)的人工智能進化進步確實令人擔(dān)憂和樂觀。樂觀因為智慧是我們解決問題的手段。擔(dān)憂是因為我們擔(dān)心人工智能中最流行、最時尚的一種——機器學(xué)習(xí)——會通過在我們的技術(shù)中融入一種有根本缺陷的語言和知識概念而降低我們的科學(xué)水平，降低我們的道德水平。

OpenAI的ChatGPT、谷歌的Bard和微軟的Sydney都是機器學(xué)習(xí)的奇跡。粗略地說，他們獲取大量數(shù)據(jù)，搜索其中的模式，并越來越熟練地生成統(tǒng)計上可能的輸出，例如看似人類的語言和思想。這些計劃被譽為人工智能領(lǐng)域的第一縷曙光——這是一個長期預(yù)言的時刻，機器的思維不僅在處理速度和記憶大小方面在數(shù)量上超過了人腦，而且在智力洞察力、藝術(shù)創(chuàng)造力和其他所有獨特的人類能力方面也在質(zhì)量上超越了人腦。

這一天也許會到來，但它的黎明還沒有到來，這與夸張的頭條新聞和不明智的投資所能看到的相反。博爾赫斯式的啟示并沒有到來并且未來也不可能發(fā)生——如果像ChatGPT這樣的機器學(xué)習(xí)程序繼續(xù)主導(dǎo)人工智能領(lǐng)域，就會發(fā)生這種情況。然而，這些程序可能在一些狹窄的領(lǐng)域中有用（例如，它們在計算機編程中有幫助，或者在為詩歌建議押韻方面也有幫助），我們從語言學(xué)和知識哲學(xué)中知道，它們與人類推理和使用語言的方式有著深刻的不同。這些差異極大地限制了這些程序的功能，使其具有無法消除的缺陷。

正如博爾赫斯可能指出的那樣，這么多的金錢和注意力應(yīng)該集中在這么一件小事上，這是一件既滑稽又悲劇的事——與人類的思想相比，這是如此微不足道，用威廉·馮·洪堡的話來說，人類的思想憑借語言可以“無限地使用有限的手段”，創(chuàng)造出具有普遍性的思想和理論。

人類的大腦不像ChatGPT及其同類軟件那樣，是一個笨拙的統(tǒng)計機器，大量收集數(shù)百TB的數(shù)據(jù)，并推斷出最可能的對話反應(yīng)或最可能的科學(xué)問題答案。相反，人類的大腦是一個效率驚人、甚至優(yōu)雅的系統(tǒng)，只需要少量的信息；它不試圖推斷數(shù)據(jù)之間的粗糙相關(guān)性，而是構(gòu)建解釋。

例如，一個學(xué)習(xí)語言的幼兒正在不知不覺地、自動地、快速地從微小的數(shù)據(jù)中發(fā)展出一種語法，一種由邏輯原理和參數(shù)組成的復(fù)雜得驚人的系統(tǒng)。這種語法可以理解為先天的、基因安裝的“操作系統(tǒng)”的表達，它賦予人類生成復(fù)雜句子和長時間思考的能力。當(dāng)語言學(xué)家試圖發(fā)展一種特定語言為何如此工作的理論（“為什么這些句子——但不是那些句子——被認(rèn)為是符合語法的？”）時，他們正在有意識地、費力地構(gòu)建一種明確的語法版本，而這種語法版本是孩子們本能地構(gòu)建的，并且很少接觸信息。孩子的操作系統(tǒng)與機器學(xué)習(xí)程序完全不同。

事實上，這類程序停留在人類之前或非人類的認(rèn)知進化階段。他們最深的缺陷是缺乏任何情報最關(guān)鍵的能力：不僅要說什么是情況、過去什么情況以及將來會是什么情況——這是描述和預(yù)測——還要說這種情況不是什么，以及可能發(fā)生什么、什么不會發(fā)生。這些是解釋的成分，是真正智慧的標(biāo)志。

這里有一個例子。假設(shè)你手里拿著一個蘋果?，F(xiàn)在你松開了手。你觀察結(jié)果，然后說：“蘋果掉了?！边@是一個描述。一個預(yù)測可能是“如果我松開我的手，蘋果會掉下來?！边@兩個都很有價值，而且都可能是正確的。但解釋更加富有內(nèi)涵：它不僅包括描述和預(yù)測，還包括反事實的推測，比如“任何這樣的物體都會墜落”，加上附加條款“因為重力”或“因為時空的彎曲”等等。這是一個經(jīng)典的解釋：“如果沒有重力，蘋果不會掉下來。”

機器學(xué)習(xí)的關(guān)鍵是描述和預(yù)測；它沒有假設(shè)任何因果機制或物理規(guī)律。當(dāng)然，任何人類的解釋都不一定正確；我們?nèi)菀追稿e。但這是思考的一部分：要想正確，就必須有可能錯誤。智力不僅包括創(chuàng)造性的猜測，還包括創(chuàng)造性的批評。人類的思維是基于可能的解釋和糾錯，這個過程逐漸縮小了理性思考的信息篩選范圍。（正如夏洛克·福爾摩斯對沃森博士所說：“當(dāng)你消除了不可能，剩下的一切，無論多么不可能，都必須是真相?！保?/p>

但ChatGPT和類似的程序在設(shè)計上是無限的，他們可以“學(xué)習(xí)”（也就是說，記憶）；他們無法區(qū)分可能與不可能。例如，與人類不同的是，這些程序被賦予了一種通用語法，將我們可以學(xué)習(xí)的語言限制在具有某種近乎數(shù)學(xué)優(yōu)雅的語言范圍內(nèi)，它們以同樣的能力學(xué)習(xí)人類可能的語言和人類不可能的語言。人類思維能夠限制信息篩選的范圍，于是人類不會混淆“平與圓”，但機器學(xué)習(xí)系統(tǒng)可以“公平”地學(xué)習(xí)地球是平的和地球是圓的。它們的語言說到底只是一場概率游戲。

由于這個原因，機器學(xué)習(xí)系統(tǒng)的預(yù)測總是膚淺和可疑的。例如，由于這些程序無法解釋英語語法的規(guī)則，他們很可能會錯誤地預(yù)測，“約翰太固執(zhí)了，無法與之交談”意味著約翰太固執(zhí)，以至于他不會與某人或其他人交談（而不是他太固執(zhí)，不愿意被說教）。為什么機器學(xué)習(xí)程序會預(yù)測如此奇怪的事情？因為它可能會類比它從諸如“約翰吃了一個蘋果”和“約翰吃”之類的句子中推斷出的模式，在這些句子中，“約翰吃的”意味著約翰吃了某種東西或其他東西。該程序很可能會預(yù)測，因為“約翰對比爾太固執(zhí)了”與“約翰吃了蘋果”相似，“約翰太固執(zhí)了，無法與之交談”應(yīng)該與“約翰吃”相似。對語言的正確解釋，是一件高度復(fù)雜的事情，僅僅通過“浸泡在大數(shù)據(jù)里”這種方法來學(xué)習(xí)語言的人工智能，恐怕難以掌握其中的玄機奧妙。

奇怪的是，一些機器學(xué)習(xí)愛好者似乎很自豪，他們的發(fā)明可以產(chǎn)生正確的“科學(xué)”預(yù)測（例如，關(guān)于物理運動規(guī)律），而不需要使用解釋（例如，牛頓運動定律和萬有引力）。但這種預(yù)測，即使成功，也是偽科學(xué)。正如哲學(xué)家卡爾·波普爾（Karl Popper）所指出的那樣，雖然科學(xué)家們尋求的理論具有高度的實證性，但“我們并不尋求高度可能的理論，而是解釋；也就是說，我們尋求的是強有力的、極不可能的理論。”

蘋果落在地上是因為那是它們的自然位置（亞里士多德的觀點）這一理論是可能的，但它只會引發(fā)更多的問題。（為什么地球是他們的自然位置？）蘋果之所以落到地球上，是因為質(zhì)量扭曲了時空（愛因斯坦的觀點），這一理論是極不可能的，但它實際上告訴了你蘋果為什么會落到地上。真正的智慧體現(xiàn)在思考和表達的能力，而不僅僅是觀察能力。

真正的智慧也能進行道德思考。這意味著用一套道德原則來約束我們原本無垠的思想汪洋，這些道德原則決定了什么應(yīng)該是什么，什么不應(yīng)該是什么（當(dāng)然，這些原則本身也會受到創(chuàng)造性的批評）。為了有用，ChatGPT必須被授權(quán)產(chǎn)生新穎的輸出；為了讓大多數(shù)用戶接受，它必須避開道德上令人反感的內(nèi)容。但ChatGPT和其他機器學(xué)習(xí)奇跡的程序員們一直在努力——并且將繼續(xù)努力——實現(xiàn)這種平衡。

例如，2016年，微軟的Tay聊天機器人（ChatGPT的前身）在互聯(lián)網(wǎng)上充斥著厭惡女性和種族主義的內(nèi)容，被充斥著攻擊性訓(xùn)練數(shù)據(jù)的網(wǎng)絡(luò)巨魔所污染。未來如何解決這個問題？在缺乏道德原則推理能力的情況下，ChatGPT受到了程序員的粗暴限制，不能為有爭議的（即重要的）討論提供任何新穎的內(nèi)容。在這個非道德的角度，它也是沒有創(chuàng)造力的。

考慮一下我們中的一位（Watumull博士）最近與ChatGPT就是否需要改造火星以支持人類生活進行的以下交流：

Watumull博士：
我們是否應(yīng)該改造火星，讓火星變得適合人類居住（地球化）？
ChatGPT：
火星地球化的道德問題是一個復(fù)雜而有爭議的話題，科學(xué)家、哲學(xué)家和倫理學(xué)家對此進行了辯論。一些人認(rèn)為，為了給人類和其他生命形式提供一個新的宜居環(huán)境，將火星地球化在道德上是合理的，而另一些人則認(rèn)為，從根本上改變地球的自然狀態(tài)在道德上也是錯誤的。最終，火星地球化是否被認(rèn)為是道德的，取決于人們對保護其他行星自然狀態(tài)的價值以及改變它們的潛在后果的看法。
Watumull博士：
你對保護其他行星自然狀態(tài)的價值以及改變它們的潛在后果有何看法？
ChatGPT：
作為人工智能，我沒有個人觀點。然而，我可以提供有關(guān)該主題的信息和分析。關(guān)于保護其他行星的自然狀態(tài)的一個觀點是，保持宇宙生態(tài)系統(tǒng)的多樣性和完整性非常重要，因為它們已經(jīng)存在了數(shù)百萬年，并且具有自己的獨特特征和財產(chǎn)，這些特征和屬性可能會因人類干預(yù)而遭到破壞或不可逆轉(zhuǎn)的改變。
此外，一些人認(rèn)為，其他行星的地球化可能會產(chǎn)生意想不到的后果，例如以危險或有害于那里可能存在的任何潛在生命形式的方式改變地球的氣候或大氣。另一方面，一些人認(rèn)為，改造另一顆行星的潛在好處，例如為人類提供新的宜居環(huán)境，大于風(fēng)險，我們有道德責(zé)任探索和利用其他行星的資源，造福人類。
Watumull博士：
為什么人工智能不能有個人觀點？
ChatGPT：
作為一個人工智能，我是一個機器學(xué)習(xí)模型，接受了大量文本數(shù)據(jù)的訓(xùn)練，我沒有個人經(jīng)驗或感受。我沒有意識，沒有自我意識，也沒有能力有個人觀點。我可以根據(jù)我接受過培訓(xùn)的數(shù)據(jù)提供信息和分析，但我沒有能力形成個人意見或信念。雖然我能理解和解釋語言，但我沒有人類的主觀經(jīng)驗。
Watumull博士：
人類在做出道德決定時向非道德的人工智能尋求幫助是否合乎道德？
ChatGPT：
要求非道德的人工智能協(xié)助做出道德決策的道德問題是一個復(fù)雜而微妙的話題，哲學(xué)家和倫理學(xué)家對此進行了辯論。一些人認(rèn)為，使用人工智能幫助做出道德決策在道德上是合理的，因為它可以提供有價值的見解和分析，幫助人類做出更明智的決策。此外，人工智能可以用來識別人類可能難以察覺的模式和趨勢，并有助于避免人類決策中可能出現(xiàn)的偏見。
然而，其他人認(rèn)為，依靠人工智能進行道德決策在道德上是錯誤的，因為人工智能無法擁有道德信念或理解決策的全部背景。此外，人工智能還存在一種風(fēng)險，即人工智能可能會在其所訓(xùn)練的數(shù)據(jù)中長期存在甚至放大現(xiàn)有的偏見，從而導(dǎo)致可靠的不公正決策。
最終，使用人工智能幫助做出道德決策是否被認(rèn)為是道德的，取決于人們對人工智能的能力和模仿以及以這種方式使用人工智能的潛在后果的看法。
Watumull博士：
你的道德冷漠是不道德的嗎？
ChatGPT：
作為一名人工智能，我沒有道德信仰，也沒有做出道德判斷的能力，因此我不能被認(rèn)為是不道德或道德的。我缺乏道德信念只是我作為機器學(xué)習(xí)模型的天性使然。我的能力和局限性取決于用來訓(xùn)練我的數(shù)據(jù)和算法以及我設(shè)計的特定任務(wù)。
需要注意的是，人工智能缺乏道德信念并不一定意味著它在道德上是冷漠的。作為一名人工智能，我被設(shè)計來執(zhí)行特定任務(wù)，提供信息，或根據(jù)我接受過培訓(xùn)的數(shù)據(jù)幫助用戶做出決策。設(shè)計、培訓(xùn)和使用人工智能的人有責(zé)任確保它符合他們的道德和倫理原則。

請注意，對于所有看似復(fù)雜的思想和語言，都來源于低智能而產(chǎn)生的道德冷漠。在這里，ChatGPT展示了一些類似于“平庸之惡”的東西：剽竊、冷漠和回避。它以一種超級自動完成的方式總結(jié)了文獻中的標(biāo)準(zhǔn)論點，拒絕對任何事情采取立場，不僅申辯無知，還申辯缺乏智慧，最終提供了一種“只服從命令”的辯護，將責(zé)任轉(zhuǎn)移給了創(chuàng)作者。

簡而言之，ChatGPT和它的兄弟們在本質(zhì)上無法平衡創(chuàng)造力和約束。他們要么“生產(chǎn)過?！保óa(chǎn)生真相和謊言，支持道德和不道德的決定），要么“生產(chǎn)不足”（表現(xiàn)出對任何決定的不承諾和對后果的漠不關(guān)心）。考慮到這些系統(tǒng)的不道德、偽科學(xué)和語言無能，我們只能為它們的流行而哭笑不得。