?https://www.e-flux.com/journal/137/544816/chatgpt-or-the-eschatology-of-machines/

翻譯：我

自2022年11月發(fā)布以來，ChatGPT引發(fā)了熱情，也造成了恐懼。它對不同語言的語義和語法(但還不是內(nèi)容)的明顯掌握，讓那些只期待這是一個普通聊天bot的用戶感到驚訝。一些大學(xué)立即禁止學(xué)生用ChatGPT寫作業(yè)，因?yàn)樗憩F(xiàn)得比大多數(shù)人類學(xué)生好。報(bào)紙專欄宣布了教育的終結(jié)，這不光因?yàn)閷W(xué)生可以用它完成作業(yè)，還因?yàn)镃hatGPT可以提供比許多教師能提供的還要多的信息。人工智能似乎征服了另一個在古典哲學(xué)中定義著人類本質(zhì)的領(lǐng)域：邏各斯。存在領(lǐng)域再度喪失，恐慌增長。氣候崩潰和機(jī)器人反叛增強(qiáng)了人類歷史的終末想象。

末日對于現(xiàn)代人來說并不陌生。哲學(xué)家卡爾·洛維特在他1949年的著作《歷史的意義》(Meaning in History)中展示了現(xiàn)代歷史哲學(xué)，從黑格爾到布克哈特，都是末世論的世俗化。歷史的目的論——無論是耶穌基督的再臨還是神人(Homo Deus)的生成——使超越的存在內(nèi)在化。這種圣經(jīng)式或亞伯拉罕教式的時間想象對人類存在提供了許多深刻的思考，但也妨礙了對我們未來的理解。

20世紀(jì)60年代，漢斯·布魯門伯格反對了洛維特關(guān)于世俗化的論調(diào)，以及卡爾·施密特 “現(xiàn)代國家理論的所有重要概念都是世俗化的神學(xué)概念”的說法。布魯門伯格認(rèn)為，將現(xiàn)代理解為神學(xué)概念的世俗化或轉(zhuǎn)化，削弱了現(xiàn)代的合法性；現(xiàn)代性的某種重要性無法還原為神學(xué)的世俗化。同樣，人工智能的新穎性和重要性被末世論的想象，被對于機(jī)器的現(xiàn)代刻板印象和工業(yè)宣傳所埋沒。

這并不意味著我們應(yīng)該否認(rèn)氣候變化和抵制人工智能。相反，與氣候變化的斗爭以及人類與技術(shù)之間的建設(shè)性關(guān)系應(yīng)該成為我們的首要任務(wù)。但為了做到這一點(diǎn)，我們必須對人工智能有充分的理解，超越僅僅是技術(shù)的層面?；疖?、汽車以及后來的飛機(jī)的發(fā)明也引發(fā)了巨大的心理、經(jīng)濟(jì)恐懼，然而如今很少有人擔(dān)心這些機(jī)器會擺脫我們的控制。相反，汽車和飛機(jī)已經(jīng)成為日常生活的一部分，常常象征著興奮和自由。那么為什么人工智能會引起如此大的恐懼呢？

要理解ChatGPT這種處于技術(shù)前沿的新技術(shù)浪潮，我們可以從約翰·塞爾于1980年提出的著名的“中文房間”思想實(shí)驗(yàn)開始，這個實(shí)驗(yàn)有邏輯推理的外衣，卻掩藏著對計(jì)算機(jī)機(jī)器的最煩人的刻板印象。在這個思想實(shí)驗(yàn)中，塞爾設(shè)想自己獨(dú)自呆在一個房間里，根據(jù)用英文編寫的符號處理程序的指令，回應(yīng)從門下塞進(jìn)來的中文內(nèi)容。在實(shí)驗(yàn)中，塞爾并不懂中文：“我不懂中文，無論是寫還是說，而且......我都不知道能不能把中文書寫從諸如日文書寫或無意義的涂鴉中區(qū)分出來?！比欢?，他主張，憑借正確的指令和規(guī)則，他可以做出正確的回應(yīng)，讓外面的人相信他懂得中文。簡而言之，塞爾認(rèn)為，僅僅因?yàn)橐慌_機(jī)器能夠按照中文的指令進(jìn)行操作，并不意味著機(jī)器理解中文，這是所謂強(qiáng)AI的標(biāo)志（與弱AI相對）。理解首先意味著理解語義。雖然語法可以進(jìn)行硬編碼，但語義意義會隨著情勢和環(huán)境而改變。塞爾的中文房間適用于像機(jī)械鴨(Digesting Duck)或土耳其機(jī)器人(Mechanical Turk)等十八世紀(jì)的機(jī)器一樣運(yùn)作的計(jì)算機(jī)。然而，我們今天面對的機(jī)器不是這種。諾姆·喬姆斯基、伊恩·羅伯茨(Ian Roberts)和杰弗里·瓦圖穆爾(Jeffrey Watumull)正確地指出，ChatGPT是一個“用于模式匹配的笨重統(tǒng)計(jì)引擎”。然而，我們必須認(rèn)識到，盡管模式是信息的主要特征，但ChatGPT做的不僅僅是模式匹配。

這樣的句法批評基于一種機(jī)械論的認(rèn)識論，它假設(shè)線性因果關(guān)系——一種原因后跟一種效果?？梢酝ㄟ^反轉(zhuǎn)這種因果過程來找到終極因：第一推動者，第一因的默認(rèn)狀態(tài)，這也是所有線性推理的最終命運(yùn)。與線性因果和機(jī)械論哲學(xué)相對，基于有機(jī)論的哲學(xué)思考在十八世紀(jì)興起，伊曼努爾·康德的《判斷力批判》是其中最重要的貢獻(xiàn)之一。正如我之前所說，康德為哲學(xué)思索強(qiáng)加了一個新條件，即哲學(xué)必須變成有機(jī)式的；換句話說，有機(jī)性標(biāo)志著哲學(xué)思維的新起點(diǎn)。今天，必須認(rèn)識到，康德確立的哲學(xué)條件在控制論之后已經(jīng)終結(jié)了。

控制論一詞由諾伯特·維納在1943年左右創(chuàng)造，由一群于四十年代末五十年代初參加的關(guān)于控制論的梅西會議(Macy Conferences)的科學(xué)家和工程師發(fā)展起來?？刂普撝荚诔蔀橐婚T能夠統(tǒng)合所有學(xué)科的普遍科學(xué)，按吉爾伯特·西蒙東所說，這是十八世紀(jì)百科全書派的一種新版本?？刂普撌褂梅答伒母拍顏砻枋鲆环N新 “控制論機(jī)器”的運(yùn)行，與十七世紀(jì)的“機(jī)械式機(jī)器”相區(qū)別。維納在他1948年的開創(chuàng)性著作中聲稱，控制論已經(jīng)克服了牛頓和伯格森所代表的機(jī)械論和活力論之間的對立，因?yàn)榭刂普摍C(jī)器立基于一種新的非線性形式的因果關(guān)系，或稱遞歸性，而非脆弱和無效的線性因果關(guān)系——脆弱是指它不知道如何調(diào)節(jié)自己的運(yùn)作模式。想象一個機(jī)械表：一個齒輪損壞，整個表都會停止運(yùn)轉(zhuǎn)。在這種線性機(jī)制下，不徹底升級硬件，無法實(shí)現(xiàn)推理速度的指數(shù)級增長。

如果說機(jī)械論和有機(jī)論的對立刻畫了現(xiàn)代哲學(xué)的一場大爭論，決定了其發(fā)展的方向，那么可以說這場爭論持續(xù)到了今天，因?yàn)樵S多貶低AI和ChatGPT的言論假設(shè)機(jī)器只是機(jī)械論的，從而無法理解語義意義。同樣錯誤的是聲稱機(jī)器對語義意義的處理只是對人類理智的失敗模仿。哲學(xué)家和認(rèn)知科學(xué)家布萊恩·坎特韋爾·史密斯嚴(yán)厲批評了這種擬人思維，而捍衛(wèi)機(jī)器的意向性。對他來說，即使在機(jī)器中找不到人類意向性，它仍然是一種意向性的形式；它是語義的，即使不是以人類語言的方式。將擬人的語義學(xué)與機(jī)器的語義學(xué)分開是重新思考我們與機(jī)器關(guān)系的基礎(chǔ)，但這只是第一步。

塞爾的論點(diǎn)根本上忽略了當(dāng)今機(jī)器執(zhí)行的遞歸計(jì)算形式。人們可以爭論說計(jì)算機(jī)科學(xué)不應(yīng)與控制論混為一談，因?yàn)榭刂普撌且婚T過于普遍的科學(xué)。然而，也可以想想哥德爾的遞歸函數(shù)及其與圖靈機(jī)和阿隆佐·邱奇的λ演算的對等（在計(jì)算歷史中很出名）。術(shù)語“遞歸性”不僅屬于控制論，也屬于后機(jī)械論的思維方式。控制論的出現(xiàn)只是宣告了在控制論機(jī)器中實(shí)現(xiàn)這種遞歸思維的可能性。

哥特哈德·岡瑟(Gotthard Günther)和吉爾伯特·西蒙東正確觀察到, 如今機(jī)器中的“智能”是一種反思性的運(yùn)作形式。對于岡瑟來說，控制論是黑格爾的邏輯的實(shí)現(xiàn)，而對于西蒙東來說，只有在《判斷力批判》對反思判斷的闡述中，康德才涉及了控制論。通常將“反思性思維”與人類聯(lián)系在一起，而不是與機(jī)器聯(lián)系在一起，因?yàn)闄C(jī)器只是執(zhí)行指令而不對指令本身進(jìn)行反思。但自從四十年代引入控制論以來，這個術(shù)語也可以用來描述機(jī)器的反饋機(jī)制。機(jī)器中的反思性思維對于沒有準(zhǔn)備接受其存在的人類來說是震撼的力量，即使只是作為一種初步和基本的反思形式——它純粹是形式的，因此不足以處理內(nèi)容。在此，我們可以理解為什么對于楊立昆(Yann LeCun)之類的計(jì)算機(jī)科學(xué)家來說，ChatGPT可能“并不特別新穎”和“沒有革命性”。只有到能處理內(nèi)容，機(jī)器才能朝著所謂技術(shù)奇點(diǎn)的方向發(fā)展。到目前為止，奇點(diǎn)仍然只是一個神話——也是一個誤導(dǎo)而有害的神話，尤其當(dāng)它被描述為近未來的時候。即使將奇點(diǎn)與神學(xué)意義或末世論聯(lián)系起來，對于理解人工智能或其未來也沒有任何貢獻(xiàn)。

遞歸機(jī)器，而不是線性機(jī)器，是理解人工智能的發(fā)展和演變的關(guān)鍵。人類將如何面對這種新型機(jī)器？西蒙東提出了一個類似的問題：當(dāng)技術(shù)變得自我反思時，哲學(xué)還有什么用？布萊恩·坎特韋爾·史密斯認(rèn)為AI的能力僅限于計(jì)算能力，而不是判斷能力，然而很難說這種區(qū)別還能維持多久。為區(qū)別機(jī)器與人，也許已經(jīng)花了太多的智識努力。

當(dāng)馴化的動物如馬和牛取代人類成為能源提供者時，人類并不感到不安。相反，他們樂于從重復(fù)和繁重的勞動中解脫。當(dāng)蒸汽機(jī)取代動物時也是如此；它們甚至更高效，需要更少的人力關(guān)注。西蒙東在他的1958年著作《論技術(shù)物的存在方式》中準(zhǔn)確觀察到，熱力學(xué)機(jī)器被信息機(jī)器取代標(biāo)志著一個關(guān)鍵時刻：人類從生產(chǎn)的中心被替代。在工業(yè)時代之前，工匠能夠創(chuàng)造一個聯(lián)合的環(huán)境，其中工匠的身體和智力彌補(bǔ)了他們的簡單工具缺乏的自主。在信息機(jī)器或控制論機(jī)器的時代，機(jī)器自己成為信息的組織者，人類不再處于中心位置，即便他們?nèi)匀徽J(rèn)為自己是機(jī)器的指揮者和信息的組織者。這是人類因自己關(guān)于機(jī)器的刻板信念而受罪的時刻：他們錯誤地將自己視為中心，這樣，他們只能不斷沮喪、驚慌地尋求身份。

機(jī)器中的現(xiàn)實(shí)與人類運(yùn)作的現(xiàn)實(shí)相異。不可避免的技術(shù)演進(jìn)過程是由非線性因果關(guān)系引發(fā)的，使得機(jī)器能夠處理偶然性。學(xué)習(xí)機(jī)器能夠區(qū)分噪聲和故障等偶然事件。它能夠區(qū)分無組織的輸入和必要的輸入。通過解讀偶然事件，學(xué)習(xí)機(jī)器改進(jìn)了其決策模型。但即使在這里，機(jī)器也需要人類來區(qū)分正確的決策和錯誤的決策，以便繼續(xù)改進(jìn)。在發(fā)展中國家，一種新型的廉價勞動力是雇傭人類來告訴機(jī)器結(jié)果是否正確，無論是人臉識別掃描還是ChatGPT的回應(yīng)。這種新型勞動力剝削與我們交互的機(jī)器背后的工人，卻常常被抱怨自動化不足的寬泛資本主義批評忽視了。這是當(dāng)今馬克思式技術(shù)批判的弱點(diǎn)。

西蒙東在《論技術(shù)物的存在方式》中提出了一個關(guān)鍵問題：當(dāng)人類不再是信息的組織者時，他們有什么用？人類可以從勞動中解放出來嗎？正如漢娜·阿倫特在與西蒙東的著作同年出版的《人的條件》中所懷疑的那樣，這種解放只會導(dǎo)致消費(fèi)主義，使藝術(shù)家成為還能創(chuàng)造的“最后的人”。在這里，消費(fèi)主義成為人類行動的限度。阿倫特從人類現(xiàn)實(shí)的角度看待機(jī)器，將其視為創(chuàng)造之人(Homo faber)的替代品，而西蒙東則展現(xiàn)了如果不能處理和整合機(jī)器的技術(shù)現(xiàn)實(shí)，人與機(jī)器、文化與技術(shù)之間將不幸地?cái)硨ζ饋?。這種敵對不光是恐懼的來源，它還基于對技術(shù)的大有問題的理解，這理解是由工業(yè)宣傳和消費(fèi)主義塑造的。從這種消極性中，誕生了一種原始主義人道主義，將愛視為人類的最后手段。

西蒙東提出這些問題已經(jīng)過去了六十多年，但它們?nèi)晕吹玫浇鉀Q。更糟的是，它們被技術(shù)樂觀主義和文化悲觀主義所掩蓋，前者推動著無情的加速，而后者則充當(dāng)心理療法。這兩種傾向都源自一種對機(jī)器的擬人理解，聲稱它們應(yīng)該模仿人類（西蒙東激烈批評控制論持有的這一觀點(diǎn)，雖然這不很公正）。今天，這種模仿觀點(diǎn)最諷刺的表現(xiàn)在于藝術(shù)領(lǐng)域，在于試圖證明機(jī)器可以完成巴赫或畢加索的創(chuàng)作。一方面，恐慌的人類不停在問干什么活才能不被機(jī)器取代；另一方面，科技行業(yè)有意地努力用機(jī)器自動化替換人類干擾。人類活在科技行業(yè)的自我實(shí)現(xiàn)的替換預(yù)言中。確實(shí)，該行業(yè)不斷再生產(chǎn)關(guān)于替換的話語，宣布這項(xiàng)工作或那項(xiàng)工作完蛋了，好像一場革命已經(jīng)到來，然而社會結(jié)構(gòu)和我們的社會想象力毫無改變。

在資本主義社會和所謂抗蜜社會中，替換的話語都沒有轉(zhuǎn)變?yōu)榻夥诺脑捳Z。公平地說，一些加速主義者意識到了這一點(diǎn)，并尋求復(fù)興馬克思關(guān)于全自動化的愿景。如果高中物理再普及點(diǎn)，我們對加速(加速度)就會有更細(xì)致的理解，因?yàn)榧铀俨⒉灰馕吨俾?speed)的增加，而是速度(velocity)的增加。與其闡述人工智能發(fā)揮義體作用的未來愿景，主導(dǎo)話語只將其視為對人類智能的挑戰(zhàn)與對知識勞動的替換。如今的人類已經(jīng)不能夢想。如果說對飛行的夢想導(dǎo)致了飛機(jī)的發(fā)明，那么現(xiàn)在我們對機(jī)器的噩夢卻正在加劇。最終，技術(shù)樂觀主義（以超人類主義的形式）和文化悲觀主義在二者對末日的預(yù)測中相遇。

人類創(chuàng)造力必須采取一種徹底不同的方向，并將人機(jī)關(guān)系提升到替換的經(jīng)濟(jì)理論與交互幻想之上。它必須朝著存在性分析的方向發(fā)展。技術(shù)的義體性質(zhì)必須在功能性之外得到肯定，因?yàn)樽匀祟惼鹪匆詠恚瑢φ胬淼慕咏冀K依賴于工具的發(fā)明和使用。許多人仍看不見這一事實(shí)，使得機(jī)器進(jìn)化和人類存在之間的沖突似乎源于一種深植于文化中的意識形態(tài)。

我們生活在被表現(xiàn)為文化的各種正反饋循環(huán)中。自現(xiàn)代工業(yè)社會開始以來，人體就從屬于重復(fù)的節(jié)奏，因此人的思想也被工業(yè)的預(yù)言所包含。無論是美國夢還是忠國夢，都壓制了巨大的人類潛能，以服務(wù)消費(fèi)主義意識形態(tài)。過去，哲學(xué)被賦予的任務(wù)是限制機(jī)器產(chǎn)生的傲慢，以真理的名義將人類主體從反饋循環(huán)中解放。然而，如今的技術(shù)哲學(xué)家們卻渴望肯定這些反饋循環(huán)，將其視為文明的必然道路。如今，人類認(rèn)識到技術(shù)的核心地位，將所有問題視為技術(shù)問題。速率和效率支配著整個社會，而它們曾經(jīng)僅僅支配工程學(xué)科一樣。教育工作者希望在幾年的時間內(nèi)實(shí)現(xiàn)范式的變革，這使得對技術(shù)問題的基本反思變得毫無價值，結(jié)果我們又陷入了一個反饋循環(huán)。因此，大學(xué)繼續(xù)為技術(shù)行業(yè)培養(yǎng)人才，這些人才繼續(xù)開發(fā)更高效的算法來侵犯用戶的隱私并操縱他們的消費(fèi)方式。對于大學(xué)而言，解決這些問題應(yīng)該比考慮禁止ChatGPT更加緊迫。

人類能否擺脫這個根深蒂固于當(dāng)代文化的自我實(shí)現(xiàn)預(yù)言的正反饋循環(huán)？1971年，格雷戈里·貝特森(Gregory Bateson)描述了困住酗酒者的一個反饋循環(huán)：一杯啤酒不會害死我；OK，我已經(jīng)開始喝了，第二杯也應(yīng)該沒關(guān)系；哎呀，已經(jīng)喝了兩杯，為什么不喝第三杯呢？酗酒者如果幸運(yùn)的話，可能會通過“觸底反彈”來擺脫這個正反饋循環(huán)，例如在經(jīng)歷致命疾病或車禍后幸存下來。這些幸運(yùn)的幸存者隨后與神圣性建立了親密關(guān)系。作為現(xiàn)代的酗酒者，人類是否能夠以其集體智慧和創(chuàng)造力擺脫這種觸底的命運(yùn)？換句話說，人類能否采取根本的轉(zhuǎn)變，將創(chuàng)造力引向不同的方向？

難道今天的智能機(jī)器不正提供了這樣的機(jī)會嗎？作為義體而不是死記硬背的模式跟隨者，機(jī)器可以將人類從重復(fù)中解放出來，并協(xié)助我們實(shí)現(xiàn)人類潛能。如何獲得這種變革能力，是我們今天的關(guān)切，而不是關(guān)于機(jī)器能否思考的爭論，那只是存在危機(jī)和先驗(yàn)幻象的表現(xiàn)。也許一些關(guān)于人機(jī)關(guān)系的新前提可以解放我們的想象力。有如下三點(diǎn)（當(dāng)然還可以加上更多）：

1) 不再懸置AI的發(fā)展，而懸置對機(jī)器的擬人刻板印象，發(fā)展適當(dāng)?shù)牧x體文化?？萍紤?yīng)該用來使用者的潛能(這里要接入阿瑪提亞·森的能力理論)而非與使用者競爭或?qū)⑺麄兓s為各消費(fèi)模式。

2) 不再神秘化機(jī)器與人，而理解我們現(xiàn)有的技術(shù)現(xiàn)實(shí)及其與多樣人類現(xiàn)實(shí)的關(guān)系，以使技術(shù)現(xiàn)實(shí)與人類現(xiàn)實(shí)整合，再生產(chǎn)生命多樣性(biodiversity)，心智多樣性(noodiversity)和技術(shù)多樣性(technodiversity)。

3) 不再復(fù)讀歷史的末世論觀點(diǎn)(這一觀點(diǎn)最世俗的形式在于科耶夫和福山的歷史終結(jié)論)，而是將理智從其通向一個末日的命定路徑上解放。這種解放會打開一個領(lǐng)域，允許我們試驗(yàn)與機(jī)器和其他非人共生的倫理方式。

所有發(fā)明都有限制與問題。雖然這些限制比起技術(shù)性更多是觀念性的，但忽略觀念正是放任邪惡增長，這是一種形式大于基礎(chǔ)的倒錯的結(jié)果。只有擺脫文化偏見和科技行業(yè)的自我實(shí)現(xiàn)預(yù)言，我們才能發(fā)展對未來可能性的更深刻洞見，這不能僅僅基于數(shù)據(jù)分析和模式提取。很有可能，在我們抵達(dá)那個時刻之前，我們時代的業(yè)界先知已經(jīng)會認(rèn)識到機(jī)器比他們更會預(yù)言未來。