這篇文章是《Islands in the Cyberstream: Seeking Havens of Reason in a Programmed Society》一書的介紹性文章。該書是計(jì)算機(jī)科學(xué)家和社會批評家約瑟夫·維森鮑姆（Joseph Weizenbaum）與古納·溫特（Gunna Wendt）之間的對談。

技術(shù)的潛力與其實(shí)際表現(xiàn)之間的并置可能是相當(dāng)不和諧的。那些承諾讓任務(wù)變得更簡單的工具被用來自動(dòng)化人們的工作，那些吹噓其連接能力的設(shè)備讓用戶感到被疏遠(yuǎn)，推動(dòng)人類飛向太空的機(jī)器是可能給人類帶來毀滅的導(dǎo)彈系統(tǒng)的近親。約瑟夫·維森鮑姆(Joseph Weizenbaum)在關(guān)于技術(shù)的“矛盾角色”的文章中雄辯地抓住了這種脫節(jié)，他指出:“我們對科學(xué)和技術(shù)的冒險(xiǎn)已經(jīng)把我們帶到自我毀滅的邊緣……也給我們許多人帶來了前所未有的舒適，甚至自我實(shí)現(xiàn)。我們中的一些人開始認(rèn)為這畢竟不是一個(gè)公平的交易。”

作為一名計(jì)算機(jī)科學(xué)家和麻省理工學(xué)院（MIT）的教授，約瑟夫·維森鮑姆（Joseph Weizenbaum）因其程序ELIZA和他在編程語言SLIP開發(fā)中的作用而在計(jì)算機(jī)歷史上獲得了當(dāng)之無愧的地位。然而，使維森鮑姆從他的同行和同事中脫穎而出的并不是他作為一個(gè)計(jì)算機(jī)科學(xué)家的成功，而是他對其領(lǐng)域的進(jìn)步對更廣泛的社會產(chǎn)生的影響的認(rèn)識。在他發(fā)現(xiàn)自己周圍人對技術(shù)比對人更感興趣的時(shí)候，維森鮑姆接受了他作為一個(gè)標(biāo)志性的、甚至是異端的角色 — — 從源頭上反擊意識形態(tài)對技術(shù)的擁抱。

對維森鮑姆來說，計(jì)算機(jī)不能與這些機(jī)器所處的社會環(huán)境相分離。因此，他拒絕了計(jì)算機(jī)評論家的頭銜，寧愿把自己塑造成一個(gè)社會評論家。就像一個(gè)魔術(shù)師在揭示魔術(shù)的秘密一樣，維森鮑姆告誡計(jì)算機(jī)用戶不要被機(jī)械魔法所迷惑，即使他向他們保證，他們也可以理解這些在他們生活中工作的機(jī)器的運(yùn)作。維森鮑姆堅(jiān)持一種強(qiáng)調(diào)計(jì)算機(jī)程序員需要為他們的創(chuàng)造物承擔(dān)責(zé)任的精神，他把自己與那些被他嘲笑為“強(qiáng)迫性程序員”、“人工智能”以及那些拒絕思考他們工作的意義和應(yīng)用的人對立起來。

從1923年到2008年，約瑟夫·維森鮑姆（Joseph Weizenbaum）目睹了重大的社會、政治和技術(shù)轉(zhuǎn)變。這些生活經(jīng)歷在維森鮑姆的世界觀上留下了不可磨滅的印記 — — 尤其是他不是一個(gè)閑置的觀察者，而是這些變化的積極參與者，尤其是在技術(shù)進(jìn)步方面。不僅是計(jì)算機(jī)本身，還有互聯(lián)網(wǎng)，以及計(jì)算機(jī)被用來實(shí)現(xiàn)的一系列目標(biāo)，都在維森鮑姆的激昂分析之下。作為一名社會批評家和計(jì)算機(jī)科學(xué)家，維森鮑姆的批評隨著時(shí)間的推移幾乎沒有失去其力量。本書展示了維森鮑姆思想的豐富性，以及他的信念，即涉及計(jì)算機(jī)的問題太重要了，不能只留給計(jì)算機(jī)科學(xué)家。

畢竟，計(jì)算機(jī)和技術(shù)在社會中仍然扮演著一個(gè)矛盾的角色。

從柏林到密歇根再到馬薩諸塞

約瑟夫·維森鮑姆（Joseph Weizenbaum）于1923年1月8日在柏林出生。雖然他的父親本身具有正統(tǒng)的猶太背景，但維森鮑姆的成長過程并不特別具有宗教色彩，盡管他和他的哥哥都接受過宗教教育。雖然維森鮑姆一家能夠在納粹暴行最嚴(yán)重之前逃離德國 — — 1936年離開德國前往美國 — — 但在法西斯主義崛起中成長的經(jīng)歷給維森鮑姆留下的印象將在他的余生中一直地跟隨他，無論他去哪里。

由于他的家人在他只有13歲時(shí)就離開了德國 — — 事實(shí)上，他們在他13歲生日那天離開了德國 — — 維森鮑姆只是初步意識到他出生的國家正在發(fā)生的變化。維森鮑姆一家離開德國的時(shí)候，至少在他看來，被納粹追捕的主要群體是政治對手，而不是那些猶太裔。然而，納粹的崛起和他們的反猶政策確實(shí)對維森鮑姆的生活產(chǎn)生了直接影響，因?yàn)榧{粹的法律迫使維森鮑姆離開了他一直就讀的公立學(xué)校，進(jìn)入一所猶太男子學(xué)校。柏林，以及維森鮑姆周圍的世界，越來越成為一個(gè)不安全的地方。街角的警察從一個(gè)孩子需要幫助時(shí)可以求助的對象變成了一個(gè)猶太孩子必須躲避的人。柏林已經(jīng)變成了沖鋒隊(duì)經(jīng)常光顧的家園，在那里的密室里發(fā)生了可怕的事情，希特勒青年團(tuán)的成員潛伏在街道上，等待著在維森鮑姆放學(xué)回家的路上襲擊他 — — 然而，這些事情只是對這個(gè)小男孩來說，“我們只是生活在一個(gè)殘酷社會”的證據(jù)。盡管維森鮑姆在移民時(shí)并不清楚他的家人離開的具體原因，但他仍然意識到他的家人“剛剛逃離了一些邪惡的東西”。隨著不安感的增加，維森鮑姆焦慮地意識到他以前的許多朋友和同學(xué)都留在了柏林，甚至當(dāng)他先去英國，然后跨越大西洋時(shí)。

抵達(dá)美國后，維森鮑姆敏銳地意識到他與同齡人的區(qū)別。移民并不是他精心準(zhǔn)備的事情 — — 它是突然發(fā)生的，也是不得已而為之 — — 因此他來到美國時(shí)不會說英語。在德國學(xué)校和德國的猶太學(xué)校接受教育后，維森鮑姆發(fā)現(xiàn)自己很快就必須克服自己與新同齡人之間的知識差距。他不僅要學(xué)習(xí)如何在一個(gè)新的國家生活，同時(shí)還要學(xué)習(xí)新國家的歷史。然而，對維森鮑姆來說，在他適應(yīng)密歇根州底特律的生活時(shí)，與眾不同是一種力量的來源。他還在為英語掙扎，但他對數(shù)學(xué)的興趣迅速增長，因?yàn)檫@是一個(gè)他可以理解的學(xué)科：因?yàn)閿?shù)學(xué)是一種通用語言。正是維森鮑姆對數(shù)學(xué)的喜愛，最終將他引向了計(jì)算機(jī)。

高中畢業(yè)后，維森鮑姆進(jìn)入底特律的韋恩州立大學(xué)學(xué)習(xí)數(shù)學(xué)，并從那里獲得了學(xué)士學(xué)位和碩士學(xué)位 — — 盡管他的學(xué)習(xí)因二戰(zhàn)期間擔(dān)任陸軍航空隊(duì)的氣象學(xué)家而中斷，但他在戰(zhàn)爭結(jié)束后又回到了他的學(xué)習(xí)中。維森鮑姆對計(jì)算機(jī)的了解意味著他真正參與到了當(dāng)時(shí)仍處于萌芽狀態(tài)的領(lǐng)域，因?yàn)樗陧f恩州立大學(xué)時(shí)就有機(jī)會“作為助理參與計(jì)算機(jī)的建造”。二十一世紀(jì)的個(gè)人計(jì)算機(jī)與維森鮑姆在韋恩州立大學(xué)幫助建造的計(jì)算機(jī)僅有一絲相似之處。事實(shí)上，他參與建造的計(jì)算機(jī)“裝滿了整個(gè)報(bào)告廳”，并被昵稱為“旋風(fēng)”（Whirlwind），而下一臺計(jì)算機(jī)則被冠以“臺風(fēng)”（Typhoon）的稱號。從韋恩州立大學(xué)畢業(yè)后，維森鮑姆在私營部門短暫工作，在受雇于通用電氣公司時(shí)，他幫助美國銀行開發(fā)了自動(dòng)記賬和校對系統(tǒng)ERMA（Electronic Recording Machine-Accounting）。1962年他離開了企業(yè)界，當(dāng)時(shí)麻省理工學(xué)院（MIT）為他提供了一個(gè)訪問教授的職位。

正是在麻省理工學(xué)院，維森鮑姆創(chuàng)建了ELIZA，在那里他逐漸對計(jì)算機(jī)對社會的影響越來越關(guān)注。

ELIZA

在麻省理工學(xué)院時(shí)，約瑟夫·維森鮑姆（Joseph Weizenbaum）開發(fā)了一個(gè)計(jì)算機(jī)程序，確保了他在計(jì)算機(jī)歷史上的地位 — — 這個(gè)程序就是ELIZA。ELIZA這個(gè)名字是為這個(gè)“語言分析程序選擇的，因?yàn)樗拖衿じ耨R利翁中的伊麗莎一樣，可以被教得越來越好”。（language analysis program because, like the Eliza of Pygmalion fame, it could be taught to ‘speak’ increasingly well.）這個(gè)程序允許一個(gè)人用自然、對話式的語言與計(jì)算機(jī)交流。這導(dǎo)致計(jì)算機(jī)的反應(yīng)可能會給人一種印象，即計(jì)算機(jī)理解了所說的話，甚至計(jì)算機(jī)也在回答。與ELIZA“對話”的人將在連接到運(yùn)行該程序的計(jì)算機(jī)的打字機(jī)上用自然語言輸入信息。在他們輸入信息后，計(jì)算機(jī)將產(chǎn)生一個(gè)回應(yīng)，并在同一臺機(jī)器上顯示出來。

早期ELIZA運(yùn)行的腳本是這樣的：程序?qū)栴}的回應(yīng)方式類似于羅杰心理治療師使用的方法 — — 也就是說，ELIZA通常會對用戶的信息做出回應(yīng)，將信息中的文字以問題的形式反饋出來。事實(shí)上，對于ELIZA的這個(gè)化身 — — 有時(shí)被稱為醫(yī)生（DOCTOR） — — 人類用戶實(shí)際上被指示與程序互動(dòng)，就像他們真的在與精神病醫(yī)生說話一樣。這個(gè)指令的原因是，它讓ELIZA看起來好像真的參與了對話，因?yàn)椤熬癫W(xué)訪談是分類的二元自然語言交流的少數(shù)例子之一，其中一個(gè)參與者可以自由地?cái)[出對現(xiàn)實(shí)世界幾乎一無所知的姿勢”。ELIZA的結(jié)果是，它看起來更有意識 — — 這是人類對話者將他們被理解的信念投射到計(jì)算機(jī)程序上的結(jié)果。當(dāng)ELIZA回答“多告訴我一些關(guān)于你家庭的事情”時(shí)，對話中并沒有讓人覺得這個(gè)問題是出于對家庭的無知，而恰恰相反。

ELIZA程序能夠通過執(zhí)行“轉(zhuǎn)換規(guī)則”來表現(xiàn)出參與真正討論的樣子，該規(guī)則在程序檢測到文本中的某些關(guān)鍵詞時(shí)被應(yīng)用。如果ELIZA收到包含某些關(guān)鍵字的消息，程序?qū)⒎纸獬霈F(xiàn)該關(guān)鍵字的文本字符串，并以提示進(jìn)一步回復(fù)的方式將其重新組合。遵循這些規(guī)則，“任何‘I am BLAH’形式的句子都可以轉(zhuǎn)換成‘How long have you been BLAH’，而不受BLAH的含義影響”。用戶輸入帶有關(guān)鍵字的評論和語句，ELIZA會獲取這些句子，并遵循腳本的規(guī)則，例如將第一人稱代詞換成第二人稱代詞，給出合適的回答。此外，在ELIZA沒有檢測到合適的關(guān)鍵字的情況下，腳本被設(shè)計(jì)為“一個(gè)早期的無內(nèi)容注釋，或在某些條件下，一個(gè)早期的轉(zhuǎn)換”可以作為答案。

在維森鮑姆關(guān)于ELIZA的文章的第一段中，他承認(rèn)計(jì)算機(jī)看起來就像是在表演魔術(shù)；然而，“一旦一個(gè)特定的程序被揭開，一旦它的內(nèi)部工作原理被用足夠簡單易懂的語言解釋清楚，它的魔力就消失了；現(xiàn)在看來，它只不過是一系列程序的集合，每一個(gè)都很容易理解”。在這段引文之后的文章中，維森鮑姆清晰地詳細(xì)解釋了ELIZA的工作方式 — — 他一步一步地表明，它不是魔術(shù)的結(jié)果，也不是程序部分的真正理解，而是歸功于聰明的編程。當(dāng)然，為了使對話者相信能理解ELIZA，ELIZA在很大程度上依賴于其腳本之外的東西。在與ELIZA的對話中，“如前所述，說話的人會為ELIZA的回答披上似是而非的外衣”。即使人類知道他們只是在與計(jì)算機(jī)交換信息，即使他們知道產(chǎn)生特定答案的腳本和程序，ELIZA的魔力也證明了“創(chuàng)造和維持理解的幻覺是多么容易”。

維森鮑姆強(qiáng)調(diào)說，ELIZA實(shí)際上并不理解它所收到的信息 — — 即使它的腳本生成的答復(fù)讓人覺得事實(shí)恰恰相反。一旦“對話”開始，ELIZA項(xiàng)目的一個(gè)主要目的是使討論繼續(xù)下去。它通過掩蓋“它自己的任何誤解”，以及依靠人類討論者的誠意，在遇到類似打嗝的證據(jù)，表明程序沒有真正理解他們所輸入的信息時(shí)，不會過早地離開。這種理解可能是困難的，因?yàn)槿藗儊碜圆煌谋尘埃馕吨鴥蓚€(gè)人可能有非常不同的參考框架。對維森鮑姆來說，關(guān)鍵是人類“在可接受的范圍內(nèi)”相互理解，但像ELIZA這樣的程序所能實(shí)現(xiàn)的只是“象征性地處理這些想法”。這本身并不是理解的證明，而只是成功執(zhí)行腳本的證據(jù)。

即使維森鮑姆對兩個(gè)人能夠真正理解對方的程度持懷疑態(tài)度，但作為其創(chuàng)造者，他確信自己完全理解ELIZA — — 因此，他對其他人似乎誤解ELIZA的方式感到相當(dāng)驚訝。正如維森鮑姆所寫的那樣，“那些非常清楚他們是在和一臺機(jī)器對話的人很快就忘記了這個(gè)事實(shí)”，有些人甚至“要求被允許私下與系統(tǒng)對話，并且在與它交談一段時(shí)間后，不管我怎么解釋，他們都會堅(jiān)持認(rèn)為機(jī)器真的理解他們”。此外，ELIZA能夠成功地模擬羅杰斯精神分析學(xué)家的工作的程度給許多精神病學(xué)家留下了深刻的印象，其中一些人甚至建議該程序可以用于真正的病人。維森鮑姆對ELIZA的反應(yīng)感到困惑，他發(fā)現(xiàn)自己對計(jì)算機(jī)科學(xué)領(lǐng)域其他地方出現(xiàn)的某些趨勢感到不安，比如試圖將人類描述為與計(jì)算機(jī)相似的趨勢，以及將人腦描述為“僅僅是一臺肉類機(jī)器”（merely a meat machine）的主張。

對維森鮑姆來說很清楚的是，計(jì)算機(jī)不僅成為人們生活中的強(qiáng)大工具，而且“我們已經(jīng)允許技術(shù)隱喻……技術(shù)本身如此徹底地滲透到我們的思維過程中，以至于我們最終把提出問題的責(zé)任讓給了技術(shù)”。這種技術(shù)隱喻的興起，部分原因是計(jì)算機(jī)科學(xué)家逃避對他們所創(chuàng)造的東西的責(zé)任?— — 盡管計(jì)算機(jī)的普及使得技術(shù)隱喻在不完全理解計(jì)算機(jī)工作方式的公眾中廣泛傳播。

在ELIZA獲得成功之后，維森鮑姆轉(zhuǎn)向解決這些挑戰(zhàn) — — 這與其說是“計(jì)算機(jī)批評”，不如說是“社會批評”的壯舉。維森鮑姆逐漸成為技術(shù)隱喻的著名評論家，而他所處的位置正是這個(gè)隱喻傳播的地點(diǎn)之一。

關(guān)于《計(jì)算機(jī)能力與人類理性》（Computer Power and Human Reason）

約瑟夫·維森鮑姆（Joseph Weizenbaum）的《計(jì)算機(jī)能力與人類理性：從判斷到計(jì)算》（Computer Power and Human Reason: From Judgment to Calculation）一書包含了很多內(nèi)容:計(jì)算機(jī)基本工作原理的入門講座，計(jì)算機(jī)科學(xué)中數(shù)學(xué)原理的通俗陳述，試圖揭開計(jì)算機(jī)的神秘面紗，對計(jì)算機(jī)領(lǐng)域工作人員的道德挑戰(zhàn)，以及堅(jiān)定的批評，即僅僅因?yàn)橛?jì)算機(jī)可以做某事并不意味著它就應(yīng)該做某事。盡管書中涉及數(shù)學(xué)和科學(xué)，甚至警告不熟悉的讀者，他們可能會發(fā)現(xiàn)這些部分很難，但這是一本不尋求僅僅對學(xué)術(shù)讀者對話的書。無論如何，《計(jì)算機(jī)能力》（Computer Power）并不是第一本對技術(shù)在社會中的影響進(jìn)行斥責(zé)的書。歷史學(xué)家和杰出的技術(shù)批評家劉易斯·芒福德（Lewis Mumford）顯然影響了維森鮑姆的思想；然而，使維森鮑姆成為技術(shù)批評家的一個(gè)關(guān)鍵因素是 — — 與芒福德不同 — — 維森鮑姆實(shí)際上是一名計(jì)算機(jī)科學(xué)家。

《計(jì)算機(jī)能力與人類理性》一開始，維森鮑姆解釋了他的技術(shù)資歷，并表達(dá)了他與計(jì)算機(jī)打交道的經(jīng)歷如何促使他寫了一本對這些機(jī)器如此批判的書。他以ELIZA作為本書的開篇，但不同于他在文章中向科學(xué)同行觀眾解釋了大量的技術(shù)細(xì)節(jié)，在《計(jì)算機(jī)能力》中，維森鮑姆以一種突出他自己對該程序引起的反應(yīng)的驚訝的方式講述了ELIZA的故事。維森鮑姆指出，他驚訝于執(zhí)業(yè)精神科醫(yī)生真的相信這個(gè)程序具有治療潛力，承認(rèn)人們在與計(jì)算機(jī)交流中投入情感的輕松程度讓他感到震驚，并強(qiáng)調(diào)了他對自己所在領(lǐng)域的許多人似乎相信ELIZA代表了一個(gè)能夠真正理解它以自然語言接收到的提示的程序的驚訝。然而，維森鮑姆并沒有簡單地對這些古怪的對抗置之不理。相反，正如他所說，這些經(jīng)歷“逐漸使我相信，我使用 ELIZA 的經(jīng)歷是更深層次問題的征兆”。

維森鮑姆強(qiáng)調(diào)說，計(jì)算機(jī)并不是問題所在，相反，它只是具象化了一種長期以來危險(xiǎn)的社會傾向，即以越來越機(jī)械化的方式看待人類。在維森鮑姆看來，一場辯論正在爆發(fā)，“一邊是那些簡單地說，相信計(jì)算機(jī)可以，應(yīng)該，并且將會做所有事情的人，另一邊是那些像我一樣的人，認(rèn)為計(jì)算機(jī)應(yīng)該做的事情是有限的”。對于維森鮑姆的論點(diǎn)來說，“應(yīng)該”的存在是特別重要的，因?yàn)樗鼘⒂懻摰慕裹c(diǎn)從計(jì)算機(jī)可以擁有什么功能轉(zhuǎn)變?yōu)槭欠駪?yīng)該首先構(gòu)建它們來執(zhí)行這些功能。對于維森鮑姆來說，這是一個(gè)“計(jì)算機(jī)在社會秩序中的適當(dāng)位置”的問題，這個(gè)問題也意味著計(jì)算機(jī)有一個(gè)不適當(dāng)?shù)奈恢?。盡管維森鮑姆作為麻省理工學(xué)院一位受人尊敬的教授，他毫不猶豫地指出，“科學(xué)也可能被視為一種上癮的藥物”，由于“服用劑量越來越大，科學(xué)已逐漸變成一種慢性毒藥”。

將計(jì)算機(jī)與人們使用的其他工具區(qū)別開來的是這些機(jī)器的自主程度 — — 這意味著一旦它們被打開，它們就可以在不需要人類進(jìn)一步控制的情況下運(yùn)行。時(shí)鐘(為了向芒福德致敬)是這種自主機(jī)器的重要早期例子，而計(jì)算機(jī)也同樣具有自主能力，但其功能要比僅僅記錄時(shí)間重要得多。這種機(jī)器的意義在于，它們按照現(xiàn)實(shí)世界的某些部分的模型運(yùn)行 — — 例如，將一天劃分為24小時(shí)，每小時(shí)由60分鐘組成，每分鐘由60秒組成。漸漸地，在模仿現(xiàn)實(shí)的某些方面時(shí)，這些自動(dòng)機(jī)器會把現(xiàn)實(shí)的模型灌輸給最初建造機(jī)器的人類。這個(gè)模型取代了它所模擬的東西。因此，在技術(shù)的支持下，“現(xiàn)實(shí)的經(jīng)驗(yàn)必須以數(shù)字的形式表現(xiàn)出來，以便在常識的眼中顯得合理”。

計(jì)算機(jī)在二戰(zhàn)前后出現(xiàn)，并在二戰(zhàn)結(jié)束后的幾年里進(jìn)一步爆發(fā)，軍事、工業(yè)和商業(yè)界將其視為解決一系列問題所需的工具，而這些問題對于人類來說，如果沒有重要的技術(shù)援助是無法解決的。隨著微型化使更小的計(jì)算機(jī)能夠適應(yīng)從辦公室到飛機(jī)的一切，一個(gè)過渡期穩(wěn)步發(fā)生，計(jì)算機(jī)被視為新興現(xiàn)代社會不可或缺的組成部分。這一趨勢的最終結(jié)果是，回到以前的方式幾乎是不可想象的。然而，僅僅因?yàn)橛?jì)算機(jī)被認(rèn)為是不可或缺的，并不意味著它真的是不可或缺的。相反，發(fā)生的情況是，計(jì)算機(jī)僅僅成為“社會生存的必要條件，其形式是計(jì)算機(jī)本身在塑造過程中發(fā)揮了作用”。

計(jì)算機(jī)由于與軍事需求密切相關(guān)，可能看起來正在從根本上改變社會，但在維森鮑姆的估計(jì)中，計(jì)算機(jī)“被用來保護(hù)美國的社會和政治制度。這至少在暫時(shí)幫助他們頂住了巨大的變革壓力”。事實(shí)上，在維森鮑姆看來，計(jì)算機(jī)使得社會、政治和經(jīng)濟(jì)現(xiàn)狀得以縮減，盡管計(jì)算機(jī)的廣泛分散使得機(jī)械世界觀在更多領(lǐng)域扎根 — — 同時(shí)計(jì)算機(jī)也被用來幫助支撐戰(zhàn)后消費(fèi)主義的爆發(fā)。無論計(jì)算機(jī)是否一定是正確的解決方案，它都在一系列領(lǐng)域受到歡迎，“比如說，出于時(shí)尚或聲望的原因” — — 如果一個(gè)人的競爭對手，無論是商業(yè)對手還是競爭的超級大國，擁有計(jì)算機(jī)，那么他就不能讓自己落伍。雖然計(jì)算機(jī)，正如它的名字所暗示的那樣，在計(jì)算任務(wù)方面表現(xiàn)出色，但由于缺乏計(jì)算能力之外的原因，仍然存在一些社會挑戰(zhàn) — — “技術(shù)的有效性是一個(gè)涉及技術(shù)及其主題的問題”。但是，對計(jì)算機(jī)的崇拜只是對“技術(shù)”的奉承，而往往忽略了“它的主題”。然而，即使是在1976年寫的文章，維森鮑姆也意識到計(jì)算機(jī)已經(jīng)復(fù)雜地交織在社會中，因此重要的是認(rèn)識到“社會新創(chuàng)造的行動(dòng)方式往往消除了以舊方式行動(dòng)的可能性”。計(jì)算機(jī)依賴于特定類型的信息，擅長于特定類型的任務(wù)，并受到特定的社會、政治和經(jīng)濟(jì)力量的引導(dǎo) — — 盡管計(jì)算機(jī)可能被描繪為打開了許多門，但維森鮑姆強(qiáng)調(diào)，它也關(guān)閉了許多門。

計(jì)算機(jī)所代表的一個(gè)特別的問題是，與簡單的工具不同，許多使用計(jì)算機(jī)的人對機(jī)器的實(shí)際工作方式知之甚少。計(jì)算機(jī)的一個(gè)令人安心的方面是它們的規(guī)律性和它們堅(jiān)持常規(guī)的方式 — — 但是“如果我們依賴于那臺機(jī)器，我們就成了我們不知道的法律的仆人，因此是一個(gè)反復(fù)無常的法律。這就是我們苦惱的根源”。為了減輕這種苦惱，在《計(jì)算機(jī)能力與人類理性》一書中，維森鮑姆深入研究了計(jì)算機(jī)的工作方式，通過解釋相對簡單的游戲來展示復(fù)雜的計(jì)算腳本，強(qiáng)調(diào)人們必須記住計(jì)算機(jī)完全遵守游戲規(guī)則。雖然維森鮑姆對“計(jì)算機(jī)的力量從何而來”和“計(jì)算機(jī)如何工作”的討論不足以讓一個(gè)新手立即變成一個(gè)程序員，但這些章節(jié)仍然有助于闡明計(jì)算機(jī)內(nèi)部的實(shí)際情況。維森鮑姆用傾向于技術(shù)性的密集散文解釋了圖靈機(jī)，并闡述了計(jì)算機(jī)可以將多個(gè)程序堆疊在一起的方式，指出：“所有現(xiàn)代計(jì)算機(jī)的機(jī)器語言的字母表都是由‘0’和‘1’兩個(gè)符號組成的集合。但是它們的詞匯和轉(zhuǎn)換規(guī)則有很大的不同……計(jì)算機(jī)是一個(gè)高超的符號操縱者”。盡管計(jì)算機(jī)的效率很高，但它仍然必須遵循自己的編程規(guī)則，并依賴于自己特定的語言；一個(gè)程序能夠成功地執(zhí)行它的腳本并不意味著它對世界有任何真正的理解。事實(shí)上，正如維森鮑姆所言，“編程之所以困難的一個(gè)真正原因是，在大多數(shù)情況下，計(jì)算機(jī)對它的程序要處理的現(xiàn)實(shí)世界的那些方面一無所知”。

計(jì)算機(jī)及其運(yùn)行的程序在自然界中并不是有機(jī)存在的。相反，計(jì)算機(jī)及其程序是人類做出的一系列選擇的物理表現(xiàn)。作為一名計(jì)算機(jī)科學(xué)家和麻省理工學(xué)院的教授，維森鮑姆非常熟悉那些負(fù)責(zé)決策的人，這些決策導(dǎo)致了更廣泛的公眾最終將使用的計(jì)算機(jī)系統(tǒng)。盡管維森鮑姆本身就是一名程序員，但他毫不畏懼地批評他的同行。對于維森鮑姆來說，像他這樣的“專業(yè)人士”和維森鮑姆所說的“強(qiáng)迫性程序員”是有區(qū)別的，前者“將編程視為達(dá)到目的的手段，而不是目的本身”。維森鮑姆把這種人比作職業(yè)賭徒。維森鮑姆把“強(qiáng)迫性程序員”描述為把與計(jì)算機(jī)的互動(dòng)視為目的本身的人 — — 盡管這種人可能在許多項(xiàng)目上工作，但他們的主要目標(biāo)只是繼續(xù)與計(jì)算機(jī)工作，或“入侵” 。維森鮑姆對“這些計(jì)算機(jī)流氓”的描述令人討厭，他們“只通過計(jì)算機(jī)存在，只為計(jì)算機(jī)而存在”，在許多方面勾勒出了一種對計(jì)算機(jī)程序員的刻板印象，這種印象一直延續(xù)到今天 — — 但讓維森鮑姆的描述特別刺人的是，他并不是在想象這種類型的人，而是在描述他在麻省理工學(xué)院擔(dān)任計(jì)算機(jī)科學(xué)家和教授期間經(jīng)常見到的一種類型的人。

在維森鮑姆的估計(jì)中，將“強(qiáng)迫性程序員”吸引到計(jì)算機(jī)的原因是對計(jì)算機(jī)系統(tǒng)中所表現(xiàn)出來的力量的迷戀和崇拜。雖然，“對控制的追求是所有技術(shù)所固有的”，但計(jì)算機(jī)提供了一個(gè)空間，在那里，熟練的程序員可以高興地抓住控制權(quán)。對于“強(qiáng)迫性程序員……生活只不過是在一臺巨大的計(jì)算機(jī)上運(yùn)行的程序”，因此“生活的每個(gè)方面最終都可以用編程術(shù)語來解釋”。對維森鮑姆來說，計(jì)算機(jī)的危險(xiǎn)在于越來越多從事計(jì)算機(jī)工作的人代表了這些“強(qiáng)迫性程序員”，他們對計(jì)算機(jī)的忠誠已經(jīng)超越了任何其他價(jià)值。然而，維森鮑姆并沒有把這歸咎于任何邪惡，而是歸結(jié)于某些程序員 — — 以及其他現(xiàn)代科學(xué)家和技術(shù)專家 — — 將他們的技術(shù)科學(xué)手段與自身的目的混為一談的某種空虛的不負(fù)責(zé)任。盡管“強(qiáng)迫性程序員”可能并不缺乏技能，但這種“技能……是漫無目的的，甚至是虛無的。它只是與任何東西都沒有聯(lián)系，除了它可能被行使的工具”。然而，在維森鮑姆對“強(qiáng)迫性程序員”的描述中，關(guān)鍵的細(xì)節(jié)可能是，這是一個(gè)相信世界的所有復(fù)雜性都可以簡化到足以被計(jì)算機(jī)程序捕獲的簡單事物的人物。

在某些方面，計(jì)算機(jī)所代表的是一種舞臺，程序員可以為其編寫腳本，然后在此執(zhí)行。計(jì)算機(jī)擅長于一絲不茍地執(zhí)行腳本，遵循精確的規(guī)則，因此，通過檢查它所遵循的代碼，可以理解計(jì)算機(jī)所做的事情。人類的情況則更為棘手。誠然，人類處理和回應(yīng)大量的信息，人們的行為遵循一些“科學(xué)可以發(fā)現(xiàn)并在某些科學(xué)框架內(nèi)形式化的法則”。盡管如此，維森鮑姆對所有人類的智慧和理解都可以被簡化為符合科學(xué)框架的規(guī)則的想法表示不滿 — — 即使對這種規(guī)則存在的信仰引導(dǎo)了一些人工智能(AI)研究人員的信心。畢竟，正如維森鮑姆所說：一臺機(jī)器需要什么樣的設(shè)備才能“思考諸如青春期愛情失望之類的人類問題”？然而，由于機(jī)器的存在，計(jì)算機(jī)程序員所持有的理論具有特別重要的品質(zhì)，使這些理論不僅僅是文本。因?yàn)椤耙粋€(gè)以計(jì)算機(jī)程序形式寫成的理論既是一個(gè)理論，當(dāng)放在計(jì)算機(jī)上運(yùn)行時(shí)，又是一個(gè)理論適用的模型” — — 計(jì)算機(jī)提供了腳本執(zhí)行的舞臺。盡管計(jì)算機(jī)可能會呈現(xiàn)出令人印象深刻的結(jié)果，但維森鮑姆警告說：“模型總是一種簡化，是它所要模擬的東西的一種理想化”。不幸的是，計(jì)算機(jī)的復(fù)雜性和模型固有的簡單化往往只會導(dǎo)致對計(jì)算機(jī)能夠和已經(jīng)完成的事情的廣泛誤解。

“計(jì)算機(jī)已經(jīng)成為一個(gè)真正強(qiáng)大且經(jīng)常有用的隱喻的來源”，然而“公眾對計(jì)算機(jī)隱喻的擁抱僅僅建立在對一個(gè)困難且復(fù)雜的科學(xué)概念最模糊的理解上”。對維森鮑姆來說，這種隱喻的盛行代表了一種危險(xiǎn)的趨勢，那些不完全了解計(jì)算機(jī)工作原理的人逐漸相信，世界上的一切都可以變成一個(gè)計(jì)算機(jī)模型。計(jì)算機(jī)隱喻使“強(qiáng)迫性程序員”的意識形態(tài)超越了那些沒有編程經(jīng)驗(yàn)的人，從而容易受到那些慶祝計(jì)算機(jī)所取得的最新技術(shù)成就的勸告。結(jié)果是，“計(jì)算機(jī)的隱喻變成了另一個(gè)燈柱，人們在它的光照下，也只有在它的光照下，才會去尋找迫切問題的答案”。當(dāng)然，某些問題確實(shí)很適合用計(jì)算的方法來解決 — — 其中有些問題甚至似乎證明了某種人類智慧的成就，比如下棋的技巧，但維森鮑姆強(qiáng)調(diào)，這種勝利與計(jì)算機(jī)迅速進(jìn)行計(jì)算和執(zhí)行邏輯程序的實(shí)力有關(guān)。對于一些計(jì)算機(jī)科學(xué)家來說，計(jì)算機(jī)擅長解決的問題類型幾乎被視為人類試圖解決的問題類型的同義詞，但對維森鮑姆來說，“正是這種對普遍性的無理要求，使他們對計(jì)算機(jī)、計(jì)算系統(tǒng)、程序等的使用從科學(xué)理論的地位降到了隱喻的地位”。

維森鮑姆對計(jì)算機(jī)隱喻的問題誤解的個(gè)人經(jīng)驗(yàn)主要與他在ELIZA的經(jīng)歷有關(guān)。要讓計(jì)算機(jī)做某事，必須告訴計(jì)算機(jī)做某事。這并不一定意味著計(jì)算機(jī)理解它被告知的內(nèi)容，只是它的腳本使它能夠執(zhí)行一個(gè)特定的命令。人類擅長理解 “用自然語言表達(dá)的交流”，但計(jì)算機(jī)則相反，需要“普通編程語言的精確性和明確性”。盡管維森鮑姆的程序ELIZA可以對自然語言的提示做出反應(yīng)，但程序本身并不理解對它說的話 — — 相反，它只是在遵循一個(gè)腳本 — — 而且在那些不熟悉計(jì)算機(jī)工作原理的人中，這種理解的假象似乎最為強(qiáng)烈。

ELIZA有很多特點(diǎn)，但智能并不是其中之一。對維森鮑姆來說，ELIZA展示了人們熱衷于將智能賦予機(jī)器的方式，而這種方式是沒有必要的 — — 這是他在人工智能領(lǐng)域的一些同事中看到的一種強(qiáng)烈的傾向，他將這些人稱為“人工智能主義者”（the artificial intelligentsia）。雖然維森鮑姆承認(rèn)人工智能科學(xué)家已經(jīng)創(chuàng)造了可以執(zhí)行許多任務(wù)的程序，但他認(rèn)為這種傾向是傲慢的，認(rèn)為人工智能的任何缺點(diǎn)只是“在特定系統(tǒng)的程序限制中找到的”。那些不熟悉計(jì)算機(jī)的人有理由被ELIZA的表現(xiàn)所吸引，但“人工智能”的借口是什么？維森鮑姆在他的一生中見證了計(jì)算機(jī)能力的巨大飛躍，并且認(rèn)識到今天對計(jì)算機(jī)來說不可能的事情，明天對計(jì)算機(jī)來說也可能。然而，問題變得越來越多，不再是計(jì)算機(jī)能做什么的問題，而是它們應(yīng)該做什么的問題 — — 是否有“適當(dāng)?shù)娜祟惸繕?biāo)不適合于機(jī)器”？

“人不是機(jī)器……計(jì)算機(jī)和人不是同一個(gè)屬的物種”，這是維森鮑姆對他所認(rèn)為的信仰的尖銳反駁，這些信仰讓“人工智能反常的宏大幻想得以發(fā)展”。對于維森鮑姆來說，智力是一個(gè)復(fù)雜而困難的概念，不能簡單地加以簡化。因此，試圖最終定義智力的嘗試，如智商測試，注定最多只能捕捉到智力的部分一瞥。很明顯，計(jì)算機(jī)可以在那些似乎表明智能的壯舉上取得成功，但同時(shí)這也過于簡單化了。一臺計(jì)算機(jī)可能在國際象棋中獲勝，但這并不意味著它能給嬰兒換尿布。對維森鮑姆來說，這些都是“無法比較”的大相徑庭的智能問題。計(jì)算機(jī)擅長于涉及量化的任務(wù)，但對維森鮑姆來說，人類有很多東西是根本無法量化的。維森鮑姆意識到，“人工智能”的成員可以把這種批評看作是一種科學(xué)挑戰(zhàn)，他們可以試圖通過制造更復(fù)雜的機(jī)器來應(yīng)對這種挑戰(zhàn)。然而，對維森鮑姆來說，這不是一個(gè)學(xué)術(shù)決斗的問題 — — 而是一個(gè)道德問題 — — 因?yàn)椤?strong>問題不在于這樣的事情是否可以做到，而在于將這種迄今為止的人類功能委托給機(jī)器是否合適”。

關(guān)于人類的狀況，很多東西仍然是未知的 — — 關(guān)于做人的其他很多東西只有通過人類經(jīng)驗(yàn)的磨練才能學(xué)到 — — 這些東西不容易被量化和編程。如果計(jì)算機(jī)或機(jī)器人最終達(dá)到這樣的成熟度，表現(xiàn)出與人類真正相似的智能，那么它們的智能將是相當(dāng)“陌生”的，因?yàn)樗鼈兊闹悄苁窃诓煌纳鐣l件下形成的，并涉及到一系列不同的經(jīng)驗(yàn)。在智力之外，還有情感和無意識的問題，這些問題不容易被計(jì)算和冷酷的邏輯所制約 — — 因此維森鮑姆告誡大家要克制，因?yàn)椤坝行〇|西是科學(xué)無法完全理解的”。這種情緒既是對他的科學(xué)同事的警告，也是對廣大公眾的提醒，要對全能的說法保持警惕。對維森鮑姆來說，這基本上是與這樣一種信念聯(lián)系在一起的：有些任務(wù)對計(jì)算機(jī)來說根本就是不合適的 — — “既然我們現(xiàn)在沒有任何辦法讓計(jì)算機(jī)變得聰明，那么我們現(xiàn)在就不應(yīng)該給計(jì)算機(jī)提供需要智慧的任務(wù)”。

維森鮑姆的警告是在許多不適合計(jì)算機(jī)的任務(wù)已經(jīng)傳遞給計(jì)算機(jī)的時(shí)候發(fā)出的。當(dāng)維森鮑姆在寫《計(jì)算機(jī)能力與人類理性》時(shí)，計(jì)算機(jī)已經(jīng)成為企業(yè)和大型組織的一個(gè)普遍特征 — — 即使它還沒有成為每個(gè)家庭的固定設(shè)備。盡管這些機(jī)器最初是以它們會有幫助的承諾來出售的，但現(xiàn)在的情況是，這些機(jī)器“既超越了用戶的理解力，又成為他們不可或缺的東西”。本來應(yīng)該提供幫助的東西已經(jīng)變成了人們無助的東西。對于那些不熟悉計(jì)算機(jī)內(nèi)部工作原理的人來說，這種痛苦尤其危險(xiǎn)，因?yàn)樗麄冊?jīng)被引導(dǎo)相信計(jì)算機(jī)是萬無一失的，他們覺得自己的行動(dòng)能力和責(zé)任都被機(jī)器篡奪了。然而，正如維森鮑姆激烈地提醒他的讀者，“技術(shù)、政治和社會必然性的神話是一種強(qiáng)大的良心鎮(zhèn)定劑。它的作用是為每個(gè)真正相信它的人卸下責(zé)任。但事實(shí)上，演員是有的！”計(jì)算機(jī)隱喻的頌揚(yáng)者所夢想的世界就這樣被描繪成不可避免的 — — 在機(jī)器面前感到無力的人們開始懷疑，表達(dá)他們的反對有任何意義。與其被比作卡努特國王，不如順應(yīng)潮流。

然而，維森鮑姆拒絕接受固化的安寧?？茖W(xué)和“技術(shù)知識分子的修辭”把自己描繪成邏輯合理的，但對維森鮑姆來說，這是“工具推理，而不是真正的人類理性”。在計(jì)算機(jī)隱喻的支持下炮制的世界觀中，世界的巨大復(fù)雜性被轉(zhuǎn)化為“‘程序化’的東西，人們談?wù)摗斎搿汀敵觥務(wù)摲答伝芈?、變量、參?shù)、過程等等，直到最后與具體情境的所有聯(lián)系都被抽象化?！?/strong>這是一個(gè)被動(dòng)、冷漠和無能的秘訣 — — 因?yàn)槿祟惿钪皇潜惠斎霗C(jī)器和分析的數(shù)據(jù)問題。對“工具理性”的過度依賴，以及最符合這種推理的技術(shù)，已經(jīng)成為一種“被黑魔法包圍的迷信。而且只有魔術(shù)師才有入門的權(quán)利”。作為一個(gè)成功的計(jì)算機(jī)科學(xué)家，維森鮑姆本身就是一個(gè)可以加入這些“魔術(shù)師”行列的人物，但他卻沒有被工具理性所迷惑。誠然，維森鮑姆知道他的反對意見會被技術(shù)專家們視為“反技術(shù)、反科學(xué)、最后反智”，但維森鮑姆強(qiáng)調(diào)，“我在為理性而爭論。但我主張理性不能與直覺和感覺分開。我主張合理使用科學(xué)和技術(shù)，而不是將其神秘化，更不是將其拋棄。我敦促將倫理思想引入科學(xué)規(guī)劃。我反對的是工具理性的帝國主義，而不是理性”。