新聊天機器人的問題不僅僅在于他們經(jīng)常愚蠢和天真；反而是因為他們沒有愚蠢和天真到足以發(fā)現(xiàn)構(gòu)成人類文化和交流的細節(jié)、諷刺和揭示的矛盾。更糟糕的是，依靠于他們，我們可能面臨同樣的愚笨。

盧布爾雅那（斯洛文尼亞共和國的首都）-關(guān)于“聊天機器人”能夠用自然語言持續(xù)對話、理解用戶的基本意圖并基于預設(shè)規(guī)則和數(shù)據(jù)提供回應，這并不是什么新鮮事。但是最近幾個月，這種聊天機器人的能力得到了極大的提升，引發(fā)了許多領(lǐng)域的擔憂和恐慌。

關(guān)于聊天機器人可能預示著傳統(tǒng)學生論文的終結(jié)，已經(jīng)有很多言論。但是更值得關(guān)注的問題是，當人類對話者使用侮辱性、性別歧視或種族主義言論來促使聊天機器人做出類似回應時，聊天機器人應該做出怎樣的回答。是否應該將人工智能編程為以同樣的標準，來回答被提出的問題？

如果我們決定需要某種形式的監(jiān)管，那么我們必須確定審查應該行使到何種程度。政治立場被某些群體認為“冒犯”的言論會被禁止嗎？那支持巴勒斯坦人的評論，或聲稱以色列是一個種族隔離國家（美國前總統(tǒng)吉米·卡特曾經(jīng)將其用作書名）的言論呢？這些言論會被確定為“反猶太主義”嗎？

問題并沒有止步于此。正如藝術(shù)家和作家詹姆斯·布里德爾所警告的那樣，新的人工智能“基于對現(xiàn)有文化的大面積挪用”，而相信它們“實際上是有知識或有意義的”是非常危險的?！币虼耍覀円矐搶π碌腁I繪圖保持十分的警惕。布里德爾觀察到：“在它們試圖理解和復制整個人類視覺文化的過程中，它們似乎也復制了我們對最幽邃的黑暗，一直到存在的最深處所隱藏的恐懼：對污穢、死亡和腐敗的恐懼?？赡芤苍S這只是這些AI系統(tǒng)十分擅長模擬人類意識的一個跡象。”

然而，新的人工智能到底有多少擅長模擬人類意識呢？考慮最近一家酒吧用以下術(shù)語宣傳飲品特價：“買一杯啤酒，價格為兩杯的錢，并且第二杯啤酒完全免費！”對于任何人類來說，這顯然是一個笑話。這個經(jīng)典的“買一送一”特別地被重新構(gòu)造以抵消自身，它表達了犬儒主義的態(tài)度，被視為幽默的誠實，從而促進銷售。聊天機器人會理解這其中的玩笑嗎？

“Fuck”這個詞呈現(xiàn)了一個相似的問題。雖然它指代了大多數(shù)人喜歡做的事情（性交），但它通常也帶有負面意義（“我們完了！”、“去你的！”）。語言和現(xiàn)實是混亂的。人工智能可以分辨這種差異了嗎？

在德國詩人海因里?！ゑT·克萊斯特1805年的論文《關(guān)于言語過程中思維逐漸形成的過程》（最初于1878年匿名出版）中，他顛覆了一種大眾的常識，即除非有清晰的想法，否則不應該張嘴說話。他提出：“如果一個想法表達得模糊不清，那么這并不意味著這個想法本身就是混亂的。相反，被思考得最清晰的想法是以最混亂的表達方式來表達出的。”

語言與思維之間的關(guān)系非常復雜。在斯大林1930年初的一次演講中，他提出了激進的措施，要“無情地查明和打擊那些即使在思想上反對集體化的人——是的，我是這個意思，我們應該打擊人們的思想?！笨梢钥隙ǖ卣J為，這段話不是事先準備好的。在激動之后，斯大林立即意識到自己剛才說了什么。但他沒有退卻，反而決定堅持他的夸張言辭。

正如雅克·拉康后來所說的那樣，這是真理通過表述而意外地浮現(xiàn)出來的案例。路易斯·阿爾都塞在prise和surprise之間的相互作用中也發(fā)現(xiàn)了類似的現(xiàn)象。突然領(lǐng)會(prise)一個想法的人會對此感到驚訝。那么，聊天機器人能做到這一點嗎？

問題不在于聊天機器人太笨，而是它們不夠“笨”。不是因為他們天真（無法理解諷刺和反思），而是不夠天真（無法意識到這種天真之下所掩蓋的機智）。因此，真正的危險不是人們會把聊天機器人誤認為真人，而是與聊天機器人交流會讓真人說話像聊天機器人一樣——無法捕捉到所有的細節(jié)和諷刺，過于注重于說話者想要說的話。

我年輕時，有個朋友因經(jīng)歷了一次創(chuàng)傷性事件而去看精神分析師接受治療。這位朋友對分析師對患者的期望有一個刻板的印象，所以他在第一次會談上故意陳述了虛假的“自由聯(lián)想”，聲稱他恨他的父親并想讓他去死。分析師的反應非常巧妙：他采取了一個天真的“前弗洛伊德”的立場，責備我的朋友不尊重他的父親（“你怎么能這樣談論塑造你的人呢？”）。這種假裝天真的反應傳達了一個明確的信息：我不相信你的虛假“聯(lián)想”。聊天機器人能夠理解這種言外之意嗎？

這很可能不會，因為它就像羅恩·威廉姆斯對陀思妥耶夫斯基的《白癡》中梅什金公爵的詮釋。根據(jù)標準的解讀，梅什金公爵是一個圣潔的、“積極的善良和美好的人”，被現(xiàn)實世界中的殘酷和激情推向孤獨的瘋狂。但在威廉姆斯的激進的重新解讀中，梅什金代表了風暴之眼：盡管他可能善良而圣潔，但他卻是周圍復雜關(guān)系網(wǎng)絡(luò)中引發(fā)災難和死亡之人。

問題不僅在于梅什金是一個天真的傻子。而是他特殊的愚鈍使他沒有意識到自己對他人的災難性影響。他是一個麻木的人，實際上像聊天機器人一樣說話。他的“善良”在于，像聊天機器人一樣，他對挑戰(zhàn)做出的反應，沒有任何諷刺，提供的卻是毫無任何反思的陳詞濫調(diào)，做任何事情都是死板的，依賴于心理自動完成而不是通過真正的思想來形成。因此，新的聊天機器人將與各種意識形態(tài)的擁躉非常合得來，從今天的“覺醒運動（是自2014年黑命貴運動以來美國人對有色人種、同性戀社群和女性身份認同政治的左翼政治運動的稱呼。）”到“MAGA（“讓美國再次偉大”）”民族主義者，他們更愿意保持思想上的沉睡。