“理性:AI到僵尸”：(或“序列”)是Eliezer Yudkowsky關(guān)于認(rèn)知科學(xué)中人類理性和非理性的一系列博客文章。這是2006年至2009年間發(fā)表在Less Wrong和Overcoming Bias上的文章的編輯和重組版本。這本書是對(duì)Less Wrong、機(jī)器智能研究所、應(yīng)用理性中心和有效利他主義社區(qū)的重要組成部分背后的形成思想的長(zhǎng)篇介紹。每本書還附有羅伯·本辛格的介紹和尤德科夫斯基的補(bǔ)充文章。

這是“理性:AI到僵尸”(也被稱為“序列”)的第一本書，從認(rèn)知偏見(jiàn)開(kāi)始。本書的其余部分不會(huì)只討論這個(gè)話題;壞習(xí)慣和壞想法很重要，即使它們來(lái)自我們的思想內(nèi)容，而不是我們的思想結(jié)構(gòu)。然而，正是認(rèn)知偏差提供了最清晰、最直接的一瞥，讓我們得以窺見(jiàn)我們的心理，了解我們的啟發(fā)式和我們局限性的邏輯。我們將帶著偏見(jiàn)開(kāi)始。

本篇文章翻自Less Wrong社區(qū)，本文將會(huì)翻譯前言，原文地址如下：

https://www.lesswrong.com

前言

by Eliezer Yudkowsky

現(xiàn)在在你手中的是一份兩年日常博客的匯編。再回想，當(dāng)我會(huì)看這個(gè)項(xiàng)目，然后發(fā)現(xiàn)我所做的這一切都是完全錯(cuò)誤的。即使這樣，我仍然感覺(jué)很棒?；仡欉^(guò)去卻不去看我所做錯(cuò)的事情意味著自2009年以來(lái)我的寫作能力和理解能力都沒(méi)有得到提高。當(dāng)我們提升信念，改變觀念的時(shí)候，Oops（這里指的是出了一點(diǎn)小差錯(cuò)時(shí)候的語(yǔ)氣詞）是我們經(jīng)常會(huì)聽(tīng)到的詞；因此，回顧過(guò)去卻不去看做錯(cuò)的事情意味著，自那時(shí)起你沒(méi)有學(xué)到任何東西或者轉(zhuǎn)變你的觀念。

如果兩年以來(lái)我不帶著幫助別人在他們的日常生活中做得更好的目的去寫這些博客，那么這可能是個(gè)美麗的誤會(huì)。我就是帶著幫助別人解決更大更難更重要的問(wèn)題的目的去寫這些東西的，我會(huì)選擇那些讓我印象、那些抽象的問(wèn)題來(lái)舉例子。

回想過(guò)來(lái)，在我的這一項(xiàng)項(xiàng)目中，有兩個(gè)尤其大的錯(cuò)誤。我提出的第一個(gè)大的問(wèn)題在我的寫作中，我沒(méi)有意識(shí)到學(xué)習(xí)這些有價(jià)值的思考方式的亟待解決的是指出我們應(yīng)該如何去實(shí)踐它，而不是僅僅知道這些理論。我沒(méi)有意識(shí)到這個(gè)部分是極其重要的；一想到這，我就會(huì)發(fā)出“咝咝”聲。

是這樣的，有的時(shí)候我們遇到了一些非常緊急而重大的事情，但是這并不改變這個(gè)基本的事實(shí)——掌握你所需要的技能是需要相當(dāng)多的練習(xí)。同時(shí)，在需要漫長(zhǎng)努力的事情是實(shí)踐更是難上加難。（現(xiàn)如今應(yīng)用理性的重點(diǎn)是去以一些更為更為系統(tǒng)性的方式去協(xié)整我之前的一些錯(cuò)誤。）

第三個(gè)我做的比較大的錯(cuò)誤，我過(guò)于聚焦在理性的信念上面，忽視了理性的行為。

第四個(gè)重大的問(wèn)題是我應(yīng)該更好地按照順序組織自己展現(xiàn)的內(nèi)容。尤其地，我應(yīng)該創(chuàng)建一個(gè)類似維基百科的東西，使得讀者更容易按照順序去讀我的這些博客。

這些問(wèn)題至少都是可以被修正的。在當(dāng)前的工作過(guò)程當(dāng)中，Rob Bensinger已經(jīng)記錄了這些博文，同時(shí)重新組織了它們，他盡可能地沒(méi)有再做修改。

我的第五個(gè)問(wèn)題是，就像我看到的，我非常直白地說(shuō)出那些在我看來(lái)很愚蠢想法的愚蠢之處。我嘗試去避免一些常見(jiàn)的類似于布佛氏論證（Bulverism）的邏輯謬誤，類似于公開(kāi)地討論某群人信仰某些東西實(shí)在是相當(dāng)愚蠢；我已經(jīng)提前給這件事情做了一個(gè)論斷，然后最后只是說(shuō)“這件事情實(shí)在是太愚蠢了！”然而在2009年，有一個(gè)懸而未決的問(wèn)題一直縈繞在我的腦海，那就是身邊有一些對(duì)順勢(shì)療法表示蔑視的人是否很重要。我過(guò)去認(rèn)為，現(xiàn)在仍然認(rèn)為，存在一個(gè)不幸的問(wèn)題，即禮貌地對(duì)待想法在某種程度上被許多人視為“如果我說(shuō)我相信這個(gè)，不會(huì)有什么壞事發(fā)生在我身上;如果我說(shuō)我相信順勢(shì)療法，我不會(huì)失去地位”，喜劇演員的嘲笑可以幫助人們從夢(mèng)中醒來(lái)。

現(xiàn)如今，我可能會(huì)寫得更加禮貌一些。之前那些冒犯的行為主要是為了一個(gè)目的，我認(rèn)為有許多人通過(guò)閱讀它們得到幫助。但我現(xiàn)在更嚴(yán)肅地看待建立這樣一個(gè)社區(qū)的風(fēng)險(xiǎn):公開(kāi)的嘲笑和蔑視是對(duì)地位低下的局外人的正常和預(yù)期的反應(yīng)。

盡管有這些那些的問(wèn)題，但是我仍然是很高興去說(shuō)我的讀者們沒(méi)有使用我的一些浮夸的詞匯去霸凌或者輕視他人，這真的是相當(dāng)棒的?。ㄔ谶@里我尤其想要說(shuō)Scott Alexander先生，他是個(gè)比我要棒的人，也是一位在這個(gè)話題上相當(dāng)令人驚嘆的作者，他非常值得在促進(jìn)Less Wrong社區(qū)健康文化方面記上一筆。）

回溯過(guò)往說(shuō)出自己的失敗也意味著你是有目標(biāo)的。因此什么是我需要嘗試做的？

在今天，有一些相當(dāng)有價(jià)值的思考方式卻沒(méi)有在學(xué)校中傳授。這些思考方式更沒(méi)有被系統(tǒng)性傳授。它僅僅被那些成長(zhǎng)過(guò)程中讀《你在開(kāi)玩笑吧，費(fèi)曼先生》或者擁有一個(gè)非凡的好老師的學(xué)生理解或者學(xué)會(huì)。

當(dāng)然，最著名的是，這種特定的思維方式與科學(xué)和實(shí)驗(yàn)方法有關(guān)。這是科學(xué)的一部分，你走出去觀察宇宙，而不僅僅是編造東西。當(dāng)實(shí)驗(yàn)不支持一個(gè)糟糕的理論時(shí)，你會(huì)說(shuō)“哎呀”，

然而，這種思考方式遠(yuǎn)遠(yuǎn)不止這些。這要比你到了兩只鵝進(jìn)實(shí)驗(yàn)室然后你一走這兩只額就飛了更加廣泛而深厚。雖然這很微不足道或者更加困難，但是它確實(shí)也應(yīng)用在我們的生活中。但是如果你沒(méi)有驚嘆一聲或者當(dāng)你看到這一切好像行不通就放棄的時(shí)候，你沒(méi)有選擇只能腳踏實(shí)地，繼續(xù)前進(jìn)。你必須為你的槍提前準(zhǔn)備子彈，然后你必須上膛搬好扳機(jī)。你知道這樣的人。如果有某種思維方式可以幫助我們停止這樣做，那就太好了。

不管過(guò)去我的錯(cuò)誤有多大，過(guò)去兩年我發(fā)出的博客幫助了相當(dāng)令人驚嘆數(shù)量的人群。雖然它也不是一直有效，但是它仍然有用。

在現(xiàn)代社會(huì)，很少有教我們理性思考和做決策的技能，很少有人教授他們背后的數(shù)學(xué)與科學(xué)......事實(shí)證明閱讀大量充滿提問(wèn)的哲學(xué)和科學(xué)文本是真的對(duì)你有意想不到的好處。從多個(gè)角度去看這些有的時(shí)候可以讓我們一瞥中心。

因?yàn)樗械倪@些最后到最后都是一件事情。我談?wù)摵芏嗪甏蟮膯?wèn)題反而忽視了當(dāng)下的生命，當(dāng)時(shí)管理它們的理論并沒(méi)有什么實(shí)際的不同。我所關(guān)注的領(lǐng)域有著相當(dāng)大的跨越，然后我會(huì)匯總所有出錯(cuò)的例子；然而到最后它們都是同一件事情。我很自豪去回看這些然后說(shuō)，即使我確實(shí)出了些差錯(cuò)，其他時(shí)候我仍然會(huì)說(shuō)“哇哦”！

即使在五年之后，對(duì)我而言，它仍然比沒(méi)寫要好。

——Eliezer Yudkowsky寫于2015年2月