這篇專欄是視頻 AV57901711 的文字版。

大約在2010年前后，網(wǎng)絡(luò)上流行一種聊天機(jī)器人。聊天機(jī)器人就是一種人工智能，你給它發(fā)一句話，它會(huì)自動(dòng)回復(fù)你一句話，跟我年紀(jì)差不多大的觀眾朋友們應(yīng)該還留有印象。我印象最深的，一個(gè)是小黃雞，還有一個(gè)叫做白絲魔理沙。

聊天機(jī)器人都是會(huì)學(xué)習(xí)的，一開始它們說的話總是前言不搭后語，但隨著跟它聊天的用戶多起來，慢慢地它就能夠說出看起來稍微合乎情理的話來了。當(dāng)年白絲魔理沙還有一個(gè)很萌的腦容量的設(shè)定，大家跟她聊天，過一段時(shí)間她的腦容量就幾毫克幾毫克地往上漲。

不過，過了幾天，大家發(fā)現(xiàn)，白絲魔理沙開始說臟話了——這個(gè)事情本身很好理解，就是因?yàn)橛胁糠秩擞门K話去逗聊天機(jī)器人，或者在不經(jīng)意間說了臟話，被白絲魔理沙學(xué)去了。后來，白絲魔理沙說臟話的趨勢有點(diǎn)失控，作者為了維護(hù)她的形象，就暫時(shí)把她給關(guān)了。

大家都覺得，白絲魔理沙說臟話是不好的。但是，這個(gè)事情應(yīng)該怪誰呢？如果我們說，白絲魔理沙這個(gè)人工智能是作者做的，所以她說臟話這個(gè)事情就應(yīng)該讓作者負(fù)責(zé)，那作者肯定覺得特別冤枉。作者制作白絲魔理沙時(shí)，肯定沒有專門設(shè)計(jì)讓她學(xué)說臟話的機(jī)制。作者甚至都不知道應(yīng)該如何避免這種情況，如何制止她說臟話。說這是作者的責(zé)任，有點(diǎn)勉強(qiáng)。

既然如此，我們會(huì)想：那就應(yīng)該是一部分用戶的責(zé)任，他們說臟話教壞了白絲魔理沙，如果他們不說臟話，白絲魔理沙也就不會(huì)說臟話?？墒?，話說回來，誰說臟話不是別人教的呢？那些說臟話的用戶，他們也并不是天生就會(huì)說臟話。如果他們需要為自己說臟話負(fù)責(zé)的話，那么似乎白絲魔理沙說臟話，也賴不到教她的人身上。

這就有點(diǎn)麻煩了，白絲魔理沙說臟話既不是作者的責(zé)任，也不是用戶的責(zé)任——現(xiàn)在的局面促使我們考慮一種新的解決方案：有沒有這樣一種可能，白絲魔理沙應(yīng)該為自己說臟話負(fù)道德責(zé)任呢？

智能機(jī)器是否對自己的行為背負(fù)道德責(zé)任——這是一個(gè)從本世紀(jì)初開始逐漸興起的哲學(xué)話題，現(xiàn)在已經(jīng)形成了一個(gè)專門的哲學(xué)領(lǐng)域，叫做機(jī)器倫理學(xué)。機(jī)器倫理學(xué)主要研究的是，智能機(jī)器能否對自己的行為負(fù)責(zé)，以及智能機(jī)器如何才能做出合乎道德的行動(dòng)。當(dāng)然，考慮到現(xiàn)實(shí)人工智能的發(fā)展水平，目前機(jī)器倫理學(xué)的主要價(jià)值，還是在于為我們思考人類道德提供一個(gè)新角度。

不過，很多人在初次聽說機(jī)器倫理學(xué)的時(shí)候會(huì)不以為然，覺得：機(jī)器怎么會(huì)有道德呢？但是想想看，人不也是一臺(tái)智能機(jī)器嗎？人的身體和心智都像機(jī)器那樣，遵循著若干規(guī)律在運(yùn)動(dòng)。當(dāng)代認(rèn)知心理學(xué)就是用理解計(jì)算機(jī)的方式理解人類心智的。

有的觀眾會(huì)提出說：人有意識(shí)，機(jī)器沒有意識(shí)，所以人負(fù)道德責(zé)任，機(jī)器不負(fù)道德責(zé)任。但我們要問：人負(fù)道德責(zé)任是由于人有意識(shí)嗎？我們看：比方說，我正準(zhǔn)備還錢，結(jié)果旁邊突然沖出來一個(gè)人拿槍指著我，不讓我還錢，那我就沒還錢——這時(shí)候，我不應(yīng)該對沒有按時(shí)還錢負(fù)道德責(zé)任，因?yàn)槲沂潜黄鹊?，盡管我完全清醒地意識(shí)到自己在干什么。又比方說，我因?yàn)槌撩噪娔X游戲而忘了還錢——像這樣的無心之失在日常生活中非常常見。雖然我沒有意識(shí)到自己做錯(cuò)了事情，但我還是應(yīng)該為我的失誤和疏忽負(fù)責(zé)。由此我們可以得到一個(gè)的推論：意識(shí)對于道德責(zé)任而言，既不是充分條件，也不是必要條件。

對哲學(xué)有一定了解的觀眾，或許會(huì)嘗試把話題引向自由意志，說人的行動(dòng)是自由的，所以人需要負(fù)道德責(zé)任；機(jī)器的行動(dòng)不是自由的，所以機(jī)器不需要負(fù)責(zé)。的確，自由是道德責(zé)任的前提。但要注意的是，當(dāng)我們說一個(gè)人的行動(dòng)是自由的時(shí)候，我們說的是，這個(gè)人的行動(dòng)是這個(gè)人自己決定的，而不是說這個(gè)人的行動(dòng)是完全沒有原因的、或者完全沒有規(guī)律的。這是一個(gè)很常見的誤解。就像哲學(xué)家艾耶爾說的，如果一個(gè)人的行動(dòng)沒有道理可講、完全無法預(yù)測，那么我們不是說這個(gè)人自由了，而是說：他瘋了。在這個(gè)意義上，只要人的行動(dòng)是自由的，那么原則上一臺(tái)自己給自己做決定的機(jī)器，它的行動(dòng)也可以是自由的。

消解了人類和機(jī)器在道德主體性方面的差異之后，我們就可以仿照人類道德的情況，總結(jié)智能機(jī)器背負(fù)道德責(zé)任的若干條件了。

• 第一，?? 智能機(jī)器必須擁有一套內(nèi)在機(jī)制來決定自己做或者不做一件事，并且它的決定是它實(shí)際上做出的相應(yīng)行為的直接原因，也就是說，只要它決定了，它就能做到。如果一臺(tái)智能機(jī)器像Alpha Go一樣，做了決定之后還需要人來執(zhí)行，那么它的行動(dòng)還說不上是出于它自身的。

• 第二，?? 智能機(jī)器在做出決定并實(shí)施這個(gè)決定的過程中，沒有受到其他人或機(jī)器的強(qiáng)迫。這一條可能顯得有點(diǎn)多余，因?yàn)橐晕覀儸F(xiàn)在的技術(shù)水平還不知道怎樣能強(qiáng)迫一臺(tái)機(jī)器。第二條和第一條可以合并為一條更普遍的原則，就是產(chǎn)生這個(gè)行為的信息加工過程的控制中心，是內(nèi)在于這臺(tái)智能機(jī)器的，也就是說，在根本上決定了這個(gè)行為發(fā)生的信息加工過程，是發(fā)生在機(jī)器內(nèi)部的。

• 第三，?? 智能機(jī)器必須是某個(gè)道德共同體的成員，這個(gè)道德共同體對智能機(jī)器應(yīng)該做什么、不應(yīng)該做什么做了規(guī)范。比方說，假如某一類型的智能機(jī)器，被公眾社會(huì)情緒接納為道德共同體的一分子，那么我們就會(huì)預(yù)期這類型的智能機(jī)器遵守特定的道德規(guī)范，并背負(fù)相應(yīng)的道德責(zé)任。

只有在滿足這三個(gè)條件的情況下，我們才有可能合理地說，智能機(jī)器能夠?qū)ψ约旱男袨樨?fù)道德責(zé)任。

上面這一段內(nèi)容，是up主結(jié)合機(jī)器倫理學(xué)領(lǐng)域的一些觀點(diǎn)，對這個(gè)問題發(fā)表的個(gè)人看法。由于機(jī)器倫理學(xué)領(lǐng)域還很新，圈子還很小，目前暫時(shí)還談不上有什么普遍共識(shí)。如果大家對這個(gè)問題有什么見解，歡迎在評(píng)論區(qū)留言討論。

哲學(xué)不提供知識(shí)，請各位觀眾不要把文章內(nèi)容當(dāng)作問題的答案，而應(yīng)視為思考的起點(diǎn)。