強(qiáng)人工智能是否具有道德主體地位

?

一，引入和背景資料

????哈利是你最好的朋友，你們從小玩到大，你們上了同一所小學(xué)、同一所初中，你們一起吃飯、逃課，一起在操場上踢球，一起被老師罰站。對哈利來說，你是最不可或缺的朋友之一。對你來說也是如此，盡管他并不完美——他好吃懶做、不夠機(jī)智。一起踢球時(shí)，他從來不是一個(gè)好的守門員或者前鋒，他還很容易失落，覺得自己什么都做不好，總是需要的你安慰，但他也很體貼，每次都能記得送你生日禮物……直到有一天，哈利被割傷，你發(fā)現(xiàn)他流出的不是血而是機(jī)油，這時(shí)候你才知道哈利的秘密——他其實(shí)是一個(gè)機(jī)器人，他的皮膚是和人類極其相似的人造橡膠，當(dāng)他開懷大笑時(shí)并沒有空氣流過氣管，而是內(nèi)置的播放器在播放錄制好的笑聲，當(dāng)他吃飯的時(shí)候也沒有食物被消化，他只是把那些食物簡單地?cái)囁椋缓笸ㄟ^管道“排泄”出去。他的核心是一個(gè)極其完善的人工智能電腦，他好像擁有人類的一切特質(zhì)，例如情緒、個(gè)性，但快樂、痛苦，對于他來說，并不意味著大腦中的多巴胺或者其他的神經(jīng)遞質(zhì)，而僅僅是一串串編碼、電流，他的性格、能力，也并不是長期的生活經(jīng)驗(yàn)對大腦影響的累積，而是某個(gè)內(nèi)置于他核心的算法經(jīng)過長期“學(xué)習(xí)”，自我改變后的結(jié)果。

????當(dāng)你知道了哈利的秘密，你被氣得暴跳如雷，你覺得被深深地欺騙了，但是隨著你逐漸冷靜下來，你又不得不思考——是誰在“欺騙”你？是哈利嗎，還是制造哈利的那些人呢？哈利是一個(gè)人工智能，這意味著什么？這意味著，你和哈利的友情、你們一起相處的那些愉快時(shí)光都是虛假的嗎？就算你現(xiàn)在就背叛他、欺騙他、虐待他甚至謀殺他，也不必心存愧疚嗎？就算哈利現(xiàn)在就背叛你、謀殺你，你也無法責(zé)怪它——就因?yàn)樗鼉H僅是一個(gè)工具，真正背叛你、謀殺你的另有其人？如果你認(rèn)為哈利不是一個(gè)真正的“朋友”，那么哈利所缺少、而一個(gè)真正的“朋友”所擁有的是什么？你又如何確定自己擁有那些東西，以保證自己不是一個(gè)和哈利一樣的人工智能呢？

????艾倫·麥席森·圖靈在他1950年的一篇論文《計(jì)算機(jī)器與智能》中提出了“圖靈測試”的概念，圖靈測試指的是，測試者和被測試者隔開的情況下，測試者向被測試者隨機(jī)提問，如果一定數(shù)量的測試者無法通過被測試者的回答分辨被測試者是人還是機(jī)器，那么這臺機(jī)器就通過了圖靈測試。

????強(qiáng)人工智能，就是能完成人類的任何任務(wù)的人工智能，一個(gè)完善的強(qiáng)人工智能應(yīng)該能通過一種更廣義的圖靈測試——它能做到不僅在語言上無法被分辨，也能在行為舉止上模仿人類不被發(fā)現(xiàn)，就像我們在上面的故事中虛構(gòu)出來的哈利——你跟他生活了幾十年，直到他的身體里流出機(jī)油，才發(fā)現(xiàn)他不是一個(gè)傳統(tǒng)意義上的人類。至今為止人類創(chuàng)造出來的人工智能還只能在某些特定的領(lǐng)域替代人類的智力工作，比如下棋、寫詩、換臉、數(shù)據(jù)搜集等，人類還沒能創(chuàng)造出能在任何方面替代人類的強(qiáng)人工智能。

????同時(shí)，機(jī)器人可以分為“類人機(jī)器人”和“非類人機(jī)器人”兩種，“非類人機(jī)器人”從設(shè)計(jì)理念上就沒有想要去模仿人類，它們往往與人類差異很大。而“類人機(jī)器人”就是完全為了模仿人類制造出來的那種機(jī)器人。

????我們接下來要討論的問題，就是在哈利的故事中，“你”不得不面臨的問題——如果類人強(qiáng)人工智能出現(xiàn)了，它是否有權(quán)被我們當(dāng)作鄰居、朋友、家人對待，而不僅僅當(dāng)作是一種新型工具。

?

二，分析問題和外在條件

????進(jìn)一步分析問題之前，我們首先需要闡明分析立場。

????我們對于強(qiáng)AI的道德主體地位的分析是基于自然主義的，也就是尊重科學(xué)，接受科學(xué)的結(jié)論，在科學(xué)結(jié)論的基礎(chǔ)之上進(jìn)行哲學(xué)思考，特別是，接受進(jìn)化論，承認(rèn)人類是自然進(jìn)化產(chǎn)生的自然生物體，拒斥上帝、靈魂、先驗(yàn)自我等超自然的實(shí)體，拒斥不可知論；當(dāng)然，這不代表我們要在任何時(shí)候都使用科學(xué)的結(jié)論，我們只是要求不與科學(xué)的一些基本論斷相矛盾。同時(shí)，我們尊重直覺，當(dāng)然，這也不意味著我們就要把任何直覺都當(dāng)做金科玉律來遵守，而是說無論何時(shí)我們要拒斥某種直覺，都會(huì)給出充分的理由來加以說明。

????我們要利用的第一個(gè)直覺是，不存在非人的道德——與人類的道德規(guī)范不相同甚至不適配的道德規(guī)范不可以被稱之為道德規(guī)范。

????如果我們說，老虎有道德主體的地位，可是老虎吃了人我們又不去譴責(zé)它，老虎幫助了人類我們也不去獎(jiǎng)勵(lì)它，不把老虎當(dāng)作一名社會(huì)成員看待，那么我說它是道德主體這句話也就沒有意義。因?yàn)檎J(rèn)為某個(gè)實(shí)體是道德主體，就意味著我們要用人類的道德標(biāo)準(zhǔn)去規(guī)范它，把它看作是道德權(quán)利和道德責(zé)任的承受者，同時(shí)也就意味著我們要能夠接受它作為我們?nèi)祟惿鐣?huì)的一員。

????強(qiáng)AI是否是可能的道德主體，可以從內(nèi)在條件和外在條件兩個(gè)方面判斷。

????我們說某個(gè)實(shí)體符合道德主體的外在條件，就是說，不管這個(gè)實(shí)體的內(nèi)在結(jié)構(gòu)是怎樣的，也不管它的內(nèi)在結(jié)構(gòu)對外界的影響和與外界的交互遵循什么樣的機(jī)制，僅僅從外在上，這個(gè)實(shí)體被我們當(dāng)做道德主體是可能的，不會(huì)引起矛盾和不一致。

????內(nèi)在條件指的是這樣一種觀點(diǎn)，一個(gè)實(shí)體之所以能夠被看作是道德主體，是因?yàn)樗鼉?nèi)在具有某些結(jié)構(gòu)或者質(zhì)料，比如大腦、有機(jī)質(zhì)、靈魂等。我們在后面的論述會(huì)強(qiáng)烈質(zhì)疑內(nèi)在條件的可能性。

????為了進(jìn)一步理解問題，我們可以設(shè)想未來強(qiáng)AI果真出現(xiàn)了，我們賦予它道德主體資格和不賦予它道德主體資格，這世界分別將會(huì)是什么樣子。

????我們要利用的第二個(gè)直覺是，一種符合外在條件的類人強(qiáng)AI是可設(shè)想的。

????雖然我們目前為止還沒有創(chuàng)造出那種類人強(qiáng)AI，但是“欲望”、“情緒”，是可以被程序模仿的，我們可以設(shè)想一種很容易構(gòu)造的反饋機(jī)制——每做一件好事，或者得到一些“財(cái)富”加上一分，每做一件壞事，或者受到一次“懲罰”減去一分，通過改變權(quán)重，我們就可以模擬出人類情感的外在表現(xiàn)。顯然，這樣的一種AI和人類是能夠共存的，它的道德與一個(gè)普通人類的道德別無二致。

????情況1：如果即便未來出現(xiàn)了上述的這種符合外在條件的類人強(qiáng)AI，我們也不把它們當(dāng)作道德主體看待，舉例來說，在哈利那個(gè)故事里，你殺死哈利或者被哈利殺死，你和哈利都沒有道德責(zé)任。從我們?nèi)祟愓w來看，無非是多出來了一種類似于古希臘時(shí)期的奴隸那樣的“會(huì)說話的工具”。但是那樣我們會(huì)遇到道德兩難。

????首先，既然它僅僅是會(huì)說話的工具，那么它的一切行為都可以被視作他的制造者或使用者意志的延續(xù)，它行為的后果，其道德責(zé)任和權(quán)利都落到背后的那個(gè)人類身上，因?yàn)閷σ粋€(gè)工具進(jìn)行道德評價(jià)沒有意義。

????或者我們也可以歸因于“偶然”，因?yàn)橐粋€(gè)工具有時(shí)也會(huì)不受控制。強(qiáng)AI，就其定義來說，他的制造者不可能提前預(yù)知到他在任何情境下的每一個(gè)決策，所以很多時(shí)候不能單純將強(qiáng)AI視作制造者或者使用者的延伸。

????我們利用的第三個(gè)直覺是，如果強(qiáng)AI內(nèi)置的任何一種算法都不能充分解釋它的行動(dòng)，我們既不希望把它的行為視作它制造者意志的延伸，也不希望把它的行為歸結(jié)于偶然。

????例如如果一個(gè)強(qiáng)AI表現(xiàn)出謀殺了一個(gè)人類（先不管它是否有謀殺的“意愿”）——它先是探明了被害者的行動(dòng)規(guī)律，然后準(zhǔn)備了兇器，之后果斷行兇，然后銷毀贓物，最后查明被害者是它公司競爭對手的總裁。

????我們直覺上一定會(huì)認(rèn)為，這個(gè)總裁的死不是“意外”——被人工智能“謀殺”與被雷劈死、被隕石砸死一定不同。但是它的制造者一開始并沒有在他體內(nèi)輸入“謀殺”的程序，因此也無法完全歸罪于制造者。

????我們可以借助這兩個(gè)思想實(shí)驗(yàn)理解純工具和被創(chuàng)造出來的道德主體的區(qū)別：

????1.小說家羅琳制造了一個(gè)機(jī)器人，這個(gè)機(jī)器人的行動(dòng)規(guī)則是這樣的：當(dāng)羅琳把經(jīng)過編碼后的數(shù)據(jù)輸入，它就會(huì)解碼并且把文字寫到紙上。而羅琳把她的小說《哈利波特》通過某種對應(yīng)關(guān)系編碼之后輸入到機(jī)器人的CPU中，這時(shí)這個(gè)機(jī)器人與一個(gè)打字機(jī)無異，我們直覺上會(huì)認(rèn)為《哈利波特》是羅琳而不是機(jī)器人寫的。

????2.邪惡科學(xué)家小明對一個(gè)受精卵進(jìn)行了基因修飾，讓這個(gè)受精卵獲得了“聰明”基因，這個(gè)受精卵長大后成為羅琳，寫出了《哈利波特》，我們直覺上會(huì)認(rèn)為羅琳不僅僅不是小明的工具，反而會(huì)認(rèn)為《哈利波特》正是羅琳寫出來的。

????強(qiáng)人工智能更多時(shí)候接近于后一種情況，在這種情況下，不把強(qiáng)人工智能視作道德主體就會(huì)遇到困難，因?yàn)槲覀儠?huì)找不到那個(gè)既符合直覺，又符合科學(xué)的道德承擔(dān)者，就像在后一種情況下，如果不認(rèn)為羅琳是《哈利波特》的作者，我們就找不到《哈利波特》的真正作者是誰了，我們總不能說《哈利波特》是意外產(chǎn)生的。

????情況2：反之，如果我們賦予強(qiáng)AI道德主體地位，這一方面意味著強(qiáng)AI具有道德權(quán)利，例如自我存續(xù)的權(quán)利等，另一方面意味著強(qiáng)AI具有道德責(zé)任，例如不去傷害其它人類和AI的責(zé)任等。一個(gè)具有道德主體地位的類人強(qiáng)AI機(jī)器人的所有著作，例如詩歌、小說等等，這些東西的收益都?xì)w它自己所有，并且這個(gè)強(qiáng)AI機(jī)器人一旦謀殺了某人，那么這個(gè)機(jī)器人，而不是他的制造者應(yīng)當(dāng)為此行為負(fù)責(zé)。由此至少可以避免上述的兩難。

????總而言之，一個(gè)符合外在條件的類人強(qiáng)AI是容易設(shè)想的，而把它當(dāng)作道德主體會(huì)避免一些道德上的兩難。

????外在條件的方面就已經(jīng)論證完畢了，接下來我們會(huì)討論從內(nèi)在條件方面，否定人工智能具有道德主體地位的兩種理由。

?

三，內(nèi)在條件

????第一種理由是實(shí)體二元論，它自笛卡爾始，到現(xiàn)代又變種為有機(jī)論、活力論。

????這種理由認(rèn)為強(qiáng)AI不可能是道德主體，僅僅因?yàn)樗鼪]有和人類一樣的生理結(jié)構(gòu)，沒有大腦、松果腺、或者沒有氨基酸鹽，或者蛋白質(zhì)結(jié)構(gòu)等等，他們認(rèn)為機(jī)器是簡單的、可知的，而他們通常把心靈賦予某個(gè)結(jié)構(gòu)，又因?yàn)檫@個(gè)結(jié)構(gòu)是復(fù)雜的（有機(jī)的），所以不可知，并且具有某種不可知的“活力”，導(dǎo)致它是能動(dòng)而非被動(dòng)的。因?yàn)槿说摹爸饔^感受”往往被視為是復(fù)雜的，所以他們就認(rèn)為心靈一定也存在于某個(gè)復(fù)雜體之中，那些能夠被充分認(rèn)識的簡單的東西，比方說程序、算法，是不可能有心靈存在的。但其實(shí)我們雖然是類人強(qiáng)AI的算法的設(shè)計(jì)者，卻也僅僅知道一些基本的原理，不能完全預(yù)測強(qiáng)AI的行動(dòng)，這和我們對人類大腦的認(rèn)識程度是一致的。就算我們可以認(rèn)識到，肉的香味會(huì)刺激狗的大腦產(chǎn)生某種物質(zhì)導(dǎo)致它覓食的行為，但是我們不會(huì)因此認(rèn)為狗不是“主動(dòng)”，而是被動(dòng)地去覓食的。所以說簡單的東西中未必不能有意識存在。

????并且，隨著人們對大腦的認(rèn)識不斷加深，我們也已經(jīng)知道松果腺僅僅是一個(gè)普通的腺體，就算破壞掉也不會(huì)導(dǎo)致人變成行尸走肉。有機(jī)論也隨著現(xiàn)代科學(xué)的發(fā)展被拒斥了。事實(shí)上科學(xué)并不能給出有機(jī)物和無機(jī)物之間明確的界限，甲烷是有機(jī)物，可它顯然沒有什么“活力”，蛋白質(zhì)看上去有“活力”，我們知道酸堿物質(zhì)會(huì)使蛋白質(zhì)“失去活性”，甚至有些蛋白質(zhì)的功能十分復(fù)雜，乃至于會(huì)“自主”繁殖（例如朊病毒），但這只是一個(gè)比喻的說法，科學(xué)上沒有理由認(rèn)為蛋白質(zhì)的運(yùn)動(dòng)就是“主動(dòng)的”，無機(jī)物的運(yùn)動(dòng)就是“被動(dòng)的”。

????總之，自笛卡爾以來的那種實(shí)體二元論，無論出現(xiàn)何種變種，都已經(jīng)被科學(xué)拒斥了，對于這一類觀點(diǎn)，我們通通都用自然主義的立場加以拒斥。我們相信，就算未來出現(xiàn)某種新的實(shí)體二元論的變種，也或早或晚地會(huì)被科學(xué)否證。

?

????第二種理由是我們論述的重點(diǎn)，這種理由認(rèn)為強(qiáng)AI沒有被稱為意識或者感受質(zhì)的東西，他們認(rèn)為人類的大腦中有某種必要，而非實(shí)體的結(jié)構(gòu)使人類區(qū)別于動(dòng)物和其他任何無意識的實(shí)體，具有了道德主體的地位。這種觀點(diǎn)一般被稱作當(dāng)代心靈哲學(xué)二元論，這種觀點(diǎn)否定了取消主義，認(rèn)為主觀上的感受性質(zhì)不能完全還原為物理術(shù)語。我們先借助兩個(gè)思想實(shí)驗(yàn)簡單介紹這類觀點(diǎn)，然后借助泛心論證明，類人強(qiáng)AI機(jī)器人有意識，和他心存在，這兩個(gè)命題的強(qiáng)度是一樣的，既然我們不得不假設(shè)他心存在，我們也不得不對類人強(qiáng)AI機(jī)器人同樣抱持意向性立場

????那種認(rèn)為機(jī)器沒有“意識”的思想實(shí)驗(yàn)，最著名的要屬塞爾在1980年提出的“中文屋”思想實(shí)驗(yàn)，這個(gè)思想實(shí)驗(yàn)構(gòu)想了一個(gè)不懂中文的人，身處于只留有一個(gè)小窗口的封閉房間之中，這個(gè)房間里有著足夠多的書，書里面的內(nèi)容是從一段中文向另一段中文的映射，而房間外有人把一張張寫著中文的小紙條塞進(jìn)來，這個(gè)人則按照書上的命令把同樣寫著中文的小紙條遞出去。這種情況就像這樣：外面的人寫：“您早上吃了嗎？”，里面就回復(fù)：“吃了，今天吃的煎餅和豆腐腦。”外面的人說：“今天天兒真好啊?！崩锩婢突貜?fù)：“是啊，但是天氣預(yù)報(bào)說明天就要下雨了?！?/p>

????塞爾認(rèn)為，通過這個(gè)過程就可以讓房屋外的人認(rèn)為屋子里的人會(huì)說中文，但是其實(shí)屋子里的人卻對中文一無所知。他認(rèn)為計(jì)算機(jī)就是類似于這樣的程序，因此不可以認(rèn)為只要計(jì)算機(jī)外在表現(xiàn)出有意識，就認(rèn)為它的內(nèi)在是有意識的。因?yàn)橐詧D靈機(jī)為基礎(chǔ)的計(jì)算機(jī)只能理解語形而不能理解語義，對語形的理解不能推出對語義的理解。

????但這一思想實(shí)驗(yàn)僅僅論證了目前以圖靈機(jī)為基本原型的電腦不能理解語義，因此它們與人腦不同，并沒有論證心靈是什么，更不能論證相比于自然界中其他無心靈的物質(zhì)，有心靈的大腦有何獨(dú)特性（不能理解語義不等于沒有意識）。

????另一個(gè)著名的思想實(shí)驗(yàn)是黑白瑪麗的思想實(shí)驗(yàn)，設(shè)想一個(gè)叫瑪麗的小女孩從出生就被關(guān)在一間黑白色的房間里，她可以通過黑白色的電視機(jī)或者書學(xué)習(xí)到各種物理知識，當(dāng)然也包括光學(xué)和神經(jīng)學(xué)知識，我們假設(shè)當(dāng)她學(xué)會(huì)所有物理知識后被釋放出來，她看到一朵紅色的花的時(shí)候，是否學(xué)到了新的知識？塞爾認(rèn)為，她一定會(huì)驚訝：“哦，原來紅色是這個(gè)樣子！”但是并不是任何新的知識讓她感到驚訝，而僅僅是看到紅色這種感受讓她驚訝。這個(gè)思想實(shí)驗(yàn)被用來論證世界上并不是僅有物理的事物，比如還有“感受質(zhì)”——也就是看到紅色時(shí)的那種感受，就不能被還原為物理現(xiàn)象。

????讓我們仔細(xì)去考慮在這個(gè)思想實(shí)驗(yàn)里不可被還原的東西是什么，我們認(rèn)為不可被還原的并非是普遍存在于人類大腦中的某種神秘的“感受質(zhì)”，而是第一人稱本體論意義上的“主觀感受”。

????其實(shí)說到底，黑白瑪麗不過是在說這樣一件事情：關(guān)于顏色的波長、看見顏色之后的神經(jīng)狀態(tài)之類的知識，是經(jīng)過了重新編碼的，例如我告訴你“紅色的波長是700納米”，這個(gè)信息相對于“看到一種700納米波長的紅光是什么感覺”這一信息是經(jīng)過重新編碼的，如果你想要教會(huì)我“看到一種700納米波長的紅光是什么感覺”，你不僅要告訴我紅色的波長是700納米，還得把編碼器給我——例如一個(gè)標(biāo)準(zhǔn)比色板，上面有波長-顏色一一對應(yīng)的圖案；或者教會(huì)我如何解碼——單憑語言或許做不到這一點(diǎn)，但我們總有些方式能做得到，只不過黑白瑪麗的思想實(shí)驗(yàn)禁止了我們目前為止知道的可能的方式，如果未來我們能發(fā)明某種“通感器”，讓我們能聽到、品嘗到紅色，這個(gè)思想實(shí)驗(yàn)也就不攻自破了。無論如何，這種解碼的能力絕不是大腦特有的。

????但是我們直觀上會(huì)接受黑白瑪麗這個(gè)思想實(shí)驗(yàn)的結(jié)論，這其實(shí)是我們把自己代入瑪麗、混淆了第一人稱的主觀感受和第三人稱的感受質(zhì)的結(jié)果。

????我們不妨把它略加修改——假如那個(gè)被關(guān)進(jìn)黑白房間的人是你，看到紅花的人是你，是你覺得驚訝：“哦，原來紅色是這個(gè)樣子”。修改人稱之后，這個(gè)思想實(shí)驗(yàn)看上去沒有變化，其實(shí)會(huì)變得完全不同。瑪麗的“驚訝”并非不可還原，我們堅(jiān)持自然主義的話，“人生中第一次看到紅色”的這種感受無非是一種“腦狀態(tài)”。但是如果是“你”去看紅色則大不相同了，我們不得不承認(rèn)“你”的第一人稱主觀感受是無法還原為“腦狀態(tài)”的。

????一個(gè)極致的懷疑論者可能會(huì)懷疑“他心存在”，但是很少會(huì)懷疑“我心存在”，因?yàn)樗坪跣Q“我不過是一個(gè)機(jī)器”，“我的意識不存在”，這句話沒有什么意義。普特南通過類似的策略否定了人類是缸中之腦的可能性，他認(rèn)為你不可能融貫地說出自己是缸中之腦。

????你的直覺在接受黑白瑪麗思想實(shí)驗(yàn)的時(shí)候，其實(shí)是混淆了“我心”和“他心”的區(qū)別?！案惺苜|(zhì)”這個(gè)概念只有應(yīng)用到第一人稱時(shí)才會(huì)有效，換言之，如果你認(rèn)為他人有感受質(zhì)，你同樣無法拒斥機(jī)器人也可能有感受質(zhì)的觀點(diǎn)，對于“感受質(zhì)不可被還原”這一直覺，只有在“感受質(zhì)”這個(gè)詞作用在你自己身上時(shí)才有效，因?yàn)橐粋€(gè)主體無法將自己物理主義地客體化，因此主體只能知道自己有感受質(zhì)，認(rèn)為他人有感受質(zhì)是一種意向性立場，而這也并非無法適用于機(jī)器人。

????但是，我們想要做的僅僅是確立類人強(qiáng)AI作為道德主體的內(nèi)在條件，所以我們不試圖消除第一人稱視角和第三人稱視角之間的鴻溝——主體與客體之間的鴻溝，這是哲學(xué)幾千年以來也沒能解決的問題。我們只需要消除在“他心”和“機(jī)器心”這兩個(gè)概念之間直覺上的差異（而不是“我心”與“他心”），我們要證明，通過進(jìn)一步理解自然主義，這種直覺是容易消除的——通過找到某種成分（例如感受質(zhì)），可以讓我們把人類的意識存在和那些被我們認(rèn)為僅僅是意識的表征的東西區(qū)分開。

????為此，我們需要簡單介紹自然主義心靈哲學(xué)中的泛心論。

????所謂泛心論就是認(rèn)為世間一切實(shí)體都有心靈。當(dāng)代泛心論的一種論證路徑是進(jìn)化論的：首先，我們這些健全的人類具有意識，我們拒斥了取消主義“心靈是幻覺”的認(rèn)識；其次，我們?nèi)祟愂菑墓旁尺M(jìn)化而來，再往前，古猿是從小型哺乳類、某種生活在海洋中的脊椎動(dòng)物、某種早期的蟲子，乃至于單細(xì)胞的生物進(jìn)化來的，單細(xì)胞的生物最終也不過是有機(jī)分子的意外碰撞，有機(jī)分子又是在原始大氣中由無機(jī)分子經(jīng)過化學(xué)反應(yīng)合成的。只要我們承認(rèn)：我們的父輩是有意識的，我們父輩的父輩也是有意識的，我們又不可能追溯到某一代人、古猿或者蟲子，從他們那一代生物開始，人類在進(jìn)化樹上這一分支有了意識，而他們的父輩則沒有。在這里我們假設(shè)華萊士的那種涌現(xiàn)進(jìn)化說是不正確的，同時(shí)，就算進(jìn)化過程不是連續(xù)不斷、處處可分的，基因漂移的現(xiàn)象存在，但那種斷裂絕對不足以讓無意識的種族突變成為一個(gè)有意識的種族。

????因此，唯一的理論進(jìn)路或許是——如果我們堅(jiān)持人類的意識不是幻覺，又不想違背自然主義的立場，我們就不得不承認(rèn)，從無機(jī)物到有機(jī)物，從原子分子到桌子椅子，都是有意識的。這不禁讓我們重新反思意識是一種什么東西。心靈哲學(xué)家查爾莫斯作為當(dāng)代泛心論者的代表人物，就認(rèn)為心靈不過是刺激-反饋機(jī)制，因?yàn)槿魏问挛锒加心撤N反應(yīng)機(jī)制，在這個(gè)意義上，可以更廣泛的說，心靈就是任何事物的本質(zhì)。

????他用恒溫器舉例，一個(gè)恒溫器，它會(huì)接受外界的信息——?dú)鉁氐男畔?，并且做出反饋——它?huì)改變環(huán)境的氣溫。既然恒溫器有刺激-反饋機(jī)制，我們就可以說恒溫器是有意識的——他“想要”去把他周圍的氣溫調(diào)節(jié)到合適的溫度。

????如此而言，任何一種原本描述某物本質(zhì)的語句都可以再描述為某種意向狀態(tài)，例如：某原子具有本質(zhì)X：當(dāng)它受到力A，就會(huì)獲得動(dòng)量B，我們可以再描述為，某原子具有性格Y：當(dāng)他受到力A時(shí)，就會(huì)選擇動(dòng)量B。

????只要我們能夠框定某一個(gè)范圍，例如一個(gè)或者兩個(gè)原子、一個(gè)蘋果、桌子的一角、撒哈拉沙漠中某片無規(guī)則的沙丘等，我們就可以劃定它的本質(zhì)，把它看成是一個(gè)系統(tǒng)，并且認(rèn)為它有意識。我們需要做的，僅僅是一個(gè)再描述的過程，而這個(gè)過程在丹尼爾·丹尼特那里被稱為使用“意向立場”，他認(rèn)為有意識與無意識的界限并不是在自然界中實(shí)在的，等待我們?nèi)フJ(rèn)識的，那些所謂“有意識”的東西，無非是我們對它們采取了一種“意向立場”。

????泛心論向我們展示了自然主義的一個(gè)理論后果。當(dāng)然，我們不必接受泛心論，但是我們理解泛心論的同時(shí)也就能理解，為什么說他人有心靈和說機(jī)器人有心靈是同等強(qiáng)度的命題，因?yàn)橹辽購目茖W(xué)上，并沒有一種內(nèi)在的本質(zhì)特征能夠把肉腦和機(jī)器腦區(qū)分開，讓我們認(rèn)為肉腦有機(jī)器腦沒有的“意識”。

????從心理學(xué)上說，如果大腦有什么獨(dú)特性的話，可能無非就是我們更容易把自己投射到有大腦的生物，尤其是我們的人類同伴身上——這是我們許多幻覺的來源。托馬斯·內(nèi)格爾質(zhì)問我們：成為一只蝙蝠是什么樣的？我們不妨更進(jìn)一步質(zhì)問：成為一名同類是什么樣的？成為一只蝙蝠、成為一個(gè)類人強(qiáng)AI，與成為一名同類有何區(qū)別？如果此時(shí)此刻你的面前突然出現(xiàn)一只會(huì)說話的外星智慧蝙蝠——除了長了一雙翅膀，并且會(huì)用超聲波“看”東西之外與人類無異，你也會(huì)覺得成為一個(gè)外星智慧蝙蝠是什么樣的，是很難以設(shè)想的嗎？

四、結(jié)論

????以上，我們先是基于自然主義和尊重直覺的立場，闡述了強(qiáng)人工智能是道德主體與不是道德主體世界會(huì)是什么樣子；然后分析了強(qiáng)AI滿足外在條件的可設(shè)想，以及如果在滿足外在條件前提下，我們拒絕賦予它道德主體地位的后果，由此引出賦予它道德主體地位的需要；然后我們又分析了內(nèi)在條件的不可能性，我們通過解釋了泛心論來拒斥兩種反對人工智能主體地位的直覺，最終得出結(jié)論：類人強(qiáng)人工智能是可能滿足外在條件的，而只要一個(gè)實(shí)體滿足外在條件，我們就應(yīng)當(dāng)把它當(dāng)作道德主體。

?