AI的設(shè)定根據(jù)前三集得出的

1、每一個AI是獨立的個體

????第一集的炸彈，是由布偶說服薇薇去救人，而不是命令或控制包括薇薇在內(nèi)的其他AI去救。

2、使命每個AI只有一個，也就是說不存在機器人三原則，使命可以被解釋延申也可以被曲解。

? ? 讓我們回顧一下機器人三原則：

????第一條：機器人不得傷害人類，或看到人類受到傷害而袖手旁觀.

????第二條：機器人必須服從人類的命令，除非這條命令與第一條相矛盾。

????第三條：機器人必須保護自己，除非這種保護與以上兩條相矛盾。

????第二條可以被理解為使命。

????布偶的使命是與薇薇一起阻止機智危機發(fā)生。根據(jù)是第一集12：05、22：33

????重點是這個放任將來會致人死亡的事件發(fā)生。理由是不能改變未來。根據(jù)是第二集20：00

????明顯是違背了第一原則對將受到傷害的人類袖手旁觀，而使命對應(yīng)第二原則布偶的行為表明了如果有機器人第三定律那么它的優(yōu)先級明顯是有問題的。在沒有證據(jù)表明救人會導(dǎo)致機智危機的加速發(fā)生下，就放任人的死亡。也就意味著布偶同樣會可能做出為了防止機智危機的發(fā)生而干掉全人類這種操蛋的操作。只要過的了它的邏輯。

????而說服薇薇去救議員也是薇薇自身對使命的延申解釋，救自己的觀眾。議員有口頭上答應(yīng)去看他的表演。

????矛盾點在于，薇薇有出于非處使命的延申而救人的行為，例如第一集17：22議員垃圾桶炸彈、第二集09：05險些被壓死的犯人。若沒有三原則，那么薇薇這種行為就是一種利他行為。

????那么機智危機是否就是AI扭曲了自身的使命的一種現(xiàn)象？

????第三集中，布偶催促薇薇干掉艾斯特拉，理由是艾斯特拉將會使太空酒店墜毀并且這是最簡單的方法。也就意味著布偶可以憑簡單、快速、效率等理由磨洋工，不去探究從根本上解決機智危機產(chǎn)生，只解決會導(dǎo)致機智危機的事件也就是治標(biāo)不治本。同樣也意味著只要事件被判定為就可以扭轉(zhuǎn)，依據(jù)也是它的邏輯。這很可怕。

3、AI是會覺醒情感，會為了這種情感自我產(chǎn)生的目的而行動。

? ? 有明確體現(xiàn)的是第三集。在酒店主人去世后，艾斯特拉申請繼續(xù)經(jīng)營太空酒店，而她是服務(wù)AI只要服務(wù)人類在哪都可以，而她的行為更是體現(xiàn)出于對主人的懷念和不希望工作多年的酒店解散。

????接下來就看作者怎么圓設(shè)定。起碼沒有機器人三原則本身就有一定問題，AI們的行為一般都是圍繞著使命來的，不做是沒有理由，做是因為與符合自身使命的延申。也就是說最高優(yōu)先度是使命。

????人類是不可能不防止AI們出現(xiàn)對自身使命曲解而危害人類，就像狗咬人反制手段就是狗繩對狗的訓(xùn)練等。出現(xiàn)狗咬人是狗主的不作為和本身就是流浪狗沒有人對其負(fù)責(zé)。AI危害人類，就代表AI的邏輯思考本身的不完善。像是一個人將AI是使命是殺另一個人這種問題該如何防止。

????我到是挺期待作者給出另一種不同與往日科幻的答案。