人與人工智能(HAI) 間章一 魔法少女記錄 (27)
大概半個月前,秦九或就從這家甜品店離職了,原因無它,店里所有甜品的制作方式她都已經(jīng)記住,自然沒必要留在這里。
夏如走進店門,隨意選了一個座位坐下。這個時間段有不少學生來享受下午茶,是探聽他們意見的好機會。不過,雖然自己給學生們的印象還算不錯,但貿(mào)然上前搭話可能會讓他們緊張。還是先旁敲側(cè)擊地打聽打聽,然后再去好好問問吧。
夏如拿出計算機,在屏幕上調(diào)出了一條有關(guān)人工智能進入人類社會的討論。這個角度上,應該有不少學生能看清屏幕上的字,也許能引導他們進行一些類似的討論。沒多久,隱隱約約說話聲就從身后傳來。
“據(jù)說學宮要引進一批強人工智能,原來一些沒必要的地方都裝上充電站了……”
“難道不需要保密嗎?夏如老師就這么看著……”
“你看清楚,那只是一篇社評,說不定,夏如先生這是在給我們打暗號呢?!?/p>
“……”
聽起來倒也在預料之內(nèi)。算了,能有討論的熱度就行。想必學宮的那幾個社交平臺,像是“朝令”,“夕改”什么的,現(xiàn)在應該開始熱火朝天地討論起來了。至于“理智言論”,一些知名用戶大概剛剛開始編輯文章,今晚應該可以看到他們的觀點。
不過說到底,網(wǎng)絡(luò)發(fā)言歸網(wǎng)絡(luò)發(fā)言,現(xiàn)實里去問他們,得到的回答也不一樣。夏如先生只想做到兼聽則明,至于某些人是否是在輸出著違心的想法……暫時也沒辦法區(qū)分了。人工智能相關(guān)的話題牽扯較大,能夠坦誠地表述自身觀點已經(jīng)非常難得。
對了,這方面倒是可以借助一下自己的威嚴。想明白了這點,夏如轉(zhuǎn)過頭,掃視了一下正在討論相關(guān)話題的幾個學生。其中一位男生低頭笑了一下,大大方方地站起身走了過來。
“下午好啊,夏如先生?!北R瑟抬起手向他打招呼,“怎么,在物色學生嗎?”
“是盧瑟同學對嗎?”夏如對他的印象倒是很深,難得地記住了名字,“下午好,我正想找?guī)孜粚W生聊聊?!?/p>
“關(guān)于向社會中大規(guī)模引入人工智能的相關(guān)討論嗎?”盧瑟用在場所有人都聽得見的聲音說道,“是個富有爭議性話題。怎么,您是來幫我們做思想準備嗎?”
“你們自己的觀點比較重要。”夏如讓他在自己對面坐下,“當然,身為師長,對你們進行必要的引導是理所當然的。但現(xiàn)在的政策尚未確定,我希望能夠多聽聽你們的建議?!?/p>
“是哪個國家的政策?。俊北R瑟咧開嘴笑著,“嗯,想來大概不是我的祖國吧?不過說到底,在國內(nèi),我也只是個生活在底層的老鼠,碰巧才來到了學宮?!?/p>
“這個問題是人類所共同面對的,我希望你們可以暫時拋開對于國際和國家政治的考慮,至少讓自己從中跳出來再做判斷?!?/p>
“呼,那行吧?!北R瑟點點頭,“假設(shè)是在我國,失業(yè)工人的問題大概會首先凸顯出來,甚至早于政策出臺,他們尚未下崗的時間。造成這一現(xiàn)象的原因很簡單,現(xiàn)在少有人懷疑人工智能的潛力。哪怕自己短時間內(nèi)可以保全自己的工作,說不準明天的人工智能又取得了新的突破。夏如先生,這可全是您干的好事啊?!?/p>
“嗯,確實是我干的好事。”夏如沒有反駁這點,“所以,我現(xiàn)在向你們征求意見:如果該政策得到實施,我們該采取何種對策,以應對即將出現(xiàn)的社會問題?!?/p>
“您問我們?我們要上課的啦,沒個四五年都離不開這個島?!?/p>
“那如果,”夏如決定向他們透露這點,“引入強人工智能,就是從聯(lián)合學宮開始的呢?”
“哎喲喂夏如先生,您可真看得起我?!北R瑟挑了挑眉,“憑什么就先告訴我啊?”
“只是一種假設(shè),我并不直接參與這類政策的實施?!毕娜缈粗f,“好了,盧瑟同學,愿意的話,請告訴我你的辦法?!?/p>
“夏如先生,所謂我的‘辦法’,”盧瑟換了個坐姿,“可是在我認為引入人工智能是一場災難的情況下,才會產(chǎn)生的東西?!?/p>
“自然是有利有弊的,而且前者顯然多于后者。但,你們作為世界未來的主人,考慮好各種社會問題的對策也是義務(wù)?!?/p>
“行了行了,我對這些高帽子可不感冒?!北R瑟揮揮手,“是,問題很多,就像我剛才說的失業(yè)問題。但是,一方面,引入人工智能是大勢所趨,我在這兒給大伙兒找不痛快,恐怕并不明智——這歸根結(jié)底也算好事?!?/p>
“學會獨立思考,對你們的觀念塑造很有必要。”
“那我的想法就是強行推進,有問題解決問題,反正不能開倒車?!北R瑟說,“還有另一方面,我對現(xiàn)在的很多社會問題可是忍無可忍。雖然不至于化身為反社會分子,但也極度期望強人工智能這股清流能把人類世界給沖刷一通。所以,對于引入人工智能,我確實有反對理由,但還沒那么充分,至少不比支持的理由充分?!?/p>
“……那么,想點些什么?我請你?!毕娜缭谑謾C上調(diào)出了甜品店的菜單,遞給了對面的盧瑟。
“喲,夠大方的?!北R瑟自然而然地接了過去,“行吧,不點也不夠面子。這個——奶昔,給我來一份帶走?!?/p>
“好的。”
“對了,提到奶昔我還想起來一件事?!北R瑟湊到夏如耳朵邊上,捂住嘴巴低聲跟他說,“您座位前頭有兩位姑娘,貌似在那兒聊很久了,說的話也很有意思。愿意的話,您去問問她們的意見怎么樣?”
“她們……”
“一位叫戴蒙德,另一位是露卡。放心,夏如先生的名字可是響徹全學宮的,找同學談話一般不會引起反感?!闭f完,盧瑟挺起身,“那么,后會有期?!?/p>
夏如看看盧瑟離開的背影,又看了看前面。猶豫了片刻,還是收起計算機,走上前去。
“下午好,兩位同學?!彼驹谧狼?,對著桌兩邊的姑娘們打著招呼,“如果可以的話,我希望能和你們談?wù)劇!?/p>
“夏如老師?!甭犊纯此?,又看向了對面的戴蒙德。
“可以,這回就把夏如先生帶上吧?!贝髅傻码m然同意了,但說的話有些讓他感到疑惑,“不過,要麻煩您搬一張椅子來,坐在餐桌的側(cè)面以表示公正。我們剛剛達成共識,這次要放下自己的身份討論?!?/p>
“好?!彪m然不清楚對方是什么意思,但畢竟是自己強行要與她們進行對話,能夠得到同意已經(jīng)是很幸運了。
“那么,夏如老師,要和我們談什么呢?”露卡問道。
“二位既然是學宮的學生,那么,不論多少,都會在意學宮的安全和穩(wěn)定吧?”
戴蒙德和露卡再次對視一下,隨后看向了夏如:“的確是這樣。事實上,我們恰才正是在討論聯(lián)合學宮的穩(wěn)定性,并且就它能否運作下去展開辯論?!?/p>
夏如皺了皺眉,說:“從你們的角度看,學宮的基礎(chǔ)似乎比我預想中更不牢固。”
“您誤會了,我們討論的時間更為久遠,大概會延續(xù)到人類完全掌握了X文明遺留技術(shù)的那一天。”露卡說,“我們尊重那些以公正分配科技為目的去參與建立學宮的各位,包括夏如先生您。不過,也正因為學宮的地位特殊,我們需要認真討論它是否能夠延續(xù)下去。為此,戴蒙德小姐和我放下了身份立場間的差異,用完全理性的方式討論這個問題?!?/p>
“拋棄立場是很難得的?!毕娜琰c點頭,“你們探求真理的態(tài)度值得稱贊,但僅靠你們兩個,恐怕不容易得出正確的結(jié)果。聽說學宮里有位學生,名叫庫爾特·圖靈,來到學宮前設(shè)計過專長于邏輯推導的計算機結(jié)構(gòu)。你們考慮過找其他人幫忙嗎?”
談到庫爾特,兩人倒是沉默了片刻。隨后,戴蒙德才緩緩開口道:
“是這樣的,夏如先生,我和露卡小姐認為,對于這一問題的討論,我們有足夠的時間和精力,從各種角度進行討論。但是,引入其他人參與我們,則很可能導致公正性的缺失。將我們當作兩個弱人工智能就好,我們有特別的方式,可以消解掉個人傾向的影響?!?/p>
“這樣么。”對方談到了人工智能,夏如很容易想到她們是借助了計算機技術(shù)的幫助。也好,雖然本想讓她們和圖靈小姐接觸一下……還是算了吧。
“總之,我們已經(jīng)進行了相當次數(shù)的討論。雖然即將得出結(jié)論,但這一次,我們依舊會放下立場,進行嚴肅的討論。夏如先生若是愿意的話,可以聽聽看嗎?”
“非常樂意?!毕娜缦氲?,自己將要透露給她們的,有關(guān)學宮引入人工智能的消息,似乎也要放在目前學宮的狀況中進行討論。既然如此,讓她們說說看自己對學宮的見解,也算是做個鋪墊。
“好的?!甭犊〝[正坐姿,像是無視了夏如的存在一般,只是注視著坐在對面的戴蒙德,“戴蒙德,這一次我認為,學宮可以在履行其職能的同時,延續(xù)下去?!?/p>
“我的意見與你不同。哪怕外界全力干涉,聯(lián)合學宮也只能在履行職能和延續(xù)之間選擇其一?!?/p>
“請向我證偽?!?/p>
“好的?!贝髅傻曼c點頭,“首先,從學宮的職能上看,盡管它以相對公平的方式將X文明的遺留技術(shù)轉(zhuǎn)讓給了各國的學生,并期望他們學有所成后回到祖國以實現(xiàn)科技的價值。但,世界各國已然形成的綜合國力壁壘,會使這種期望落空。那些來自發(fā)展中國家,學得高端知識的學生們,哪怕可以拒絕大國拋出的橄欖枝,堅持回國,他們的祖國也難以給他們提供平臺以發(fā)揮那些知識的作用。從這個角度看,學宮那公正的初心,難免會變得流于形式。因此我得出結(jié)論,僅需要最早的一屆學生畢業(yè)后,大國與小國們的沖突便會達到頂峰,而位于風口浪尖的聯(lián)合學宮,絕對不可能在得以保全的同時,保證自身不會變質(zhì)為大國們的工具?!?/p>
“我理解你的考量,但反對你的結(jié)論?!甭犊ɑ貞?,“首先,UN保留了一部分未交予學宮教學的科技。如果在第二次分配時,人們普遍認識到學宮未能履行好公正的職責,你所說的小國們非但會得到額外的科技分配作為彌補,還會被迫選出最為忠實的國民去學習那些科技以防發(fā)展的機遇落空。再加之以他們因自身遭到欺騙的憤怒,只要那些小國所獲得的科技中有一項可以用于震懾世界,他們必然會充分發(fā)揮這個機會。因此我認為,大國的領(lǐng)導者們會充分權(quán)衡利弊,最終共同給出集體援助手段,使得小國們具有讓學生們發(fā)揮作用的基本能力?!?/p>
“但在小國擁有震懾能力之前,大國們是否會先一步掌握技術(shù),從而擁有足以無視他們的力量?”
“新的科技時代需要工業(yè)體系的全面換代。從歷史上看,特定時代工業(yè)制品中,威脅度充分的武器不完全是最先進的那一批?!?/p>
夏如看向戴蒙德,她似乎決定放棄這一證偽的方式。不過,她似乎還在等著什么。
“得到數(shù)據(jù)了嗎?”
“嗯,大國們選擇鋌而走險的概率,不足20%,你還堅持你的證偽嗎?”
“這就足夠了?!贝髅傻滤坪鯇τ谶@個數(shù)據(jù)很滿意(雖然夏如不清楚這是從哪拿出來的數(shù)據(jù)),“接下來,我進行第二次證偽:短期內(nèi),人類得到了不符合于現(xiàn)有道德水準的科技,這容易導致紛爭和動亂以超出預料的方式爆發(fā)。”
“我再一次向你聲明,由于現(xiàn)實壓力對于公共道德的絕對權(quán)威,人類在社會科學上的進步,從來都是發(fā)生在自然科學的進步之后。盡管眼下的人類社會還存在道德水準落后的情況,但在得到進一步的科學知識指導后,必然能再進一步?!?/p>
“抱歉打斷一下,”夏如突然插嘴,“關(guān)于道德這部分,你們談?wù)撨^很多次嗎?”
“是的,不過我們?yōu)榱艘?guī)避個人的主觀臆斷,每一次都會當作一次新的辯論?!甭犊ㄟ@才稍微看了看他,“道德方面比較重要,而戴蒙德又比普通人更看重這點,所以她經(jīng)常會提?!?/p>
“嗯。”夏如看看戴蒙德,又看看露卡,點了點頭。
“我接受你的說法?!贝髅傻陆又姓J了露卡的反駁,“那么,第三次證偽,我將從學宮內(nèi)的一個組織出發(fā)——魔法少女協(xié)會?!?/p>
夏如提高了警惕。他不知道學宮里有這樣一個組織,也不知道這個在戴蒙德口中似乎很重要的組織有何特殊之處。
“是成員的問題,還是協(xié)會組織的問題?”
“兼有。庫爾特·圖靈的動機并不單純,靈采·笛卡爾雖然能力出眾,但她并不成熟。其他成員,如銀耳,辛夷,可因等等,對維護學宮的秩序而言可有可無。學宮在如此情況下還能保證該組織的存續(xù),很大程度上都是依靠著你的力量——數(shù)據(jù)顯示,超過80%的情況下,你會被吸收進學宮?!?/p>
“庫爾特·圖靈幾乎是100%。”
“有一位觀察者在UN幫她。除此之外,我不能透露更多。”
“那就根據(jù)記錄推斷她的行為模式。盡管動機不純,庫爾特在學宮運作至首批學生畢業(yè)后,仍然未顯露出她的真實目的,這涵蓋了我們的討論范圍,故而可以假定她對學宮的存續(xù)起到正面作用?!?/p>
“她的能力值得認可?!贝髅傻聦㈦p手交疊放在胸前,“但,那又能如何?庫爾特只是一個普通人,學宮又是經(jīng)過了重重考慮才挑選了五位成員進入學宮,增添任何新成員都極其困難。沒有新鮮血液的補充,在學宮內(nèi)高強度維持秩序,她和其他普通人一樣,支撐不了多久?!?/p>
“靈采很適合與庫爾特合作,后者的謀策可以最大程度發(fā)揮前者的潛能?!?/p>
“不錯,從之前的例子來看,靈采和庫爾特確實合作得很好。然而,盡管形勢迫使她們聯(lián)合,但她們與其他成員交集很少,一旦出現(xiàn)嫌隙,旁人也難以勸和。魔法少女協(xié)會的組織性太弱了,而鑒于它的職責,組織性過強又容易招致非議?!?/p>
“我承認這很難?!甭犊ū痣p臂,“但如果,有我們的介入呢?”
“你是指你和我嗎?”
“是的,我們也常常出現(xiàn)在協(xié)會中。也許庫爾特會遇到理性無法勸服靈采的情況,但針對后者的笨拙,我們有辦法糾正她?!?/p>
“你的辯駁將我們本身拉入了其中?!?/p>
“即便你并未進入?yún)f(xié)會,仍有相當大的概率會介入學宮治安。約占七成?!?/p>
“我承認?!贝髅傻驴戳丝绰涞卮巴?,“談?wù)勀Хㄉ倥畢f(xié)會的組織吧?!?/p>
“正如你剛才所說,學宮不可能讓這個協(xié)會擁有過高的組織性。之后出現(xiàn)的學生會或是風紀委員會之類的組織,也許會發(fā)展的很好,但它們不可能掌握實際權(quán)力,怎樣發(fā)展都不會對學宮本身造成影響。”
“是的。也正因如此,協(xié)會很難規(guī)避掉每一次危機?!?/p>
“但UN安排了人工智能作為輔助?!甭犊抗庾谱频乜粗f,“你知道都有哪些?!?/p>
“我承認人工智能的作用,并且對他們?yōu)榱吮WC科技合理分配而進入學宮協(xié)助管理持開放態(tài)度?!贝髅傻驴吭诹艘伪成?,“但是,我同樣需要保持一定的懷疑態(tài)度。邦德·香農(nóng)作為UN安理會的人工智能代表,雖然會在某些方面保證國際和平,但考慮到UN的地位變化,他難免產(chǎn)生一些別的考量——例如刻意讓學宮的職能無法履行,從而導致UN不得不在科技分配中扮演更重要的角色,哪怕那不是UN中其他人的本意。而鄒衍,他的來歷不明,動機也難以揣測。更重要的是,他雖然極其接近強人工智能,卻又并非是以秦九或為藍本,危險性極高?!?/p>
“但魔法少女協(xié)會并不會接受他們的領(lǐng)導,不僅建立時常常會如此確定其自身職能,成員們在這兩個強人工智能的指揮下,也會在合適的時候違背他們——以正當?shù)睦碛?。此外,還有一位人工智能,你沒有提到?!?/p>
戴蒙德與露卡無言地對視。
“下次再談她吧?!?/p>
“嗯。想必你也看得出來,她并不像你想的那樣沒用?!?/p>
兩人的談話似乎暫時告一段落,她們同時看向了夏如。
“很精彩的討論?!毕娜琰c點頭,“考慮這么多,你們也該累了。本想和你們討論一下學宮引入大量強人工智能的后果……還是下次吧,記得早點回去休息。二位想吃點什么?”
“夏如先生多慮了,我們體力還算不錯?!甭犊▽χp笑,“我可以點一杯奶茶嗎?”
“我也要一樣的?!贝髅傻赂f。
“可以。我去幫你們?nèi) !?/p>
說完,夏如走向柜臺。
“又多了一次。”露卡看看夏如,又看向了戴蒙德,“向?qū)W宮引入強人工智能,大概是確定的了?!?/p>
“總還有機會的。人,未必會全面落后于人工智能。”戴蒙德沒有看向露卡,只是望著窗外,“對我們來說,操作的空間也還存在。”
“感到悲觀的話,可以去我們那里坐坐。協(xié)會也許不會記住你的貢獻,但我記得,她也記得?!?/p>
“嗯。”
“你學會表達情感了嗎?”
“謝謝?!?/p>
“然后呢?”
戴蒙德站起身,緩緩抬起手,然后——有些不知所措地放下,隨后坐回到座位上。
“……”
露卡走到她那邊,伸出雙臂,將她的腦袋攬入懷中。
往這邊走來的夏如站住了。
“這是從哪里學到的?”
“艾米小姐?!?/p>
“果然么?!贝髅傻挛⑽P起嘴角,“謝謝?!?/p>
【2026/08/16/01:11】
夜深人靜,療養(yǎng)院仍然燈火通明。畢竟在地下見不到陽光,住在玻璃房里的大家又都能自己調(diào)節(jié)墻壁透明度,卡普菈就把燈一直開著了。
氣氛自然輕松,日常也確實沒什么事務(wù)要處理(前幾天的事情算是例外),卡普菈在駐留療養(yǎng)院期間,經(jīng)常會在網(wǎng)絡(luò)上沖浪來消磨時間。學宮內(nèi)的平臺,用戶多數(shù)是這里的學生們,和他們聊天確實有利于思想交流。比如說現(xiàn)在,她就找到了一個感興趣的話題——有關(guān)向?qū)W宮內(nèi)大規(guī)模引入強人工智能的。
【我嘛,其實是很支持這樣做的哦~】看完主要內(nèi)容后,卡普菈在這個話題下輸入自己的評論,【就像互聯(lián)網(wǎng)拉近了人與人之間的距離,從而改變了人類的社會關(guān)系一樣,人工智能也會對人類社會進行改造。雖說是有利有弊,但我相信,只要在有識之士的引導之下,他們可以促進時代的進步?!?/p>
發(fā)布完成后,她躺在了椅背上,悠閑地瀏覽著下面的評論。但沒過多久,回復消息的提示音響了起來??ㄆ涨壙戳丝催@位名為“格諾西斯”的網(wǎng)友回復:
【想必您是一位樂觀主義者。但既然您提出了這樣樂觀的觀點,可以請您說說理由嗎?】
【理由的話——說實在的,并不是很充分呢?!靠ㄆ涨夐_始回復,【畢竟很多反烏托邦文學的創(chuàng)作者們,早就在強人工智能出現(xiàn)之前對大家進行警告了。唉,悲觀的情形如此之多,更讓人悲觀的是,已經(jīng)出現(xiàn)了我們正陷于其中不能自拔的跡象。在這種情況下,支持我樂觀的理由只有一個:我對于所謂的‘烏托邦’,已經(jīng)有了一個很棒的設(shè)想?!?/p>
【唔唔,那很棒呢!】對方顯得很感興趣,【所以,如果沒有保密需要的話,可以和我分享一下您的想法嗎?】
【當然可以哦。】卡普菈的嘴角微微上揚,【讓我想想從那里開始說起……哦,對了,首先是對于理想國‘烏托邦’的一般印象。它往往代表著某個完美到無需完善的社會體系,也因而容易讓人感到寂滅般的壓抑。然而,在我設(shè)想的理想國之中,人類社會的運作幾乎與原來是一模一樣。不管是探索星海,發(fā)展文明,還是柴米油鹽,日常生活,都和現(xiàn)實相差無幾?!?/p>
【聽您這么說,這種‘烏托邦’和現(xiàn)實社會的差異既微小又清晰,是嗎?】
【沒錯!】卡普菈很高興自己的想法能有人感興趣,【這種理想社會有一個最大的特征,那就是——人與人之間的社會關(guān)系,都是由人工智能在其間幫助傳遞的。不僅工作與生活上的接觸需要經(jīng)過人工智能處理,簡單的交流意見也需要受到計算機審查。哪怕您只是想愛撫自己剛出生的孩子,中間也少不了兩層觸覺傳感器和至少一層的數(shù)據(jù)處理中樞。】
對方不出意外的暫時沉默了。但在片刻之后,“格諾西斯”再次回復道:
【聽起來,是種很容易疏離人際關(guān)系的體系啊……您要如何保證人們愿意接受它呢?】
【當然是通過現(xiàn)實的利害關(guān)系啦?!靠ㄆ涨壞托牡鼗貜偷?,【就像沒有人愿意拒絕互聯(lián)網(wǎng),但網(wǎng)絡(luò)中確實存在著惡劣言論一樣。在這種理想社會中,每個人通過身邊的設(shè)備于他人接觸時,都只會看到他們最符合自己心理預期的一面:如果是朋友,那就是既體貼又善解人意;如果是對手,那就會讓人覺得雖然立場不同,但對方的作風值得欣賞。打個比方的話,就好像所有人都帶上了能夠過濾臟話的口罩,然后才開始交流一樣。】
【嗚哇,看來您想得很仔細呢,我小瞧您啦。】“格諾西斯”的語氣里帶著驚嘆,【靠著現(xiàn)實壓力達成目的而不是宣傳理念,的確是最為明智的選擇,此外還能夠把握住受不了互聯(lián)網(wǎng)上惡意言論的大眾心理,想來您是專業(yè)的學者吧。】
【哈哈,過獎過獎,我只是喜歡研究人而已啦?!?/p>
【嗯嗯,理解理解,確實有這種單純喜歡追求知識的人呢。不過,】“格諾西斯”話鋒一轉(zhuǎn),【還請原諒我對您的心理妄加揣測,但——在您看來,人類的相互協(xié)助,沒辦法將他們自己導向更美好的未來嗎?】
【您誤會了,實際上,我對人類抱有高度的信心?!看蜃执虻竭@里,卡普菈無聲地笑了笑,【和一些古典哲學家一樣,我堅信人性本善。只不過,在人與人相互交流的過程中,這一初心可能遭到扭曲?!?/p>
【所以,您想要改變社會形態(tài)?】
【我想要改變?nèi)祟惿娴男螒B(tài)——解構(gòu)掉社會本身后的生存形態(tài)。】
對方再一次地暫時沉默。良久,“格諾西斯”才回復道:
【您比最激進的變革者都要激進……但想必您也知道,社會性是人類的固有屬性。任何人都希望能參與社會活動,不論多少——總要有一點的吧。】
【的確如此。要是忽略了人類這一客觀需求,這種體系也算不上是“烏托邦”了。所以在我的設(shè)想中,那些人工智能并不僅僅是滿足人們的衣食住行,還需要承擔好社會關(guān)系的節(jié)點,從而代替掉出現(xiàn)在一個人類身邊所有的人類。再打個比方的話……就像是用奶嘴代替了奶瓶吧。雖然確實沒有營養(yǎng),但也避免了孩子們喝到劣質(zhì)奶呀?!?/p>
【聽明白了,您認為,小孩子喝劣質(zhì)奶不如喝西北風?!?/p>
【啊哈哈,話糙理不糙吧。】
【好吧,和您聊天很愉快,可惜接下來,我就得說點您不樂意聽到的內(nèi)容了。】
【沒事的啦,我洗耳恭聽?!?/p>
【謝謝。那么我們先假設(shè)一下,人們普遍支持并且愿意接受這樣的社會改造。當然了,按照您的觀點,人們確實會這樣想,對嗎?】
【只要跟他們說說清楚,再循序漸進地推動,他們都會自然而然的接受。我相信這點?!?/p>
【好。那么,“烏托邦”的建設(shè)已經(jīng)到了收尾階段,您想去檢查一下是否有人還游離在——呃,這種社會體系有名字嗎?】
【叫它交替型社會體系(alternating society system)如何?畢竟其中的每個人與其他人之間,都隔著人工智能,關(guān)系網(wǎng)絡(luò)上表現(xiàn)出交替的狀態(tài)。】
【可以。那么,您想確認一下這個ASS之外還有沒有其他人,但這時,您身邊那些一貫跟隨您的人工智能表示,不需要您親歷親為了,他們可以代勞。這時,您會如何選擇呢?】
【千里之堤,潰于蟻穴。我想,還是自己好好檢查一下吧?!靠ㄆ涨壞樕蠋еl(fā)自內(nèi)心的笑容,【能夠建成自己心中的理想國,怎么辛苦都沒關(guān)系的?!?/p>
【向您致敬。只是——我們繼續(xù)剛才的假設(shè)——那些人工智能表示了愿意服從,并且不干涉您親自去檢查的行為之后,您突然意識到,光靠自己可沒辦法檢查完全世界的幾十億人。想來您現(xiàn)在有兩個選擇,向人類尋求幫助,或者后退一步,把那些人工智能叫回來?!?/p>
【唔,確實是個重點呢。讓我想想……還是稍微服軟一下,讓那些人工智能代勞好了。】
【但這樣做存在一種隱患:一部分堅持反對您觀點的人不聽指揮,而那些人工智能則會根據(jù)您自己設(shè)下的規(guī)則,判斷出清理掉他們比強行說服更方便,因為這時候,您也快要成為ASS中的一員了,他們沒必要擔心您之后會去檢查——就算真要檢查,掩蓋起來也挺容易的。想必此時,您也只有兩種選擇:不去依靠人工智能來完成最后一步,或者,為那些人送上祝福?!?/p>
【唉……雖然很抱歉,但我應該會選擇后者吧?!?/p>
【可以。但請您注意,我剛才,可沒有限定那些頑固分子的數(shù)量哦?說不定,他們的總數(shù)可達數(shù)十上百萬……】
【那么,】卡普菈按捺住心里的動搖,【如果我選擇人類幫我完成這個任務(wù)呢?】
【很好,這一行為具有極強的象征意義:建立起這種烏托邦,直到最后一步仍少不了人類社會的助力?!俊案裰Z西斯”的回復毫不留情,【好吧,讓我們想想看,要挨個確認好這數(shù)十億人有沒有進入ASS之中,保守估計,也需要數(shù)十萬到數(shù)百萬的助手??磥砟鷮瓿梢豁梻I(yè):您統(tǒng)帥了上百萬人的大軍,并讓他們?nèi)娜獾叵蛑粋€目標努力,而且最后還取得了沒有任何失誤的成就——當真如此嗎?】
【您,這是什么意思呢?】
【那上百萬人里,真的沒有人會背叛您嗎?】“格諾西斯”近乎戲謔地回復道,【連照章辦事的人工智能都有可能選擇更加經(jīng)濟的做法,您又為何會相信,那些人不會為了一己私欲而陽奉陰違呢?】
【抱歉,我……不知道該說些什么?!靠ㄆ涨壈醋∽约旱男乜?,【或許,我的想法還是太過幼稚了?!?/p>
【我倒是覺得,您的赤子之心非常珍貴。雖然現(xiàn)在可能有些動搖,但——希望您之后還能保持著對于烏托邦的向往吧?!?/p>
【謝謝。但現(xiàn)在,我請求您了卻我最后的僥幸——如果,我可以永生呢?】
【永生嗎?想不到您為了這個理想,真的有覺悟去接受如此的詛咒啊。讓我想想……唉,這倒是沒辦法反駁了。還是祝愿您早日擺脫掉永生的折磨吧——哦,僅限于那樣的您,我當然是希望現(xiàn)在的您健健康康啦?!?/p>