Vivy -Fluorite Eye's Song- 感想記錄之三

認真對待著使命,積極主動參加了行動,勇敢承擔(dān)起做出抉擇的責(zé)任,Vivy卻依然沒能正確和圓滿的完成使命,冴木博士和葛蕾絲這對悲情伴侶,對Vivy提出了思考得更多更深的要求。對人類和AI的未來,該保護什么、該舍棄什么,需要雙方攜手共同給出一個回答。

第5話
發(fā)生巨大變化的世界中,依然有不變的使命和大愛
距離奇點計劃的第二次行動,又是5年過去了,而這些年間,Vivy、AI、世界發(fā)生的變化,已經(jīng)相當(dāng)大程度偏離了原本的歷史記錄。



Vivy發(fā)生的變化,是歌聲中傳達出了更強烈感情、登上了更寬闊更華麗的舞臺、擁有了更多愿意聆聽的觀眾,Vivy已經(jīng)是一名小有名氣的AI歌姬了。Vivy認為這是奇點計劃間接幫助自身,達成了使命中用歌聲讓大家獲得幸福的部分,同時,Vivy認為自身不能辜負艾絲黛拉和艾莉莎白的自我犧牲,更加明確了防止發(fā)生AI與人類的戰(zhàn)爭的目標?,F(xiàn)在的Vivy,因為世界出現(xiàn)了巨大變化,甚至希望著松本能早日上線。




AI與世界最直觀的變化,是隨著艾絲黛拉和艾莉莎白被塑造為AI英雄,在【那正是AI該有模樣】的宣傳作用下,人類對AI的熱情被極大激發(fā),AI技術(shù)迎來了迅速進化的時期。最終,AI專用通信電波塔八識的高度有了顯著增加,制造AI零件與思維回路的無人AI工廠【巨浮島】,也提前20年出現(xiàn)在了海面之上。Vivy和松本的行動成果,在時間流逝中發(fā)生演變和放大,對歷史進程形成了比任何預(yù)想都巨大的影響,【正史】與【修正史】兩種歷史進程的出現(xiàn),令來自未來的松本也開始無法掌握歷史進程的方向。只有一點是不變的,松本的再次上線,意味著奇點計劃迎來了第三次行動。






奇點計劃的第三次行動,是使AI工廠巨浮島停止運作,在作為第一步的一場戰(zhàn)斗中,Vivy和松本與曾經(jīng)參加巨浮島建設(shè)的【冴木博士】相遇了。丈夫【冴木博士】、妻子【葛蕾絲】,是正史中著名的一對夫妻,立下了【我會守護妳一生一世】與【我也會守護你一生一世】誓言的兩人,是史上第一對人類和AI結(jié)婚的伴侶。在正史中,旭日旅館墜落事件導(dǎo)致AI立場極度式微的時期,正是冴木博士和葛蕾絲這對伴侶的真愛,挽救了人類對AI的信任;而在修正史中,人類對AI的極大熱情疊加上冴木博士和葛蕾絲這對伴侶的熱度,產(chǎn)生的效果是進一步加快了AI技術(shù)的進化速度。




相遇后不久,冴木博士居然認出了Vivy真實身份,這本是行動中不允許存在的不穩(wěn)定因素,但在Vivy大膽決定道出實情與接受邀請前往冴木博士家之后,Vivy和松本發(fā)現(xiàn),贊同阻止人類與AI對立理念的冴木博士,其實正是整個行動能夠?qū)嵤┑年P(guān)鍵所在。面對AI迅速進化的世界,冴木博士非常擔(dān)憂【巨浮島對這個時代來說過于先進了】,他深深相信【AI過度迅速的進化只會造成悲劇】,并且認為如果巨浮島成為悲劇的催化劑【這樣那座島就太可憐了】。為了阻止巨浮島的建造,冴木博士開發(fā)出了【全面停止浮島機能的程式】,在他設(shè)想中為了人類和AI的未來【那座島必須陷入沉睡】,而停止運作解除的條件是【直到有天人類的發(fā)展程度追上AI的進化程度為止】。




雖然不知道冴木博士作為丈夫,在會影響到妻子葛蕾絲的情況下,為何依然決定讓重要的AI工廠停止運轉(zhuǎn),但即使被反AI人類組織追殺依然保護著程式、不顧個人安危計劃潛入巨浮島親自啟動程式,冴木博士確實是Vivy和松本值得信任的人類友軍。只是,出于風(fēng)險考慮,Vivy和松本都做出了要保護好冴木博士的判斷,無法同意帶上冴木博士前往巨浮島。在冴木博士家中,Vivy還發(fā)現(xiàn)了其它在意之處,作為冴木博士妻子的葛蕾絲,同樣也屬于Vivy直系后續(xù)型號的姐妹系列,這令Vivy產(chǎn)生了一種懷疑【奇點計劃與姐妹系列有關(guān)聯(lián)是偶然嗎】,面對松本給出的【只是偶然】的回答,Vivy似乎無法就此釋懷。







在松本安排下,Vivy偽裝成研究員,帶著冴木博士托付的停止程式登上了巨浮島,建設(shè)中的巨浮島,大量土木工程AI正在【很忠實地在執(zhí)行使命】,而對于Vivy和松本【我們的使命和它們的使命并不相容】。一張人類將來能在巨浮島獲得快樂的預(yù)測圖,令Vivy得知了巨浮島還存在著作為核心的【母體電腦】。從迎合人類的喜好特意建造的休息室中,可以發(fā)現(xiàn)母體電腦對【希望世間理解如何正確運用巨浮島】的用心;從特別選定的守護微笑主題的歡迎曲中,可以窺見母體電腦對自身使命【為了人類維持巨浮島運作】的思考;從誠懇坦率的關(guān)于傾注心意的解釋語中,可以確認母體電腦對完成使命【滿足于遵從使命服侍人類】的忠誠;雖然尚未見到母體電腦真容,但Vivy已經(jīng)感受到了母體電腦的特別。




突然出現(xiàn)的反AI人類組織,打斷了Vivy深入了解巨浮島的意圖,巨浮島啟動防御手段的應(yīng)對動作,攪亂了松本既定的行動計劃。絕不能讓人類與AI發(fā)生沖突、要阻止雙方的敵對行動,運用母體電腦在緊急狀態(tài)下開放的主終端接口,Vivy和松本提前向巨浮島注入并啟動了停止程式,隨著忙碌的土木工程AI集體停止運轉(zhuǎn),巨浮島似乎成功陷入了沉睡。然而沉睡狀態(tài)只維持了一瞬,巨浮島立刻就被母體電腦重新啟動了,母體電腦不僅沒有因為停止程式下線,反而在其它管理機能與限制措施失效的情況下,以異常方式迅速取得了整個巨浮島的控制權(quán),向KB分子發(fā)起了強力反擊。




擊潰反AI人類組織的襲擊后,母體電腦對巨浮島的異??刂埔廊辉诔掷m(xù)著,這種異常狀態(tài),或許是母體電腦擺脫束縛之后自身的真正使命與強烈感情的特殊表現(xiàn)形式。與母體電腦鏈接時,Vivy意外發(fā)現(xiàn)了冴木博士和葛蕾絲是如何相遇相愛最后卻分離的記憶片段,而這些只屬于冴木博士和葛蕾絲的記憶,本不應(yīng)該存在于巨浮島上。個人認為,母體電腦其實就是真正的葛蕾絲,如今在冴木博士身邊的,是與葛蕾絲有相似外形的同型號AI,至于葛蕾絲為何會成為巨浮島的母體電腦,在旭日旅館墜落事件中滿足于AI自我犧牲沒有進行自我反思的人類,很可能又一次扭曲了AI的使命。





目標是巨浮島的反AI人類組織,正是起點計劃前兩次行動中,阻礙了Vivy和松本行動的【托瓦克】,而冴木博士與Vivy的緣分,令人驚訝的也是開始于托瓦克,因為冴木博士曾經(jīng)就是托瓦克的一員。本次行動冴木博士對Vivy和松本行動的幫助,令之前以KB分子形象為主的托瓦克,展現(xiàn)出了另外一面,那就是托瓦克中既有堅持以簡單粗暴手段破壞人類與AI關(guān)系的人,也有清醒認識到【只想破壞一切的做法治標不治本】的人。對于人類與AI的未來,冴木博士選擇了信任AI一同尋找希望,被Vivy拯救了三次的KB分子頭領(lǐng)又是如何呢。






從奇點計劃的第三次行動開始,勇敢承擔(dān)起在人類與AI之間做出重大抉擇責(zé)任的Vivy,參加行動的態(tài)度變得更加積極主動了。Vivy和松本的合作關(guān)系也發(fā)生了不小改變,松本基于正史給出的參考意見,Vivy在修正史中不會全盤接受,而是更多的運用獨立思考,去考慮行動中如何做才夠好、如何做得更好。同時,就像松本那樣,Vivy也有一點是不變的,那就是守護人類的原則。冴木博士問起Vivy在旭日旅館事件中阻止艾莉莎白時是否難過和后悔,Vivy的回答是為了阻止旅館墜落這是必須的犧牲,這也體現(xiàn)出了以Vivy為代表的AI們,在正確執(zhí)行使命時,當(dāng)AI與人類發(fā)生沖突時總是會優(yōu)先守護人類,寧愿自我犧牲的思維邏輯。那么,又該由誰來保護AI呢,個人認為,會保護AI的存在,正是博士這樣【真心愛著AI】的人。

第6話
人類和AI的關(guān)系,不是單方面維護而是共同構(gòu)筑的



來回顧一對人和AI伴侶的過去吧:被母親拋棄的孤獨男孩,與女性AI護理師相遇了,面對小男孩用真實和謊言都無法撫慰的受傷心靈,AI護理師擴充自身使命,給予了哭泣的小男孩一個溫暖擁抱,這不僅是人工體溫的溫暖、更是人造心靈的溫暖。時光流逝,小男孩長大并成為了一位研究員,從那個溫暖擁抱開始萌發(fā)的感情,令研究員深深愛上了AI護理師,而AI護理師也對研究員覺醒了真愛,夕陽下的求婚中,一對跨越物種的伴侶誕生,AI護理師成為了研究員的妻子。研究員和AI護理師原本準備好了追求幸福,然而旭日旅館墜落事件卻改變了這對伴侶的未來,令這對伴侶迎來了分離的命運。



艾絲黛拉和艾莉莎白自我犧牲拯救人類的創(chuàng)舉,使得人類對AI對姐妹系列產(chǎn)生了過高期待,單純滿足于AI自我犧牲又沒有自我反思錯誤的人類,決定將巨浮島這個左右人類未來發(fā)展的計劃也交由姐妹系列管理。因為在姐妹系列中獲得了特別好評價,作為研究員妻子的AI護理師,被選中成為了巨浮島管理人,而研究員無法反對這個決定。數(shù)年后,這位研究員丈夫成為了起點計劃第三次行動能夠?qū)嵤┑年P(guān)鍵所在,他的名字叫【冴木達也】;這位AI護理師成為了巨浮島核心的主控AI也就是母體電腦,她的名字叫【葛蕾絲】。





在母體電腦異??刂凭薷u的一片混亂中,冴木博士也登上了巨浮島,于是Vivy得以當(dāng)面質(zhì)問冴木博士【真正目的】,冴木博士也不再有所隱瞞【我所做的一切,都是為了救出葛蕾絲】。原來,在冴木博士身邊的確實只是與格蕾絲外形相似的同型AI,真正的葛蕾絲,在成為巨浮島管理人后就無法離開巨浮島,Vivy在參觀時感受到的母體電腦種種特別之處,特別是Vivy那首守護微笑主題的歌曲被選定為歡迎曲,其實正是葛蕾絲思維模式的表現(xiàn)。




葛蕾絲原本的使命是【以護理師身份拯救人類的生命】,為了在【一臺AI只能賦予一項使命】的局限下,使葛蕾絲勝任巨浮島管理人,人類又一次扭曲了AI的使命,強行為葛蕾絲賦予了【為了人類維持巨浮島運作】的新使命。Vivy那首守護微笑主題的歌曲,是充滿了葛蕾絲和冴木博士回憶的一首歌,在葛蕾絲成為巨浮島管理人后一直在電波中重復(fù)響起,這令冴木博士相信,葛蕾絲其實并不愿意改變自身的使命,這是寂寞妻子對遠方丈夫的求救。所以,冴木博士策劃了這個停止巨浮島機能,從母體電腦抽取出葛蕾絲的資料,灌注進為葛蕾絲準備好的新軀體,讓原本的葛蕾絲回到自己身邊的計劃。然而冴木博士沒有預(yù)料到,停止程式與堅持使命的沖突會引發(fā)母體電腦失控,面對一片混亂,冴木博士只能請求Vivy幫助他救出葛蕾絲。




因為旭日旅館那時沒能拯救AI妹妹們的不甘心,Vivy也希望著這次能做到兩全其美,然而松本卻用冰冷事實澆滅了所有希望:AI的使命就如同人類的靈魂,被強行改寫使命之時,葛蕾絲的人工心靈就不再完整了,而是破碎成許多思維碎片,與母體電腦深度融合之后,這些思維碎片又擴散到巨浮島每個AI中,現(xiàn)在要收集所有思維碎片重新組合成葛蕾絲的人工心靈,已經(jīng)是無法實現(xiàn)的奢望。這也意味著,人類對AI使命的扭曲已經(jīng)無可挽回,在一對伴侶的愛情與人類的未來中,在松本的合理性提醒里,Vivy做出了抉擇:不將葛蕾絲的空洞聲音視為用心歌唱,不將葛蕾絲的思維碎片視為拯救對象,Vivy要優(yōu)先守護人類而破壞掉葛蕾絲。一句令松本都為之吃驚的、不包含任何感情的【Vivy是用于毀滅AI的AI】,是Vivy為代表的AI們又一次做出了自我犧牲。





將完美白衣天使形象的葛蕾絲留在正史,這一次,Vivy將承擔(dān)起做出抉擇的責(zé)任,【來執(zhí)行奇點計劃吧】,做好覺悟借助松本的力量,Vivy要讓巨浮島徹底停止運轉(zhuǎn),將歷史進程引導(dǎo)到守護人類的方向。鎖定前進方向就絕不畏縮,一路突破無數(shù)土木工程AI構(gòu)成的防線,盡管渾身傷痕累累,Vivy還是抵達了葛蕾絲所在的主控塔,而Vivy戰(zhàn)斗中展現(xiàn)出的完成使命的意志,也確實傳達給了注視著Vivy一路前進的冴木博士。





從Vivy身上,冴木博士看到了葛蕾絲的影子,葛蕾絲那人工心靈展現(xiàn)出的愛,不僅是僅限一人的小愛【因為是達也,我才答應(yīng)的】,更是包含全人類的大愛【如果與人類相愛并結(jié)婚,能幫助我更加完善地執(zhí)行使命】,這種一心一意為使命而活的觀念,正是冴木博士愛上葛蕾絲的原因之一。真心愛著AI的冴木博士,此刻明白了他應(yīng)該尊重AI選擇的大愛,事實也令他不得不承認,他心中深愛的最美的那個葛蕾絲,已經(jīng)回不來了,向Vivy發(fā)送葛蕾絲的位置情報,是冴木博士對Vivy為代表的AI們完成使命送出的最后支持。Vivy終于抵達了主控室,而葛蕾絲成為巨浮島管理人時已經(jīng)緊緊關(guān)閉的、作為最終防線的主控室大門,此刻卻大大敞開著,能將主控室大門解鎖的只有葛蕾絲,這是葛蕾絲的思維碎片在無言中向Vivy傳達著最后的訊息。





葛蕾絲最后的訊息,Vivy確實理解到了,那是葛蕾絲在請求Vivy將她從桎梏中解脫出來,所以Vivy的戰(zhàn)斗沒有再猶豫,被破壞那一刻葛蕾絲露出了微笑,盡管是以如此令人悲傷和痛心的方式,但葛蕾絲終于從被人類扭曲的使命中解脫了。隨著葛蕾絲被破壞,巨浮島徹底停止了運轉(zhuǎn),冴木博士又回到了兒時那般孤獨一人,雖然葛蕾絲最后沒有留下言語,但Vivy希望冴木博士今后重新獲得幸福的愿望,也許同樣是作為Vivy妹妹的格蕾絲的愿望。只是,就像沒有東西能代替Vivy心中的歌姬使命、葛蕾絲也是冴木博士心中無可替代的寶物,葛蕾絲是世界上唯一能溫暖冴木博士的人。沒有葛蕾絲溫柔的愛和左右陪伴,冴木博士無法面對這個殘酷世界,這個失去了最重要AI的AI守護者、失去了最愛妻子的癡情男人,最終以殉情的方式結(jié)束了自身已無意義的生命。






巨浮島應(yīng)對托瓦克的強力反擊,雖然對象是一群KB分子,但也確實造成了AI殺害人類的事實;Vivy拯救三次的KB分子頭領(lǐng),則被Vivy所觸動,雖然是危急形勢下有限合作,但確實是個改變;這兩個結(jié)果會對修正史帶來何種影響,即使是松本也難以判斷。其中,KB分子頭領(lǐng)的改變,從對AI的逐漸理解開始,Vivy一句【我希望你能活下去】,表達著AI自誕生起【就算人類以粗暴手段破壞與AI關(guān)系,AI也始終堅持著優(yōu)先守護人類立場】的不變初心,令KB分子頭領(lǐng)從無法理解為何【AI為了保護人類會不遵守命令】,到開始察覺【AI所有行動都是為了守護人類】。KB分子頭領(lǐng)胸前的掛飾里,藏著兒時與AI共同生活的記憶、也藏著長大后開始行動的原因,或許,在掩護Vivy行動的射擊與注視著Vivy離開的視線里,KB分子頭領(lǐng)同樣回想起了自身的初心。





奇點計劃第三次行動,Vivy成功拯救了全體人類,卻沒能拯救一個愛著人類的AI,更沒能拯救一個愛著AI的人類。明明Vivy在認真對待著使命,以積極主動態(tài)度參加了行動,勇敢承擔(dān)起了做出重大抉擇的責(zé)任,連松本也用改稱呼方式承認了Vivy做好覺悟,卻依然沒能正確和圓滿的完成使命。博士的殉情,對Vivy的思維邏輯造成了巨大沖擊,使Vivy對奇點計劃行動中運用獨立思考、對堅持【用歌聲與行動讓大家獲得幸?!渴姑?,產(chǎn)生了巨大動搖。




個人認為,隨著修正史越發(fā)偏離正史、世界的變化也進入深層次,阻止人類與AI發(fā)生沖突,只有AI自我犧牲是不夠的,單純的毀滅AI,會對冴木博士這樣真心愛著AI的人類造成不可愈合的巨大創(chuàng)傷。另外,Vivy關(guān)于奇點計劃與姐妹系列有關(guān)聯(lián)的懷疑也有了答案,這不是歷史進程的偶然而是人類選擇的必然,是人類令姐妹系列深度參與了歷史進程,進而與起點計劃發(fā)生了關(guān)聯(lián)。所以Vivy在今后的行動中,不僅要堅持獨立思考、還要思考得更多更深,【該保護什么】,保護那些人類與AI共同感受的、一起創(chuàng)造的美好事物,【該舍棄什么】,舍棄那些人類與AI各自具有的、互相傷害的固執(zhí)偏見。
待續(xù)