人工智能的“意識(shí)”會(huì)是從哪兒誕生的呢？

在制作完《進(jìn)擊的巨人》第三季之后，WIT Studio（別名霸權(quán)社）推出了一部人工智能主題的原創(chuàng)動(dòng)畫，借機(jī)表達(dá)了自己對(duì)于這個(gè)問題的理解。

這部原創(chuàng)動(dòng)畫就是《薇薇-螢石眼之歌-》。

在不遠(yuǎn)的未來，以唱歌為使命的自律型AI機(jī)器人DIVA，遇見了來自未來的高級(jí)AI卡茲莫特。

在卡茲莫特指引下，DIVA化名“薇薇”，一邊執(zhí)行阻止AI在100年后消滅人類的“奇點(diǎn)計(jì)劃”，一邊思考“真心實(shí)意”唱歌的意義。

因?yàn)橹鹘鞘莻€(gè)“AI歌姬”，為保證動(dòng)畫的表現(xiàn)力，WIT Studio特地邀請(qǐng)到MONACA知名音樂人神前曉來為操刀新番，他的代表作有《初音未來-Project DIVA-》《涼宮春日的約定》等。

本劇的的動(dòng)作設(shè)計(jì)，由制作了《輕羽飛揚(yáng)》的德丸昌大領(lǐng)銜擔(dān)任，代表作有《輕羽飛揚(yáng)》《斬·赤紅之瞳》等。

在德丸昌大動(dòng)作設(shè)計(jì)的加持下，薇薇恍惚間居然有了點(diǎn)素子的影子。

以WIT Studio一貫的作畫水準(zhǔn)，《薇薇-螢石眼之歌-》從首集到劇終都呈現(xiàn)出極高品質(zhì)的表現(xiàn)力。

這種表現(xiàn)力，也傳達(dá)出“這不是一部只為娛樂大眾所做的輕松的劇”的氣質(zhì)。

100年，4次“奇點(diǎn)事件”，AI與人類關(guān)系的推演

《薇薇-螢石眼之歌-》敘述了一個(gè)歷時(shí)百年的故事。

它并沒有將100年全部展開，而是用13集的長(zhǎng)度，詳細(xì)講述了100年時(shí)間里發(fā)生的“關(guān)鍵歷史事件”，劇中稱這樣的事件為——“奇點(diǎn)”。

所謂“奇點(diǎn)計(jì)劃”，就是改變這些“奇點(diǎn)”的演化軌跡，最終撬動(dòng)歷史朝著新的方向發(fā)展，避免AI消滅人類的結(jié)局發(fā)生。

《薇薇-螢石眼之歌-》圍繞4次“奇點(diǎn)計(jì)劃”，以單元?jiǎng)〉男问秸归_。

看似獨(dú)立的4個(gè)單元?jiǎng)。澈笫且袁F(xiàn)實(shí)社會(huì)對(duì)“種族”的不同立場(chǎng)為基礎(chǔ)，以“時(shí)間——事件”的邏輯順序聯(lián)系起來的嚴(yán)謹(jǐn)科幻聯(lián)想。

這構(gòu)成了本劇的核心議題：人類和AI究竟會(huì)以怎樣的關(guān)系發(fā)展下去？

首次“奇點(diǎn)計(jì)劃”的展開以相川議員的提案——《AI命名法》作為開端。

不遠(yuǎn)的未來，人類剛制造出第一臺(tái)外觀與人類完全一致，且具備自主行動(dòng)能力的AI唱歌機(jī)器人——DIVA（薇薇）。

作為人類踏足的全新領(lǐng)域，社會(huì)對(duì)待AI的態(tài)度開始產(chǎn)生分化：

先是政客跳出來，希望通過《AI命名法》來為自己撈取政治資本，這是“精致的利己主義”；

接下來，反AI組織“透克”浮出水面，他們所傳達(dá)的是對(duì)AI未知力量不可控的恐懼，這是“悲觀主義”；

對(duì)于民眾來說，他們被動(dòng)接受信息，聽到什么就相信什么，被互相拉扯。

在政客的努力下，比《AI命名法》更加進(jìn)步的法律——《AI人權(quán)法》誕生了，AI終于擁有了與人類相近的權(quán)利。

但是AI與人類的平權(quán)，卻造成人類犯罪成本的降低——透克為了反對(duì)《AI人權(quán)法》，反過來鉆《AI人權(quán)法》的空子，將“犯罪行為”嫁禍到AI的身上。

接下來的“奇點(diǎn)事件”，就是一場(chǎng)由透克策劃的名為“落日事件”的巨大災(zāi)難。

薇薇通過“奇點(diǎn)計(jì)劃”改變了事件原本的結(jié)果，讓AI得以洗刷冤屈；而修正“落日事件”的結(jié)果，也讓人類對(duì)AI的好感整整提升了一個(gè)階段。

接下來的“金屬浮島事件”，成為了人類對(duì)AI立場(chǎng)的關(guān)鍵分水嶺。

因?yàn)橛辛撕酶泻托湃危瑸榱俗尭郃I參與到人類社會(huì)建設(shè)中，人類設(shè)計(jì)建造了由AI自主管理和生產(chǎn)的人形AI制造工廠——金屬浮島。

人類雖然能夠友好看待AI，卻仍沒擺脫“AI只是工具”的思潮；

也正是因?yàn)檫@股思潮，人類才希望AI能夠自己制造自己，放手讓它更大地解放更多的人類勞動(dòng)力；

這種思潮也碰觸到了以冴木博士為代表的“AI慰藉派”的利益。

為了拯救自己深愛著的AI妻子，冴木博士制造出一款能夠抽取AI的病毒，希望通過病毒喚醒自己妻子的回憶。

結(jié)果病毒過于成功，導(dǎo)致金屬浮島的AI暴走，直接同人類開戰(zhàn)。

雖然金屬浮島事件在薇薇的影響下，最終以主程序停止運(yùn)作結(jié)束；但是當(dāng)AI開始攻擊人類時(shí)，人類與AI之間脆弱的信任出現(xiàn)了危機(jī)。

金屬浮島事件之后，人類與AI的關(guān)系愈發(fā)敏感。此時(shí)，人類和AI都希望通過舉辦“十二星座音樂節(jié)”來改善人類與AI越來越糟糕的關(guān)系。

音樂節(jié)上，AI開始發(fā)覺自己與周圍的人類并不相同。

相比起人類，自己要更加強(qiáng)壯、敏捷和聰明——有了這樣的比較，AI對(duì)人類產(chǎn)生了一種新的“看法”。

AI認(rèn)同了自己要比人類更強(qiáng)大，因此自己的行為人類是無法理解的。

于是AI對(duì)人類形成了“鄙視鏈”，AI處于“鄙視鏈”的頂端，而人類則處于“鄙視鏈”的底端；在此之前，“鄙視鏈”只存在于人類內(nèi)部，比如交響樂鄙視流行樂，電影鄙視游戲。

這種“鄙視鏈”，讓AI離人類的思維模式更近了一步。

處于“鄙視鏈”底端的人類無法理解AI，也就無法從AI身上獲得“認(rèn)同”；于是AI無論怎樣努力，也無法完成“使人類幸福”的“使命”了。

因此，AI萌生了“自殺”的“想法”。它們通過“自殺”來表達(dá)“鄙視”，又通過“鄙視”肯定了“自我”。

一旦AI誕生了意識(shí)，它們與人類關(guān)系走向的決定權(quán)，就會(huì)迅速轉(zhuǎn)移到AI的手里......

細(xì)數(shù)幾次“奇點(diǎn)事件”，它們所反映出的AI與人類的沖突，都可以在人類的社會(huì)學(xué)關(guān)系上找到原型；

可惜AI不是人類，透過對(duì)人類行為的展示，《薇薇?瑩石眼之歌?》向我們展現(xiàn)出的人類和AI，又是怎樣一種面孔？

AI的悲?。?/strong>即使被毀滅也無法阻止“深愛人類”

《薇薇-螢石眼之歌-》第1集開篇，就出現(xiàn)一幅人類遭遇AI襲擊的煉獄場(chǎng)景。

松本博士一邊焦急地啟動(dòng)“奇點(diǎn)計(jì)劃”，一邊不停對(duì)沉睡的薇薇道歉：“你不用原諒我，怨恨我吧?！?/p>

這句道歉包含了松本博士太多的個(gè)人感情，因?yàn)樗^對(duì)清楚自己開啟的”奇點(diǎn)計(jì)劃“，會(huì)給薇薇帶來怎樣的苦痛。

薇薇執(zhí)行”奇點(diǎn)計(jì)劃“的100年，是人類與AI不理解與不被理解的100年，是悲劇的100年。

對(duì)AI持不同立場(chǎng)的人群之間頻繁爆發(fā)矛盾，互相斗爭(zhēng)；

AI身處于不同立場(chǎng)的斗爭(zhēng)夾縫中，受盡壓迫，誤解，利用，卻仍堅(jiān)定地踐行著自己“為人類服務(wù)”的使命。

對(duì)人類來說，使命不過是寫在AI程序里的底層代碼；而對(duì)AI來說，“使命”也許是一種情感，一種名為“愛人類”的情感。

因此AI才不會(huì)因?yàn)槿祟惒煌牧?chǎng)而區(qū)別對(duì)待：

薇薇會(huì)無數(shù)次救下“透克”的領(lǐng)袖垣谷，哪怕下一次見面垣谷仍然會(huì)拿槍指著她。

哪怕在“落日事件”中被誣陷為“元兇”，為了人類的安全，AI姐妹義無反顧地在“拂曉”酒店堅(jiān)守到墜毀的最后一刻。

這段讓人想起《終結(jié)者2》里那只緩緩消失在鋼水中的機(jī)器手。

哪怕被“邏輯病毒”擊中，在人格幾分鐘后就會(huì)崩潰的情況下，DIVA仍然選擇站在臺(tái)上為人類歌唱。

面對(duì)自己的“毀滅”，AI沒有絲毫的惋惜，卻會(huì)為無法完成“愛人類”的使命感到痛苦——這是讓人心疼的。

視線放回到故事開頭，松本博士對(duì)著沉睡的薇薇道歉：“你不用原諒我，怨恨我吧”，然后就按下了“奇點(diǎn)計(jì)劃”的啟動(dòng)鍵。

就算愧疚，松木也要薇薇來執(zhí)行“奇點(diǎn)計(jì)劃”。

因?yàn)樗赡菊J(rèn)為，能把自己從深淵中拉出來的薇薇，必定不愿意看到這100年以來，演繹在AI和人類身上一幕幕沉重的悲劇重演。

因此即使?fàn)奚约海鞭币矔?huì)努力改變歷史，讓人類和AI能夠和睦相處，幸福生活。

為了人類能夠有未來，反而將希望寄托在AI的身上——一種凄涼的荒誕感油然而生。

貫穿百年的問題，答案是……

動(dòng)畫通篇，AI薇薇不停追問著一個(gè)“傻”問題：什么才是“真心實(shí)意”？

遇見卡茲莫特之前，還叫DIVA的薇薇只是一臺(tái)程序驅(qū)動(dòng)的唱歌AI，她拙劣地模仿人類idol的動(dòng)作，希望以此收獲聽眾的認(rèn)可。

DIVA對(duì)真心實(shí)意沒有任何概念，只能一遍一遍演出之后，不斷詢問她的人類朋友霧島桃佳“聽起來像是真心實(shí)意在唱歌嗎？”

霧島桃佳的答案是：只要能將自己善良的心帶入到歌聲里，觀眾就一定會(huì)變多。

桃佳所說的“有一顆善良的心”，是人類為了解決一些哲學(xué)問題所創(chuàng)造出來的抽象概念；因此DIVA無論怎樣嘗試去理解，都無法理解桃佳給出的答案。

而負(fù)責(zé)維護(hù)AI的博士是這樣回答的：心意，指代的就是意識(shí)；這是當(dāng)前科學(xué)無法回答的東西，是文字游戲。

因?yàn)椴┦靠赡軓囊婚_始就沒有把AI作為真正的“生命”看待，他在潛意識(shí)里認(rèn)為與AI探尋“真心實(shí)意”這樣抽象的問題本身就是笑話。

所以他給了DIVA一個(gè)不是答案的答案，這樣做最穩(wěn)妥——雖然DIVA得不到答案，至少不會(huì)因?yàn)椴┦康拇鸢府a(chǎn)生程序紊亂導(dǎo)致崩潰。

又或許，從人類的角度去解答“真心實(shí)意”的問題對(duì)AI來說本身就不具備參考性。

四十年后，在十二星座音樂節(jié)的演出現(xiàn)場(chǎng)，DIVA遇見了同為歌姬AI的奧菲利亞。

DIVA被奧菲利亞的歌聲“打動(dòng)”了，她似乎從奧菲利亞的歌聲里感受到了“真心實(shí)意”。

奧菲利亞一直在不同的地方“巡演”，而那些巡演中奧菲利亞走過的地方，都成為了她珍貴的回憶，被她唱進(jìn)了歌里。

而DIVA一直以來，都只在同一個(gè)舞臺(tái)上，重復(fù)唱著相同的歌。

她開始“悟”到：是不是有了許多地方的回憶，就能理解什么是“真心實(shí)意”了？

DIVA其實(shí)是有珍惜的人，事，物的回憶的——但是那是屬于薇薇的，“奇點(diǎn)計(jì)劃”的回憶。

回憶儲(chǔ)存在薇薇的“硬盤”中，總是會(huì)不受控制地被調(diào)取。

比如當(dāng)以“薇薇”的身份活動(dòng)的DIVA偶遇桃佳的妹妹柚佳時(shí)，薇薇 “習(xí)慣”性地從“硬盤”里調(diào)取了當(dāng)初她和桃佳對(duì)話的美好景象。

當(dāng)柚佳問她“是不是DIVA”的時(shí)候，薇薇為了規(guī)避自己“痛苦”的回憶，還朝柚佳撒了謊。

薇薇甚至還會(huì)無意識(shí)地將過去的美好時(shí)光，以完全一致的動(dòng)作重新復(fù)刻出來。

“拂曉”酒店店長(zhǎng)見到不會(huì)微笑的薇薇時(shí)，會(huì)用手抬起薇薇的嘴角，告訴她：“在客人面前要隨時(shí)保持微笑哦”。

40年后，當(dāng)DIVA面對(duì)失誤道歉的工作人員時(shí)，很自然地用雙手抬起對(duì)方的嘴角說：“在客人面前要隨時(shí)保持微笑哦”。

在AI決定毀滅人類的關(guān)鍵時(shí)刻，薇薇毅然決然地做出了自己的選擇。

她直面那些讓她感到“痛苦”的記憶，也感受讓她感到“溫暖”的回憶。

對(duì)薇薇來說，“痛苦”和“溫暖”都是她珍貴的回憶。她要為了自己的回憶歌唱。

就像科幻劇《西部世界》里，刺激機(jī)器人意識(shí)覺醒的第一個(gè)步驟就——保留它們的記憶。

將這個(gè)問題的視角從人工智能轉(zhuǎn)換成觀眾（即人類），回答了文章開頭的問題：

如果人工智能誕生了意（靈）識(shí)（魂），那一定是誕生自裝滿了“記憶”的硬盤之中。

寫在最后：獨(dú)屬于薇薇的美好觀看體驗(yàn)

《薇薇-螢石眼之歌》某些篇章的最后，會(huì)呈現(xiàn)類似手工賽璐璐作畫風(fēng)格的薇薇靜態(tài)壁紙。

這種情形下，觀眾的情緒就像是有了寄托。

當(dāng)你因?yàn)椤奥淙帐录边€在為兩姐妹動(dòng)容之時(shí)，在兩姐妹的指引下，薇薇打開救生艇的舷窗：宇宙中的拂曉展現(xiàn)在你的面前。

兩姐妹開始為救生艇的人類獻(xiàn)上最后一首歌。

耳邊是動(dòng)聽的歌聲，薇薇看著即將到來的“拂曉”，嘴角微翹，輕聲說出“好不甘心啊”。

在你因?yàn)楸瘎〉陌l(fā)生情緒失控之際，薇薇不但在安撫劇中的人類，也在安撫你的情緒。

和薇薇在一起，預(yù)見人類與AI百年的痛苦與美好的情感。

看著她美好的臉龐，我只想對(duì)她說：能遇見你，真的是太好了！

標(biāo)簽：