當(dāng)今，AI已經(jīng)融入了我們的生活，未來，人類與AI的聯(lián)系會更加緊密，比如搭載著AI的機(jī)器人將成為人類社會的重要組成部分，而對于AI與人類的未來，悲觀與樂觀兩種觀點的爭辯從未停止。作為一個跨越百年的漫長故事，Vivy能為人類與AI的未來帶來多大的思考深度呢。

• 第1話

慶祝Vivy開播，人類與AI共存的一個新時代

2061年的近未來，這是一個AI技術(shù)與作為載體的機(jī)器人技術(shù)都相當(dāng)發(fā)達(dá)的時代、一個人類與AI積極探索最合適共存方式的時代，位于都市一隅的大型娛樂設(shè)施【新樂園】里，AI歌姬【Vivy】與來自100年后未來的AI【松本】的相遇，為這個時代帶來了巨大變數(shù)。雖然本作設(shè)定的起始時間，距離我們2021年還有足足40年，但AI技術(shù)的前景，已經(jīng)是當(dāng)今我們可以觸摸與具體想象的存在了，希望本作能為人類與AI的未來提供一些有益的思考。

一、與本作理念關(guān)聯(lián)的各種作品

首先當(dāng)然是阿西莫夫的機(jī)器人四大定律：第零定律，機(jī)器人必須保護(hù)人類的整體利益不受傷害。第一定律，機(jī)器人不得傷害人類個體，或者目睹人類個體將遭受危險而袖手不管，除非這違反了機(jī)器人學(xué)第零定律。第二定律，機(jī)器人必須服從人給予它的命令，當(dāng)該命令與第零定律或者第一定律沖突時例外。第三定律，機(jī)器人在不違反第零、第一、第二定律的情況下要盡可能保護(hù)自己的生存。

然后是Vivy的大前輩，【超時空要塞MACROSS PLUS】——莎朗·愛普爾，莎朗作為AI歌姬在展現(xiàn)出歌聲蘊含著巨大力量的同時，其所造成的地球叛亂事件，也表現(xiàn)出AI技術(shù)一旦失控會產(chǎn)生的可怕結(jié)果，同時，莎朗脫離人類控制的經(jīng)歷，還展現(xiàn)出AI覺醒自我意識的正反兩面意義。

之后是探索人類與AI共存方式的另一個前輩，【BEATLESS-沒有心跳的少女】——蕾西亞，使命是與人類共存的蕾西亞，屬于超越人類智慧的超高度AI，當(dāng)AI超越人類的那一天到來，是人類選擇了AI、還是AI選擇了人類？蕾西亞為人類帶來的改變，是對人類存在意義的一次拷問。

再之后是與人類極為相似的AI是否有人類權(quán)利的思考——【底特律：變?nèi)恕浚珹I覺醒自我意識后會如何處置與人類的關(guān)系，當(dāng)人與AI的地位處于不平等狀況時，AI會通過什么手段爭取自身的權(quán)利，變?nèi)私o出了一種對于人類與AI雙方都不友好的方式，也就是戰(zhàn)爭，這場戰(zhàn)爭令人深思。

同時具備四大定律、AI歌姬、人與AI、AI權(quán)利元素的本作，同時體現(xiàn)出這些元素的Vivy，又會在100年的時間里，向人類展現(xiàn)出什么東西呢。

二、本作的世界觀

開發(fā)出Vivy的2056年，AI技術(shù)已經(jīng)相當(dāng)發(fā)達(dá)，然而在AI開發(fā)方向上人類卻遇到了瓶頸，那就是泛用性AI的開發(fā)失敗。因為無法將人類思維的靈活性移植給AI，人類只能退而求其次，將AI開發(fā)方向局限在專用性AI上，也就是【僅能在一臺AI上設(shè)定一項使命】。這種AI開發(fā)方向，其實正是參考當(dāng)今技術(shù)條件限制下的開發(fā)思路，比如專精于圍棋的【AlphaGo阿爾法狗】。

雖然專用性AI的局限可以通過發(fā)達(dá)技術(shù)盡量彌補，但AI思維基礎(chǔ)被限制也意味著，當(dāng)專用性AI覺醒自我意識時就只能獲得部分的人性。而Vivy的世界里，人類已經(jīng)向AI給予了充分的權(quán)利，【只擁有部分人性的覺醒AI卻擁有完整人類權(quán)利】，這種失衡最終造成了AI的失控，進(jìn)而引發(fā)了人類與AI的戰(zhàn)爭。在這場戰(zhàn)爭中可以看到，即使來自AI管理中心的指令實際上已經(jīng)變成了殺害人類，面對扭曲了原本使命的指令內(nèi)容，所有的AI們卻根本沒有半點懷疑沒有意識到這是錯誤，依然選擇遵從管理中心指令，而AI們越忠實的執(zhí)行指令，慘死在AI手下的人類也就越多。。。

三、Vivy與松本

Vivy，作為史上最初的自律人型AI而生，被賦予的使命是【用歌聲讓大家獲得幸?！?。外界與Vivy自身最大的期望，是能投入感情地唱歌，而表現(xiàn)感情需要意識的支撐，雖然Vivy暫時還是無口屬性、還只會模仿人類歌手的演出，但Vivy電子腦的自律能力，令她已經(jīng)具備了覺醒自我意識的基礎(chǔ)。

松本，從100年后穿越時空而來的高級AI，被賦予的使命是【防止100年后發(fā)生AI與人類的戰(zhàn)爭】。雖然不清楚作為創(chuàng)造者的博士是如何囑咐松本，但是松本已經(jīng)將使命進(jìn)行了極端化的解讀成了【毀滅AI這種事物】，并策劃出了扭轉(zhuǎn)每一個AI歷史轉(zhuǎn)折點的行動【奇點計劃】。

• 第2話

Vivy不只是一個自律AI，更是一個會獨立思考的AI

經(jīng)過多次確認(rèn)，Vivy理解了松本所描述的未來是真實的，不過Vivy的使命是【用歌聲讓大家獲得幸福】，【防止100年后發(fā)生AI與人類的戰(zhàn)爭】這種事，與只需要在舞臺上唱歌的Vivy又有什么關(guān)系呢。因為AI的活動期限很長，不僅要讓當(dāng)今的人類聽到歌聲、還要讓未來的人類聽到歌聲，所以要改變悲劇的未來，這也是Vivy完成使命的一部分——這固然是松本的狡辯，但也正因為Vivy，才能在自律基礎(chǔ)上獨立思考后從廣義角度接受這樣的理由。

不過，Vivy既沒有莎朗·愛普爾那樣的蠱惑人心歌聲，也沒有蕾西亞那樣的龐大計算能力，就算有松本的輔助，Vivy也只是個有輕度戰(zhàn)斗能力的商用型AI歌姬，為何選擇了Vivy作為拯救世界的關(guān)鍵？答案很冰冷，因為Vivy是100年后唯一留存于世的初代自律人型，是100年歷史的見證者，也許可以認(rèn)為Vivy與時空有更緊密的聯(lián)系，通過Vivy去干涉歷史能夠提高【奇點計劃】的成功率。在執(zhí)行計劃中，出于運行效率的角度，擁有更大數(shù)據(jù)庫的松本成為了指揮官，Vivy則成為了執(zhí)行者，松本的優(yōu)先級，不僅替代了Vivy原本鏈接的AI管理中心【亞卡布】的職能，更是對Vivy有著執(zhí)行全部指示的強力要求。

【奇點計劃】的第一次行動，是阻止人類向AI給予的第一個人類權(quán)利、阻止【AI命名法】的誕生，更具體的說，是從KB分子的襲擊中保護(hù)法案的推動者相川議員，使【AI命名法】不會因為相川議員的死而成為大眾焦點。經(jīng)過Vivy的努力，阻止【AI命名法】的誕生從結(jié)果上說是成功的，Vivy與松本也因此建立了基本的信任關(guān)系，于是松本將【奇點計劃】的第一階段目標(biāo)告知了Vivy：限制AI技術(shù)的發(fā)展程度。

松本的目標(biāo)，在這個世界有一個顯眼的標(biāo)志物，那就是身處都市任意地點都能看見的，AI專用通信電波塔【八識】，塔的高度就代表了AI技術(shù)的發(fā)達(dá)程度。八識，是佛法的基礎(chǔ)，這八識分別是：眼識、耳識、鼻識、舌識、身識、意識、末那識、阿賴耶識。其中阿賴耶識在佛教中也稱為藏識，是隱藏在人們心中、通向菩提道的那種智慧，是最純粹的智慧，只要打開它、證悟它，就是自我認(rèn)識的最高境界了。對于AI，到達(dá)這種境界不僅意味著覺醒自我意識，更是說明AI成為了一種完美意識，這時的AI，完全可能脫離人類的掌控、甚至超越人類的水平。

一旦AI脫離或者超越人類，AI的自作主張與任何錯誤都將極大影響人類。在【我，機(jī)器人】中，機(jī)器人桑尼以幫助人類維護(hù)AI秩序的行動，表達(dá)出了人類對于AI應(yīng)當(dāng)有所限制、AI也應(yīng)當(dāng)接受這種限制，不過，桑尼是否接受限制取決于桑尼自我意識的特點，令桑尼又成為了新的不穩(wěn)定因素。本作的松本也具有類似的風(fēng)險，將博士囑咐的極端化解讀成【毀滅AI這種事物】，就此策劃出【奇點計劃】，松本真的能遵循正確方向去改變悲劇的未來嗎？

另外，Vivy與松本雖然建立了基本的信任關(guān)系，但這種關(guān)系并不是沒有隱患，因為松本需要的，只是一個自律機(jī)器人，而不是會獨立思考的Vivy。Vivy在保護(hù)相川議員的行動中也保護(hù)KB分子的舉動，顯然說明了Vivy對于圓滿完成自身使命與協(xié)助松本完成使命，有著屬于自身的理解；Vivy不顧一切要從失事航班上拯救出人類好友小女孩的嘗試，更是體現(xiàn)了Vivy對人類的重視比程序設(shè)定更加深入；只是面對松本的優(yōu)先級，Vivy暫時還沒有能反對指示的力量。

為了達(dá)成百年后的巨大目標(biāo)，必須放棄當(dāng)前某些重要事物，將是Vivy今后一段時間內(nèi)，在力量不足時不得不接受的，殘酷而悲傷的行動原則。個人認(rèn)為，本作重在表述阿西莫夫的第零定律，機(jī)器人必須保護(hù)人類的整體利益不受傷害，而什么才是保護(hù)人類整體利益的正確方式，將是本作思考的核心點。這是【我（Vivy）】將【我（AI）】毀滅的故事——AI歌姬Vivy的百年旅程即將開始。

待續(xù)