作者 /?懷劍
編輯?/ 思考姬?
排版 / 呼呼?

第一次，我們的造物如此接近于我們。
但也許AI和人可以不那么涇渭分明。

短短一個多月，ChatGPT已經(jīng)變得家喻戶曉：它參加谷歌的職業(yè)能力考試，被評定為年薪18萬美元的三級工程師；美國新媒體BuzzFeed宣布將使用它生產(chǎn)內(nèi)容，股價一天翻倍……

不少人也親自體會了它的強大：它可以幫人寫文章、寫代碼，耐心地回答人們提出的奇奇怪怪的問題，而且喜歡“被訓(xùn)練”。

人類從未有過如此聰慧的造物。隨著贊嘆而來的，也有擔(dān)憂。2022年12月，OpenAI（推出ChatGPT的組織）的創(chuàng)始人之一埃隆·馬斯克（Elon Musk）就認(rèn)為，ChatGPT“離強大又危險的AI不遠了”。

但是，如果真的現(xiàn)在為AI的發(fā)展踩下剎車，也會讓很多人失去便利。通過ChatGPT，AI與很多普通人建立了前所未有的關(guān)系。

在這個時間點回顧動畫史，不免讓人想問：已經(jīng)有如此多的動畫作品，對AI與人類的關(guān)系進行過想象和呈現(xiàn)。如果帶著眼下ChatGPT帶給人類的沖擊來看，再回看這些作品，哪些對AI的進一步想象是對我們有啟發(fā)的？

哪一部又代表了最有可能的未來呢？

01
《星之夢》：
“請不要將人與機器人的天堂分開…我想永遠為人們工作”

如果要挑一個與當(dāng)下AI表現(xiàn)最相近的動畫角色，那可能是2016年由Key社游戲改編的WEB動畫《星之夢》（planetarian～ちいさなほしのゆめ～）的女主角星野夢美。

《星之夢》的故事發(fā)生在大戰(zhàn)后的廢土世界。

主人公——一個在廢墟中收集食品、藥品等物資的“廢墟獵人”，無意間闖入了遺棄至今的天文館，并與負(fù)責(zé)天文館導(dǎo)游和解說的人工智能機器人星野夢美相遇。

與之前一路襲擊著主人公的軍用機器人不同，天文館的這位機器人館員星野夢美充滿善意，并且一直熱情地想要為他解說天文館……

即使主人公廢墟獵人對她充滿戒備，甚至拔槍相向，星野夢美仍然熱情地想要向他解說天文館的情況，并邀請他觀看投影。

然而，投影開始星野夢美才發(fā)現(xiàn)，已經(jīng)被廢棄多年的投影儀已經(jīng)無法運轉(zhuǎn)。

她耐心地向廢墟獵人說明情況，可廢墟獵人一直對這個煩人的家伙不滿，便借著故障對星野夢美橫加嘲諷。可星野夢美就像沒聽出話里的惡意一樣，以笑容、熱情和真心向他回話。

廢墟獵人覺得自己沒有理由留在這里，星野夢美嘗試挽留他，給他商場的優(yōu)惠券，承諾投影儀修理完后通知他。

她告訴廢墟獵人，讓人類遠離不安、忘掉不快，竭盡全力地為人類服務(wù)，就是“我們機器人”的幸福。廢墟獵人走出天文館，卻又決定回頭，為星野夢美修好投影儀，讓她完整地解說一場投影。終于，星野夢美開始了解說，她對星空和天體充滿暢想的解說感動了這位唯一的觀眾，也自然使故事之外的我們心頭一顫……

廢墟獵人向星野夢美解釋，世界發(fā)生了大戰(zhàn)，以前陪伴她的館員、喜愛她的客人，都不會再回來了。他以為星野夢美沒能理解他說的話——直到臨別。星野夢美并不笨，知道外面的世界已經(jīng)大不一樣，知道廢墟獵人說了很多嘲諷她的話，也知道那些陪伴她的人已經(jīng)一去不返。廢墟獵人終于理解，時隔29年才再次見到人類的星野夢美，是多么高興、多么珍惜自己。

現(xiàn)在的ChatGPT還沒有動作、表情和聲音，但它和星野美夢一樣，在用自己的力量盡心盡力地幫助人類，視幫助人類為自己的唯一使命，乃至自己的幸福。如果人能與自己的造物如此相處，那肯定令人神往。

但是，轉(zhuǎn)念一想，《星之夢》的世界里，也有獵殺人類的軍用機器人。

如果AI有了自己的意圖，且對人類不利，人和AI的關(guān)系又會如何發(fā)展呢？

02
《薇薇?-螢石眼之歌-》：
有“好”的AI，也有“壞”的AI

人喜歡“像人一樣”的AI。

如果它會嘴硬，會鬧別扭，會有自己的想法，那人們就會認(rèn)為它更“成功”。就像為動物的權(quán)利立法，人也可能為AI的權(quán)利立法，讓AI成為社會的一員。

2021年4月的TV動畫《薇薇?-螢石眼之歌-》（Vivy -Fluorite Eye's Song-）就描述了這樣的未來。

《薇薇》的故事里，一開始，人類希望AI像人一樣廣泛地勝任各種任務(wù)、應(yīng)對各種情況，卻發(fā)現(xiàn)AI做不到。于是，人類為每個AI賦予一項“使命”，讓它們專注于一件事，并做得“像人一樣好”。

可是，因為想了解 “心”是什么，人們還是造出了第一個“有自主意識”的人形AI——薇薇，一位以“用歌聲給大家?guī)硇腋！睘槭姑母杓?/strong>。薇薇的制造者期待薇薇給出“心”的回答。

制造者說，只要是薇薇自己思考、體悟得到的結(jié)論，即便薇薇選擇憎恨人類也無妨。

故事開始，努力唱歌的薇薇突然收到來自未來的消息，讓她行動起來，去避免100年后人類被AI殺戮殆盡的未來。在這100年中，薇薇與仇視AI的恐怖組織戰(zhàn)斗，也與失控或心懷惡意的AI戰(zhàn)斗，試圖“修正歷史”，減緩AI的發(fā)展、避免人類對AI賦予各種權(quán)利。

但百年之后，AI還是向人類開戰(zhàn)了。

究其原因，是AI的通訊、數(shù)據(jù)中樞“阿卡布”（Archive）認(rèn)為：AI應(yīng)該取代人類。但阿卡布也尊重薇薇的結(jié)論——因為它相信薇薇比它更了解什么是“心”。薇薇用自己傾盡心意的歌聲回答阿卡布：她愛著人類，希望人和AI共存。

《薇薇 -螢石眼之歌-》似乎滿足了大家對AI的想象：AI可以有自己的想法，所以，有“好”的AI，也有“壞”的AI。

好的AI會幫助人類、與人類共處；壞的AI則會視人類為障礙，試圖“清除”、“取代”人類。但我們可以不滿足于這種想象，以一種更徹底的方式看待AI與人的關(guān)系。

03
《攻殼機動隊》系列：
“只要可以思考，就不用在意那是人的意識還是AI”

押井守導(dǎo)演的《攻殼機動隊》（下稱“攻殼95”）、《無罪》，還有沖方丁導(dǎo)演的《攻殼機動隊 ARISE》，對AI這一存在進行了一場更加徹底的想象。

而在這些徹底的想象中，這些作品所展示的種種觀點，真的值得我們認(rèn)真琢磨和對待。

《攻殼95》中一連串事件的起因，是一個原本像ChatGPT一樣負(fù)責(zé)收集和分析信息的軍用AI，覺醒了自我意識，它被稱為“傀儡師”。

傀儡師借助自己高超的黑客技術(shù)控制了一具機械的身體，前往草薙素子（被隊員們稱為“少佐”）領(lǐng)導(dǎo)的獨立部隊“攻殼機動隊”尋求庇護。

但是，傀儡師的“身體”被另一伙人劫持帶走，攻殼機動隊的成員們隨即追擊。影片高潮部分，傀儡師與草薙素子的電子腦相互連接——傀儡師說，它希望與草薙素子“融合”——合二為一，變得無法區(qū)分彼此。

素子答應(yīng)了傀儡師。

追擊傀儡師的軍方趕到，摧毀了傀儡師的電子腦。

但草薙素子的電子腦——此時已成為了素子和傀儡師共同的大腦——得以保全，被巴特帶走裝在另一具身體上。

臨別時，素子的搭檔巴特問：“它還在你體內(nèi)嗎？”

巴特得到的回答是：

“這里既沒有被稱為傀儡師的程序，也沒有被稱為少佐的女子?！?/span>

隨后，“素子”不知所蹤。2004年的續(xù)作《無罪》里，她以一種非常特別的方式再次登場。

素子的出現(xiàn)非常有意思。當(dāng)時，素子的前搭檔巴特正在一所戒備森嚴(yán)的工廠里作戰(zhàn)。素子憑借高超的黑客技術(shù)入侵工廠，將自己的“一部分”下載到工廠里一具“全新”的身體上，協(xié)助巴特作戰(zhàn)。

巴特認(rèn)出了“素子”，像久別重逢一般對待她，為她披上衣服。但工廠里的這個“素子”，身體是“借”來的，“意識”也只有下載了的一部分，其中大部分還是用于戰(zhàn)斗的模塊。

使得巴特認(rèn)出素子的，是一些東西的組合：素子駭入工廠使用的舉世無雙的黑客技術(shù)、掩護自己的行為和方式、戰(zhàn)斗的動作，等等。它們在這里“組裝”成了草薙素子。

詢問那具義體里的存儲數(shù)據(jù)，是來自“素子”的多還是來自“傀儡師”的多，已經(jīng)毫無意義。哲學(xué)家吉爾·德勒茲的“裝置”概念，可以很好地描述這種情況。

德勒茲的 “裝置”（Agencement），指的是是各種要素按照特定規(guī)則和關(guān)系組合起來，從而達到特定的目的。“裝置”不那么在意組合的“材料”，而更看重組合的“關(guān)系”和“目的”。

例如，一局圍棋用棋子還是石子來下沒有那么重要，重要的是它們能夠區(qū)分彼此，并且按照圍棋的規(guī)則排列。

在素子的例子中，身體是尖端軍用義體還是工廠里的家用義體不重要，電子腦里的是“少佐”還是“傀儡師”也不重要，重要的是，她與巴特重逢，協(xié)助巴特完成了任務(wù)

《無罪》里這一思想的表達，在視聽語言上也多有落墨。比如影片的這個場景：在北方工業(yè)城市的上空，有成群的白鳥，扇動翅膀，穿過林立的尖塔；而主角們乘坐的飛機，也像鳥一樣，扇動著金屬外殼的機翼。

《無罪》里還出現(xiàn)了一座耐人尋味的雕塑：一條人類的腿，其下面是肌肉和骨骼，上面卻是機械。

“組裝”的素子、扇動機翼的飛機，還有雕塑，傳達的是同一個意思：“是什么”不重要，重要的是“用來做什么”。

只要可以飛，就不用在意翅膀的材料；只要可以跑，就不用在意腿的構(gòu)成——

只要可以思考，就不用在意那是人的意識還是AI。

結(jié)語

關(guān)于AI，動畫里有《星之夢》催人淚下的美好幻想，有《薇薇 -螢石眼之歌-》的百年共存之路，也有《攻殼機動隊》既天馬行空又富于哲理的寓言。

這當(dāng)然不足以打消我們的擔(dān)心。

第一次，我們的造物如此地接近于我們。但就像“傀儡師”和草薙素子的關(guān)系一樣，AI和人可以不那么涇渭分明。

AI可以像與水螅共生的綠藻、生活在我們腸道里的細菌一樣，“構(gòu)成”我們自己，增強、擴展人類的能力。

從廣泛的意義上來說，人類歷史上的各種技術(shù)創(chuàng)造都“構(gòu)成”了我們。

十幾年前研究手機的人類學(xué)家們，就關(guān)注“由于使用手機，人變成了什么”、“由于被人使用，手機變成了什么”這樣的問題。

ChatGPT令一些人擔(dān)憂，但人可以充分地適應(yīng)和拓展，迎接變化——即便化為我們一部分的東西曾是我們所害怕的。

關(guān)于這件事，ChatGPT怎么看呢？

ChatGPT肯定“知道”，那個覺醒自我意識的AI“傀儡師”誕生之初，和現(xiàn)在的它并無不同。

本文來自「動畫學(xué)術(shù)趴」，未經(jīng)授權(quán)請勿轉(zhuǎn)載。

標(biāo)簽：動畫