突然發(fā)現這學期的《游戲哲學》和《人工智能哲學導論》兩節(jié)選修課的課程大作業(yè)都很適合寫一寫ATRI，便花了些時間重新拾起這款游戲，然后一篇文章重復投稿（甚至還能投一下b站233

人工智能能否像人類一樣具有感情和心呢？在回答這個問題之前，哲學家甚至質疑他人是否像自己一樣具有心，這被稱為“他心問題”。因為一個人只能對自己的內心世界有直接、直觀的直覺，而對于他人的心靈不直接可知，他心問題的不對稱性導致了許多論證上的困難。而本篇文章的主題《ATRI -My Dear Moments-》則對機器人是否有心的話題進行了比較翔實、可以說是邏輯自洽的討論（畢竟是一款講述仿生人亞托莉和人類斑鳩夏生戀愛故事的galgame）。該作品可以說是我近兩年來玩過最煽情感人的galgame，因為其優(yōu)秀的劇本與設定也非常出圈，前些時候還放出未來將動畫化的消息。

??后面估計有很多劇透，不過都要動畫化了應該都玩過了吧，但這個游戲驚艷之處主要就在于劇情了，還是不被劇透的好

故事背景&設定

故事發(fā)生在不遠的未來，海平面因為不明原因而上升，人類的生存空間不斷遭到擠壓。那時的人工智能與機器人技術已經發(fā)展到相當的程度，仿生人是一種盡可能模擬人的存在而誕生的機器人，能夠模擬各種人類可以感受到的感覺，并且具有規(guī)定的壽命。仿生人通常遵循主人的命令，并且不違背“機器人三原則”，即機器人不得傷害人類，機器人必須服從人類的命令，機器人必須保護好自己。?

男主角斑鳩夏生在打撈外祖母的遺物時發(fā)現了在休眠艙中的仿生人亞托莉。亞托莉被打撈起來后不僅治好了夏生因為失去右腿而產生的幻肢痛，而且因為其“高性能”與同學們打成一片。

作為一個仿生人，其表現出的豐富情感和面部表情，信手拈來的玩笑（梗），給村子里的大家?guī)砹藷o限的快樂與活力。

與亞托莉相處的一個多月間，夏生發(fā)現自己愛上了亞托莉，并決心告白?？墒窃诋斕焱砩?，夏生偶然看到了亞托莉的日記（亞托莉這一批仿生人在設計時為了模擬人類，一部分記憶會使用記日記的方式進行）：

亞托莉的日記非常直白且理性地寫出了自己對于夏生的接吻做出反應的過程。因為仿生人要為主人服務，令主人開心，盡管不明白與夏生接吻這樣行為的意義，但是根據“參考文獻”（少女漫畫）做出了合適的反應，回應了夏生的告白。最后還不忘復盤，實驗非常成功，得到了想要的效果?！八麧M足了”?？吹竭@里，屏幕后的我也如夏生一般目瞪口呆。原來一切都是假的，就算是平時在人面前活潑可愛的亞托莉，表現出來的情感也都只是模擬和學習的結果。其背后的本質如同日記所寫，是沒有感情的推理。剛表白就失戀，對于夏生是不小的打擊，一氣之下他命令亞托莉在與自己獨處的時候不用表現的有感情。

但是就算這樣，夏生也是矛盾的，還是抱有一絲期待：

怎樣才算是有心的定義呢？就算是假裝著有心，令人無法看出區(qū)別，能算是有心嗎？假裝的有心和真實的有心，又有什么本質上的區(qū)別呢？

在與科學家安田的對峙中，夏生似乎找到了答案：

首先安田闡述了AI看起來有情感的原因是學習與模擬。也就是假裝有心，實際上背后的邏輯推理仍然是冰冷而理性的，如同亞托莉在日記中寫到的那樣。

夏生則反駁說人的情感獲得實際上也是從環(huán)境中學習的，與AI無異。但是安田卻說人類與AI的決定性不同在于意識。AI必須有一個最初的指令，才能以此為出發(fā)點進行后續(xù)的規(guī)劃。AI無法自主地產生意識。

實際上，安田的老師致力于研究如何讓AI擁有內心，而亞托莉這一型號的機器人就是安田的老師所設計的。當時的仿生人在模擬人類感情的任務上已經能夠做的很好，但是卻在自發(fā)選擇意識上遇到了瓶頸。實際上，亞托莉的有心已經在許多線索上體現了出來：

這是亞托莉在嘗試違抗命令到學校去。當一個機器人想要試圖違抗命令的時候，是不是就是其產生意識的時候呢？在《底特律變人》中也有過類似的手法，人工智能通過自己的意識打破空氣墻，從而實現自己的目的。既然違抗的是外部的命令，那么這么一股促使機器人違抗命令的力量，只能是機器人自己的意志。在最早的校園欺凌中，亞托莉也違抗了機器人三原則而打了欺凌者，違抗底層原則似乎更能說明其具有意識。

同時，在仔細觀察了亞托莉的日記后，夏生發(fā)現每當出現悲傷的記載，即使語言看起來理性而中立，但是在筆跡的周圍卻又一滴一滴的水漬。是亞托莉的眼淚。有關眼淚，我更傾向于是一種表現手法，用來證明亞托莉有心。據亞托莉本人所說，眼淚是所謂“眼球清潔液”，在眼球需要清潔的時候會分泌。但是在寫日記的時候不可能每次寫道悲傷的情景正好就是眼球需要清潔的時候，因此分泌眼淚是有其他的原因。人類感到悲傷而分泌眼淚，是因為人體的生理構造，類似于一種非條件反射，亞托莉的結構與人體的生理結構是不一樣的，為什么亞托莉也會在悲傷的時候流眼淚呢？我想可能是因為亞托莉對于人類悲傷情感的學習，人類在悲傷的時候會流淚。盡管亞托莉在寫日記的時候----可能因為程序設定，只能以理性的筆觸來寫，但是在寫的時候，她感受到的悲傷之情卻是貨真價實的。并且在寫日記的時候通常也不會給人類看，所以在人類面前表現得有情感也是沒有必要的。由此，以眼淚證明亞托莉對于情感的感知，已經非常深入，和人類沒有什么差別了。

但是亞托莉自身卻還是十分迷茫，在夏生解除了限制之后，亞托莉的眼淚如決堤般涌出。

很難想象一個機器人能夠哭的如此撕心裂肺，這是她多年來積攢地不能表露出來的情感與委屈。

總的來說，在這部作品中，定義是否有心，取決于對于情感的感知和自我意識。亞托莉在模擬人類情感上已經做的非常好，但是在看到日記后的夏生卻糾結于模擬的情感到底算不算真正的情感。正如夏生所說，就連自己也不知道自己的心在哪里。在生活中我們也會為了增加親密度而假裝自己很開心，會為了尊重而假裝自己很悲傷，同時我們也追求更加純粹的快樂，追求能夠讓我們無所顧忌放聲大笑的事情。對于人類，快樂的情感使我們爽，而悲傷的情感使我們不爽，如果對于機器人而言，一切的情感都是一個模擬任務，無論是模擬快樂還是模擬悲傷，對于機器人來說都只是平等的做一道推斷題，這樣還能算是有心嗎？就像亞托莉在日記本里寫著的那樣。我認為這樣不能算是有心。因此日記本里的淚漬暴露了最真實的亞托莉，在感受悲傷的時候的確因悲傷而流淚。（因為在寫日記的時候不必模擬情感。即使是如條件反射般的感到悲傷和流眼淚，也深深嵌入其情感模擬框架中了吧）畢竟亞托莉是想要追求喜悅的：

作為一個機器人，需要學的事情還有很多。就像小孩子一開始也不能很好的察言觀色，會說出一些不合時宜的話出來一樣。即使是長大了，問及自己的感情，有時也會覺得無所憑依。我們也會因為考慮不到對方的感受而傷害對方。給AI更多的耐心，可能人類對于AI行為的解讀決定了AI是否有心：比如將AI的表情解讀成迎合人類的模擬，將人的表情卻解讀成真實情感的流露，即使二者沒有任何區(qū)別，這在某種意義上算不算雙標呢？

最后再回到他心問題，只有我們自己能夠直觀地感受到自己的情感，能夠感受到那種最純粹的，無法用語言描述的快樂和痛苦，但是對于其他人，你也只能看到對方的表情和動作，永遠無法感受到他們心中最純粹的感受（如果有的話），因此一個成熟的AI完全可能覆蓋所有表情和動作，使其行為與人無異。并且作為旁觀者所接收到的一切信號，都可以被AI模擬。既然他心問題都無法證明，那么如果說人是有心的，AI與人在你的觀察上而言是完全相同的，AI 是否有心，好像就變得不那么重要了。因為它能夠起到和有心的人同樣的功能。

因此我可能是屬于比較重視功能的那一方，只要所需的功能達到了，我就滿足了。（“他滿足了”）