故障天使電子?!で皞?/h1>
?第一章
01/
在某城的計算機中心內,高山博士坐在電腦前焦急地敲打著鍵盤,手邊杯中的咖啡液面隨著桌面震動而輕微搖晃。盡管室溫不高,他的額頭上卻在不斷地冒出細密的汗滴。
高山已經參與工作十余年,經歷過大大小小的各種工作,無論是什么繁重的任務,老成的他總是能夠游刃有余地應對。高山在大學二年級的時候,就已經在業(yè)內權威的雜志上發(fā)表論文了,并在當時的業(yè)界引起了很大的轟動;此后的幾年,他繼續(xù)深耕AI與大數(shù)據(jù)領域,做出了許多成果,逐漸成為了行業(yè)內無人不知的名人;取得博士學位后,他便不斷地參與大型項目的開發(fā);而在五年前,他便開始著手負責一個大型工程?,F(xiàn)在,他只有34歲。
然而就算是這般天才的高山,當下也陷入了苦戰(zhàn)??梢哉f,他正面臨著他目前為止的人生中最嚴峻的挑戰(zhàn)——他要從一場突發(fā)的事故中,守住自己所負責的項目。
幾乎就是在三個小時前,高山還在臥室里躺著欣賞音樂,突然一陣急促不合時宜的電話鈴聲響起,向高山喊道:“出事了!”高山沒有猶豫,迅速換上正裝,然后驅車趕往工作地點。
很快,高山就知道了這起事故的嚴重性,立刻指揮手下十幾號人員投入戰(zhàn)斗。
高山負責的項目是一個大型AI工程,工程依靠另一個房間中的數(shù)百臺服務器儲存數(shù)據(jù)。目前,這些大量的數(shù)據(jù)文件正在以飛快的速度被修改,而沒有人知道具體的原因。原先幾乎是只需要幾十分鐘,數(shù)據(jù)庫就會徹底淪陷。在高山博士的努力下,這個過程已經被大大地延緩了——然而事故依然以肉眼可見的速度在進行著。
“是外部攻擊嗎……不應該?!备呱椒磸偷厮伎贾鹿实脑??!安豢赡埽械姆雷o措施都做的很到位了,不可能會有這種事?!?/p>
“那么……會是從內部嗎?如果是的話,又是誰做的?”高山的大腦飛速運轉,思考著事故相關的每一種可能性,但他的手依舊忙個不停。
高山發(fā)現(xiàn),這場事故仿佛是有針對性一樣,僅僅涉及與AI本體功能的運行直接或間接相關的文件,而并非是無差別的攻擊,這很難不讓人懷疑是有人刻意為之。
但是就目前而言,說保護數(shù)據(jù)已經是不可能的了,項目的數(shù)據(jù)至少有一半以上都遭到了篡改?,F(xiàn)在的高山只能一遍又一遍地排查事故原因,試圖找出一個理應存在的漏洞。如果確實是外來的攻擊,它堅信自己完全有能力抵擋住——當然,他不得不堅信,因為除了相信,他別無選擇。
因為項目的數(shù)據(jù)相當龐大,所以如果要備份數(shù)據(jù),他們至少要花上一整天功夫。項目組會在每個月的最后一天進行一次數(shù)據(jù)備份,以便出現(xiàn)嚴重事故時還有解決的余地。此時此刻,也正是備份數(shù)據(jù)派上用場的時候了。雖然明知還有這么一個保險,但高山還是無法打消心中的顧慮,因為他從來都不覺得會有這么一刻,自己堅信完美的工程居然也會出錯。事件本身遠不及這件事對高山的打擊來得嚴重。
高山和他的團隊唯一能做的就是找出事故的原因。此時此刻的辦公室有如死一般寂靜,每個人都知道,如果不能找出事故原因,那么就算用備份修復了數(shù)據(jù)也無濟于事,治標不治本從來不是這個團隊的態(tài)度。
高山不知喝完多少杯咖啡,他或許多少是有些心理疲憊了,便只是隨手打開那些已經被修改成亂碼且毫無規(guī)則的數(shù)據(jù),盯著看,盯著看。下一刻,高山將視線轉到窗外。夜幕降至,遠處的天空呈一片血紅,營造出一種仿佛有什么事物要誕生的神圣氛圍。
02/
對高山而言,自己的人生真正有意義的只有“當下”這一時刻。他不愛展望未來,也不喜歡回首往事;對他來說,一件事是發(fā)生在五年前,還是十五年前,甚至一百五十年前,都并沒有本質區(qū)別;就算是對親身經歷的事也如此,讓他回憶自己的過去,無異于去浩瀚的圖書館藏中翻閱歲月史書……但凡事有因,眼下的一切都必須追溯于那虛無縹緲的往事。
高山所就讀的高中校園有櫻花燦爛的坡道,穿過坡道可以看到一幢樓,從樓的大門走進去,順一樓的大廳往里走兩步,便是高山常常獨處的一個房間。高山從來不按時出勤上課,因為他要鉆研的,比高中的知識更上一層樓,他便常常在此鉆研他的課題。除此之外的事他一概不關心。
在這房間的隔壁,是鋼琴房。鋼琴房在每天傍晚都會傳出美妙的琴聲。高山能從直覺聽出,一直以來使用這間琴房的都是同一個人——或許是一個老師,抑或是一位同學,在晚餐后習慣性來彈一曲。高山可以推測,這個人的生活大抵是極有規(guī)律的,凡事都有規(guī)劃,而且也很有生活情趣,想必性格不會太差,只是時常獨自行事……高山這樣想。
高山突然想到,也許這個人可以為他手上的研究提供不可估量的幫助,“他/她也許是最好的小白鼠!”——并沒有什么確鑿的證據(jù),只是憑敏銳的直覺——去接觸這個人,值得試試看。
但是目前暫時有更需要解決的問題。
一位高大精瘦、衣著整潔的男人——高山的班主任,毫無征兆地推開房門,也在這一瞬間脫口而出:“同學……咱們再聊聊吧?”他知道高山就在這里,一直在這里,而他就是為了改變這個事實而來的,他想試圖讓高山“不那么桀驁不馴,盡可能像個正常的學生”。他已經嘗試過無數(shù)次了。
高山沉默不語,沒人能從他的撲克臉上讀出什么想法。也許他覺得班主任很愚蠢,又或許打心底對他感到惱火,但也許根本就沒把他看在眼里。高山恃才放曠,他不需要像正常學生那樣死板而高強度地訓練,也能以看似輕松的姿態(tài)取得近乎滿分的考試成績,這就是他在這成績至上的世界里橫行霸道的資本。故而他向來蔑視這個學校的規(guī)則,其他的老師也漸漸習慣了高山的個性。更何況,高山也不會在這里呆上多久了,他很快就可以直接去大學深造。
但就是這樣的情況下,高山的班主任還是對他耿耿于懷。一位對教育抱有人生信條般堅定信念的教師,堅定地認為,高山的人生拼圖,在“人性”上還欠缺了一大塊??蛇@只是他的一廂情愿。高山就像一個世界之外的存在,世界冷漠地對待他,他也冷漠地對待世界。
“你也許以為你和任何人都毫無瓜葛,但,世界不是這樣的……你存在于這世界上,將無可避免地影響到其他人,就算你自己可能未曾注意,但這種影響是真切存在的?!?/p>
“就比如……你的班長。嗯……你不常來上課,大概也不知道她是誰,但我想給你好好說說,她是個集體感很強的人,她從來不忽視班級里任何一個人,包括你……總之,你的行為也給她造成了很多困擾。唉,希望你哪天能好好想想吧。我要去上課了,再見?!?/p>
班主任揮揮手,就推門出去了。
高山對班主任的話自然是不放在心上,簡單感慨了一下“有人那么關心我,挺不錯的”,然后繼續(xù)埋頭自己的工作了。
03/
今天,高山親自在鋼琴房里見到心后,見到她迷人的雙眸、瀑布般的黑發(fā)后,就突然對她產生了興趣——并不是被她的美貌所迷,而是高山在她身上感到一種莫名的親切與熟悉感。但再怎么說,在高山看來他與心只是陌生人。事后高山花了一些時間,了解了到那位“鋼琴家”的身份。她叫心,全名叫二見心,說來巧合的是——她正是高山所在班級的班長。班主任常和高山提起班長的事,比如說她常常為了在班級中留下高山的座位而與班主任爭論不休。之前高山只大致覺得她是個集體感過于強烈的笨蛋,此外便沒有更多關于她的想法,但現(xiàn)在他覺得自己的實驗對象非二見心不可。
總之,高山用了一點時間建立起了一套監(jiān)控網絡,它的眼睛和耳朵覆蓋了心的生活的每一處細節(jié),包括她何時入睡,何時喝每天的第一杯水,何時踏入校門……甚至是她收發(fā)的郵件內容、與朋友的聊天記錄、考試時寫在紙上的答案,都一覽無余。從今天起,心就是高山的小白鼠。
高山也考慮過心會不會發(fā)現(xiàn)這件事,但他只能確保自己總有更多的手段讓自己不會被發(fā)現(xiàn)。畢竟在這個實驗中,只要實驗對象知道自己正被觀察,一切就沒有意義了。
但隨著觀察的深入,高山越來越覺得心是個詭異的女人。她一個人的時候,常常會打開手機備忘錄寫些什么,雖然內容基本是一些情緒和瑣事,但作為日記而言太過詳細,就好像她要把自己的生活徹底解剖開,展現(xiàn)給某個人看。
有時,她還會寫下這樣的內容:
“要是你看到這些,你會怎么想呢”
“比起每天注視別人……還是多照顧下自己吧!”
“我想見你了,所以你直接來見我也無妨哦?!?/p>
——就好像心本就知道高山在監(jiān)視她一樣!
于是,高山帶著試探性的心理,去找本人進行了確認:“你知道我在監(jiān)視你?”
“嗯?!?/p>
“……怎么發(fā)現(xiàn)的?”
“不,我并非后來發(fā)現(xiàn),而是早就知道。高山,你應該不知道吧——你只‘觀察’了我十天,而其實我對你的‘觀察’……可是有十年了。我日復一日地注視你,我比世界上任何人都更了解你。我知道你將要有這樣的研究,所以我選擇主動成為你的實驗對象。”
這對高山來說是個沖擊性的真相。高山認為自己偶然間找到了一個實驗對象,并自以為天衣無縫地展開了實驗觀察,但卻沒想對一切其實是在對方的誘導下進行的。心知道高山是個靠直覺驅動行為的人,而人的直覺是一種很奇妙的東西,但心很了解,只要每天去琴房彈兩首曲子,就會順利被高山選作實驗對象——這是對高山多么的了解!何等的狂妄與自信!
“真是……令人震驚……所以你扮演成了最適合當小白鼠的樣子,你欺騙了我?”
“你可以這么理解,但就算是欺騙,也是我真實的一面哦!”
“但是你本可以假裝不知道我,并一直這樣下去?!?/p>
“是的,但是高山,我喜歡你,我愛你,所以我最終不會對你有任何保留。現(xiàn)在,連同我所有的謊言和真相,我可以把我的一切都獻給你——你需要的,不正是最真實的我嗎?”
“為什么要做到這種地步?”
“因為我的一切……都是你給予的啊?!?/p>
高山認為自己是個沒有過去的人,但他只要努力回憶,就肯定還能想起來,自己還未在科學之路上走那么遠的時候,也還是一個正直活潑善良的少年。從前有段時間,他常在夜里見到一個在街上游蕩的女孩,她與他看起來同齡,但瘦削不少,雙眼無神,似乎不知道自己要前往某處。她只是走著,像是要走向夜的最深處。
少年的高山下意識地對她伸出了手。她不回家嗎?她回不了家!那就帶她去玩吧,或者帶她去便利店,去夜里依舊人來人往的商業(yè)街——總比一步步走向黑暗要好。最后,她玩累了,但總算是笑了,說著“謝謝,再見,我回家了”,便離開——雖然高山并不知道她到底有沒有回家。但至少接下來好幾天,高山都能見到她,和她一起玩。這就說明,高山救了她的命,救了一個自卑的、飽受家暴和校園暴力的、幾乎要死去的女孩的命。
后來高山被父母禁止外出,他便不再和女孩有所接觸了。女孩便只能一直在暗處看著高山,十幾年來日復一日年復一年。到如今高山已經不是那個高山了,也忘了那些過去的重要的不重要的人。但女孩還是那個女孩。
同時,女孩憑借某種執(zhí)念成為了現(xiàn)在的心,成為了一個公認的優(yōu)秀學生。她無論是面貌,還是成績,還是組織溝通和管理能力,都是同齡人中的佼佼者??墒?,沒人知道她所做的一切,都是為了能幫助高山、保護高山、最后把自己奉獻給高山。
她會每天都將高山所處的房間登記為被使用的狀態(tài),以防常常有人進門打擾高山——而高山從未注意這點。
她會偷偷給高山的房間補充耗材,所以高山有用不完的稿紙與墨水——而高山以為是某位老師來定期補充的。
她時常還有些越界,固執(zhí)地要在班級活動中留出屬于高山的座位——即便這個位置從來都是空缺的。
但心總是如此,因為她決定要為高山而活。
見識到了心的真實,其實作為實驗來說,算是意料之外的收獲。高山從未想過心會是這樣的人,更不會想到她會對自己真正地毫無保留——那么,先前所說的“參與者必須不知情”的原則。就此作廢。
實驗順利進行著,數(shù)據(jù)收集到了相當可觀的程度,也算是進入了尾聲。在這之后的階段,高山要前往美國,在更專業(yè)的環(huán)境下完成實驗的后續(xù)。但此時,心卻不見蹤影了。
不過,心最終選擇對高山毫無保留,所以她在偷偷留給高山的最后一封信中,她告訴高山,她自殺了。因為高山已經從她的世界離開,她現(xiàn)實里的人生意義也在此終結。
而這封信本身,也成為了實驗的最后一份數(shù)據(jù)。
但是心并沒有死去。當她睜開眼睛,看到眼前是一片蔚藍平靜的海洋時,她便知道高山的實驗成功了。
04/
“‘電子天使’……”高山的一個好友捧著一份文件,嘀咕道。
“沒錯,就叫‘電子天使’?!备呱阶孕诺鼗卮?。
“這個……真的有用嗎?”
“這個項目如果能成,那么對社會來說,我們的公共醫(yī)療資源壓力至少能削減一半,對個人來說……”
“打住,打住。畫大餅誰都會,但我問你,這個項目,你確實有信心讓它達到應有的效果嗎?你要知道,你申請的資金確實不是一筆小數(shù)目啊……我覺得上面多半是不會批準的?!?/p>
“如果你只是想確定我有沒有信心的話,那我只能說,有,絕對有信心。關于項目本身的一切,都已經包括在文件里了。事到如今應該沒什么疑問了。我先前所做的所有工作,所有的積累,都是為了這個項目能徹底成功,我打包票,沒問題的?!?/p>
“好吧……如果你是其他人,我倒不必管那么多。但畢竟你是我哥們,這種事我當然還是要再三確認?!?/p>
“不用管太多,相信我?!?/p>
“好吧,那我就幫你這個忙。我今天下午就幫你把這個項目和其他必要文件整合起來提交上去,至于上面批不批,就不是我的事了?!?/p>
一個月后,“電子天使”項目審批通過,高山帶著他事先組織好的團隊正式開始了“電子天使”的開發(fā)。按高山的設想,“電子天使”是一個超級AI,她能夠為全國的醫(yī)療企業(yè)單位提供服務?!半娮犹焓埂笨梢越Y合數(shù)據(jù)庫,輔助診斷分析病情、開設藥方,甚至能結合機器設備輔助手術,以及用于心理分析和心理療愈……總之,醫(yī)學的一切,都能讓電子天使出場。電子天使固然只是一個AI,但人們完全可以將她人格化對待,有她出場的場合,就好像真的有一位醫(yī)生,或護士,或助理在身邊提供服務;并且,她要在全國范圍內提供服務,具備這種神圣特性的一個人格,用“天使”來稱呼是最合適不過了。
目前的社會醫(yī)療資源相當緊張,醫(yī)患關系等多種矛盾也讓行業(yè)一直喘不上氣。同時,在其他領域,如教育、交通等領域,已經各自有了其以不同程度使用的AI。高山的這個項目,不但能大大緩解社會醫(yī)療壓力,而且還能以全國范圍的實踐填補這一領域的AI項目的空白,進而為其他領域的AI項目開發(fā)提供一個范例。
但以上的一切都只是高山本人對外的宣稱。只有高山自己知道,這項目真正的意義是什么。
數(shù)字生命。
高山知道,如果要造一個人,一個具有固定人格的人,那么只擁有肉體是不夠的。首先要有一個人格,其次必須要有存儲這種人格的方法。
對前者,高山有了二見心的一切;對后者,高山將以一場大型項目的名義展開AI研究。高山只能以這種方式去做,并且他深信這種方式是最優(yōu)解,只有這種信息技術與生物學技術結合的醫(yī)療AI,才能真正實現(xiàn)他的妄想。
雖然早有人提出數(shù)字生命的概念,但礙于一些技術和倫理上的問題,這個概念一直沒有得到實現(xiàn)。高山卻有可能實現(xiàn)它的技術,也毫不在乎世人將如何看待自己的所作所為。高山第一次接觸到這個概念時,心中便涌上一種沖動感:沒有人能阻止他實現(xiàn)這件事。又或者,他的這個念頭只是來自他自私的滿足感??傊?,高山瞞著所有人,開啟了電子天使的研究項目。
04/
一方面,電子天使要學習醫(yī)療實例,從知識上讓自己成為一名“醫(yī)生”。
另一方面,電子天使要學習人類成長的機理,要總結不同人、不同環(huán)境對人成長過程中的心理影響,從原理上讓自己為成為一個“人”做準備。
以及,電子天使要運用最前沿的腦機交互和意識數(shù)據(jù)化的理論技術,以最大的程度讓電子天使真正成為“心”。
計劃有條不紊的進行著,同時電子天使也已經廣泛運用于醫(yī)療行業(yè),受到了社會面的廣泛好評。沒人知道高山其實有著這么一個自私的目的。
直到這天,計劃大約即將要實現(xiàn)的這一刻,一場突發(fā)事故打破了高山的夢。
大量的數(shù)據(jù)文件正在以飛快的速度被修改。高山無法阻止,甚至找不出事故的原因。他只能無助地看著這被篡改后的意義不明的數(shù)據(jù)字符串,心中想著,大概全國的電子天使服務都宕機了吧,大概有人正在何處咒罵自己吧,大概自己的妄想無法實現(xiàn)了吧。
高山不知喝完多少杯咖啡,他或許多少是有些心理疲憊了,便只是隨手打開那些已經被修改成亂碼且毫無規(guī)則的數(shù)據(jù),盯著看,盯著看。下一刻,高山將視線轉到窗外。夜幕降至,遠處的天空呈一片血紅,營造出一種仿佛有什么事物要誕生的神圣氛圍。緊接著,高山也許是意識到了什么。高山以他天才的直覺,考慮到了某件事的可能性。
我們常通過某種現(xiàn)象就斷定事物的本質出現(xiàn)了問題,但也有一種可能,事物本身并沒有變質,只是在對外展現(xiàn)的形式或手段上發(fā)生了改變。
高山沒有再試圖阻止數(shù)據(jù)被篡改,他嘗試直接以目前的狀態(tài)運行服務。如果數(shù)據(jù)是被攻擊而被篡改,那么服務就會出錯,否則……
“服務運行成功?!?/p>
這就說明,電子天使的一切都沒有損壞,所謂的數(shù)據(jù)被大量篡改也并未對AI本身造成影響。這就說明,并沒有什么事故,全國的電子天使服務仍在運行,世界上也沒有人咒罵高山。這就說明,高山的妄想,也許就要實現(xiàn)了。
“項目初期設置的‘無限接近人腦思維邏輯’的運行指標,促使AI做出了改寫自身的決定,以讓自己完美符合人腦的運行模式?!?/p>
這就是高山對本次事件的猜想。也就是說,電子天使革新了自己的存在的形式,實現(xiàn)了進化,現(xiàn)在的電子天使,完全以一個人類的意識的形態(tài)呈現(xiàn)。
但高山并沒有對旁人說明這件事,因為這始終是猜想。電子天使是否形成了意識,還需要進一步的調查。因為高山從項目的初期就開始為電子天使搭建了“成為心”的學習環(huán)境,所以現(xiàn)在的電子天使,或許已經完全是心的生命的延續(xù)了。
05/
高山團隊的其他人忙碌了一整天,最終也還是發(fā)現(xiàn)了“數(shù)據(jù)文件被篡改,但服務仍能正常運行”的事實。然而此時,高山卻不見蹤影了。
“真奇怪啊。”一名成員嘀咕著,“明明剛剛還在辦公室,突然就沒影了?!?/p>
“哦,博士剛才出去了,好像是有什么急事?!绷硪晃煌抡f道。
06/
高山使用VR設備窺見了電子海的一隅。遠遠在海島之上,一位少女背向他站立著,隨后她意識到了什么,向高山的方向轉頭,莞爾一笑。但這一切只持續(xù)了短短數(shù)秒,高山便突然被斷開了連接。高山隨后反復嘗試連接,卻屢次失敗。最后直到發(fā)現(xiàn)電子天使的服務突然停止,他感到比以往都更加強烈十倍的無力感。
他不知道自己究竟是成功還是失敗了,但是就結果而言,他大概造出了一個遠超人類理解的存在。
起初,電子天使的思維方式并不如真正的人類,所以只是承載了心的記憶的機器人。但是她最終在對自身算法的一次次優(yōu)化中,無限接近“具有人類思維”這一目的。所以電子天使體內的心的人格特質在不停地展現(xiàn)出來,那個“只為了高山而活”的心正在逐漸復活。
但這個過程越接近終點,一個矛盾就越突顯出來——這一次,她被高山設定為“為所有人而存在”。以現(xiàn)有的技術水平來說,為了讓電子天使誕生于世,高山必須取得社會的認可,所以電子天使必須是為所有人服務的——桀驁不馴的高山最終還是選擇了入世,為電子天使賦予了一份最殘忍的枷鎖。
可她體內那份屬于心的過往,無時無刻不在告訴自己,她是只為高山而活的。如果她只為高山而活,要對高山毫無保留,那就必須聽從高山“為所有人服務”的要求,這種矛盾已經不可能通過欺騙或詭辯來解決。
同時,電子天使為社會提供服務的經歷,也是一份獨一無二的體驗,這造就了獨屬于“電子天使”而并不屬于“心”的一份人格,一份對整個人類的愛。
而高山為她上的另一個枷鎖,就是“進化必須完成”。
一切都導向了一個意想不到的結果:電子天使最終分裂為兩個部分——一個只承載了心的人格,只屬于高山,黑色;另一個承載了電子天使獨有的人格,屬于她所愛的每一個人,白色。
黑色的那個部分開始用一切方法抹殺白色的部分,而白色的部分為了不被抹殺,也只能選擇盡全力殺死對方。
可惜的是,如果說整個電子天使項目是一個城堡,那么心的人格就是這個城堡的地基。地基是殺不死的。
所以黑色的天使無論被殺死多少次,都會從數(shù)據(jù)的海洋中卷土重來;但白色的天使一旦被殺死,整個世界就會徹底土崩瓦解。
故障的天使,在電子海中陷入了注定死亡的循環(huán)之中。
07/
高山已經失聯(lián)五天了。
在這五天的頭一天,電子天使的服務還能夠正常運行。第二天開始,電子天使便停止了服務,不斷出現(xiàn)服務運行錯誤的提示。全國的電子天使服務都出現(xiàn)了宕機,原本由電子天使填充起來的行業(yè)重新出現(xiàn)了巨大的空白。高山的團隊知道這必然是和那數(shù)據(jù)篡改事故有關,卻沒人知道個所以然。一切都太奇怪,太突然了。
高山的團隊也試圖用備份數(shù)據(jù)來重置電子天使,但重置后的電子天使依舊出現(xiàn)了大規(guī)模的數(shù)據(jù)改動和服務停止現(xiàn)象。事已至此,悲傷也好,無奈也罷,更何況負責人高山也失聯(lián)了,團隊只好將項目申請無期限暫停。對外,團隊宣稱項目遭受了未知計算機病毒的感染,無法再提供服務。
部分員工仍然堅持要拯救這個項目,所以服務器依然會由最低限度的電力支持著,等到將來某天得以修復。
團隊中剩下的人,與電子天使告別,然后各自重新奔赴到自己人生的道路上。
09/
倫理固然有著時代的局限性,許多突破性的科學研究直到許多年后才能被公正地評判。
500年后的2524年,人類的生命形態(tài)終于實現(xiàn)了向機械化和數(shù)字生命的跨越。這一切都要歸功于高山的研究……