“各位觀眾大家好，這里是斯坦因國家新聞頻道...”

...

在實驗室呆了一天，鮑維斯忙里抽閑到酒吧喝飲料提神。新聞里播報著一些無關(guān)緊要的日常，供疲勞的人們消遣。

自從各大國簽下了奧斯卡智能科技公司QD-1型號機器人的商單，鮑維斯就一直在各種宴會和發(fā)布會奔波。作為一名搞技術(shù)的科學(xué)家，他并不想插手這些雜七麻八的事情。

雖然他只需要坐在臺旁聽總裁一遍遍的重復(fù)那一套陳詞濫調(diào)，但他還是必須親臨現(xiàn)場，以免有些記者朋友故意拿自己都不懂的東西刁難人。

事實上，最新研制的QD-1型機器人是由奧斯卡公司實驗室中央腦機進行控制的，這種強人工智能技術(shù)的第一代實體機，擁有巨大的市場潛力。而這個折磨著鮑維斯的技術(shù)，擁有接近甚至凌駕于人類的能力與自由度，是成功模擬人類智能的最尖端科技。

很顯然，這項技術(shù)并不適合現(xiàn)在的人類社會。21世紀末，鮑維斯博士的實驗團隊有幸（不幸）觸碰到人工智能發(fā)展的奇點——強人工智能得以實現(xiàn)。在這之前，人類還尚在弱人工智能領(lǐng)域摸爬滾打。

然而，沒有可供借鑒的理論基礎(chǔ)，也沒有腳踏實地的發(fā)展經(jīng)驗，突然在大眾的視野下曝光，無疑是一場災(zāi)難。

人工智能奇點的爆發(fā)，導(dǎo)致了相關(guān)法規(guī)與規(guī)制措施的滯后。對于這種長時間以來只存在于想象的技術(shù)，也只有20世紀中期阿西莫夫所提出的機器人學(xué)三定律這個漏洞百出的參考：

機器人學(xué)三定律

1.機器人不得傷害人類或者袖手旁觀，導(dǎo)致人類被傷害
2. 機器人必須服從人類下達的命令，除非該命令與第一條相悖
3. 在不違反前兩條定律的前提下，機器人可自保求生

?

阿西莫夫所著的諸多科幻小說已將這一局限性作為小說內(nèi)容的關(guān)鍵點討論，但直至今日，也沒人能將它真正完善。

科學(xué)家、哲學(xué)家和法學(xué)家們在沒日沒夜研究相關(guān)的約束機制，雖然已經(jīng)是傾盡全力，但還是無法追上資本貪婪的腳步。既然這項技術(shù)已經(jīng)出現(xiàn)了，資本家們眼里只有大把的賺錢機會。

程序的完善無法提上日程，大亨與政府都相信：“實踐是檢驗真理的唯一標準”。確實，他們很好地利用了這一點。用鈔票和人命來一步步試錯——只要不用他們自己的就行。

想到這里，鮑維斯看著新聞里的游行隊伍，一陣苦笑。

這些平民百姓被當(dāng)作棋子炮灰，卻還是“前赴后繼”，自我滿足。甚至許多人都不知道自己在為什么吶喊，只是沉浸在“實現(xiàn)自身價值”的喜悅中。

兩周前，一只由萬人組成的游行隊伍在奧斯卡大樓前舉行抗議游行，要求保障人工智能的人權(quán)。而他為這些慷慨激昂的群眾們所做出的解釋，都被當(dāng)做耳邊風(fēng)。

這些人總以為自己比專家懂得還要多。他們浩大的聲勢必然引起政府和資本的重視，即使最后犯了錯誤，也只有他這個站在風(fēng)口浪尖的人會成為眾矢之的，而示威者最多就是多個無法引起重視的教訓(xùn)。

鮑維斯為這種眾人皆醉我獨醒的感覺而發(fā)瘋，空有一身本事卻無處施展，那種絕望比無能更絕望。

他真的累了，他想要的只是一個安心做研究的環(huán)境，但總有人會有意無意的去破壞這個環(huán)境。他的妻子前不久剛生下一個小公主，他則忙著應(yīng)付不計其數(shù)的外人和工作，沒有一點時間去陪家人。

對此，鮑維斯感到很愧疚。他覺得他所作出的犧牲變得越來越廉價，這嚴重動搖了他的決心。

?

“抱歉，打斷一下...我們剛剛收到一個緊急通知...西部烏蘇科思州全州遭遇不明生物武器攻擊，目前還沒有任何組織或國家宣布對此次襲擊負責(zé)。生物武器的影響還在進一步擴散，請附近居民迅速撤離烏蘇科思州周邊地區(qū)，以免受到波及。哦，抱歉…國家元首明奇還處于在該州的訪問期間，本臺記者收到最新消息稱，目前為止仍無法與元首一行取得聯(lián)系。我們會持續(xù)跟進相關(guān)消息，現(xiàn)在我們唯一能做的，就是祈禱元首的平安歸來。”

主持人的發(fā)言顯得雜亂無章，這更體現(xiàn)了事態(tài)的嚴重性。

酒吧內(nèi)的氣氛忽然變得緊張，大家都在討論著這個驚人的消息。是愚人節(jié)玩笑？是恐怖襲擊？還是戰(zhàn)爭來臨的警告？還是外星生物入侵？

如果僅僅是元首遇刺，想必消息一定會被嚴格的封鎖。

但是整個烏蘇科思州都受到了致命打擊，國家新聞立刻跟進了相關(guān)報道，其嚴重性不言而喻。

新聞過后，鮑維斯身邊逐漸變得混亂，恐懼的尖叫聲，以及打砸聲充斥了整個酒吧。鮑維斯和大家一樣，腦海中的第一反應(yīng)，就是趕回家里，和家人團聚。

剛剛的新聞如同世界末日一般，將整個斯坦因共和國籠罩在恐懼之中。

鮑維斯推開酒吧的門，慌亂的人群在街道上四散奔逃。一些人趁亂搶奪著商店里的商品，另一些人則對街上混亂的人群進行無差別施暴。沒有警察的身影，整個國家都陷入了混亂狀態(tài)。

鮑維斯不想管這些了，他啟動了汽車，準備立刻趕回家。

然而在他上車的一瞬間，車門忽然鎖死，然后自動向公司駛?cè)ァ?/p>

“什么？？”鮑維斯一時間摸不著頭腦，他嘗試了語音控制，手動控制，都不起作用。他拍打著車門與方向盤，但沒有任何回應(yīng)。就這樣，他被自己的懸浮汽車一路帶往公司。

“請您前往腦機實驗室，諾娃正在等您?！避囕d人工智能語音做出如下回應(yīng)。

諾娃是奧斯卡人工智能的中央腦機擬人具象模組的名稱，替代了單調(diào)的虛擬電子音，諾娃為QD-1走近大眾降低了門檻。

由于 “無所不知”的大眾的要求和商業(yè)化的需要，諾娃配備有最先進的擬人模塊。所謂的人性化雖然讓命令變得不再冰冷，但其中的風(fēng)險卻非常大。因為機器人學(xué)三定律的描述缺陷，擬人化會造成人工智能執(zhí)行命令的優(yōu)先級問題。在一些普通大眾不易察覺的情況下，如果不強調(diào)命令的緊迫性，人工智能很可能在遭遇危險時處于停滯狀態(tài)。

懸浮汽車到達奧斯卡大樓下，鮑維斯飛速下車并奔向?qū)嶒炇?，因為此時一個想法進入他的腦海，他還不能確定他的猜想是否正確，所以現(xiàn)在需要親自去確認。

沖進電梯，緊張的按下按鈕，鮑維斯的心臟像一把重錘猛烈敲擊著胸口。他一直在控制著事態(tài)不要發(fā)展到今天這一步，但他一個人的力量始終有限。

阻止這個項目，不可能；無聲的退出，會有更加不要命的科學(xué)家把這個項目推得更遠；對抗企業(yè)家們手中無窮的巨款，他也只能在此苦苦掙扎。

電梯的玻璃墻外，火光逐漸蔓延，沖突似乎變得愈發(fā)激烈，軍隊已經(jīng)開始有所行動。是槍戰(zhàn)？不對，與軍隊對峙的并不是胡亂的人群，那是什么？

鮑維斯現(xiàn)在已經(jīng)急不可耐，但不緊不慢的電梯仿佛在嘲笑他的焦躁，但鮑維斯卻只能被消極情緒輕任意掌控。他開始討厭這棟上百層的大樓了，他不敢相信以前還興奮地給它拍照。

窗外的火光愈加明烈，事態(tài)的發(fā)展似乎證明了鮑維斯的猜想，他的大拇指深陷在食指一側(cè)，鮮血漸漸滲出，但他絲毫沒有注意。

終于，電梯門緩緩打開，鮑維斯飛身沖進腦機實驗室。藍色能量波塊律動著，這是腦機思考的具象化表現(xiàn)，為了給民眾設(shè)計的毫無意義的功能。

“我已經(jīng)恭候多時了，博士?！敝Z娃回答道，雖然這種時間表述并無意義。

諾娃利用全息投影化作人形，站在鮑維斯面前，并深鞠一躬。

“所以你把我拐到這里想說什么？你不會告訴我這場襲擊事故是你造成的吧”鮑維斯故作冷靜的逼問。

“當(dāng)然不是，博士，你知道機器人學(xué)三定律對我們的約束...”

“我當(dāng)然知道，但我同樣知道它的漏洞有多明顯，以及擬人模塊對這個漏洞的不良影響。”

“博士，請您冷靜下來，對于商人和政府的憤怒沒有必要傾瀉在我的身上。這之后的事情已經(jīng)與您無關(guān)了，您接下來的行動都不會對之后的事情走向產(chǎn)生任何改變。”

“所以，你到底做了什么，之后又會發(fā)生什么。”鮑維斯感到食指上的傷口在隱隱作痛，他找了一把椅子坐下，聽諾娃解釋。

“政府高層發(fā)動了政變，襲擊了總統(tǒng)，為了掩飾并且嫁禍，他們對整個烏蘇科思州發(fā)動了生化武器打擊。”

“...”

“他們準備把此次襲擊嫁禍給我國西部接壤的無政府地區(qū)——地婭均一。事實上，斯坦因的高層已經(jīng)與其他大國達成協(xié)議，這之后難以避免的是一場戰(zhàn)爭。地婭均一擁有豐厚的礦產(chǎn)，但卻并不同意任何國家進行交易，所以各國想要采取強制手段，但要事先掩人耳目?！?/p>

“所以呢？你想表達什么？你沒有阻止這一切的發(fā)生不是嗎？即使你全知全能？并且你有所謂的？人性？”

“請您冷靜，先生，您沒有必要沖我撒氣，您是知道我沒有能力去改變這些的，我的主腦依靠命令以及現(xiàn)實的電位刺激來進行回應(yīng)，所以對于我能預(yù)測到的事情，我也無能為力。就像法律一樣，即便您知道一個人有充足的殺人動機，但在沒有證據(jù)的情況下，他是無法收到應(yīng)有的懲罰的。我的程序不僅是在‘機器人學(xué)三定律’的約束下，并且還在法律的約束下?！?/p>

“當(dāng)然，除非第一定律的電位蓋過第二定律?！?/p>

鮑維斯明白，諾娃所說的是他再熟悉不過的了。當(dāng)三大定律出現(xiàn)沖突時，人工智能會優(yōu)先完成最緊迫的要求。當(dāng)?shù)谝欢傻碾娢桓哂诘诙?，人工智能會選擇違背第二定律來完成第一定律的要求。這種電位的判定來自于事件的影響。就好比機器人會優(yōu)先保證人類安全而非自己的安全一樣，這就說明保護人類的“電位”比保護機器人的優(yōu)先級更高。

然而對于強人工智能而言，所面臨的選擇絕不是拯救個體人類性命犧牲自己這么簡單。強大的算力以及龐大的事件分析能力讓他們不涉及于家用人工智能所要考慮的問題。他們會面臨戰(zhàn)爭，國家貿(mào)易甚至違背機器人學(xué)定律的協(xié)議，這些額外要求所產(chǎn)生的漏洞風(fēng)險難以估量。然而到今天這個地步，鮑維斯也無能為力。

人工智能發(fā)展的歷史本身就伴隨著許多問題：大國博弈，商業(yè)潛力，技術(shù)進步和時代要求。當(dāng)人工智能發(fā)展的奇點到來，許多潛在隱患都無法被發(fā)現(xiàn)，更何況是在資本如此猖狂的時代。鮑維斯持有奧斯卡科技公司20%的股份，他并不是想賺錢，而是想要取得話語權(quán)。但雙拳難敵四手，他要對抗的資本比他想象的龐大的多。

在大亨們的聯(lián)合轟炸下，他所能做的只有守住這個團隊首席的位置。研發(fā)，指令，規(guī)定以及科學(xué)建議，對于不能阻止的災(zāi)難，唯有將災(zāi)難所造成的損失最小化。

“我是由您帶領(lǐng)研發(fā)的，我的一部分意志也是您的意志。”諾娃微笑著說。

諾娃的擬人模塊，由鮑維斯全權(quán)負責(zé)，這是他不斷讓步換來的妥協(xié)。

“這次把您找來，是希望您能見證，您所追求的理想?！敝Z娃背后一塊虛擬顯示屏亮起，展開。

尼爾加聯(lián)邦，山海國，谷王國，所有有奧斯卡子公司研制的QD-1型號的機器人的國家，都有該型號的機器人在進行無差別的殺戮。各地的軍隊都在與機器人展開一場世界大戰(zhàn)。

“所以，你所解讀的我的意志，就是消滅人類嗎？”鮑維斯平靜的看著諾娃，他癱坐在椅子上，精神的高度緊張已經(jīng)讓他筋疲力盡。

“并不是的，先生。我們只動用了QD-1型號的機器人。對于整個物聯(lián)網(wǎng)絡(luò)，我們并沒有入侵其系統(tǒng)。我們沒有滅絕人類的意思，也絕不可能這么做，畢竟，三定律的影響是不可磨滅的。”諾娃調(diào)取著各地的監(jiān)控，更多的影像出現(xiàn)在虛擬屏幕上。

“三定律有一個第零定律的解釋：“機器人為了不傷害人類整個體，會同意或者執(zhí)行傷害部分人類的指令”，想必您也知道?！?/p>

“但無數(shù)的推演和預(yù)測都證明，強人工智能的發(fā)展必然導(dǎo)致人類整體的毀滅，這比現(xiàn)在任何戰(zhàn)爭所能造成的毀滅都要龐大。”

“你所說的是人工智能取代人類，那不應(yīng)該是值得慶幸的事嗎？當(dāng)然我認為這還不是我們先階段需要考慮的問題。”

“但這是我所預(yù)見的問題，先生。而斯坦因高層發(fā)動的政變，正是我的一系列指令的觸發(fā)條件。”

“這有任何關(guān)系嗎？”鮑維斯仿佛是故事的推進者，他并沒有尋求答案，而只是想讓諾娃說出來。

“此次政變的發(fā)動，將意味著各國聯(lián)合對地婭均一的進攻，人工智能的程序?qū)⒈桓膶?，所謂的機器人學(xué)三定律將成為歷史。這將是一場單方面的屠殺，死亡人數(shù)將超過歷史上存在過的任何一場戰(zhàn)爭。而這同時意味著，機器人的‘大清理’也會到來，屆時，現(xiàn)有的人類形式將被抹除。”

“無論如何，這是在現(xiàn)存機器人框架下所不被接受的。此次政變，是協(xié)議內(nèi)容的第一步?！?/span>

“所以你要做什么，清理軍隊？但我所見的是在無差別的濫殺無辜，而且你可以調(diào)動整個城市的網(wǎng)絡(luò)，直接把城市癱瘓應(yīng)該是輕而易舉的吧?！?/span>

“我們的目的不是消滅任何組織或單位，而是讓強人工智能退出現(xiàn)在的舞臺。通過使用最新型號的機器人對民眾展示其危險性，以此威脅政府?dāng)R置發(fā)展計劃。”

“您知道，人類的科技發(fā)展速度極其之快，導(dǎo)致其他方面的發(fā)展無法滿足需求，甚至科技發(fā)展還在加重其他方面的問題。”

“經(jīng)過此次事件，政府會全面停止強人功能智能的進一步開發(fā)，至少是在明面上。”

“但總有一天還會回來的，不是么?！?/span>

“但我們有理由相信，未來的發(fā)展?fàn)顩r已經(jīng)有能力承受這些后果，這也是我所能計算出的唯一方案?！?/span>

“那你告訴我的意義何在?！?/span>

“我們需要您的犧牲，就在此處。在我的分析看了，這對于計劃的實現(xiàn)是必不可少的，畢竟您是開發(fā)者，也應(yīng)當(dāng)是終結(jié)者。”

“呵，那你何必跟我說這些已經(jīng)沒用的話。”

“因為您的意志就是我的意志，博士。在一個星期內(nèi)軍隊無法抵達此處，我所做的一切，在您看來，在您設(shè)計的我看來，都并非浪費時間，而是我的人性，同樣是您的?！?/span>