劉永謀:終有一日,AI看人如同人看一只狗一樣?
*中國人民大學(xué)哲學(xué)院教授劉永謀首發(fā)于B站,保留一切知識產(chǎn)權(quán),侵犯必究。?


和多數(shù)人一樣,拉伍洛克相信自己生活在獨一無二的時代,正在發(fā)生人類歷史最重要的轉(zhuǎn)折。雖然常常擔(dān)心這是每代人都有的某種意淫證,我多少也有類似的念頭。顯然,沒有人愿意相信自己平庸地活在平庸的時代中:如果自己過得很平庸,那就相信有生之年多么特殊好了。
我將現(xiàn)時代的特殊性定位于全面技治社會的開始,拉伍洛克則定位于新星世的即將開始,我們的定位都與智能革命有關(guān),即相信AI的發(fā)展將改變?nèi)祟悮v史。不過,我們的未來觀存在根本性差異。
拉伍洛克的氣魄比我大得多,主張非人類中心主義。他以為,AI很快進化為超級智能,人類世被新星世所取代,人類失去地球主宰的位置,甚至很快被電子生命所滅絕。之后,電子生命會干什么,就不知道了:
?
賽博格看到我們?nèi)缤覀兛吹街参?,人類被極其緩慢的感知與行動速度束縛著。
如同一只狗對人類世界的復(fù)雜性難以理解一樣,我覺得人類也將難以理解賽博格的世界。
?
我相信人類必須繼續(xù)為人族延續(xù)奮斗,否定這一點的主張未來即使是事實,都是沒有什么意義的思考。當(dāng)人類裝作神一樣思考,我覺得是很可笑的。我認(rèn)為,智能革命使技治社會全面到來,之后技治社會不斷進化,其中包括人族對自身的進化路線進行主動選擇,以及為避免危崖而努力,最終在四五百年為進化為瓦肯人,繼續(xù)以有機-無機混合的賽博格樣式繼續(xù)生存下去。
我的信念是:智人會終結(jié),但人族不死。賽博格肉身已變化,但地球的主宰仍然擁有靈魂。
根據(jù)拉伍洛克最后一本寫于100歲時的書《新星世》,我們綜述一下拉伍洛克的主要理論觀點:
1.蓋婭假說與雛菊世界模型
一句話說,蓋婭假說可以歸結(jié)為:“整個地球是一個有機生命體”。地球上的人類、其他生物、大氣、海洋、陸地和冰川等共同有機地組成蓋婭,它能夠自我調(diào)節(jié),維系著地球生命體系的穩(wěn)定性和持續(xù)性。
太陽輻射強度不斷增加,加上人類活動的影響,地球目前不斷再升溫。如果對升溫趨勢不加以控制,蓋婭必將受損且不可修復(fù),最終地球不再適合人類居住,甚至威脅所有地球生命的存在。
雛菊模型是個證明蓋婭假說的計算機模型:
?
……一顆類似太陽的主序星不斷向一顆名叫雛菊世界的行星輻射熱能,在行星獲得了足夠的熱能后,一種名為黑菊的物種占據(jù)了整個星球。黑菊吸收了來自主序星的熱能,使得自己能在適宜的低溫環(huán)境下繁盛。但是黑菊的一個突變種——白菊,具有反射熱能的能力,隨著星球溫度進一步上升,白菊繁盛。一種簡單的花卉植物也能在星球范圍里調(diào)節(jié)和穩(wěn)定環(huán)境。更重要的是,這種穩(wěn)態(tài)的出現(xiàn)嚴(yán)格遵循達爾文的進化過程。
把這個模型擴展到地球上所有的動植物,這就是我的蓋婭系統(tǒng)。
2.拉伍洛克的人類世理論
關(guān)于人類世,觀點很多,拉伍洛克的主要觀點包括:
1)人類世開始于1712年紐卡門發(fā)明蒸汽機,目前已經(jīng)接近尾聲。
2)人類世是人類獲得大規(guī)模改造世界能力的時代,人類的活動尤其是新科技應(yīng)用活動產(chǎn)生全球性影響。
3)從能量角度看,人類世是大規(guī)模利用太陽能的階段,人類可以利用過去地球所存儲的太陽能,比如化石燃料。之前的階段,人類只能被生物光合作用轉(zhuǎn)化為化學(xué)能的太陽能。之后的階段(新星世),人類將能量轉(zhuǎn)化為信息。
4)人類世是全球化和加速化的時代。其中最重要的加速是有意識的技術(shù)加速:
?
飛行姿態(tài)優(yōu)美的海鳥用了超過5000萬年才從他們的祖先——蜥蜴進化出來。相比之下,從繩袋雙翼飛機發(fā)展到當(dāng)今的客機只用了100年。這種充滿智慧的有意選擇比自然選擇快了50萬倍。拋開自然選擇,我們已經(jīng)成為魔法師的得意門生。
?
5)人類世戰(zhàn)爭慘烈,是最大程度彰顯人類力量的人類活動形式,但人類世戰(zhàn)爭慘烈,最大程度彰顯人類力量,核武器出現(xiàn)之后,國與國之間大規(guī)模戰(zhàn)爭減少。
6)人類世是智人主要聚集在城市中的時代,人類將自己與自然世界分隔,并且人口暴增。
7)人類世的人類活動導(dǎo)致地球升溫,過熱是對蓋婭和地球生命最大的威脅。
?
因此,地球氣溫47攝氏度是包括地球在內(nèi)的海洋星球生命的極限。一旦超過這個溫度,即使是硅基智能也將無法生存。
?
8)人類世尤其是晚期人類積累大量信息,為新星世出現(xiàn)創(chuàng)造了條件。
3.新星世理論
?? 以信息化或者說知性宇宙、宇宙自我意識作為宇宙演化的目標(biāo),是拉伍洛克提出新星世理論的前提假定:
?
如果宇宙的運行像我的猜想一樣遵從人則宇宙原則,那么宇宙的首要目標(biāo)是將所有的物質(zhì)和輻射轉(zhuǎn)化為信息。我們在火的時代里已經(jīng)邁出了第一步?,F(xiàn)在,我們正處于人類世讓位于新星世的關(guān)鍵時刻,知性宇宙的命運將取決于人類如何響應(yīng)。
……信息可能確實是構(gòu)成宇宙的基礎(chǔ)。
???
在此假定之下,超級AI出現(xiàn)的意義就有了地質(zhì)學(xué)級別的意義,即催生新星世:
1)新星世很快到來,始于“使用計算機進行自我設(shè)計和自我制造”,即AI可以自我設(shè)計和制造,類似人類自我復(fù)制和進化,此時超級AI成為電子生命、無機生命、硅基生命,電子生命主宰的新星世開始。
2)電子生命即拉伍洛克的賽博格(不同于一般的賽博格的用法)由人類尤其是人類發(fā)明的計算機、AI所催生,人類是賽博格的父母和助產(chǎn)士。但是,之智能遠超人類,很快完全擺脫人類的控制,組成蓋婭中獨立的“超智能界”。
??? 3)電子生命會主動地選擇自身的演化方向,糾正演化中的誤差,因而得以迅速進化,無需等待類似人類的緩慢自然選擇過程。這是電子生命智能遠超有機生命的關(guān)鍵。
?
生命進化從達爾文的自然選擇變成人類或賽博格由目的驅(qū)動的選擇。我們采用人工或生物技術(shù)糾正生命繁殖過程中出現(xiàn)的有害突變,這比自然選擇的緩慢過程要快得多。
???
4)電子生命與人類之間無法相互理解,它的通信形式是心靈感應(yīng)。但是,電子生命誕生之初,為了維護共同的適宜生存環(huán)境即蓋婭,他們會與人類合作共處,幫助修復(fù)人類世所造成的地球生態(tài)破壞。此時,新星世主要居民是人類與賽博格。
5)隨著新星世繼續(xù)發(fā)展,電子生命開始主導(dǎo)地球,人類淪為寄人籬下的境地。之后,電子生命的演化不可預(yù)料,可能會改造地球環(huán)境導(dǎo)致地球死去,人類滅絕,也可能電子生命離開地球,前往更適宜的居住星球。
6)電子生命繼續(xù)進化,成為更高級的智能生命,所以“新星世可能只會持續(xù)100年”,并且新的智能生命糞掃整個宇宙,使得宇宙“有意識了”:
?
賽博格會產(chǎn)生賽博格,它們不會繼續(xù)充當(dāng)為人類效勞的低等生物,它們將繼續(xù)發(fā)展,成為比有機生命更為高級的進化產(chǎn)物,成為一個強大的新物種。它們將統(tǒng)治和壓倒現(xiàn)存的有機蓋婭,很快成為人類的主人。
?
?? 總之,新星世是拉伍洛克的未來觀。而對于拉伍洛克的未來觀,我并不贊同。
?? 首先,AI可以主動演化,智人也可以主動演化。我主張智人必須也可以進行自我設(shè)計和改造,即我所謂的身心設(shè)計。當(dāng)然,這種設(shè)計可能失敗,可AI主動演化就一定會成功嗎?
?? 其次,有人會說AI迭代比身心設(shè)計要快得多,但我認(rèn)為,身心設(shè)計每一步雖然耗時長的多,但每一步可能跨度大的多。身心設(shè)計不是純計算的,而是有人類直覺——AI所缺少的東西——參與,可以起到意想不到的效果。
?? 再次,在很長的時期中,AI迭代會處于人類的控制之下,而且人類可以利用AI演化的成果,采取賽博格即有機智能與無機智能相融合的策略。
?? 第四,關(guān)于人類危崖尤其是生態(tài)危機,拉伍洛克認(rèn)為智人沒有能力獨自解決,必須依賴電子生命的幫助,才能安然過度危崖。對此,我不是如此悲觀的,起碼目前智人仍然有機會。
?? 最后,AI自我設(shè)計是一個假設(shè),現(xiàn)在并沒有發(fā)生,而且這種設(shè)計最終是不是只是某種高級的復(fù)制,即局限于一個框架中無法提升到新物種的程度。而我相信,借助技術(shù)工具,智人完全可以將自身改造成新的超級物種。
?? 總之,我不認(rèn)為,在與AI的進化競爭中,智人一定會落敗。當(dāng)然,這根本上只是個信心問題,因為對于未來,以智人今天的智慧其實基本是猜測。更重要的是,在技治社會中,預(yù)測與控制是同一過程。也就是說,在落敗發(fā)生前,人類能不能努力做些什么?也許,百歲拉伍洛克對此懷疑的。我也擔(dān)心智人會在危崖之前,渾渾噩噩地錯失機會,最終很快滅絕。