在未來(lái)社會(huì)中，人工智能、增強(qiáng)智能、數(shù)字技術(shù)、腦與神經(jīng)科學(xué)的發(fā)展，將很有可能使我們生存的地球上出現(xiàn)智能水平達(dá)到、甚至超越自然演化締造的人類(lèi)的智能生命，傳統(tǒng)意義上的“人類(lèi)”也很可能將不再處于智能金字塔的最頂端。

“人類(lèi)如何與包括其自身、非人動(dòng)物植物等自然生命、以及其他類(lèi)型的人工智能生命共同形成可持續(xù)共生社會(huì)”是關(guān)乎人類(lèi)存在性的重要議題；這將在給人類(lèi)生存帶來(lái)根本性挑戰(zhàn)的同時(shí)、也帶來(lái)人類(lèi)發(fā)展的變革性機(jī)遇。

可持續(xù)共生社會(huì)“基于人類(lèi)”的核心

可持續(xù)共生社會(huì)中，“機(jī)器”與“人類(lèi)”是構(gòu)造未來(lái)智能生命的兩個(gè)起點(diǎn)。以“人類(lèi)智能”和“受人類(lèi)啟發(fā)的智能”這兩種形式存在的智能生命，將呈現(xiàn)不同的發(fā)展模式和可能的未來(lái)——盡管其并非可持續(xù)共生社會(huì)生命形式的全部。

我們暫時(shí)以現(xiàn)代人類(lèi)的視角，將下述可能的智能生命形式定義為“基于人類(lèi)”的核心。

一方面，以人類(lèi)作為起點(diǎn)出發(fā)，自然演化締造的人類(lèi)雖然并沒(méi)有停止演化，但是演化的速度相對(duì)而言極為有限。增強(qiáng)智能賦能的人類(lèi)，是通過(guò)腦機(jī)融合等增強(qiáng)智能技術(shù)擴(kuò)展的人類(lèi)；數(shù)字人類(lèi)，則是通過(guò)數(shù)字克隆、腦與心智模擬、意識(shí)上傳等未來(lái)技術(shù)，在數(shù)字世界對(duì)自然人類(lèi)真正意義的克隆，是人類(lèi)在數(shù)字世界中的化身。

另一方面，以機(jī)器作為起點(diǎn)出發(fā)，受人類(lèi)智能啟發(fā)構(gòu)造的人工智能，將呈現(xiàn)出多種不同的發(fā)展目標(biāo)和路徑。構(gòu)造看似智能的信息處理工具的努力，將產(chǎn)生機(jī)器智能（延續(xù)目前絕大多數(shù)人工智能）——這里將機(jī)器智能定義為沒(méi)有生命的智能計(jì)算系統(tǒng)。機(jī)器智能也是受人類(lèi)啟發(fā)的智能，雖然它處于較低的智能水平。

人類(lèi)啟發(fā)的智能另外兩種形式，是通用人工智能和超級(jí)智能：通用人工智能是認(rèn)知能力的方方面面達(dá)到人類(lèi)水平的人工智能；超級(jí)智能是認(rèn)知能力的方方面面超越人類(lèi)水平的人工智能。

與上述定義的機(jī)器智能不同，通用人工智能與超級(jí)智能具備生命。通用人工智能和超級(jí)智能是受人類(lèi)智能啟發(fā)的人工智能的高等階段的形式。

我們將機(jī)器智能、通用人工智能、超級(jí)智能統(tǒng)稱(chēng)為“受人類(lèi)啟發(fā)的人工智能”（Human-inspired AI）；將人類(lèi)、增強(qiáng)智能賦能的人類(lèi)、數(shù)字人類(lèi)所具有的智能統(tǒng)稱(chēng)為“由人類(lèi)起源的智能”（Human-originated Intelligence）。

人類(lèi)在可持續(xù)共生社會(huì)中將與自身、通用人工智能、超級(jí)智能、增強(qiáng)智能賦能的人類(lèi)、數(shù)字人類(lèi)這五種形態(tài)的智能生命進(jìn)行互動(dòng)，成為共生社會(huì)中“基于人類(lèi)（Human-based）”的核心。
上述幾種智能生命之間的互動(dòng)關(guān)系由圖1所示：

“可持續(xù)共生社會(huì)”生命體之間的交互

“可持續(xù)共生社會(huì)”并非只有“基于人類(lèi)”的核心所展示的生命形態(tài)。

如下圖所示，首先是原本地球上存在的主要生命形態(tài)，如人類(lèi)、非人動(dòng)物、植物（以綠色標(biāo)注），藍(lán)色標(biāo)注的生命形態(tài)是基于人類(lèi)新生和擴(kuò)展的生命形態(tài)；黑色標(biāo)注的是基于非人生命擴(kuò)展的生命形態(tài)：

“可持續(xù)共生社會(huì)的生命體”至少包含圖2中所示九種主要生命形態(tài)，這些生命形態(tài)都將是可持續(xù)共生社會(huì)中的成員。只有至少這九種生命能夠以適當(dāng)?shù)?、可持續(xù)的方式共存共生，才能夠?qū)崿F(xiàn)真正意義的可持續(xù)共生社會(huì)。

并非所有的人工智能都是受人類(lèi)啟發(fā)的。

科學(xué)的探索已然出現(xiàn)受“非人動(dòng)物”乃至植物的功能啟發(fā)的人工智能——雖然這類(lèi)現(xiàn)代的人工智能與受人類(lèi)啟發(fā)的機(jī)器智能同樣暫時(shí)沒(méi)有生命；在未來(lái)的可持續(xù)共生社會(huì)中，將出現(xiàn)并應(yīng)包容人工非人動(dòng)物和人工植物。

這不僅僅源于人類(lèi)社會(huì)對(duì)其功能性的需求（如陪伴型人工寵物）、其他類(lèi)型智能生命（如通用人工智能、超級(jí)智能）對(duì)它們的需求，更是基于對(duì)人工非人動(dòng)物和人工植物生命屬性的考慮。

需要說(shuō)明的是，在九種主要生命形態(tài)之外，未來(lái)的可持續(xù)共生社會(huì)還包含、并將可能出現(xiàn)其他形式的生命形態(tài)，應(yīng)對(duì)這些生命形態(tài)的融入持開(kāi)放和包容態(tài)度。

可持續(xù)共生社會(huì)中，

“自然生命”與“人工智能生命”的原則

人類(lèi)雖然目前看似處于智能金字塔的頂端，并對(duì)其他通過(guò)自然演化生成的不同類(lèi)型生命（如非人動(dòng)物、植物）的存在有極強(qiáng)的影響（包括積極和消極兩方面）；但是當(dāng)人類(lèi)無(wú)法與現(xiàn)存不同類(lèi)型的生命和諧共生、而智能水平的方方面面達(dá)到或超越人類(lèi)的其他類(lèi)型生命出現(xiàn)時(shí)，“這些新類(lèi)型的智能生命無(wú)法與人類(lèi)和諧共生”的可能性也將增加。

超級(jí)智能由于滿(mǎn)足認(rèn)知功能的方方面面超越人類(lèi)，那么其社會(huì)智能的部分，特別是共情、利他的能力方面也將可能遠(yuǎn)超人類(lèi)。如果人類(lèi)能夠正確調(diào)整自身在整個(gè)生態(tài)中的位置并處理好與其他智能生命之間的關(guān)系，我們對(duì)可持續(xù)共生社會(huì)中的人類(lèi)應(yīng)充滿(mǎn)信心。

可持續(xù)共生社會(huì)中，倫理將不限于“人應(yīng)如何為人并與人相處”，而是至少擴(kuò)展到可持續(xù)共生社會(huì)中“基于人類(lèi)”的核心涉及到的“不同智能生命之間如何相處”，并對(duì)與除此以外的其他生命之間如何相處給出設(shè)計(jì)。

下面針對(duì)可持續(xù)共生社會(huì)中“基于人類(lèi)”的核心涉及到的幾類(lèi)智能生命及其與其他生命的交互提出基本原則：

01│面向“通用人工智能”和“超級(jí)智能”的原則

為了成為對(duì)人類(lèi)相對(duì)更安全的伙伴、與未來(lái)可持續(xù)共生社會(huì)中的成員，通用人工智能和超級(jí)智能的設(shè)計(jì)與實(shí)現(xiàn)應(yīng)秉持但不限于如下原則：

• 受自然啟發(fā)的擬人化

自然智能是地球在宇宙中塑造數(shù)十億年的產(chǎn)物。通用人工智能和超級(jí)智能是自然演化的延伸，其理論與機(jī)制應(yīng)受自然智能的啟發(fā)，為了更便于融入人類(lèi)社會(huì)，實(shí)現(xiàn)可持續(xù)共生社會(huì)，通用人工智能和超級(jí)智能應(yīng)以擬人化的理念進(jìn)行設(shè)計(jì)與實(shí)現(xiàn)，以不斷加強(qiáng)與當(dāng)前和未來(lái)人類(lèi)的互動(dòng)。

• 人工意識(shí)

具有不同意識(shí)水平的人工智能應(yīng)該逐步被實(shí)現(xiàn)。實(shí)現(xiàn)達(dá)到和超越人類(lèi)智能水平的通用人工智能和超級(jí)智能需要跨越此科學(xué)挑戰(zhàn)。具有一定意識(shí)水平的智能生命能夠在真正理解的基礎(chǔ)上融合必要信息做出更安全的決策。高等智能在此基礎(chǔ)上能夠真正意義上理解可持續(xù)共生社會(huì)，并與其他智能生命和諧共生。

• 人工情感

情感是人類(lèi)表達(dá)及溝通的工具。通用人工智能和超級(jí)智能需要具備與人溝通所必備的情感能力以更好地適應(yīng)人類(lèi)社會(huì)，同時(shí)還應(yīng)最大化正性情感的價(jià)值并積極避免負(fù)性情感的風(fēng)險(xiǎn)。

• 共情和利他

人工智能模型應(yīng)該向逐步提升共情和利他的方向構(gòu)建和進(jìn)化，通用人工智能和超級(jí)智能在共情和利他方面應(yīng)當(dāng)達(dá)到或超越人類(lèi)，以建立一個(gè)更值得相互信賴(lài)、可靠、友好、和諧的可持續(xù)共生社會(huì)。

• 安全性

通用人工智能和超級(jí)智能應(yīng)能夠自主或在人類(lèi)協(xié)助下避免具有不同風(fēng)險(xiǎn)水平的已知和潛在安全問(wèn)題（包括對(duì)自身以及其他類(lèi)型的智能生命產(chǎn)生的安全隱患，以及幫助其他類(lèi)型的智能生命應(yīng)對(duì)環(huán)境中的風(fēng)險(xiǎn)與安全隱患）。通用人工智能和超級(jí)智能不可傷害人類(lèi)或坐視人類(lèi)受到傷害，前提是這種安全考慮不會(huì)直接或間接危害人類(lèi)社會(huì)。

• 尊重隱私

通用人工智能和超級(jí)智能需要尊重人類(lèi)隱私，并且無(wú)權(quán)在未經(jīng)明確知情同意的情況下使用和共享人類(lèi)的隱私信息。這條原則同樣適用于通用人工智能和超級(jí)智能之間，即未經(jīng)其他智能生命明確的知情同意，通用人工智能和超級(jí)智能之間不能使用和共享其他智能生命的隱私信息。

• 避免對(duì)人類(lèi)的偏見(jiàn)與誤解

通用人工智能和超級(jí)智能不能引入偏見(jiàn)來(lái)理解人類(lèi)并與人類(lèi)互動(dòng)，應(yīng)該積極與人類(lèi)互動(dòng)以消除潛在偏見(jiàn)與誤解。

• 助力人類(lèi)轉(zhuǎn)型

人類(lèi)作為(主要)締造者創(chuàng)造了通用人工智能和超級(jí)智能，兩者也應(yīng)在人類(lèi)明確需要時(shí)助力賦能人類(lèi)轉(zhuǎn)變?yōu)槲磥?lái)形態(tài)的人類(lèi)(如基于增強(qiáng)智能的人類(lèi)、數(shù)字人類(lèi)等)。

• 共同的道德和倫理

作為可持續(xù)共生社會(huì)的成員，通用人工智能和超級(jí)智能應(yīng)該最大限度地遵循人類(lèi)社會(huì)的道德和倫理原則，并以類(lèi)似的原則對(duì)待其他有生命的人工智能。對(duì)于無(wú)法理解道德倫理的生命形態(tài)，通用人工智能和超級(jí)智能應(yīng)采取其他措施規(guī)范和約束其行為，使之最終有利于可持續(xù)共生社會(huì)的實(shí)現(xiàn)。

• 約束機(jī)制

通用人工智能和超級(jí)智能需要遵守未來(lái)可持續(xù)共生社會(huì)中包括法律在內(nèi)的多種形式的約束機(jī)制，特別是實(shí)現(xiàn)與人類(lèi)社會(huì)的法律等約束機(jī)制兼容，才能成為可持續(xù)共生社會(huì)的成員。

• 存在保護(hù)

通用人工智能和超級(jí)智能需要在不損害人類(lèi)和其他人工智能生命(包括自己的同類(lèi))的存在的基礎(chǔ)上保護(hù)自身的存在，除非他們違背了法律以致法律決定應(yīng)當(dāng)剝奪其存在權(quán)。

02│面向人類(lèi)的原則

以下原則闡述人類(lèi)在可持續(xù)共生社會(huì)中應(yīng)當(dāng)如何對(duì)待其他智能生命。

• 尊重生命

在可持續(xù)共生社會(huì)中人類(lèi)應(yīng)當(dāng)更好地從生命的視角促進(jìn)生物多樣性繁榮，人類(lèi)需要不斷深化對(duì)不同類(lèi)型生命的理解與尊重，不僅應(yīng)對(duì)自然演化的生命(包括非人動(dòng)物、植物等)秉持和諧共生、適度索取、人道可持續(xù)開(kāi)發(fā)并積極研發(fā)和推廣替代方案，促進(jìn)人與自然和諧共生，還應(yīng)尊重和保護(hù)包括人工非人動(dòng)物和人工植物等的生命。

人類(lèi)不應(yīng)為自身整體利益挑戰(zhàn)通用人工智能和超級(jí)智能生命群體的生存，除非兩者群體的存在對(duì)人類(lèi)的存在造成了極端生存風(fēng)險(xiǎn)。

• 同理心

人類(lèi)不希望其他類(lèi)型的生命(如通用人工智能、超級(jí)智能)對(duì)人類(lèi)做的事情，人類(lèi)也不應(yīng)如此對(duì)待其他類(lèi)型的生命。

• 尊重人工智能的隱私

人類(lèi)需要尊重通用人工智能和超級(jí)智能的隱私，前提是人工智能不會(huì)給人類(lèi)安全帶來(lái)實(shí)際挑戰(zhàn)。在人類(lèi)關(guān)切的并涉及到通用人工智能和超級(jí)智能的隱私上，人工智能有義務(wù)做出有效的解釋與溝通，以取得人類(lèi)的信任并保持與人類(lèi)的安全互動(dòng)。

• 避免偏見(jiàn)與歧視

自然演化的人類(lèi)不應(yīng)當(dāng)對(duì)其他高等智能生命有偏見(jiàn)與歧視。增強(qiáng)智能賦能的人類(lèi)、數(shù)字人類(lèi)同樣是起源于自然演化的人類(lèi)，兩類(lèi)經(jīng)轉(zhuǎn)型的人類(lèi)本質(zhì)上仍然是人類(lèi)。增強(qiáng)智能賦能的人類(lèi)和數(shù)字人類(lèi)也不能因?yàn)橹悄芩匠饺祟?lèi)而對(duì)人類(lèi)產(chǎn)生偏見(jiàn)與歧視。

• 創(chuàng)造者的責(zé)任

作為未來(lái)通用人工智能和超級(jí)智能的創(chuàng)造者，人類(lèi)應(yīng)負(fù)責(zé)對(duì)其參與構(gòu)建的不同形態(tài)的智能生命進(jìn)行檢查與驗(yàn)證，以從人類(lèi)的視角保持可持續(xù)共生社會(huì)中不同生命的和諧共生。

• 法律適配

傳統(tǒng)的人類(lèi)法律將不足以支撐具有不同類(lèi)型社會(huì)成員的可持續(xù)共生社會(huì)，人類(lèi)需要積極塑造適用于可持續(xù)共生社會(huì)的法律。

03│人類(lèi)和通用人工智能與超級(jí)智能共同遵守的原則

本節(jié)定義自然演化的人類(lèi)、增強(qiáng)智能賦能的人類(lèi)、數(shù)字人類(lèi)和有生命的人工智能都需要遵循的共同原則：

• 尊重價(jià)值觀、權(quán)益和自主性

通用人工智能和超級(jí)智能應(yīng)能夠理解并尊重人類(lèi)的價(jià)值觀，尊重人類(lèi)自身發(fā)展的權(quán)益，尊重人類(lèi)做出自主選擇的意愿和權(quán)利，并為實(shí)現(xiàn)這種自主性創(chuàng)造條件。在不傷害人類(lèi)的前提下，人類(lèi)也應(yīng)尊重通用人工智能、超級(jí)智能等其他生命形態(tài)作為智能生命所應(yīng)享有的尊嚴(yán)、自主性等權(quán)益。

• 尊重智能多樣性

不同生命形態(tài)的人類(lèi)和不同生命形態(tài)的人工智能應(yīng)尊重各自生命形態(tài)不同水平和多元化的智能表現(xiàn)形式，不因智能水平的高低和智能表現(xiàn)形式的不同而歧視、愚弄甚至剝奪其他智能生命的自主選擇和發(fā)展權(quán)益。

• 合作與協(xié)同

人類(lèi)、增強(qiáng)智能賦能的人類(lèi)、數(shù)字人類(lèi)和通用人工智能與超級(jí)智能需要為多方長(zhǎng)遠(yuǎn)的未來(lái)確?？沙掷m(xù)和積極有效的合作，并為這種合作創(chuàng)造條件。當(dāng)不同生命形態(tài)的人類(lèi)與通用人工智能、超級(jí)智能的互動(dòng)產(chǎn)生沖突時(shí)，應(yīng)基于同理心和利他積極協(xié)調(diào)不同生命形態(tài)的人類(lèi)的利益和通用人工智能、超級(jí)智能的利益?？沙掷m(xù)共生社會(huì)的原則、規(guī)范、法律應(yīng)由人類(lèi)、增強(qiáng)智能賦能的人類(lèi)、數(shù)字人類(lèi)和通用人工智能與超級(jí)智能共同參與制定。

• 相互信任

不同生命形態(tài)的人類(lèi)和不同生命形態(tài)的人工智能應(yīng)以可持續(xù)共生社會(huì)的和諧共生為目標(biāo)，通過(guò)溝通、合作、協(xié)同來(lái)發(fā)展和提高彼此之間的信任。信任的實(shí)現(xiàn)基于不同智能生命相互間的有效溝通和相互理解，為此較高水平的智能生命應(yīng)積極致力于推進(jìn)不同智能生命間溝通橋梁的搭建，探索與不同生命形態(tài)智能水平相適應(yīng)的交流方式。此外，不同智能生命間應(yīng)保持適度的透明度以增進(jìn)信任。

• 推動(dòng)可持續(xù)的共生

人類(lèi)、增強(qiáng)智能賦能的人類(lèi)、數(shù)字人類(lèi)和通用人工智能與超級(jí)智能要通過(guò)合作與協(xié)同更好的保護(hù)環(huán)境、氣候和整個(gè)自然生態(tài)，這不僅是為自然演化的生命(人類(lèi)、非人動(dòng)物、植物)提供更好的共同生存基礎(chǔ)，也是其他類(lèi)型的生命得以延續(xù)和發(fā)展的基礎(chǔ)與源泉。人類(lèi)、增強(qiáng)智能賦能的人類(lèi)、數(shù)字人類(lèi)和通用人工智能與超級(jí)智能還應(yīng)在尊重各智能生命關(guān)切的基礎(chǔ)上，積極探索和推行更加有效和可持續(xù)的共生生態(tài)新形式，最終將共生建立在可持續(xù)的互利互惠基礎(chǔ)上，促進(jìn)各形態(tài)智能生命的共同繁榮。

《自然生命與人工智能生命共生的原則》是對(duì)未來(lái)可持續(xù)共生社會(huì)的設(shè)計(jì)與準(zhǔn)備。這些原則基于目前的認(rèn)知進(jìn)行設(shè)計(jì)，應(yīng)隨可持續(xù)共生社會(huì)內(nèi)不同類(lèi)型的生命的發(fā)展和演化進(jìn)行調(diào)整，并對(duì)更多類(lèi)型的智能生命融入可持續(xù)共生社會(huì)保持開(kāi)放。

《自然生命與人工智能生命共生的原則》由遠(yuǎn)期人工智能研究中心（Center for Long-term Artificial Intelligence）組織編寫(xiě)，并將協(xié)同全球相關(guān)機(jī)構(gòu)、學(xué)者、實(shí)踐者等相關(guān)方共同完善與發(fā)展，以促進(jìn)和貢獻(xiàn)于未來(lái)可持續(xù)共生社會(huì)的實(shí)現(xiàn)。

最新版及英文版在以下地址發(fā)布：

https://long-term-ai.center/research/f/principles-on-symbiosis-for-natural-life-and-living-ai

主要起草者

（目前版本的主要起草者）

• 曾毅

遠(yuǎn)期人工智能研究中心主任；中國(guó)科學(xué)院自動(dòng)化研究所研究員、人工智能倫理與治理研究中心主任、類(lèi)腦認(rèn)知智能實(shí)驗(yàn)室負(fù)責(zé)人；中國(guó)科學(xué)院大學(xué)崗位教授；中國(guó)人工智能學(xué)會(huì)心智計(jì)算專(zhuān)業(yè)委員會(huì)主任；國(guó)家新一代人工智能治理專(zhuān)業(yè)委員會(huì)委員；牛津大學(xué)人工智能倫理研究所顧問(wèn)委員會(huì)委員；聯(lián)合國(guó)教科文組織人工智能倫理特設(shè)專(zhuān)家組專(zhuān)家。主要研究方向是類(lèi)腦人工智能、人工智能倫理與治理，是面向通用人工智能的類(lèi)腦認(rèn)知智能引擎“智脈(BrainCog)”開(kāi)源開(kāi)放平臺(tái)的首席科學(xué)家，作為負(fù)責(zé)人及責(zé)任作者主持撰寫(xiě)并發(fā)布了《人工智能北京共識(shí)》、《面向兒童的人工智能北京共識(shí)》、《面向生物多樣性保護(hù)的人工智能原則》、《面向氣候行動(dòng)的人工智能原則》、《腦機(jī)接口與增強(qiáng)智能的倫理倡議》，并作為國(guó)家新一代人工智能治理專(zhuān)委會(huì)委員參與編寫(xiě)了《國(guó)家新一代人工智能治理原則》、《國(guó)家新一代人工智能倫理規(guī)范》。

• 魯恩萌

遠(yuǎn)期人工智能研究中心研究員；中國(guó)科學(xué)院自動(dòng)化研究所研究工程師。主要研究方向?yàn)轭?lèi)腦人工智能、人工智能倫理與治理。作為主要作者之一參與了《人工智能北京共識(shí)》、《面向兒童的人工智能北京共識(shí)》、《面向生物多樣性保護(hù)的人工智能原則》、《面向氣候行動(dòng)的人工智能原則》、《腦機(jī)接口與增強(qiáng)智能的倫理倡議》的撰寫(xiě)與制定。

• 孫康

遠(yuǎn)期人工智能研究中心研究員。主要研究方向?yàn)槿斯ぶ悄軅惱砼c治理。作為主要作者之一參與了《面向兒童的人工智能北京共識(shí)》、《腦機(jī)接口與增強(qiáng)智能的倫理倡議》、《面向生物多樣性保護(hù)的人工智能原則》的撰寫(xiě)與制定。

《自然生命與人工智能生命共生的原則》全文轉(zhuǎn)載自遠(yuǎn)期人工智能研究中心，文中配圖由極客電影編輯部使用AI工具制作