題目：智能革命引發(fā)的倫理挑戰(zhàn)與風險

講者：上海社會科學(xué)院哲學(xué)研究所成素梅

前三次的技術(shù)革命只是延伸的程度，是深化的工業(yè)革命，而智能革命是在深化工業(yè)革命的基礎(chǔ)上帶來的一種顛覆與反叛，由此建立在原有社會基礎(chǔ)上的倫理或?qū)⑹?，而新提出來的問題在原有的倫理框架上無法得到解答，由此造成一種不可預(yù)估的風險。

重建概念框架，明確我們的挑戰(zhàn)何在，如此才能更好地適應(yīng)時代的發(fā)展。

背景之一：

智能革命讓科學(xué)技術(shù)從社會的邊緣居于中心，成為社會發(fā)展的重要驅(qū)動力，導(dǎo)致人類文明的新轉(zhuǎn)型：從工業(yè)文明轉(zhuǎn)向智能文明。

智能革命與工業(yè)革命的最大的不同在于，智能機器的出現(xiàn)，這會引發(fā)許多倫理挑戰(zhàn)和風險。智能機器是介于人與機器之間的一種存在，打破了人與機器的二分法。

背景之二：

科學(xué)、技術(shù)與倫理是時代的產(chǎn)物，隨著時代的發(fā)展而變化。

倫理：調(diào)節(jié)人與人之間的關(guān)系，到調(diào)節(jié)人與自然之間的關(guān)系，現(xiàn)在發(fā)展到調(diào)節(jié)人與自我之間的關(guān)系。

智能革命引發(fā)的倫理挑戰(zhàn)在傳統(tǒng)倫理框架內(nèi)無法解決，我們到重塑倫理框架的時候了→解決方案：要解決面向未來的倫理學(xué)，而未來倫理學(xué)將不再是理論倫理學(xué)與應(yīng)用倫理學(xué)的區(qū)分。

問題在于：如何重塑當代倫理的概念框架？

這并非只是一個問題，更是一種風險。我們需要建立關(guān)于未來的倫理學(xué)，需要從未來的視域制定科技戰(zhàn)略，從一體化視域建立適應(yīng)智能文明的倫理框架。

西方哲學(xué)的很多形而上的架設(shè)都不在適用于智能革命所帶來的的變化。

演講目錄：

數(shù)字化轉(zhuǎn)型的倫理挑戰(zhàn)與風險

智能化發(fā)展的倫理挑戰(zhàn)與風險

技術(shù)會聚的倫理挑戰(zhàn)與風險

結(jié)論

一、數(shù)字化轉(zhuǎn)型的倫理挑戰(zhàn)與風險

數(shù)字化轉(zhuǎn)型的最大特征：

人類文明進入信息-數(shù)據(jù)流變時代

數(shù)據(jù)-信息流替代工業(yè)化時代的物質(zhì)-能量流成為指數(shù)式增長的新資源

顛覆建立在所有權(quán)基礎(chǔ)上的經(jīng)濟倫理假設(shè)

物質(zhì)-能量流的特點

地域性、消耗性、排他性、不可再生性，不可持續(xù)性……

形成了建立在實體自我（不是關(guān)系自我）和所有權(quán)意識基礎(chǔ)上的思維方式和經(jīng)濟倫理框架

最大特點：強調(diào)占有或擁有，私有制

信息-數(shù)據(jù)流的特點

超時空性、共享性、相互性、永久性、跨域性以及迭代利用，可持續(xù)……

帶來無限的可能性，同樣的信息-數(shù)據(jù)，不同的人利用會迭代出不同的價值，在使用中升值，體現(xiàn)出人的創(chuàng)造力與想象力的重要性

從經(jīng)濟活動來看，共享性，使信息-數(shù)據(jù)為共有財產(chǎn)，共同享有數(shù)據(jù)與信息的行為方式和行動準則，最終會顛覆工業(yè)時代盛行的排他性和占有的價值理念，淡化競爭意識，確立共享意識，即從追求占有和排他性轉(zhuǎn)向追求相互性和共享性

共享的思維方式起源于古代：人類在食物采集時期為生存而斗爭時，自然而然地形成了以部落或家庭為單元的協(xié)作式團體生活方式，已經(jīng)蘊含或體現(xiàn)了一種樸素的共享性思維。

農(nóng)業(yè)文明和工業(yè)文明：共享意識逐漸地被所有權(quán)意識所取代。

古時代的共享意識：為了抗擊自然災(zāi)難和安全地生存，形成的互助式生活方式，那么，當代共享數(shù)據(jù)、信息、知識和技能的經(jīng)濟合作模式，則是對“公司和個人之間關(guān)系的重要變革”，形成新的經(jīng)濟倫理。因為如果人們共同擁有資源的成本相當于一個人擁有資源的成本，那么，資源的獨占反而變成了一件不再合乎道義的事情。如此，則需要重塑建立在關(guān)系自我和共享經(jīng)濟條件下的經(jīng)濟倫理框架。

部分科技公司的營利模式：

不再是取決于用戶的直接消費，而是取決于用戶在免費使用或瀏覽過程中自然而然地留下的數(shù)據(jù)-信息，或者說，將用戶的數(shù)字行為蹤跡變成可供利用的具有商業(yè)價值的信息資源，來變相地獲取利潤。

比如，通過在網(wǎng)頁上加注相關(guān)的廣告提示等，來“出售”用戶的注意力。

重視視覺營銷藝術(shù)成為商業(yè)活動的最基本邏輯。

倫理挑戰(zhàn)與風險：隱私權(quán)的喪失，或個人信息所有權(quán)的喪失。出現(xiàn)身份盜用、網(wǎng)絡(luò)欺詐、病毒攻擊、數(shù)字技術(shù)濫用，以及違背程序正義、侵犯個人權(quán)利等不同等級的倫理風險乃至違法風險。特別是當個人的行為選擇打上集體行為的烙印時，我們難以在“被給予”的行為和“被構(gòu)造的”行為之間作出明確的區(qū)分。從而導(dǎo)致求真意識淡化，用情緒替代理性反思。比如，上海疫情靜默期間辟謠成為最重要的一個公共事件。盡管我們承認，每個人的在線行為都具有自主性、能動性和自由選擇權(quán)，但是，如何闡明和確立在數(shù)字領(lǐng)域內(nèi)的一系列規(guī)范與價值，卻并非只是個人的問題，而是一個結(jié)構(gòu)性的問題。比如，美國的斯諾登事件，當下各種數(shù)字碼的濫用或誤……

所以數(shù)字化轉(zhuǎn)型首先會改變經(jīng)濟領(lǐng)域內(nèi)的游戲規(guī)則，成為變革社會和更新觀念的巨型加速器。其次會深刻地影響人的思想本質(zhì)（淺思維模式）。使曾經(jīng)有效的區(qū)分變得模糊起來：實在世界與虛擬世界邊界的模糊、人類與非人類邊界的模糊，私人空間與公共空間邊界的模糊，乃至理論倫理學(xué)與應(yīng)用倫理學(xué)邊界的模糊，甚至于人類與非人類的模糊（機械人？智能生物？）……

也正是在這種情況下，如何為借助當代科技的深入發(fā)展來促進社會的數(shù)字化轉(zhuǎn)型提供行動綱領(lǐng)，如何重建更具有可操作性的問責機制等，成為當代倫理學(xué)研究的時代命題。這一點在智能化發(fā)展過程中顯得尤其重要。

二、數(shù)字化轉(zhuǎn)型的倫理挑戰(zhàn)與風險

智能化發(fā)展的結(jié)果

智能機器人的普遍應(yīng)用

雙重自動化：物質(zhì)生產(chǎn)與知識生產(chǎn)的自動化與智能化：

勞動解放：從解放人的雙手拓展到部分地解放人的大腦，從增強人的肢體和感知能力拓展到提升人的研究能力……

勞動解放的一大基礎(chǔ)在于人機關(guān)系的改變

工具性關(guān)系：小機器時代；

排斥關(guān)系：流水線作業(yè)，自動化生產(chǎn)；

合作關(guān)系：當代科技公司

融合關(guān)系：……

自適應(yīng)商業(yè)模式的興起：

人的主導(dǎo)作用貫穿于智能機器的功能設(shè)計、任務(wù)訓(xùn)練、與環(huán)境的實時互動等各個環(huán)節(jié)，從而彰顯人的創(chuàng)造力與想象力，使人更像人，使機器更像機器。

人類智能與機器智能的相互疊加與彼此強化，體現(xiàn)出以人機團隊聯(lián)合作戰(zhàn)方式來完成各類任務(wù)的優(yōu)勢。從技術(shù)的“賦能”到技術(shù)的“賦智”。

機器智能使人類具有了過去無法獲得的全新能力，使數(shù)據(jù)、信息、知識與專業(yè)技能超越“資本”成為經(jīng)濟發(fā)展的核心力量或主力軍。機器具備了環(huán)境感知力和認知力，涌現(xiàn)出被尊稱為“網(wǎng)絡(luò)科學(xué)家”或“機器科學(xué)家"的認知主體。但問題在于，從事被迫式的勞動和發(fā)展經(jīng)濟是人類自古以來的一個核心目標。但是，在勞動解放過程中，消除絕對貧困和傳統(tǒng)勞動形態(tài)的改變，并非必然意味著每個人都有能力會選擇由興趣引導(dǎo)的健康而有意義的勞動方式，來安頓自己的心靈或追求有擔當?shù)念~自我成長。在這方面，我們當下教育是缺失的。我們當下的技能總體還是種“技能教育”，而沒有把人如何發(fā)展自我興趣、發(fā)現(xiàn)自我作為教育的主要目標。

更加根本的問題在于：如何拓展“按勞分配”原則，如何進行財富分配？為了生存而進行的被迫勞動的情況有所改進之后，如何看待與理解“勞動”本身？

如果勞動沒有了強迫性，那么勞動將成為人類的價值體現(xiàn)及生命展開的過程。

要解決上述問題，則有必要超越勞動與休閑的二分：

在工業(yè)文明時代，我們的觀點是：勞動是被迫的，休閑時間等同于自由時間，休閑活動等同于吃、喝、玩、樂、觀光旅游……

我們的教育和社會制度在很大程度上就是圍繞培育勞動技能，而不是提高人的休閑能力展開的。

在這種情況下，一旦我們從勞動中解放出來，擁有充足的自由時間，而我們所在社會的文化和教育等各個方面卻還沒有為我們?nèi)绾谓】档乩米杂蓵r間做好充分的準備，那么，就有可能導(dǎo)致很多比物質(zhì)短缺問題更加難以解決的精神空虛問題。因此，我們需要在文明轉(zhuǎn)型期開啟新的征程：從勞動倫理拓展到休閑倫理，轉(zhuǎn)而重新塑造勞動和重新理解“休閑”。從休閑哲學(xué)的視域來看，勞動與休閑并非必然是排斥關(guān)系，而是具有交叉性的融合關(guān)系

休閑的重新理解：

休閑含有“教養(yǎng)”之意，休閑活動或休閑式的勞動是由內(nèi)在于活動或勞動本身的動機所指引，追求沉浸于活動或勞動過程之中，享受由此激發(fā)出來的創(chuàng)造性與意義感。

皮普爾《休閑是文化的基礎(chǔ)》：休閑是放手的能力，是與自然相交融的能力，是恢復(fù)人性和找回人的尊嚴的途徑。

從勞動倫理拓展到休閑倫理需要經(jīng)過人的精神洗禮、心靈歷練乃至人性反思的過程，或者說，需要經(jīng)歷社會轉(zhuǎn)型的陣痛過程。我們需要向遠看，尋求人類的終極目的，轉(zhuǎn)而退回來回顧當下。智能化發(fā)展是一把雙刃劍，要么無情地摧毀人類的精神世界，要么創(chuàng)造性地使人類重生。正因如此，我們到了解剖人性的時候：或者說，尊重人性成為科學(xué)發(fā)展的基礎(chǔ)。人性是什么，是一個實踐的問題。伴隨著新技術(shù)的產(chǎn)生，關(guān)于人性的思考更為重要。

數(shù)字化轉(zhuǎn)型與智能發(fā)展相結(jié)合

在線生活：算法主導(dǎo)

勸導(dǎo)式技術(shù)：在電子游戲、社交媒體、通信等領(lǐng)域內(nèi)得到廣泛應(yīng)用：積極方面：微信的計步功能，手環(huán)的監(jiān)測功能等，危害方面：以投其所好的交互方式吸引用戶的注意力，來達到營利的目標，比如，對電子游戲的癡迷或成癮等

勸導(dǎo)式技術(shù)利用了人的內(nèi)在驅(qū)動力，比如，適時獎勵，來增加用戶在設(shè)備上的停留時間。尤其對沖動等情緒的控制還處于發(fā)育期的少年兒童來說，他們在數(shù)字環(huán)境中的癡迷或成癮，就不再是由于其意志薄弱或放縱，而是由于勸導(dǎo)式技術(shù)的設(shè)計者利用了少年兒童的脆弱性所造成的。因此算法、數(shù)字技術(shù)、心理學(xué)等學(xué)科的會聚和融合發(fā)展基礎(chǔ)上形成的勸導(dǎo)式技術(shù)所帶來倫理挑戰(zhàn)和潛藏著倫理風險，是當前迫切需要深入研討的倫理學(xué)主題。而這些問題在傳統(tǒng)的倫理框架內(nèi)無法解決。

當物質(zhì)系統(tǒng)有了感知力時，它們能夠預(yù)期人的興趣愛好和所作所為，能夠自動修改系統(tǒng)的互動行為和信息推送來迎合用戶。這廢除了物質(zhì)和環(huán)境是被動的，而意識和心靈是主動的二分觀念，人處于被“解讀”與被“投喂”狀態(tài)。而結(jié)果就是個人在社交媒體或計算設(shè)施上留下的行為數(shù)據(jù)成為他人或機構(gòu)的認知資源我們生活于其中的物質(zhì)環(huán)境具有某種形式的主體性。這進一步引發(fā)了問責難題（過去的主體只在人，問責只需問責人即可）

比如：

勸導(dǎo)策略的實施需要擔負倫理責任嗎？誰擔負？

算法交易或智能投資顧問造成的經(jīng)濟損失，應(yīng)該如何問責？

自動駕駛汽車導(dǎo)致的交通事故，應(yīng)該如何問責？

網(wǎng)站信息推送誘發(fā)的信息誤用和用戶的成癮等問題，應(yīng)該如何問責？

智能機器的知識產(chǎn)權(quán)歸誰所有？

弗洛里迪等的解決方案：只要人造的能動者能夠顯示出互動性、自主性和適應(yīng)性，在它們不需要有自由意志和意向性或心智狀態(tài)的前提下，就有資格成為道德能動者。他們提出用“無心靈的道德”概念來討論這類新型認知主體的能動作用。這是當代倫理和法律研究新課題（弗洛里迪的《信息倫理學(xué)》）

認知責任的界定，成為將本體論、認識論和倫理學(xué)關(guān)聯(lián)起來的話題，認知關(guān)系蘊含了權(quán)力關(guān)系，或者說，認知實踐在根本成為了倫理實踐。但是，主張對智能體的問責，不是減少對人類的問責，也不是將責任轉(zhuǎn)嫁給非人類的實體，使人類規(guī)避責任。而是表明，我們在分配認知責任時，需要提出新的倫理概念，建構(gòu)新的倫理框架，需要提供實踐方案。

三、技術(shù)會聚的倫理挑戰(zhàn)與風險

就技術(shù)的本質(zhì)而言，技術(shù)是圍繞著賦能于人類而展開的。技術(shù)的發(fā)展史能折射人類文明的演進史。但是，當智能革命的深化發(fā)展使技術(shù)的改造作用從改造外部自然拓展到改造人的內(nèi)部自然時，就使得人的身體技術(shù)化和精神技術(shù)化成為突出的倫理問題擺在我們面前。

人的身體技術(shù)化問題之一-基因編輯的問題：基因編輯的問題：運用基因編輯技術(shù)對人類胚胎基因的修改，目前在倫理上則是絕對禁止的。為什么我們允許基因的自然突變，而不允許對生殖基因進行人為改變呢？如果不被允許是由于技術(shù)不夠成熟，會污染人類基因池，那么，未來的技術(shù)完全成熟后會被允許嗎？

人的身體技術(shù)化問題之二-腦機接通口：植入體內(nèi)的器件能夠改善病情，但也能夠記錄和傳遞患者在思考時神經(jīng)元的放電情況，會受到外部的控制，還會提高學(xué)習效率，控制情緒，改變性格，提升人腦機能等，那么，我們將如何理解患者的自由意志？或者說，如何避免患者不受他人意志的操控？

人的身體技術(shù)化問題之三-人造器官：如果隨著人造器官研究的發(fā)展，人們在未來能夠通過3D器官打印機技術(shù)“打印”出人類器官來替代老化或機能失常器官，那么，就提出了新的概念挑戰(zhàn)：需要回答一個器官是“活著的”意味著什么之類的問題。

人的身體技術(shù)化問題之四-心靈上載：心靈需要身體，盡管不是肉體，而是數(shù)字體?？墒?，如果人的肉體已經(jīng)消失，而其等效體還繼續(xù)活著，那么，是否應(yīng)該以這種方式來延長壽命，就成為一個需要深入研討的問題。在人造物和數(shù)字攣生體永久存在的世界里，我們對延長壽命和追求永生的渴望，很可能就打開了有關(guān)人類進化的潘多拉魔盒。使我們不得不重新思考人類干預(yù)自然的權(quán)利和人類操縱進化的權(quán)利等問題。

針對上述問題產(chǎn)生了生物保護主義者和后人類主義者兩派

生物保護主義者：《保護人類物種公約》來維護人的自然性，杜絕技術(shù)增強甚至人機混合體（即電子人）的出現(xiàn)。如何理解的“自然性”？無知情況下，改變等同于對自然性的守護嗎？

后人類主義者：技術(shù)本來就是為了對抗自然選擇的生存法則、增強人的生存能力和延長人的生命周期而誕生的，衣、食、住、行與技術(shù)相關(guān)，戴眼睛、戴助聽器、安裝心臟起博器、替換金屬關(guān)節(jié)、安裝假肢等不破壞人的自然性，但為什么通過植入電子元件來恢復(fù)記憶和通過基因編輯技術(shù)來修改胚胎基因則有所不同呢？為此，后人類主義者把人類借助技術(shù)手段來克服自己的生物缺陷看成是人類應(yīng)有的基本權(quán)利，應(yīng)該尊重人類對自己身體的選擇權(quán)。

重新思考的問題

治療與增強的邊界在哪里？

限制增強技術(shù)發(fā)展是否會造成對人們改善身體和心智的自由權(quán)或自主權(quán)的侵犯？

人的身體技術(shù)化會對人的自然權(quán)利和公平公正、自主自愿等原則的適應(yīng)性提出怎樣的挑戰(zhàn)？

人類的哪些特征是根本性的，“人成之為人”的內(nèi)稟性是什么？

人成為人的兩個過程：人從自然界中剝離；人對自我的回顧與解釋。

上述問題的解決無法要么歸屬于理論倫理學(xué)，要么歸屬于應(yīng)用倫理學(xué)，而是需要發(fā)明將倫理學(xué)、認識論和本體論統(tǒng)合起來的新的倫理框架來解決。

人的精神技術(shù)化問題：

人精神從文化塑造到技術(shù)誘導(dǎo)所帶來的倫理問題似乎更加抽象。

“元宇宙”：營造人工文化的數(shù)字世界。

人的感知力成為新的生產(chǎn)資料或被開發(fā)的商品,帶來新的在線傷害；使人喪失獨立思考能力，大眾淪落為少數(shù)技術(shù)精英的利用工具。

文化并非有人編造出來的，而是人類文明演進過程中自然而然形成的。而人工文化便是人為的。

人的數(shù)字永生

“實施人類數(shù)字化身計劃項目”已經(jīng)開啟

人類的終極需求：追求永生。

人的形象留存方式：畫像→照片→視頻→數(shù)字化身……

用技術(shù)手段將永生成為每個人可以享受的權(quán)利：“人類云”虛擬世界

人的數(shù)字永生產(chǎn)生的社會影響

替身：數(shù)字化身，機器人化身等

生活信息和生活場景在虛擬世界再現(xiàn)

實現(xiàn)時空穿越：以替身方式實現(xiàn)隔空相聚，跨時對話等。歷史再現(xiàn)與記載的新方式。

產(chǎn)生新的業(yè)態(tài)：比如，像照相館等一樣，出

現(xiàn)“人類云”館，“永生館”……

人的精神數(shù)字化帶來相關(guān)的倫理風險

興奮類藥物，鴉片，美國等設(shè)立吸鴉片場所

研發(fā)情感機器人問題

護理機器人走進家庭

如果機器人陪伴孩子，會影響孩子的身心發(fā)育嗎？

道德綁架問題