朱明婷*? ?徐崇利

廈門大學(xué)? 法學(xué)院

摘要：

人工智能技術(shù)不僅能快速賦能經(jīng)濟社會發(fā)展，也可能引發(fā)諸多與人工智能技術(shù)本身特征和發(fā)展高度相關(guān)的倫理問題。國際軟法因具有靈活高效、適用成本低，能填補硬法空白，以及方便區(qū)分治理、分層應(yīng)對倫理問題的優(yōu)勢，其在人工智能倫理治理領(lǐng)域的勃興幾乎是必然的。在該領(lǐng)域國際軟法發(fā)達、硬法落后的現(xiàn)狀下，面對國際軟法主體間合作不穩(wěn)定、有時得不到有效實施的治理挑戰(zhàn)，治理模式逐漸向軟硬兼?zhèn)?、軟法“硬化”轉(zhuǎn)變，以提高軟法約束力與執(zhí)行可能性。建議構(gòu)造國際軟硬法混合治理的“中心—外圍”模式、構(gòu)建間接執(zhí)行機制，以完善人工智能倫理的國際軟法治理對策。

正如過去工業(yè)時代的蒸汽機和電力一樣，隨著數(shù)據(jù)的積累、算法的進步，以及算力的提高，人工智能（AI）技術(shù)正重塑人類世界。ChatGPT（生成式預(yù)訓(xùn)轉(zhuǎn)換機器人）的誕生就是智能機器人發(fā)展的一個階段性進步。但是，在取代傳統(tǒng)搜索引擎成為人類工作和生活更為便利的“百科全書”的同時，ChatGPT也使得人們產(chǎn)生諸如學(xué)生利用AI作弊、數(shù)據(jù)泄露、后臺技術(shù)操控者價值滲透等倫理隱憂。

在數(shù)據(jù)智能社會背景下，全球范圍內(nèi)治理人工智能倫理的國際硬法缺位、國際軟法發(fā)達。同時，國際軟法也面臨著國際軟法主體間合作不穩(wěn)定、有時得不到有效實施的治理挑戰(zhàn)。目前國內(nèi)外均尚未提出針對該領(lǐng)域治理困境的可行建議，因而本文主要考察當(dāng)前國際軟法治理人工智能倫理的現(xiàn)狀及挑戰(zhàn)，并提出國際軟法治理對策。

一、國際軟法治理人工智能倫理的現(xiàn)狀

1.1 人工智能技術(shù)涉及的倫理問題

人工智能技術(shù)所涉及的倫理問題主要包括但不限于：合理性問題，指一項人工智能技術(shù)的應(yīng)用倫理上的負效應(yīng)接近或超過可容忍范圍。可控性問題，指人類無法控制一種人工智能的持久存在及未來發(fā)展方向，那么它具有不可控性。重大社會問題，指人類面臨的與人工智能倫理治理相關(guān)的不可逆的社會問題。社會倫理方面，數(shù)據(jù)信息環(huán)境的改變使人們易陷入“信息繭房”“過濾氣泡”和“回聲室效應(yīng)”。市場經(jīng)濟方面，機器決策可能會產(chǎn)生“無用階級”，以及平臺壟斷造成的階層分化和固化，會深刻影響市場中的合作模式、競爭關(guān)系、雇傭關(guān)系、所有關(guān)系（所有權(quán)）及相關(guān)倫理規(guī)范。

1.2 人工智能倫理領(lǐng)域軟法治理的必要性

作為一個綜合性概念，以治理推動人工智能倫理的發(fā)展主要表現(xiàn)為2個方面：

①?世界上各國（地區(qū)）相繼出臺相應(yīng)的法律法規(guī)來規(guī)范人工智能倫理；

②?人工智能倫理相關(guān)治理機構(gòu)相繼建立以監(jiān)督人工智能發(fā)展。

由各國（地區(qū)）政府及其相關(guān)部門出臺人工智能技術(shù)和與人工智能技術(shù)高度相關(guān)的數(shù)據(jù)隱私方面的立法，具有法律約束力；或者由國家共同制定的國際條約和國際習(xí)慣法等，對所有的國際法主體具有法律上的強制力。此時，人工智能倫理原則嵌入上述傳統(tǒng)法律工具之中，會展現(xiàn)出“剛性”的一面（硬法）。與此同時，人工智能的復(fù)雜性、不確定性、不可預(yù)見性、跨部門及跨領(lǐng)域多主體的特征，共同決定了對其倫理進行治理時，治理的工具必須適應(yīng)發(fā)展速率更快、利益更加多元的技術(shù)不確定性環(huán)境。非常“剛性”的規(guī)則、固定模式的法律（硬法）很難跟上技術(shù)發(fā)展節(jié)奏，難以靈活規(guī)制人工智能技術(shù)所產(chǎn)生的社會問題。伴隨人工智能技術(shù)的發(fā)展成熟，面對人工智能引發(fā)的倫理問題，此時急需在科技倫理原則和規(guī)范的指導(dǎo)下，發(fā)展人工智能倫理治理的新方法。

1.3 人工智能倫理領(lǐng)域的國際軟法淵源

本文在國際法領(lǐng)域?qū)θ斯ぶ悄軅惱淼闹卫磉M行探討，不涉及比較法領(lǐng)域的論證說明，因此本文采用國際軟法一般定義——雖然缺乏國際法的法律約束力，但在國際實踐中能產(chǎn)生實際效果的，在內(nèi)容中包含有標(biāo)準(zhǔn)、規(guī)范、原則或其他行為規(guī)則的國際性法律文件。實踐中人工智能倫理方面的國際軟法淵源，主要來自聯(lián)合國教科文組織（UNESCO）（政府間國際組織）出臺的和其他國際組織（非政府間國際組織）制定的國際軟法性文件等。

聯(lián)合國教科文組織為推動各方遵守人工智能倫理原則，自2017年起積極制訂國際軟法性文件，短短4年間制訂的文件在引導(dǎo)人工智能技術(shù)向著“負責(zé)任”的方向邁步；而其他國際組織制訂的國際軟法性文件，可以追溯到2005年（表1）?？傮w來看，關(guān)切人類福祉（“造福于人類”）、透明度和問責(zé)制是目前大多數(shù)國際軟法性文件所必備的倫理要素。這些文件重點關(guān)注人的尊嚴，作為人工智能倫理的重要價值，關(guān)切人類福祉（“造福于人類”）的人權(quán)理念貫穿各文件始終。

表1　國際軟法性文件中對人工智能倫理原則的具體規(guī)定

1.4 當(dāng)前國際軟法治理的優(yōu)勢

與國際硬法相比，當(dāng)前國際軟法對人工智能倫理的治理優(yōu)勢有：

（1）國際軟法具有重要的優(yōu)勢，更為靈活高效、適用成本低。

由于大部分國家政府（如美國、法國、日本）是不情愿通過先發(fā)制人的監(jiān)管來阻礙新興技術(shù)創(chuàng)新，各國政府會通過諸多建議、指南、行為準(zhǔn)則、最佳實踐、專業(yè)標(biāo)準(zhǔn)等國內(nèi)軟法，以嘗試解決現(xiàn)實層面人工智能倫理問題。國際層面更是如此，非政府組織（如國際標(biāo)準(zhǔn)化組織）由于不涉及執(zhí)法機制，可以靈活高效地出臺國際軟法性文件，這些文件（國際軟法）總體上制訂、實施環(huán)節(jié)的運行成本低于國際硬法。

（2）國際軟法可以補充或完善硬法，通過填補正式法律空白，作為主要備用選項或治理工具。

國際軟法不受有限機構(gòu)授權(quán)的約束，因此可以解決技術(shù)引起的任何問題。而且由于沒有被正式的法律機構(gòu)采用，不限于特定的法律管轄區(qū)，而是可以具有國際適用性。例如，國際金融研究所（IIF）發(fā)布的《數(shù)據(jù)倫理憲章》（Data Ethics Charter），將有助于補充（而不是取代）國家和地區(qū)立法和條例（國內(nèi)層面）、國際標(biāo)準(zhǔn)（國際層面）。

（3）國際軟法有利于人工智能倫理的區(qū)分治理、分層應(yīng)對。

目前，人工智能技術(shù)的發(fā)展尚處于弱人工智能階段，大多數(shù)用途并不會產(chǎn)生高風(fēng)險，也不需要我們面臨諸如自動駕駛汽車“電車難題”的功利主義選擇等類似倫理難題。對于低風(fēng)險人工智能應(yīng)用，在公司、民間社會團體、學(xué)術(shù)專家和政府的意見下制訂的軟法將是促進符合道德框架和原則的創(chuàng)新的關(guān)鍵方法。若軟法能對人工智能倫理分級監(jiān)管，對于高風(fēng)險的人工智能應(yīng)用，也可以成為硬法的重要補充。

二、國際軟法治理人工智能倫理的挑戰(zhàn)

2.1 國際軟法主體間合作不穩(wěn)定

鑒于人工智能應(yīng)用的廣泛性及其未來快速發(fā)展而導(dǎo)致的不確定性，當(dāng)各國都選擇對己有利的收益分配而不依賴具有強制效力的國際硬法來保證合作持續(xù)時，非國家行為體僅借助國際軟法無法保證各國所作承諾的可信性。數(shù)字產(chǎn)品進行跨國數(shù)字貿(mào)易就屬于“囚徒困境”博弈：各國國內(nèi)施行數(shù)字貿(mào)易措施時援引世界貿(mào)易組織（WTO）或自由貿(mào)易協(xié)定（FTA）規(guī)則中的“安全例外”條款，極有可能是滿足其國內(nèi)數(shù)據(jù)倫理要求的；但在國際層面，這種維護各國自身利益的手段并不利于全球數(shù)字經(jīng)濟秩序發(fā)展。實際對每個國家來說，最優(yōu)策略仍是他國對本國開放數(shù)字貿(mào)易市場，本國則對他國實行變相的貿(mào)易保護主義。當(dāng)個體理性與集體理性相悖，容易造成各國違反在WTO或FTA規(guī)則中的相關(guān)數(shù)字貿(mào)易政策承諾，即使這極可能符合各國國內(nèi)的數(shù)據(jù)倫理（包括人工智能倫理）要求，因此急需國際硬法來壓制各國可能采取的背棄策略。雖然過去需要具有強制效力的國際硬法介入，但在目前各國間數(shù)字經(jīng)濟發(fā)展的相互博弈情況下，如何發(fā)揮國際軟法特有的優(yōu)勢，并與未來可能形成的國際硬法相輔相成、共促穩(wěn)定合作，是國際軟法治理人工智能倫理所面臨的挑戰(zhàn)。

2.2 國際軟法有時得不到有效實施

即使在跨國倫理規(guī)范范本中已經(jīng)規(guī)定并描述了問責(zé)制，但是這些軟法缺少正式、具體的責(zé)任劃分制度，有可能在現(xiàn)實中得不到有效實施。例如，作為制訂聯(lián)合國全系統(tǒng)人工智能治理工作機構(gòu)戰(zhàn)略方針和路線圖的領(lǐng)導(dǎo)機構(gòu)，國際電信聯(lián)盟（ITU）協(xié)調(diào)聯(lián)合國各機構(gòu)的參與。雖與所有有關(guān)聯(lián)合國實體密切合作并酌情與外部伙伴密切合作，但只能作為“促進”協(xié)調(diào)執(zhí)行的機構(gòu)協(xié)調(diào)中心，其執(zhí)行能力有限。此外，《人工智能倫理問題建議書》中第42條關(guān)于“責(zé)任和問責(zé)”方面，“應(yīng)建立適當(dāng)?shù)谋O(jiān)督、影響評估、審計和盡職調(diào)查機制”；其中，“適當(dāng)”的措辭本身不具有強制執(zhí)行力，其實施主要靠條文本身的吸引力、各成員國對價值利益取向的共同性等加以保障。僅依靠上述推薦性、建議性的軟措施，難免造成軟法有時得不到有效實施的結(jié)果。

三、國際軟法治理人工智能倫理的對策

3.1 構(gòu)造國際軟硬法混合治理的“中心—外圍”模式

（1）“中心—外圍”模式的提出

在跨國法律體系中，國際硬法位居體系構(gòu)造的中心，與被定義為外圍的國際軟法共同在國際層面構(gòu)成“中心—外圍”關(guān)系。在國際軟法發(fā)達、硬法落后的人工智能倫理領(lǐng)域，在建立各方利益表達、補償、協(xié)調(diào)機制時，國際軟法具有治理功能上的優(yōu)勢和事實上的效力，但這并不代表著因其具有必要性而應(yīng)處于中心地位。因為國際規(guī)范和專業(yè)標(biāo)準(zhǔn)形式的軟法可在不引起治外法權(quán)問題的情況下施加影響，不受頒布法律法規(guī)的政府管轄權(quán)的限制，以市場為導(dǎo)向激勵企業(yè)制訂專業(yè)標(biāo)準(zhǔn)，可使全球市場消費者來檢驗標(biāo)準(zhǔn)的“好壞”（圖1）。

國際軟法的優(yōu)勢領(lǐng)域多數(shù)情況下僅限于事務(wù)性國際關(guān)系，而不是基礎(chǔ)性國際關(guān)系。這是根據(jù)人工智能倫理全球治理技術(shù)性強、復(fù)雜多變的特性所決定。相較于國際硬法（傳統(tǒng)國際法），國際軟法實施起來更有彈性且方便修改。因為傳統(tǒng)國際法調(diào)整外交、領(lǐng)土、承認等國家間的“共存”關(guān)系，對后來興起的各國間有關(guān)人工智能倫理的“合作”關(guān)系，其基礎(chǔ)性部分仍依賴穩(wěn)定性強且可靠的國際硬法支撐。

因此，國際軟法有時體現(xiàn)的只是過渡形式，一旦時機成熟，仍可將國際硬法對人工智能倫理的規(guī)制提上議事日程。如人工智能應(yīng)用中的自動駕駛汽車倫理，就需要根據(jù)發(fā)生的不同交通事故危險程度厘清責(zé)任歸屬，最后將自動駕駛汽車倫理決策判斷和選擇所造成的損害后果進行認定，使車輛開發(fā)者、生產(chǎn)者、銷售者、所有者按照具備倫理原則的國際硬法的規(guī)定去遵守。因為自動駕駛汽車產(chǎn)品開發(fā)的時間與國際硬法規(guī)則制定的時間相似或更長，所以適用于環(huán)境變化不太快的具體技術(shù)的硬法領(lǐng)域。

（2）“中心—外圍”模式的要義

在人工智能倫理的治理領(lǐng)域，由國際硬法和國際軟法構(gòu)成的“中心—外圍”模式的要義包括4個方面。

①?國際軟法向國內(nèi)硬法的滲透，尤其是技術(shù)標(biāo)準(zhǔn)經(jīng)由國內(nèi)法轉(zhuǎn)化而具有約束力。

②?通常有意向發(fā)展人工智能技術(shù)的政府，會鼓勵企業(yè)、用戶群體、非政府組織、科研機構(gòu)等多元監(jiān)管主體積極參與相關(guān)行業(yè)協(xié)會對人工智能倫理的研討，促進國內(nèi)軟硬法相互影響、相互轉(zhuǎn)化。

③?各國國內(nèi)企業(yè)、學(xué)術(shù)界和政府間國際組織等，可以出臺各類圍繞人工智能的特定用途的文件，以期將各國國內(nèi)技術(shù)治理偏好向國際軟法滲透，爭取國際標(biāo)準(zhǔn)制訂的話語權(quán)。

④?即使國際軟法的影響力與國際硬法勢均力敵，也不會從大局上影響國際軟硬法混合治理的“中心—外圍”模式。

綜上，在企業(yè)及行業(yè)協(xié)會擬議人工智能倫理準(zhǔn)則時，可以參考技術(shù)標(biāo)準(zhǔn)在相同議題上的規(guī)范，尤其是透明度、問責(zé)制、關(guān)切人類福祉等普遍性技術(shù)議題。例如，人工智能倫理中透明度原則的設(shè)立，可以采取國際軟、硬法混合治理的“中心—外圍”模式：利用硬法（由國家共同制定的法律）規(guī)制來解決更高層次、普適性較強的數(shù)據(jù)/算法/算力/知識突出問題，進行較強力度的底線約束，可以提高人工智能的可靠性；同時，利用軟法（非國家行為體制訂的規(guī)則）解決具體應(yīng)用場景的個性化問題，允許比立法機構(gòu)更接近技術(shù)的專家開發(fā)軟法框架，提供有一定容錯空間的韌性規(guī)范以指導(dǎo)技術(shù)的發(fā)展。

3.2 構(gòu)建間接執(zhí)行機制

3.2.1?建立國際治理協(xié)調(diào)委員會

人工智能機構(gòu)間工作組（IAWG-AI）由聯(lián)合國教科文組織和國際電信聯(lián)盟共同領(lǐng)導(dǎo)，通過支持行政首長協(xié)調(diào)會和方案問題高級別委員會關(guān)于人工智能倫理的工作，尋求在人工智能相關(guān)問題上與相關(guān)機構(gòu)間和多利益相關(guān)方機制合作。該工作組重點關(guān)注倫理領(lǐng)域，可在其基礎(chǔ)上設(shè)立國際治理協(xié)調(diào)委員會，這既可以降低監(jiān)督機構(gòu)的設(shè)立成本，也可以提高國際影響力（圖2）。若在人工智能倫理領(lǐng)域成立一個國際治理協(xié)調(diào)委員會，不僅可以擁有在人工智能機構(gòu)間工作組中保持“技術(shù)中立”的專家資源，還可以提高行政首長協(xié)調(diào)會和方案問題高級別委員會所管轄事務(wù)的治理效率。

3.2.2?非正式和非集中化的間接執(zhí)行機制

依據(jù)博弈論，通常情況下依靠各軟法主體的“自我實施”，不需要有第三方強制性力量的保障和集中化的權(quán)力機構(gòu)，輔之以非正式和非集中化的執(zhí)行機制，如利害關(guān)系者的懲罰、社會壓力及市場力量，就能促使國際軟法得到事實上的效力。

（1）利害關(guān)系者的懲罰提高違法成本

一般基于硬法工具的威懾，利害關(guān)系者才會遵從軟法。但非國家行為體對不遵守軟法的利害關(guān)系者進行處罰，提高其違反軟法的潛在成本，也可以形成事前的積極威懾并達到預(yù)防的目的。

建議：國際治理協(xié)調(diào)委員會設(shè)置提高違反軟法成本的懲罰措施，間接提高國際軟法的執(zhí)行力。

（2）社會壓力促進聲譽機制

違反國際軟法的主體極易受到來自國際社會的壓力，國家、跨國非政府組織、政府間組織等多利益攸關(guān)方的譴責(zé)都會使違法者名譽掃地。有些國際軟法是名義上的軟法、實質(zhì)上的硬法，極大地損傷違法者的經(jīng)濟或商業(yè)利益，其懲戒制裁效果不亞于對其不利的國際仲裁裁決或司法判決。

建議：聲譽機制圍繞非國家行為體的倡議或規(guī)則執(zhí)行，要求對破壞倡議或規(guī)則的國家進行懲罰，對維護倡議或規(guī)則的國家進行褒獎，從而使得各國為了維持國際社會良好聲譽，迫于國際社會壓力而承擔(dān)國際社會責(zé)任。

（3）市場力量催生“網(wǎng)絡(luò)效應(yīng)”

當(dāng)接受統(tǒng)一準(zhǔn)則或標(biāo)準(zhǔn)的國家聚合，且使用該準(zhǔn)則或標(biāo)準(zhǔn)的國家增加時，準(zhǔn)則或標(biāo)準(zhǔn)對它們的價值也相應(yīng)增加，從而吸引更多的國家自發(fā)聚合形成“雪球效應(yīng)”。建議：

①?建立起多元化的參與路徑，推動企業(yè)、行業(yè)協(xié)會、專家學(xué)者等多層次國際對話，利用科學(xué)期刊分享最佳實踐以支撐標(biāo)準(zhǔn)化工作；

②?不同國家人工智能倫理規(guī)則在不同文化背景下的協(xié)調(diào)互動、交流碰撞，在國際交往中逐漸形成不成文的準(zhǔn)則或標(biāo)準(zhǔn)（即國際慣例），從而促使各國在國際實踐中去遵守約定俗成的人工智能倫理規(guī)范。

作者：

朱明婷??廈門大學(xué)法學(xué)院國際法專業(yè)2020級博士研究生，廈門大學(xué)法學(xué)院網(wǎng)絡(luò)空間國際法研究中心研究助理。主要研究領(lǐng)域：網(wǎng)絡(luò)空間國際法、數(shù)據(jù)倫理、金融科技等。?

徐崇利??廈門大學(xué)法學(xué)院教授、博士生導(dǎo)師，廈門大學(xué)國際法學(xué)國家重點學(xué)科學(xué)術(shù)帶頭人之一。主要研究領(lǐng)域：國際經(jīng)濟法、國際私法及國際法基本理論研究。?

文章源自：

朱明婷, 徐崇利. 人工智能倫理的國際軟法之治：現(xiàn)狀、挑戰(zhàn)與對策. 中國科學(xué)院院刊, 2023, 38(7): 1037-1049.?

DOI: 10.16418/j.issn.1000-3045.20221003002