12月18日，清華大學(xué)人工智能合作與治理國際論壇在北京舉行。清華大學(xué)人工智能國際治理研究院名譽(yù)院長傅瑩作主題發(fā)言時談到了智能武器問題。她表示，人類需要充分認(rèn)識智能武器的風(fēng)險，早些達(dá)成治理共識。

人類應(yīng)盡早達(dá)成智能武器治理共識

“技術(shù)革命往往伴隨不可預(yù)知的安全挑戰(zhàn)，在這方面，國際關(guān)注的焦點之一是智能武器的道德和技術(shù)風(fēng)險。”傅瑩說，清華大學(xué)戰(zhàn)略與安全研究中心與多家國際機(jī)構(gòu)圍繞這個問題開展了研討，以結(jié)合國際軍控經(jīng)驗，尋找管控智能武器風(fēng)險和國際安全治理的路徑。

近年來，智能武器已從科幻作品走入現(xiàn)實。南都·AI前哨站梳理發(fā)現(xiàn)，在今年爆發(fā)的阿塞拜疆與亞美尼亞沖突中，阿塞拜疆便使用了殺傷力極強(qiáng)的無人機(jī)。而不久之前，一名伊朗核科學(xué)家遇刺身亡，據(jù)媒體報道，殺害他的是一臺由衛(wèi)星控制、具有人臉識別功能的機(jī)槍——遇刺時坐在車內(nèi)的科學(xué)家臉部連遭13槍射擊，距他僅有25厘米的妻子卻沒有中彈。

傅瑩介紹，智能武器可能帶來三個方面的風(fēng)險。一是由于人工智能技術(shù)不完善，智能武器可能導(dǎo)致更大的連帶傷害。二是智能武器的訓(xùn)練需要大量數(shù)據(jù)，數(shù)據(jù)的污染和形成的偏見可能導(dǎo)致嚴(yán)重后果。三是人機(jī)協(xié)同的挑戰(zhàn)，機(jī)器在可解釋性、學(xué)習(xí)性、常識性等方面的不足有可能放大發(fā)生沖突的風(fēng)險，等等。

她指出，既然人工智能武器化不可避免，專家們研究的方向是尋找合適的治理路徑。“大家都認(rèn)為，人類必須汲取歷史教訓(xùn)，例如對核武器的治理共識就發(fā)生的太晚，導(dǎo)致人類曾經(jīng)面臨巨大威脅，互聯(lián)網(wǎng)的治理也沒有能夠在早期實現(xiàn)。大家希望這次對人工智能，尤其是智能武器的治理，人類能走在技術(shù)變革的前面，充分認(rèn)識其風(fēng)險，早些達(dá)成治理共識?！?/p>

傅瑩說，專家們還提出，需要采取軍事克制態(tài)度，限制智能武器的損害范圍，這一點也需要反映在公共教育當(dāng)中。在路徑方面，最重要的是如何使智能武器的發(fā)展和使用與現(xiàn)行國際法基本原則保持一致。有中方學(xué)者主張建構(gòu)關(guān)于人工智能軍事行動的國際規(guī)范，切實保證人在智能武器使用中的決定性作用等等。

“誠然，這都是學(xué)術(shù)層面的探討，參加項目的專家們都撰寫了專題論文，可以提供給決策部門參考，這些路徑是否可行，還需要經(jīng)過大量的政策研究和論證?！彼f。

人工智能的安全治理需要中美合作

傅瑩還談道，在人工智能領(lǐng)域建立包容性很強(qiáng)的國際治理委員會，通過共同探討、研究、吸納好的意見和建議、形成共同的國際規(guī)范，“非常必要且緊迫”。

她表示，中國在人工智能治理問題上向國際社會釋放了清晰的合作信號。今年11月，習(xí)近平主席在G20峰會上強(qiáng)調(diào)，中方支持圍繞人工智能加強(qiáng)對話，倡議適時召開專題會議，推動落實G20人工智能原則，引領(lǐng)全球人工智能的健康發(fā)展。

今年9月，中國國務(wù)委員兼外長王毅提出《全球數(shù)據(jù)安全倡議》，表示希望國際社會在普遍參與的基礎(chǔ)上就人工智能的安全問題達(dá)成國際協(xié)議，支持通過雙邊或多邊協(xié)議的形式確認(rèn)倡議中的承諾。他提出有效應(yīng)對數(shù)據(jù)安全風(fēng)險應(yīng)遵循的三項原則，包括秉持多邊主義、兼顧安全發(fā)展和堅守公平正義。

傅瑩介紹，中美學(xué)者正在合作研究“人工智能與國際安全治理”項目?！斑@兩年中美關(guān)系出現(xiàn)緊張狀況，但是這個項目的研討并沒有受到大的影響，充分顯示了兩國學(xué)界的專業(yè)精神和對人類共同命運的責(zé)任感和使命感?！彼f，專家們認(rèn)識到，現(xiàn)階段是構(gòu)建人工智能國際安全規(guī)范的關(guān)鍵窗口期，希望兩國抓住這一難得的歷史性時機(jī)，制定人工智能通用規(guī)范。

中國在人工智能治理和立法方面已邁出實際步伐。例如，2018年中國國家標(biāo)準(zhǔn)化委員會發(fā)布《人工智能標(biāo)準(zhǔn)化白皮書》；2019年國家新一代人工智能治理委員會發(fā)布8條治理原則；2019年國務(wù)院頒布了《兒童個人信息網(wǎng)絡(luò)保護(hù)規(guī)定》，加強(qiáng)未成年人信息保護(hù)；2020年通過的《民法典》對保護(hù)個人隱私作出明確規(guī)定。

傅瑩說，目前中美兩國是人工智能技術(shù)研究和應(yīng)用發(fā)展最快的國家，兩國需要也有條件加強(qiáng)協(xié)調(diào)與合作。近年其他許多國家的學(xué)界也表現(xiàn)出對人工智能應(yīng)用的安全擔(dān)憂，說明這是人類共同的難題，不是一國兩國能夠解決的。

“中美開展對話與合作至關(guān)重要，將能夠為全球合作貢獻(xiàn)智慧。我希望和相信這不是一場‘零和游戲’，人工智能最終應(yīng)使得全人類受益?！彼硎?。

清華大學(xué)人工智能合作與治理國際論壇由清華大學(xué)人工智能國際治理研究院（I-AIIG）主辦，聯(lián)合國開發(fā)計劃署（UNDP）作為國際機(jī)構(gòu)提供支持。論壇采用線上與線下結(jié)合的形式，探討人工智能合作與治理的機(jī)遇與挑戰(zhàn)。