原創(chuàng) | 文 BFT機(jī)器人

01

人工智能發(fā)展概述

人工智能是引領(lǐng)未來(lái)的新興戰(zhàn)略性技術(shù)，是驅(qū)動(dòng)新一輪科技革命和產(chǎn)業(yè)變革的重要力量。習(xí)近平總書記多次作出重要指示，強(qiáng)調(diào)“要深入把握新一代人工智能發(fā)展的特點(diǎn)，加強(qiáng)人工智能和產(chǎn)業(yè)發(fā)展融合，為高質(zhì)量發(fā)展提供新動(dòng)能”。

近年來(lái)，人工智能相關(guān)技術(shù)持續(xù)演進(jìn)，產(chǎn)業(yè)化和商業(yè)化進(jìn)程不斷提速，正在加快與千行百業(yè)深度融合。站在“十四五”開端這一特殊的節(jié)點(diǎn)，我們堅(jiān)信全面梳理人工智能政策、技術(shù)、應(yīng)用以及治理的發(fā)展態(tài)勢(shì)，能夠有益于凝聚業(yè)界共識(shí)，推動(dòng)人工智能持續(xù)健康發(fā)展。

（一）全球不斷升級(jí)人工智能戰(zhàn)略，紛紛搶抓重要發(fā)展機(jī)遇

人工智能已成為科技創(chuàng)新的關(guān)鍵領(lǐng)域和數(shù)字經(jīng)濟(jì)時(shí)代的重要支柱。

自 2016 年起，先后有 40 余個(gè)國(guó)家和地區(qū)將推動(dòng)人工智能發(fā)展上升到國(guó)家戰(zhàn)略高度。近兩年來(lái)，特別是新冠疫情的沖擊下，越來(lái)越多的國(guó)家認(rèn)識(shí)到，人工智能對(duì)于提升全球競(jìng)爭(zhēng)力具有關(guān)鍵作用.紛紛深化人工智能戰(zhàn)略。

歐盟發(fā)布《2030 數(shù)字化指南: 歐洲數(shù)字十年》、《升級(jí) 2020 新工業(yè)戰(zhàn)略》等，擬全面重塑數(shù)字時(shí)代全球影響力，其中將推動(dòng)人工智能發(fā)展列為重要的工作。美國(guó)陸續(xù)成立了國(guó)家人工智能倡議辦公室、國(guó)家 AI研究資源工作組等機(jī)構(gòu)，各部門密集出臺(tái)了系列政策，將人工智能提到“未來(lái)產(chǎn)業(yè)”和“未來(lái)技術(shù)”領(lǐng)域的高度，不斷鞏固和提升美國(guó)在人工智能領(lǐng)域的全球競(jìng)爭(zhēng)力，確?！邦I(lǐng)頭羊”地位。

日本繼制定《科學(xué)技術(shù)創(chuàng)新綜合戰(zhàn)略 2020》之后，于 2021年6月發(fā)布“AI戰(zhàn)略 2021”1，致力于推動(dòng)人工智能領(lǐng)域的創(chuàng)新創(chuàng)造計(jì)劃，全面建設(shè)數(shù)字化政府。英國(guó)于 2021 年 9 月發(fā)布國(guó)家級(jí)人工智能新十年戰(zhàn)略，這是繼 2016 年后推出的又一重要戰(zhàn)略，旨在重塑人工智能領(lǐng)域的影響力。

中國(guó)《中共中央關(guān)于制定國(guó)民經(jīng)濟(jì)和社會(huì)發(fā)展第十四個(gè)五年規(guī)劃和 2035 遠(yuǎn)景目標(biāo)綱要的建議》指出，要瞄準(zhǔn)人工智能等前沿領(lǐng)域，實(shí)施一批具有前瞻性、戰(zhàn)略性重大科技項(xiàng)目，推動(dòng)數(shù)字經(jīng)濟(jì)健康發(fā)展。

面向人工智能領(lǐng)域創(chuàng)新需求的投資不斷加大。主要經(jīng)濟(jì)體通過(guò)激勵(lì)計(jì)劃和直接投資項(xiàng)目等推動(dòng)人工智能發(fā)展已廣泛實(shí)踐。歐盟不斷加大人工智能產(chǎn)業(yè)資金支持力度，大力促進(jìn)歐洲的數(shù)字變革。

歐盟有史以來(lái)最大的支持研發(fā)和創(chuàng)新項(xiàng)目一一“地平線歐洲”計(jì)劃總投資額達(dá) 955 億歐元，明確將人工智能列入資金支持范圍。2021 年4 月，歐盟以條例的形式通過(guò)“數(shù)字歐洲計(jì)劃”，對(duì)包括人工智能在內(nèi)的項(xiàng)目進(jìn)行投資，總額達(dá) 75.9 億歐元2。美國(guó)以保持領(lǐng)先地位為戰(zhàn)略目標(biāo)并持續(xù)加大人工智能領(lǐng)域投入。

美國(guó) 2021 年人工智能非國(guó)防預(yù)算增加約 30%，總額達(dá)到 15 億美元3。此外在《美國(guó)創(chuàng)新與競(jìng)爭(zhēng)法案》中，將人工智能、量子計(jì)算等列為 2022 財(cái)年美國(guó)研發(fā)預(yù)算優(yōu)先事項(xiàng)，未來(lái)對(duì)包括人工智能在內(nèi)的多個(gè)領(lǐng)域共投入 1000 億美金進(jìn)行研發(fā)工作。

英國(guó)將投資和規(guī)劃人工智能生態(tài)系統(tǒng)作為長(zhǎng)期戰(zhàn)略啟動(dòng)國(guó)家人工智能研究與創(chuàng)新計(jì)劃，支持人工智能先進(jìn)研究等。據(jù)統(tǒng)計(jì),2014年到2021 年之間對(duì)人工智能的投資已經(jīng)超過(guò) 23 億英鎊。

通過(guò)應(yīng)用牽引推動(dòng)人工智能技術(shù)落地成為各國(guó)共識(shí)。美國(guó)引導(dǎo)人工智能技術(shù)在行業(yè)領(lǐng)域的創(chuàng)新和融合應(yīng)用。2021 年 7月，美國(guó)國(guó)家科學(xué)基金會(huì)聯(lián)合多個(gè)部門和知名企業(yè)等，新成立 11 個(gè)國(guó)家人工智能研究機(jī)構(gòu)，涵蓋了人機(jī)交互、人工智能優(yōu)化、動(dòng)態(tài)系統(tǒng)、增強(qiáng)學(xué)習(xí)等方向，研究項(xiàng)目更是涵蓋了建筑、醫(yī)療、生物、地質(zhì)、電氣、教育、能源等多個(gè)領(lǐng)域。

英國(guó)支持人工智能產(chǎn)業(yè)化，啟動(dòng)人工智能辦公室和英國(guó)研究與創(chuàng)新局聯(lián)合計(jì)劃等，確保人工智能惠及所有行業(yè)和地區(qū)，促進(jìn)人工智能的廣泛應(yīng)用。日本將基礎(chǔ)設(shè)施建設(shè)和人工智能應(yīng)用作為重點(diǎn)，提出加快建設(shè)相關(guān)基礎(chǔ)設(shè)施，重點(diǎn)強(qiáng)調(diào)了跨行業(yè)的數(shù)據(jù)傳輸平臺(tái)以及人工智能相關(guān)標(biāo)準(zhǔn)等，全面推動(dòng)人工智能在醫(yī)療、農(nóng)業(yè)、交通物流、智慧城市、制造業(yè)等各個(gè)行業(yè)開展應(yīng)用，并加大對(duì)中小企業(yè)的支援。

我國(guó)十四五規(guī)劃綱要明確大力發(fā)展人工智能產(chǎn)業(yè)，打造人工智能產(chǎn)業(yè)集群以及深入賦能傳統(tǒng)行業(yè)成為重點(diǎn)2021年4月，工信部支持創(chuàng)建北京、天津 (濱海新區(qū))、杭州、廣州、成都等第二批國(guó)家人工智能創(chuàng)新應(yīng)用先導(dǎo)區(qū)，不斷強(qiáng)化應(yīng)用牽引作用?？萍疾恐С纸ㄔO(shè)多個(gè)人工智能創(chuàng)新發(fā)展試驗(yàn)區(qū)，陸續(xù)批復(fù)北京、上海、天津、深圳、杭州等 15 個(gè)國(guó)家新一代人工智能創(chuàng)新發(fā)展試驗(yàn)區(qū)。

（二）人工智能開始邁入全新階段，持續(xù)健康發(fā)展成為焦點(diǎn)

人工智能自 1956 年誕生以來(lái)，相關(guān)理論和技術(shù)持續(xù)演進(jìn)。直到近十年，得益于深度學(xué)習(xí)等算法的突破、算力的不斷提升以及海量數(shù)據(jù)的持續(xù)積累，人工智能才得以真正大范圍地從實(shí)驗(yàn)室研究走向產(chǎn)業(yè)實(shí)踐。

產(chǎn)業(yè)發(fā)展和賦能的過(guò)程中，一方面，大量的實(shí)踐場(chǎng)景均能看到從“可用”到“好用”的發(fā)展路徑，這離不開技術(shù)自身的持續(xù)迭代，工程實(shí)現(xiàn)的不斷優(yōu)化，以及管理體系的支撐保障。

另一方面，隨著人工智能應(yīng)用暴露出各種風(fēng)險(xiǎn)和挑戰(zhàn)，以及人們對(duì)人工智能認(rèn)識(shí)的不斷深入，人工智能治理已經(jīng)成為全球各界高度關(guān)注的議題，對(duì)可信安全的呼聲不斷增多。

未來(lái)人工智能除了重視技術(shù)創(chuàng)新以外，還更加關(guān)注工程實(shí)踐和可信安全，這也構(gòu)成了新的“三維”發(fā)展坐標(biāo)，牽引人工智能技術(shù)產(chǎn)業(yè)邁向新的階段。

事實(shí)上，業(yè)界在各個(gè)維度上的努力早已開始并且從未停止過(guò)，只是時(shí)至今日，工程實(shí)踐和可信安全被擺在了更為重要的位置。三維坐標(biāo)并非完全獨(dú)立，而是相互交織、相互支撐圖 1 給出了本輪人工智能浪潮以來(lái)沿著各個(gè)方向演進(jìn)的示意圖，概述了各坐標(biāo)下的發(fā)展脈絡(luò)。

追求特定場(chǎng)景下的技術(shù)創(chuàng)新一直是人工智能發(fā)展的目標(biāo)和驅(qū)動(dòng)力。以深度學(xué)習(xí)為代表的算法爆發(fā)拉開了人工智能浪潮的序幕，在計(jì)算機(jī)視覺(jué)、智能語(yǔ)音、自然語(yǔ)言處理等領(lǐng)域廣泛應(yīng)用，相繼超過(guò)人類識(shí)別水平。

人工智能算力的多元化以及單點(diǎn)算力的不斷提升有力支撐了人工智能的發(fā)展。再到近期，國(guó)內(nèi)外超大規(guī)模預(yù)訓(xùn)練模型頻繁涌現(xiàn)，不斷刷新各個(gè)應(yīng)用領(lǐng)域的榜單。未來(lái)，在算法、算力等方面仍將持續(xù)變革，為邁向更加智能的時(shí)代奠定基礎(chǔ)。

工程實(shí)踐能力日益成為釋放人工智能技術(shù)紅利的重要支撐。在工程實(shí)踐方面的努力,最早可追溯至 Caffe、TensorFlow、PaddlePaddle等開源框架的誕生，通過(guò)屏蔽底層硬件和操作系統(tǒng)細(xì)節(jié)，大幅降低模型開發(fā)和部署難度，有效推動(dòng)了人工智能技術(shù)的擴(kuò)散。

當(dāng)前，人工智能與云計(jì)算、大數(shù)據(jù)等支撐技術(shù)的融合不斷深入，圍繞著數(shù)據(jù)處理、模型訓(xùn)練、部署運(yùn)營(yíng)和安全監(jiān)測(cè)等各環(huán)節(jié)的工具鏈不斷豐富。人工智能研發(fā)管理體系日益完善，以 MLOps 為代表的自動(dòng)運(yùn)維技術(shù)受到越來(lái)越多的關(guān)注。隨著工程實(shí)踐能力的不斷提升，“小作坊項(xiàng)目制”的賦能方式正在成為歷史，未來(lái)將會(huì)更加便捷、高效地實(shí)現(xiàn)人工智能落地應(yīng)用和產(chǎn)品交付。

可信安全逐漸成為人工智能賦能過(guò)程中不可或缺的保障?？尚湃斯ぶ悄茏钤缬蓪W(xué)術(shù)界提出，近年來(lái)圍繞著安全性、穩(wěn)定性、可解釋性、隱私保護(hù)、公平性等方面的可信人工智能研究持續(xù)升溫。

可信人工智能理念得到了國(guó)際組織的廣泛關(guān)注，二十國(guó)集團(tuán)( G20)在2019 年 6月提出的“G20 人工智能原則”中明確建議促進(jìn)可信賴的人工智能創(chuàng)新發(fā)展，成為了重要的共識(shí)?？尚湃斯ぶ悄艿睦砟钪鸩截瀼氐饺斯ぶ悄艿娜芷谥校a(chǎn)業(yè)實(shí)踐不斷豐富，已經(jīng)演變?yōu)槁鋵?shí)人工智能治理相關(guān)要求的重要方法論。

總的來(lái)看，人工智能正在邁入“創(chuàng)新驅(qū)動(dòng)、應(yīng)用深化、規(guī)范發(fā)展”的新階段。從人工智能自身產(chǎn)業(yè)化的角度來(lái)看，技術(shù)迭代升級(jí)是發(fā)展的源動(dòng)力，目前人工智能尚不完善，智能化路徑還在加快探索，技術(shù)的創(chuàng)新驅(qū)動(dòng)將有助于拓展新的發(fā)展空間。從人工智能賦能傳統(tǒng)產(chǎn)業(yè)的角度來(lái)看，特別是疫情以來(lái)，數(shù)字化、智能化轉(zhuǎn)型不斷提速，推動(dòng)人工智能應(yīng)用邁入加速軌道，相關(guān)應(yīng)用不斷深化。

從治理角度來(lái)看，技術(shù)和產(chǎn)業(yè)發(fā)展要領(lǐng)先于監(jiān)管和制度，治理問(wèn)題日益嚴(yán)峻，保障人工智能的健康發(fā)展成為全球共同關(guān)注。這里面既有漸進(jìn)的變化，也有結(jié)構(gòu)性甚至方向性的調(diào)整，需要全面、系統(tǒng)地提升各方面能力，從而推動(dòng)人工智能持續(xù)且健康的發(fā)展。

02

聚焦人工智能技術(shù)及應(yīng)用沿著“創(chuàng)新、工程、可信”三個(gè)方向持續(xù)演進(jìn)

在新的背景下，人工智能技術(shù)亦需要適應(yīng)新的變化。本章按照新三維坐標(biāo)對(duì)人工智能技術(shù)及應(yīng)用的發(fā)展態(tài)勢(shì)進(jìn)行了梳理。圍繞著算法、算力和數(shù)據(jù)的技術(shù)創(chuàng)新始終是前進(jìn)主旋律: 工程實(shí)踐中的相關(guān)技術(shù)開始覆蓋人工智能全流程，加速人工智能大規(guī)模落地應(yīng)用:人工智能可信技術(shù)是破解治理難題的重要支撐，愈發(fā)受到各界關(guān)注。

（一）人工智能在追求極致創(chuàng)新方面不斷突破

一直以來(lái)，算法、算力和數(shù)據(jù)被認(rèn)為是人工智能發(fā)展的三駕馬車，也是推動(dòng)人工智能發(fā)展的重要基礎(chǔ)。

在算法層面，超大規(guī)模預(yù)訓(xùn)練模型等成為近兩年最受關(guān)注的熱點(diǎn)之一,不斷刷新各領(lǐng)域榜單。知識(shí)驅(qū)動(dòng)的人工智能等方向研究成為提升認(rèn)知能力的重要探索。人工智能與各科學(xué)研究領(lǐng)域的融合創(chuàng)新日益受到關(guān)注，人工智能成為基礎(chǔ)科學(xué)研究的重要工具。

在基礎(chǔ)算力層面，單點(diǎn)算力持續(xù)提升，算力定制化、多元化成為重要發(fā)展趨勢(shì): 計(jì)算技術(shù)圍繞數(shù)據(jù)處理、數(shù)據(jù)存儲(chǔ)、數(shù)據(jù)交互三大能力要素演進(jìn)升級(jí)，類腦芯片、量子計(jì)算等方向持續(xù)探索。

在數(shù)據(jù)層面，以深度學(xué)習(xí)為代表的人工智能技術(shù)需要大量的標(biāo)注數(shù)據(jù)，這也催生了專門的技術(shù)乃至服務(wù)，隨著面向問(wèn)題的不斷具體化和深入，數(shù)據(jù)服務(wù)走向精細(xì)化和定制化;此外，隨著知識(shí)在人工智能的重要性被廣泛提及，對(duì)知識(shí)集的構(gòu)建和利用不斷增多。

1.新算法不斷涌現(xiàn)，技術(shù)融合成重要趨勢(shì)

超大規(guī)模預(yù)訓(xùn)練模型推動(dòng)技術(shù)效果不斷提升，繼續(xù)朝著規(guī)模更大、模態(tài)更多的方向發(fā)展。自 OpenAI 于 2020 年推出 GPT-3 以來(lái)谷歌、華為、智源研究院、中科院、阿里巴巴等企業(yè)和研究機(jī)構(gòu)相繼推出超大規(guī)模預(yù)訓(xùn)練模型，包括 Switch Transformer、DALL·EMT-NLG、盤古、悟道 2.0、紫東太初和 M6 等，不斷刷新著各榜單紀(jì)錄，百度 ERNIE3.0 模型在自然語(yǔ)言理解任務(wù)上的綜合評(píng)分(GLUE) 已達(dá) 90%以上，智源悟道文瀾模型7在多源圖文數(shù)據(jù)集評(píng)分( RUC-CAS-wenlan)相比 OpenAI 的 CLIP 模型大幅提升 37.0%。

當(dāng)前，預(yù)訓(xùn)練模型參數(shù)數(shù)量、訓(xùn)練數(shù)據(jù)規(guī)模按照 300 倍/年的趨勢(shì)增長(zhǎng)，繼續(xù)通過(guò)增大模型和增加訓(xùn)練數(shù)據(jù)仍是短期內(nèi)演進(jìn)方向; 另外跨模態(tài)預(yù)訓(xùn)練大模型日益普遍，已經(jīng)從早期只學(xué)習(xí)文本數(shù)據(jù)，到聯(lián)合學(xué)習(xí)文本和圖像，再到如今可以處理文本、圖像、語(yǔ)音三種模態(tài)數(shù)據(jù)，未來(lái)使用更多種圖像編碼、更多種語(yǔ)言、以及更多類型數(shù)據(jù)的預(yù)訓(xùn)練模型將會(huì)涌現(xiàn)，這也是實(shí)現(xiàn)人工智能通用化的有益探索。

輕量化深度學(xué)習(xí)技術(shù)不斷探索，計(jì)算效率顯著提升。

復(fù)雜的深度學(xué)習(xí)模型往往需要消耗大量的存儲(chǔ)空間和計(jì)算資源，難以在端、邊等資源受限情形下應(yīng)用，具備低內(nèi)存和低計(jì)算量?jī)?yōu)勢(shì)的技術(shù)成為業(yè)界需求。

輕量化深度學(xué)習(xí)成為解決這一挑戰(zhàn)的重要技術(shù)，包括設(shè)計(jì)更加緊湊和高效的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)、對(duì)大模型進(jìn)行剪枝( 即“裁剪”掉部分模型結(jié)構(gòu) )，以及對(duì)網(wǎng)絡(luò)參數(shù)進(jìn)行量化從而減少計(jì)算量等方向。

例如，谷歌提出的 MobileNet 和曠視提出 ShufleNet 等成為緊湊模型的典型代表;百度推出的輕量化 PaddleOCR 模型規(guī)模減小至2.8Mb，在 GitHub 上開源后受到熱捧。

“生成式人工智能”技術(shù)不斷成熟，未來(lái)聽、說(shuō)、讀、寫等能力將有機(jī)結(jié)合起來(lái)。

目前，“生成式人工智能”技術(shù)被廣泛應(yīng)用于智能寫作、代碼生成、有聲閱讀、新聞播報(bào)、語(yǔ)音導(dǎo)航、影像修復(fù)等領(lǐng)域，通過(guò)機(jī)器自動(dòng)合成文本、語(yǔ)音、圖像、視頻等正在推動(dòng)互聯(lián)網(wǎng)數(shù)字內(nèi)容生產(chǎn)的變革。

聽、說(shuō)、讀、寫等能力的有機(jī)結(jié)合成為未來(lái)發(fā)展趨勢(shì)。例如央視、新華社、光明網(wǎng)等均推出了數(shù)字人主播支持從音頻/文本內(nèi)容一鍵生成視頻，能夠?qū)崿F(xiàn)節(jié)目?jī)?nèi)容快速、自動(dòng)化生產(chǎn)，相關(guān)數(shù)字人主播和數(shù)字人記者，已在全國(guó)兩會(huì)、春節(jié)晚會(huì)等大型報(bào)道和節(jié)目中廣泛應(yīng)用。

知識(shí)計(jì)算成為推動(dòng)人工智能從感知智能向認(rèn)知智能轉(zhuǎn)變的重要探索。

知識(shí)凝聚了人的智慧，知識(shí)和數(shù)據(jù)的雙驅(qū)動(dòng)有助于解決不完全信息、不確定性和動(dòng)態(tài)環(huán)境下的推理決策問(wèn)題，可以提高人工智能系統(tǒng)的智能化水平。

目前，圍繞著知識(shí)獲取、知識(shí)建模、知識(shí)管理、知識(shí)應(yīng)用等過(guò)程，已經(jīng)形成了涵蓋知識(shí)圖譜、知識(shí)庫(kù)、圖計(jì)算等技術(shù)，覆蓋知識(shí)表示、知識(shí)計(jì)算、知識(shí)推理與決策能力的體系可實(shí)現(xiàn)對(duì)知識(shí)的管理與利用。

學(xué)術(shù)界和產(chǎn)業(yè)界都已經(jīng)開始推出基于知識(shí)的人工智能應(yīng)用平臺(tái)或解決方案，例如清華大學(xué)、浙江大學(xué)華為云、智源研究院、百度、竹間智能、國(guó)雙等推出的知識(shí)計(jì)算引擎、知識(shí)中臺(tái)、知識(shí)工程平臺(tái)、知識(shí)智能平臺(tái)等解決方案。未來(lái)，知識(shí)計(jì)算將著力在深度學(xué)習(xí)算法中嵌入先驗(yàn)知識(shí)建立可解釋模型讓知識(shí)深入?yún)⑴c模型求解，進(jìn)一步提高人工智能的效率、水平以及魯棒性、可解釋性、可遷移性。

人工智能與科學(xué)研究融合不斷深入，開始“顛覆”傳統(tǒng)研究范式。

近年來(lái)，人工智能對(duì)海量數(shù)據(jù)的分析能力能夠讓研究者不再局限于常規(guī)的“推導(dǎo)定理式”研究，可以基于高維數(shù)據(jù)發(fā)現(xiàn)相關(guān)信息繼而加速研究進(jìn)程。

2020 年，DeepMind 提出 AlphaFold2 在國(guó)際蛋白質(zhì)結(jié)構(gòu)預(yù)測(cè)競(jìng)賽(CASP) 撥得頭籌，能夠精確地預(yù)測(cè)蛋白質(zhì)的 3D結(jié)構(gòu)，其準(zhǔn)確性可以與使用冷凍電子顯微鏡等實(shí)驗(yàn)技術(shù)解析的 3D 結(jié)構(gòu)相媲美。

中美研究團(tuán)隊(duì)使用 AI 的方法,在保證“從頭計(jì)算( ab initio )高精度的同時(shí)，將分子動(dòng)力學(xué)極限提升了數(shù)個(gè)量級(jí)，比過(guò)去同類工作計(jì)算空間尺度增大 100 倍，計(jì)算速度提高 1000 倍，獲得 2020 年ACM 戈登貝爾獎(jiǎng)7。更為驚喜的是人工智能與力學(xué)、化學(xué)、材料學(xué)、生物學(xué)乃至工程領(lǐng)域等融合探索不斷涌現(xiàn)，未來(lái)將不斷拓展人工智能應(yīng)用的深度和廣度。

2.單點(diǎn)算力持續(xù)突破，新技術(shù)仍處于探索階段

當(dāng)前人工智能算力持續(xù)突破，面向訓(xùn)練用和推斷用的芯片仍在快速演進(jìn)。這主要源于算力需求的驅(qū)動(dòng)，一方面體現(xiàn)在模型訓(xùn)練階段，根據(jù) Open AI 數(shù)據(jù)，模型計(jì)算量增長(zhǎng)速度遠(yuǎn)超人工智能硬件算力增長(zhǎng)速度，存在萬(wàn)倍差距[8，另一方面，由于推斷的泛在性，使得推斷用算力需求持續(xù)增長(zhǎng)。與此同時(shí)，新的算力架構(gòu)也在不斷研究中，類腦芯片、存內(nèi)計(jì)算、量子計(jì)算等備受關(guān)注，但總體上處于探索階段。

訓(xùn)練芯片創(chuàng)新加速，推斷芯片朝著專用定制化發(fā)展?；?GPU的訓(xùn)練芯片持續(xù)增多

面向 GPU 創(chuàng)新的企業(yè)開始發(fā)力，出現(xiàn)了摩爾線程、天數(shù)智芯、壁例科技等一批專注 GPU賽道的初創(chuàng)公司。基于ASIC 等架構(gòu)云端訓(xùn)練芯片能力提升顯著，寒武紀(jì)的思元 370、原科技的“邃思 2.0”以及百度的昆 2 等相對(duì)上一代產(chǎn)品均有 3-4 倍以上的算力提升。

專用定制的端側(cè)推理芯片百花齊放，面向手機(jī)應(yīng)用的智能芯片成為亮點(diǎn)。2021 年 1 月，聯(lián)發(fā)科推出了高端手機(jī)芯片Dimensity 1200，可邊緣處理 5G、AI 和圖像數(shù)據(jù)等。8 月，谷歌為其 Pixel 系列手機(jī)專門推出了首款智能手機(jī)芯片 Tensor。

類腦芯片、存內(nèi)計(jì)算、量子計(jì)算等依舊是重點(diǎn)探索方向。

類腦芯片、存內(nèi)計(jì)算、量子計(jì)算等技術(shù)在理論層面可實(shí)現(xiàn)高算力、低功耗等優(yōu)點(diǎn)，取得了一些進(jìn)展，但總體上來(lái)看目前技術(shù)成熟度相對(duì)較低。

北京大學(xué)類腦智能芯片中心在 2021 年ISSCC 發(fā)布“超低功耗智能物聯(lián)網(wǎng)芯片(AIOT)”等成果。新型人工智能芯片受到投資資金青睞2021年以來(lái)多家企業(yè)完成了億元級(jí) A 輪或 A+輪融資,包括 3D 視覺(jué)AI 芯片廠商埃瓦科技，專注神經(jīng)擬態(tài)感存算一體芯片研發(fā)的九天睿芯，以及 AI 視覺(jué)芯片研發(fā)公司愛芯科技等。

人工智能的快速發(fā)展推動(dòng)數(shù)據(jù)規(guī)模不斷提升。據(jù) IDC 測(cè)算,2025年全球數(shù)據(jù)規(guī)模將達(dá)到 163ZB，其中 80%-90%是非結(jié)構(gòu)化數(shù)據(jù)。數(shù)據(jù)服務(wù)進(jìn)入深度定制化的階段，百度、阿里巴巴、京東等公司推出根據(jù)不同場(chǎng)景和需求進(jìn)行數(shù)據(jù)定制的服務(wù): 企業(yè)需求的數(shù)據(jù)集從通用簡(jiǎn)單場(chǎng)景向個(gè)性化復(fù)雜場(chǎng)景過(guò)渡，例如語(yǔ)音識(shí)別數(shù)據(jù)集從普通話向小語(yǔ)種、方言等場(chǎng)景發(fā)展，智能對(duì)話數(shù)據(jù)集從簡(jiǎn)答問(wèn)答、控制等場(chǎng)景向應(yīng)用場(chǎng)景、業(yè)務(wù)問(wèn)答等方向發(fā)展。

各方積極探索建立高質(zhì)量知識(shí)集，支撐未來(lái)知識(shí)驅(qū)動(dòng)的人工智能應(yīng)用發(fā)展。知識(shí)集中包含語(yǔ)音、圖像、文本等傳統(tǒng)數(shù)據(jù)和定義、規(guī)則、邏輯關(guān)系等,是知識(shí)的數(shù)據(jù)化呈現(xiàn)，業(yè)界著名知識(shí)集有 Wordnet、Hownet 等。例如阿里巴巴聯(lián)合香港理工大學(xué)基于服裝設(shè)計(jì)知識(shí)開發(fā)FashionAI 知識(shí)集，加速了 AI在服裝設(shè)計(jì)產(chǎn)業(yè)落地應(yīng)用。

（二）人工智能工具鏈成為工程實(shí)踐能力核心

隨著人工智能技術(shù)不斷發(fā)展，近年來(lái)工程落地應(yīng)用呈現(xiàn)加速態(tài)勢(shì)。金融領(lǐng)域，人工智能技術(shù)開始深入前臺(tái)、中臺(tái)、后臺(tái)全過(guò)程:醫(yī)療人工智能開始邁入市場(chǎng)化階段，截至 2021 年 8 月底，共有 28款產(chǎn)品獲批三類醫(yī)療器械注冊(cè)證；

?制造領(lǐng)域人工智能快速發(fā)展，德勤預(yù)計(jì)我國(guó)未來(lái)五年將保持年均 40%以上的增長(zhǎng)率。目前企業(yè)應(yīng)用人工智能呈現(xiàn)出從初步探索到規(guī)模應(yīng)用的過(guò)渡，總體上來(lái)看，不斷提升工程實(shí)踐能力成為未來(lái)應(yīng)用的關(guān)鍵。

人工智能工程化開始成為各界關(guān)注焦點(diǎn)。

學(xué)術(shù)界，卡耐基梅隆大學(xué)軟件工程學(xué)研究所于近年啟動(dòng)人工智能工程化研究，并聯(lián)合高校和工業(yè)界承擔(dān)了一項(xiàng)由美國(guó)官方機(jī)構(gòu)資助的國(guó)家研究計(jì)劃:; 世界知名人工智能專家喬丹 (Michael I.Jordan)、邢波等認(rèn)為人工智能工程化是一門新興的工程科學(xué)，是人工智能從理論學(xué)科到工程學(xué)科發(fā)展的趨勢(shì)。

產(chǎn)業(yè)界，Gartner 連續(xù)兩年把人工智能工程化列為年度戰(zhàn)略技術(shù)趨勢(shì)之一，阿里云等企業(yè)把人工智能工程化視作將 AI 變?yōu)槠髽I(yè)生產(chǎn)力的關(guān)鍵。

人工智能工程化聚焦工具體系、開發(fā)流程、模型管理全生命流程的高效耦合。

工具體系層面，體系化與開放化成為研發(fā)平臺(tái)技術(shù)工具鏈的發(fā)展特點(diǎn)。圍繞機(jī)器學(xué)習(xí)和深度學(xué)習(xí)等技術(shù)，已初步構(gòu)建起較為完備的工具體系，大幅降低數(shù)據(jù)處理、模型開發(fā)和部署、運(yùn)維管理等難度，其中關(guān)鍵的軟件框架多采用 TensorFlow、PyTorch、Paddle、MindSpore、OneFlow 等開源框架;

開發(fā)流程層面，工程化關(guān)注人工智能模型開發(fā)的生命流程，追求高效且標(biāo)準(zhǔn)化的持續(xù)生產(chǎn)持續(xù)交付和持續(xù)部署，最終以最佳的模型進(jìn)入應(yīng)用層面產(chǎn)生商業(yè)價(jià)值。例如 MLOps 就是為了連接模型構(gòu)建團(tuán)隊(duì)、業(yè)務(wù)團(tuán)隊(duì)和運(yùn)維團(tuán)隊(duì)建立起標(biāo)準(zhǔn)化的模型開發(fā)、部署與運(yùn)維流程。

模型管理層面，隨著企業(yè)智能化應(yīng)用的逐步加深，模型種類和數(shù)量大幅增長(zhǎng)，企業(yè)需要建設(shè)對(duì)模型生命周期的管理機(jī)制，對(duì)模型的版本歷程、性能表現(xiàn)屬性、相關(guān)數(shù)據(jù)、衍生的模型檔案等進(jìn)行標(biāo)準(zhǔn)化的管理運(yùn)維。

自動(dòng)機(jī)器學(xué)習(xí)技術(shù)是提升工程化能力的重要能力。

自動(dòng)機(jī)器學(xué)習(xí)是指在機(jī)器學(xué)習(xí)開發(fā)應(yīng)用全流程的部分環(huán)節(jié)或者全部環(huán)節(jié)實(shí)現(xiàn)自動(dòng)化，可以有效降低當(dāng)前階段人工智能開發(fā)門檻高、技術(shù)人才匱乏等挑戰(zhàn)。該技術(shù)主要包括自動(dòng)數(shù)據(jù)預(yù)處理、自動(dòng)特征工程、自動(dòng)超參數(shù)搜索、自動(dòng)模型網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計(jì)、自動(dòng)模型部署等內(nèi)容，低代碼開發(fā)、預(yù)訓(xùn)練模型等技術(shù)也與自動(dòng)機(jī)器學(xué)習(xí)密切相關(guān)，并呈現(xiàn)融合發(fā)展的趨勢(shì)。

當(dāng)前，頭部互聯(lián)網(wǎng)企業(yè)和創(chuàng)新企業(yè)已經(jīng)開始積極布局AutoML 技術(shù)和工具，但受限于技術(shù)成熟度，AutoML 的應(yīng)用場(chǎng)景還停留在某些開發(fā)環(huán)節(jié) (如特征工程 ) 或者某些特定的技術(shù)領(lǐng)域 (如語(yǔ)音識(shí)別、目標(biāo)檢測(cè)、智能對(duì)話等 )。

云邊端協(xié)同管理的技術(shù)需求逐漸凸顯，人工智能上云進(jìn)程不斷加速。

隨著人工智能與各個(gè)行業(yè)的深度融合，人工智能邊緣端和終端設(shè)備將得到越來(lái)越廣泛的應(yīng)用，同時(shí)開發(fā)者也將面臨邊端設(shè)備繁雜不易適配、運(yùn)維管理難等問(wèn)題。一方面，平臺(tái)通過(guò)模型壓縮、自適應(yīng)模型生成等技術(shù)實(shí)現(xiàn)邊端設(shè)備的模型適配和部署;另一方面，通過(guò)對(duì)編譯優(yōu)化、中間表示等的設(shè)計(jì)和配置，實(shí)現(xiàn)云邊端設(shè)備的協(xié)同管理和運(yùn)維。

（三）安全可信人工智能技術(shù)朝著一體化發(fā)展

隨著社會(huì)各界對(duì)人工智能信任問(wèn)題的不斷關(guān)注，安全可信的人工智能技術(shù)已成為研究熱點(diǎn)。研究的焦點(diǎn)主要是提升人工智能系統(tǒng)穩(wěn)定性、可解釋性、隱私保護(hù)、公平性等，這些技術(shù)構(gòu)成了可信人工智能的基礎(chǔ)支撐能力。

人工智能系統(tǒng)穩(wěn)定性技術(shù)重點(diǎn)逐步從數(shù)字域擴(kuò)展到物理域。

人工智能系統(tǒng)面臨中毒攻擊、對(duì)抗攻擊、后門攻擊等特有攻擊，這加大了安全性方面的挑戰(zhàn)。這些攻擊技術(shù)既可互相獨(dú)立也可以同時(shí)存在，例如通過(guò)打印對(duì)抗樣本眼鏡等能夠直接對(duì)人臉識(shí)別系統(tǒng)造成物理層面的干擾，攻擊者在路牌上粘貼對(duì)抗樣本擾動(dòng)圖案，使得自動(dòng)駕駛系統(tǒng)錯(cuò)誤地將“停止”路牌識(shí)別為“限速”路牌等。圍繞著人工智能系統(tǒng)的穩(wěn)定性測(cè)試技術(shù)也成為了關(guān)鍵，華為、百度等紛紛推出基于模糊理論的相關(guān)測(cè)試技術(shù)，致力于探索提高人工智能系統(tǒng)的穩(wěn)定性。

人工智能可解釋性增強(qiáng)技術(shù)仍處在初期階段，多種路徑持續(xù)探索。

增強(qiáng)人工智能系統(tǒng)的可解釋性成為熱點(diǎn)工作，主要路徑包括建立適當(dāng)?shù)目梢暬瘷C(jī)制嘗試評(píng)估和解釋模型的中間狀態(tài);通過(guò)影響函數(shù)來(lái)分析訓(xùn)練數(shù)據(jù)對(duì)于最終收斂的人工智能模型的影響; 通過(guò)方法分析人工智能模型利用哪些數(shù)據(jù)特征做出預(yù)測(cè):通過(guò)使用簡(jiǎn)單的可解釋模型 對(duì)復(fù)雜的黑盒模型進(jìn)行局部近似來(lái)研究黑盒模型的可解釋性等。

隱私計(jì)算技術(shù)助力人工智能數(shù)據(jù)安全可信地進(jìn)行協(xié)作。

人工智能系統(tǒng)需要依賴大量數(shù)據(jù)，然而數(shù)據(jù)的流轉(zhuǎn)過(guò)程以及人工智能模型本身都有可能泄漏敏感隱私數(shù)據(jù)。AI 結(jié)合隱私計(jì)算技術(shù)，可從數(shù)據(jù)源端確保原始數(shù)據(jù)真實(shí)可信。利用隱私計(jì)算技術(shù)，數(shù)據(jù)“可用不可見”形成物理分散的多元數(shù)據(jù)的邏輯集中視圖，可以保證 AI 模型有充足的、可信的數(shù)據(jù)可供利用。

提升人工智能公平性的關(guān)鍵在于從數(shù)據(jù)和技術(shù)兩方面入手。

隨著人工智能系統(tǒng)的廣泛應(yīng)用，不公平?jīng)Q策行為以及對(duì)部分群體的歧視等問(wèn)題越來(lái)越突出，導(dǎo)致這些決策偏見主要原因如下: 受數(shù)據(jù)采集條件限制，不同群體在數(shù)據(jù)中所占權(quán)重不均衡;在不平衡數(shù)據(jù)集上訓(xùn)練得到的人工智能模型，造成模型決策不公平。為了保障人工智能系統(tǒng)的決策公平性，從數(shù)據(jù)層面來(lái)看，主要通過(guò)構(gòu)建完整異構(gòu)數(shù)據(jù)集，將數(shù)據(jù)固有歧視和偏見最小化: 對(duì)數(shù)據(jù)集進(jìn)行周期性檢查，保證數(shù)據(jù)高質(zhì)量性。從技術(shù)層面來(lái)看，需要通過(guò)引入公平?jīng)Q策量化指標(biāo)的算法，來(lái)減輕或消除決策偏差及潛在的歧視。

體系化推進(jìn)人工智能可信安全技術(shù)將是重要趨勢(shì)。

一方面，當(dāng)前相關(guān)研究多是從穩(wěn)定、隱私、公平等單一維度展開。已有研究工作表明，穩(wěn)定性、公平性、可解釋性等不同要求之間存在相互協(xié)同或相互制約的關(guān)系，若僅考慮某一個(gè)方面的要求則可能會(huì)造成其他要求的沖突。

如何構(gòu)建系統(tǒng)的研究框架，從而保持不同特征要素之間的最優(yōu)動(dòng)態(tài)平衡成為關(guān)鍵。另一方面，"需要從系統(tǒng)層面開展可信安全的研究，這一問(wèn)題不僅僅是人工智能算法層面問(wèn)題，還涉及到整個(gè)系統(tǒng)，例如人工智能承載操作系統(tǒng)、軟件框架、第三方庫(kù).以及硬件設(shè)備自身的安全問(wèn)題等，需要構(gòu)建人工智能全鏈條、全生命周期的可信安全。

03

全球高度關(guān)注人工智能治理工作，人工智能安全可信成重點(diǎn)

（一）人工智能風(fēng)險(xiǎn)不斷增多，全球初步建立治理機(jī)制

1.人工智能深入賦能引發(fā)挑戰(zhàn)

人工智能帶來(lái)的風(fēng)險(xiǎn)與挑戰(zhàn)是多方面的。除了人工智 能技術(shù)自身存在天然的缺陷外，區(qū)別于純粹的技術(shù)風(fēng)險(xiǎn)，人工智能風(fēng)險(xiǎn)的淵源是人工智能系統(tǒng)的應(yīng)用對(duì)現(xiàn)有的規(guī)范體系以及倫理與社會(huì)秩序的沖擊。

人工智能固有技術(shù)風(fēng)險(xiǎn)持續(xù)放大。

以深度學(xué)習(xí)為核心的人工智能技術(shù)正在不斷暴露出由其自身特性引發(fā)的風(fēng)險(xiǎn)隱患。一是深度學(xué)習(xí)模型存在脆弱和易受攻擊的缺陷，使得人工智能系統(tǒng)的可靠性難以得到足夠的信任。二是黑箱模型具備高度復(fù)雜性和不確定性，算法不透明容易引發(fā)不確定性風(fēng)險(xiǎn)。三是人工智能算法產(chǎn)生的結(jié)果過(guò)度依賴訓(xùn)練數(shù)據(jù)，如果訓(xùn)練數(shù)據(jù)中存在偏見歧視，會(huì)導(dǎo)致不公平的智能決策產(chǎn)生。

現(xiàn)有法律及規(guī)范體系受到的挑戰(zhàn)不斷擴(kuò)大。

人工智能對(duì)就法律及規(guī)范體系造成了多個(gè)方面沖擊:?

在主體資格界定方面，沙特阿拉伯授予機(jī)器人索菲亞以公民資格引發(fā)全球爭(zhēng)議，此外還產(chǎn)生了人工智能是否能夠成為專利的發(fā)明者等問(wèn)題，如 2021年 7月澳大利亞聯(lián)邦法院裁定人工智能系統(tǒng)可被列為專利申請(qǐng)中的發(fā)明人，與美國(guó)英國(guó)持截然不同的態(tài)度。

在隱私保護(hù)方面，人工智能的發(fā)展伴隨侵犯?jìng)€(gè)人隱私問(wèn)題時(shí)有發(fā)生，央視“3·15”晚會(huì)曝光，大量企業(yè)違規(guī)采集顧客人臉信息用于商業(yè)目的。

在責(zé)任劃分方面，2015 年英國(guó)首例機(jī)器人手術(shù)致人死亡11,特斯拉“失控門”事件使得自動(dòng)駕駛輔助系統(tǒng)受到質(zhì)疑。

倫理及社會(huì)秩序受到的沖擊愈發(fā)嚴(yán)重。

人工智能存在對(duì)人類權(quán)利造成沖擊的風(fēng)險(xiǎn)，人工智能引發(fā)歧視、對(duì)人類行為提出新規(guī)則勞動(dòng)力的變革更替等問(wèn)題。2021 年 8 月，俄羅斯在線支付服務(wù)公司Xsolla 使用算法判斷員工“不敬業(yè)且效率低”,并解雇了公司占總?cè)藬?shù)三分之一的 147 名員工。人工智能直接或間接傷害人類，沖擊社會(huì)秩序。2020 年 11 月有媒體報(bào)道伊朗核科學(xué)家被“人工智能”控制的武器刺殺，2019 年亞馬遜智能音箱曾給出勸人類自殺的建議。

2.全球掀起人工智能治理浪潮

當(dāng)前，面臨人工智能深入賦能而引發(fā)的多方面風(fēng)險(xiǎn)及挑戰(zhàn)，全球各國(guó)越來(lái)越重視人工智能治理。人工智能治理是一項(xiàng)復(fù)雜的系統(tǒng)工程，根據(jù)《人工智能治理白皮書》[16，人工智能治理體系由政府.行業(yè)組織、企業(yè)以及公眾等多元主體共同參與、協(xié)同合作，形成了倫理原則等“軟法”以及法律法規(guī)等“硬法”相結(jié)合的治理手段，旨在實(shí)現(xiàn)科技向善、造福人類的總體目標(biāo)愿景，推動(dòng)人工智能健康有序發(fā)展。人工智能治理機(jī)制如圖 3 所示

世界主要經(jīng)濟(jì)體聚焦人工智能治理焦點(diǎn)議題的討論，政府間國(guó)際組織成為重要發(fā)聲陣地，聯(lián)合國(guó)、G20、OECD、G7 等成為引導(dǎo)全球人工智能治理的重要組織。OECD 相關(guān)研究成果對(duì)于推動(dòng)全球人工智能治理起到了重要作用，是 G7 人工智能監(jiān)管相關(guān)決議、G20人工智能原則的重要參考。

聯(lián)合國(guó) (UN) 積極推動(dòng)人工智能倫理治理進(jìn)程。聯(lián)合國(guó)科教文組織(UNESCO)于 2021 年 11 月 25 日發(fā)布《人工智能倫理問(wèn)題建議書》，這是全球首個(gè)針對(duì)人工智能倫理制定的規(guī)范框架，是迄今為止全世界在政府層面達(dá)成的最廣泛的共識(shí)，同時(shí)賦予各國(guó)在相應(yīng)層面應(yīng)用該框架的責(zé)任。世界衛(wèi)生組織 (WHO) 于 2021年6 月28日發(fā)布了第一份關(guān)于在醫(yī)療衛(wèi)生中使用人工智能的指南《醫(yī)療衛(wèi)生中人工智能的倫理和管制》，確保人工智能技術(shù)能夠?yàn)槿蛩袊?guó)家的公共利益服務(wù)。

二十國(guó)集團(tuán) (G20) 于2019 年 6 月在參考《OECD 人工智能原則》的基礎(chǔ)上，批準(zhǔn)了倡導(dǎo)人工智能使用和研發(fā)“尊重法律原則、人權(quán)和民主價(jià)值觀”的《G20 人工智能原則》，成為人工智能治理方面的首個(gè)政府間國(guó)際共識(shí)，確立了以人為本的發(fā)展理念。中國(guó)支持圍繞人工智能加強(qiáng)對(duì)話，落實(shí) G20 人智能原則，推動(dòng)全球人工智能健康發(fā)展。

經(jīng)濟(jì)合作與發(fā)展組織(OECD) 于 2019 年 5 月22 日發(fā)布了全球首個(gè)人工智能政府間政策指導(dǎo)方針，形成《OECD 人工智能原則》確立了負(fù)責(zé)任地管理可信賴的人工智能的五項(xiàng)原則。OECD 于 2020年 2 月設(shè)立了人工智能政策觀察站 (OECD.AI) ，通過(guò)分享人工智能政策及實(shí)踐的最佳案例，促進(jìn)國(guó)際合作，幫助成員國(guó)打造可信賴的人工智能系統(tǒng)以實(shí)現(xiàn)全社會(huì)利益。

七國(guó)集團(tuán) (G7) 在全球發(fā)達(dá)經(jīng)濟(jì)體間就人工智 能治理開啟了共識(shí)性的探索。2021 年 1 月舉行的 G7 峰會(huì)表示各成員國(guó)將合作研究國(guó)際人工智能標(biāo)準(zhǔn)16:9 月，在 G7 數(shù)據(jù)保護(hù)和隱私當(dāng)局會(huì)議上，表示未來(lái)將把數(shù)據(jù)保護(hù)和隱私監(jiān)管作為人工智能治理的核心工作，并推動(dòng)業(yè)界設(shè)計(jì)滿足數(shù)據(jù)保護(hù)要求的人工智能產(chǎn)品。

（二）人工智能治理邁入軟硬法協(xié)同和場(chǎng)景規(guī)制新階段

自2017 年《阿西洛馬人工智能原則》問(wèn)世以來(lái)，全球掀起了探索制定人工智能倫理原則的熱潮。當(dāng)前，G20 人工智能原則被國(guó)際社會(huì)普遍認(rèn)同，政府間組織成為引導(dǎo)人工智能治理方向的重要力量全球各國(guó)加速完善人工智能治理相關(guān)規(guī)則體系。2021 年歐盟率先推出《人工智能法》草案標(biāo)志著人工智能治理從原則性約束的“軟法”向更具實(shí)質(zhì)性監(jiān)管的“硬法”加速推進(jìn);與此同時(shí)，隨著人工智能與實(shí)體經(jīng)濟(jì)融合程度不斷加深，對(duì)人工智能治理越來(lái)越聚焦到具體的場(chǎng)景上。

1.人工智能治理實(shí)質(zhì)化進(jìn)程加速推進(jìn)

當(dāng)前，各國(guó)人工智能治理側(cè)重各有不同，但整體上呈現(xiàn)加速演進(jìn)態(tài)勢(shì)，即從初期構(gòu)建以“軟法”為導(dǎo)向的社會(huì)規(guī)范體系，開始邁向以“硬法”為保障的風(fēng)險(xiǎn)防控體系。

歐盟從倫理向監(jiān)管穩(wěn)步推進(jìn)，欲引領(lǐng)全球人工智能監(jiān)管規(guī)則。

2021 年 4 月21日，歐盟公布了《人工智能法》草案，是全球范圍內(nèi)首部系統(tǒng)化規(guī)制人工智能的法律，細(xì)化了人工智能四級(jí)風(fēng)險(xiǎn)框架重點(diǎn)針對(duì)高風(fēng)險(xiǎn)系統(tǒng)作出規(guī)制，并提出了較為完善的監(jiān)管配套措施,這是歐盟繼發(fā)布 《可信人工智能倫理指南》 (2018 ) 和《人工智能白皮書-通往卓越和信任的歐洲路徑》(2020)后的又一重要舉措，標(biāo)志著全球人工智能治理從倫理原則等軟性約束，邁向全面且具有可操作性的法律規(guī)制階段。

美國(guó)強(qiáng)調(diào)審慎監(jiān)管以促進(jìn)創(chuàng)新發(fā)展。

最早由 2019 年行政令《保持美國(guó)在人工智能領(lǐng)域的領(lǐng)導(dǎo)地位》奠定了美國(guó)在人工智能治理方面以強(qiáng)化全球領(lǐng)導(dǎo)地位為核心的總基調(diào)。美國(guó) 2019 年提出《算法問(wèn)責(zé)法案》，要求對(duì)“高風(fēng)險(xiǎn)”的自動(dòng)決策系統(tǒng)進(jìn)行影響評(píng)估: 2020 年美國(guó)參議院發(fā)布《國(guó)家生物識(shí)別信息隱私法案》，在個(gè)人隱私數(shù)據(jù)保護(hù)的基礎(chǔ)上，針對(duì)人工智能賦能的生物信息識(shí)別進(jìn)行了隱私保護(hù):2021年5月，美國(guó)《算法公正與在線平臺(tái)透明度法案》從用戶、監(jiān)管部門和公眾三個(gè)主體維度提出算法透明的義務(wù)要求。2021 年7月美國(guó)政府問(wèn)責(zé)局發(fā)布人工智能問(wèn)責(zé)框架，以確保人工智能系統(tǒng)的公平、可靠、可追溯和可治理等。

中國(guó)軟法硬法雙兼顧，齊頭推進(jìn)人工智能治理。

原則倫理層面國(guó)家新一代人工智能治理專業(yè)委員會(huì)繼 2019 年 6 月發(fā)布《新一代人工智能治理原則-_發(fā)展負(fù)責(zé)任的人工智能》之后，于 2021 年 9 月發(fā)布《新一代人工智能倫理規(guī)范》，旨在將倫理道德融入人工智 能全生命周期，積極引導(dǎo)全社會(huì)負(fù)責(zé)任的開展人工智能研發(fā)與應(yīng)用活動(dòng)。

法律進(jìn)程方面，我國(guó)尚未出臺(tái)人工智能相關(guān)的統(tǒng)一法律，但是2021年 11 月正式實(shí)施的《個(gè)人信息保護(hù)法》，與《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》共同形成了治理人工智能底層要素的堅(jiān)固法律體系。此外，地方層面積極探索，深圳于 2021 年 7月出臺(tái)《深圳經(jīng)濟(jì)特區(qū)人工智能產(chǎn)業(yè)促進(jìn)條例 (草案)》，助力人工智能產(chǎn)業(yè)健康發(fā)展。

與此同時(shí)，英國(guó)、法國(guó)、日本、韓國(guó)等國(guó)家也針對(duì)人工智能治理開展了相關(guān)工作。英國(guó)強(qiáng)調(diào)人工智能規(guī)范發(fā)展并推動(dòng) AI 教育及人才培養(yǎng)，在《人工智能: 未來(lái)決策的機(jī)會(huì)和影響》 (2016 ) 、《英國(guó)人工智能發(fā)展的計(jì)劃、意愿和能力》(2018)、《新興技術(shù)憲章》(2021) 多份文件和報(bào)告中呼吁建立國(guó)家層面的人工智能準(zhǔn)則與倫理框架。法國(guó)通過(guò)專家研討、學(xué)術(shù)辯論等方式深化對(duì)人工智能倫理問(wèn)題的認(rèn)識(shí)。日本、韓國(guó)等從制造業(yè)智能化轉(zhuǎn)型和新興技術(shù)應(yīng)用等發(fā)展的角度關(guān)注人工智能倫理。

2.典型場(chǎng)景化治理各有側(cè)重加速落地

人工智能治理的復(fù)雜還體現(xiàn)在其應(yīng)用場(chǎng)景的多樣化和差異化。在不同場(chǎng)景下，人工智能技術(shù)的應(yīng)用深度和影響各有不同，典型場(chǎng)景的治理成為各國(guó)的工作重點(diǎn)，特別聚焦于自動(dòng)駕駛、智慧醫(yī)療和人臉識(shí)別等領(lǐng)域。

自動(dòng)駕駛領(lǐng)域，德國(guó)率先制定倫理準(zhǔn)則及框架法案，各國(guó)加緊部署分級(jí)分類監(jiān)管。

德國(guó)于 2017 年推出《自動(dòng)駕駛倫理準(zhǔn)則》，于2021年 5月通過(guò)《自動(dòng)駕駛法》草案: 2021 年，英國(guó)討論修改《公路法》，引入自動(dòng)駕駛汽車在高速公路上安全使用的新條款: 我國(guó)于 2021 年 5 月由國(guó)家互聯(lián)網(wǎng)信息辦公室會(huì)同有關(guān)部門起草了《汽車數(shù)據(jù)安全管理若干規(guī)定 (征求意見稿 ) 》，向社會(huì)公開征求意見。

智慧醫(yī)療領(lǐng)域，倫理原則逐步得到發(fā)展，監(jiān)管層面注重規(guī)制醫(yī)療器械準(zhǔn)入。

美國(guó) FDA 在 2019 年《人工智能醫(yī)療器械獨(dú)立軟件修正監(jiān)管框架 (討論稿)》的基礎(chǔ)上，于 2021 年 1月發(fā)布了《基于人工智能/機(jī)器學(xué)習(xí)的醫(yī)療器械軟件行動(dòng)計(jì)劃》，部署人工智能醫(yī)療器要求自 2021械軟件監(jiān)管行動(dòng)。歐盟出臺(tái)醫(yī)療器械條例 (MDR )，年5月新的醫(yī)療器械申請(qǐng)合規(guī)性證書。中國(guó)于 2021年6 月發(fā)布了《人工智能醫(yī)療器械注冊(cè)審查指導(dǎo)原則 (征求意見稿 )》，并推動(dòng)人工智能醫(yī)療器械行業(yè)有序發(fā)展。

人臉識(shí)別領(lǐng)域，全球各國(guó)邁入隱私保護(hù)和信息數(shù)據(jù)安全的強(qiáng)監(jiān)管時(shí)代。

歐盟在 2021 年 4 月出臺(tái)的《人工智能法》草案中將人臉識(shí)別納入高風(fēng)險(xiǎn)分類等級(jí)，10 月歐洲議會(huì)投票通過(guò)決議，呼吁全面禁止基于人工智能生物識(shí)別技術(shù)的大規(guī)模監(jiān)控。中國(guó)于 2021 年 11 月實(shí)施《個(gè)人信息保護(hù)法》，與 8 月最高人民法院出臺(tái)的人臉識(shí)別相關(guān)的司法解釋針對(duì)性地規(guī)制人臉信息處理。美國(guó)州或地方層面通過(guò)立法禁止政府機(jī)構(gòu)在公共場(chǎng)所使用人臉識(shí)別技術(shù)。英國(guó)于 2021 年 9月發(fā)布《新興技術(shù)憲章》，指出要合法道德的使用人臉識(shí)別等技術(shù)。

（三）人工智能安全框架成為有效規(guī)范風(fēng)險(xiǎn)的關(guān)鍵指引

為有效防范人工智能技術(shù)應(yīng)用帶來(lái)的安全風(fēng)險(xiǎn)，保障事關(guān)國(guó)家安全、經(jīng)濟(jì)命脈、社會(huì)穩(wěn)定等的人工智能系統(tǒng)的安全，需提出人工智能系統(tǒng)安全體系，為行業(yè)逐步提升人工智能安全能力提供有效指引。人工智能安全框架是從人工智能安全保護(hù)需求出發(fā)，將人工智能安全技術(shù)體系和人工智能安全管理體系進(jìn)行有機(jī)融合，構(gòu)建的人工智能安全整體體系設(shè)計(jì)與規(guī)劃，對(duì)維護(hù)國(guó)家人工智能安全和網(wǎng)絡(luò)安全具有重要意義。

1.人工智能安全框架逐漸形成雛形

人工智能安全框架需包含安全目標(biāo)、安全能力、安全技術(shù)和安全管理四個(gè)維度，如圖 4 所示。這四個(gè)防護(hù)維度基于自頂向下、層層遞進(jìn)的方式指導(dǎo)企業(yè)構(gòu)建人工智能安全防護(hù)體系。其中，設(shè)定合理安全目標(biāo)是保障人工智能應(yīng)用安全的起點(diǎn)和基礎(chǔ)，安全能力是實(shí)現(xiàn)安全目標(biāo)的有效保障，安全技術(shù)和安全管理是安全能力的支撐和體現(xiàn)。

2.分類分級(jí)成為框架構(gòu)建的新方向

分類分級(jí)成為全球人工智能治理的新風(fēng)向。歐盟《人工智能法》草案、美國(guó)《算法問(wèn)責(zé)法案》、加拿大《自動(dòng)化決策指令》、中國(guó)《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》等世界主要國(guó)家的法律法規(guī)和政策文件均提出建立人工智能系統(tǒng)或算法分類分級(jí)管理方式的要求。然而，上述法律法規(guī)或僅提出分類分級(jí)管理要求或采用列舉典型人工智能系統(tǒng)的方式描述分級(jí)方式，缺少分級(jí)原則，沒(méi)有可遵循的分級(jí)方法和流程，無(wú)法適用于快速涌現(xiàn)的新型人工智能應(yīng)用.需提出人工智能分類分級(jí)體系，明確分類分級(jí)原理以及便于實(shí)際操作的分類分級(jí)要素和方法。

按照分類管理、分級(jí)保護(hù)的思路，本白皮書提出了以下人工智能分類分級(jí)建議。根據(jù)人工智能系統(tǒng)的自主程度的不同，將人工智能系統(tǒng)分為輔助人類智能系統(tǒng)、人機(jī)混合智能系統(tǒng)和完全自主智能系統(tǒng)三類。依據(jù)人工智能系統(tǒng)的重要性和危害程度，將人工智 能系統(tǒng)分為中低風(fēng)險(xiǎn)智能系統(tǒng)、高風(fēng)險(xiǎn)智能系統(tǒng)和超高風(fēng)險(xiǎn)智能系統(tǒng)三級(jí)。其中每一類人工智能系統(tǒng)均可進(jìn)一步分為三級(jí)。

（四）可信人工智能已成為落實(shí)治理要求的重要方法論

根據(jù)《可信人工智能白皮書》以，面對(duì)人工智能引發(fā)的全球信任焦慮，發(fā)展可信人工智能已經(jīng)成為全球共識(shí)。

可信人工智能是從產(chǎn)業(yè)維度出發(fā)，落實(shí)人工智能治理要求的一整套方法論，是人工智能治理和產(chǎn)業(yè)實(shí)踐之間的橋梁。

圖 5 給出了可信人工智能的總體框架。

1.可信理念逐漸深入到人工智能全生命周期

可信人工智能從學(xué)術(shù)界提出，到各界積極研究，再到產(chǎn)業(yè)界開始落地實(shí)踐，其內(nèi)涵也在逐步的豐富和演進(jìn)?？尚湃斯ぶ悄芤呀?jīng)不再僅僅局限于對(duì)人工智能技術(shù)、產(chǎn)品和服務(wù)本身狀態(tài)的界定，而是逐步擴(kuò)展至一套體系化的方法論，涉及到如何構(gòu)造“可信”人工智能的方方面面，包括企業(yè)內(nèi)部管理、研發(fā)、運(yùn)營(yíng)等環(huán)節(jié)，以及行業(yè)相關(guān)工作，將相關(guān)抽象要求轉(zhuǎn)化為實(shí)踐所需的具體能力要求，從而提升社會(huì)對(duì)人工智能的信任程度。

2.企業(yè)已成為實(shí)踐可信人工智能的主要力量

企業(yè)作為人工智能技術(shù)研發(fā)和創(chuàng)新應(yīng)用的一線，需要直面人工智能信任挑戰(zhàn)，主動(dòng)開展自律自治工作，充分發(fā)揮企業(yè)能動(dòng)性落實(shí)人工智能技術(shù)、產(chǎn)品和服務(wù)的可信要求。

2018 年以來(lái)，谷歌、微軟IBM、曠視、騰訊等眾多國(guó)內(nèi)外企業(yè)紛紛推出了企業(yè)人工智能治理準(zhǔn)則，并形成相應(yīng)部門機(jī)構(gòu)推動(dòng)落實(shí)治理責(zé)任。

另外，企業(yè)也在積極探索以實(shí)踐可信為核心理念的人工智能治理模型，IBM、微軟華為、京東等國(guó)內(nèi)外企業(yè)發(fā)布多個(gè)人工智能可信工具，以幫助人工智能產(chǎn)品在研發(fā)過(guò)程中提升安全性、魯棒性、可解釋性、公平性等可信能力，并通過(guò)開源生態(tài)凝聚開發(fā)者宣傳可信理念。

3.行業(yè)組織推進(jìn)打造人工智能安全可信生態(tài)

可信人工智能的實(shí)現(xiàn)不僅僅是企業(yè)單方面的實(shí)踐和努力就能夠完成的，更需要多方參與和協(xié)同，最終形成一個(gè)相互影響、相互支持、相互依賴的良性生態(tài)。

在標(biāo)準(zhǔn)制定層面，2017 年以來(lái) ISO/IECIEEE、SAC/TC 28/SC 42 等國(guó)內(nèi)外標(biāo)準(zhǔn)組織已率先布局通用可信人工智能標(biāo)準(zhǔn)。2021 年4 月，我國(guó)在人臉識(shí)別場(chǎng)景下的國(guó)家標(biāo)準(zhǔn)《信息安全技術(shù)人臉識(shí)別數(shù)據(jù)安全要求》面向社會(huì)公開征求意見。

在行業(yè)自律層面，中國(guó)人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟 2019 年發(fā)布了《人工智能行業(yè)自律公約》，隨后在 2020 年發(fā)布了《可信 AI 操作指引》，并公布了首批商用人工智能系統(tǒng)可信評(píng)估結(jié)果，涉及 11 家企業(yè)的 16個(gè)人工智能系統(tǒng)，為用戶選型提供了重要參考。當(dāng)前，正在聯(lián)合業(yè)界共同編制《可信人工智能研發(fā)管理指南》等，以期推動(dòng)人工智能研發(fā)源頭的安全和可信。

04

總結(jié)與展望

我國(guó)人工智能技術(shù)和產(chǎn)業(yè)已經(jīng)取得了長(zhǎng)足的發(fā)展，我們相信“十四五”期間，人工智能技術(shù)創(chuàng)新將進(jìn)一步加快，產(chǎn)業(yè)規(guī)模持續(xù)擴(kuò)大.將涌現(xiàn)出一批發(fā)展?jié)摿Υ蟮膬?yōu)質(zhì)企業(yè)和產(chǎn)業(yè)集群，成為引領(lǐng)經(jīng)濟(jì)高質(zhì)量發(fā)展的重要引擎。

追求技術(shù)創(chuàng)新、聚焦工程實(shí)踐、確保可信安全逐漸成為未來(lái)人工智能發(fā)展的重要方向?；仡櫧甑娜斯ぶ悄馨l(fā)展歷程，不難發(fā)現(xiàn)技術(shù)創(chuàng)新與工程實(shí)踐相輔相成，算法和算力突破后帶動(dòng)了工具體系的發(fā)展，工具的成熟進(jìn)一步又支撐了技術(shù)落地應(yīng)用。當(dāng)前，人工智能已廣泛應(yīng)用于人們?nèi)粘Ｉa(chǎn)、生活的方方面面，對(duì)其安全可信品質(zhì)的需要已經(jīng)提升到前所未有的高度，推動(dòng)人工智能可靠可控的發(fā)展成為全球共識(shí)。站在“十四五”的開端，我們期待人工智能技術(shù)持續(xù)改善，人工智能產(chǎn)業(yè)及應(yīng)用能在下一個(gè)五年內(nèi)蓬勃且健康地發(fā)展。

一是在新技術(shù)不斷探索的同時(shí)，更加注重通過(guò)工程化的方式釋放技術(shù)紅利，并且確保安全可信。人工智能企業(yè)能否快速賦能各行各業(yè)，響應(yīng)多樣化需求，其關(guān)鍵因素在于企業(yè)的工程化能力。同時(shí),安全可信技術(shù)的需求越發(fā)重要，當(dāng)前圍繞著數(shù)據(jù)保護(hù)已經(jīng)催生了大量從事隱私計(jì)算技術(shù)的企業(yè)，未來(lái)圍繞著人工智能穩(wěn)定性、公平性等方面的技術(shù)也將會(huì)形成重要的力量。

二是在產(chǎn)業(yè)智能化進(jìn)程中，傳統(tǒng)行業(yè)的參與程度將越來(lái)越深入甚至?xí)鲗?dǎo)整個(gè)產(chǎn)業(yè)的發(fā)展進(jìn)程。產(chǎn)業(yè)發(fā)展重心已經(jīng)開始從“人工智能+”向“+人工智能”轉(zhuǎn)變，隨著傳統(tǒng)行業(yè)數(shù)字化進(jìn)程的提升，將提供海量的數(shù)據(jù)和豐富的應(yīng)用場(chǎng)景，為人工智能的應(yīng)用打開新的空間。這些傳統(tǒng)行業(yè)或領(lǐng)域中，人工智能滲透率更高的機(jī)構(gòu)將會(huì)對(duì)整個(gè)領(lǐng)域內(nèi)其他機(jī)構(gòu)輸出人工智能相關(guān)解決方案。

三是人工智能治理工作將越發(fā)關(guān)鍵，事關(guān)人工智能持續(xù)健康發(fā)展，統(tǒng)籌治理和發(fā)展成為必需。治理工作不僅切實(shí)關(guān)系到人工智能日常應(yīng)用問(wèn)題，也已上升為國(guó)際間競(jìng)爭(zhēng)與合作的重要議題。面臨世界各國(guó)各地區(qū)不同文化背景、不同發(fā)展程度，如何有效的開展人工智能治理實(shí)踐是重要的挑戰(zhàn)。我國(guó)政府、行業(yè)組織、企業(yè)等已在人工智能治理方面率先開始探索，將安全可信的理念融入到人工智能的全生命周期中，未來(lái)也將涌現(xiàn)出更多的實(shí)踐范式。

報(bào)告來(lái)源：中國(guó)信通院
報(bào)告編輯：智能機(jī)器人系統(tǒng)

更多精彩內(nèi)容請(qǐng)關(guān)注公眾號(hào)：BFT機(jī)器人

本文為原創(chuàng)文章，版權(quán)歸BFT機(jī)器人所有，如需轉(zhuǎn)載請(qǐng)與我們聯(lián)系。若您對(duì)該文章內(nèi)容有任何疑問(wèn)，請(qǐng)與我們聯(lián)系，將及時(shí)回應(yīng)。