散文網(wǎng) » 科技 »學(xué)習(xí) » 商湯大模型倫理原則與實(shí)踐白皮書（附下載）

商湯大模型倫理原則與實(shí)踐白皮書（附下載）

2023-07-18 18:29 作者:星情獨(dú)葉 0人讀過 | 我要投稿

今天分享的是人工智能AI系列深度研究報(bào)告：《商湯大模型倫理原則與實(shí)踐白皮書》。（報(bào)告出品方：商湯智能產(chǎn)業(yè)研究院）

研究報(bào)告內(nèi)容摘要如下

一、生成式人工智能浪潮下的范式變革

2022 年，是人工智能發(fā)展歷程中極具里程碑意義的一年。以ChatGPT 為代表的生成式人工智能工具迅速火爆全球，成為人類邁向通用人工智能（Artificial General Intelligence）時(shí)代的歷史性節(jié)點(diǎn)之一。ChatGPT 基于 NLP 基礎(chǔ)模型（NLP 即自然語言處理），體現(xiàn)出跨知識(shí)領(lǐng)域、跨語種、多模態(tài)為特征的海量知識(shí)挖掘、人機(jī)自然交流，能實(shí)現(xiàn)撰寫代碼、回答問題、書寫論文、詩歌、劇本等指令，可以讓 AI 生產(chǎn)力從重復(fù)性體力生產(chǎn)環(huán)節(jié)向認(rèn)知和創(chuàng)造性生產(chǎn)環(huán)節(jié)延伸。上線僅兩個(gè)月，ChatGPT 活躍用戶便突破 1 億大關(guān)，一舉成為人類科技史上消費(fèi)者增長速度最快的應(yīng)用程序。

ChatGPT 這一現(xiàn)象級(jí)應(yīng)用的成功，標(biāo)志著人工智能正式進(jìn)入以“基礎(chǔ)模型+微調(diào)”為主要特征的生產(chǎn)范式，推動(dòng)人工智能進(jìn)入 2.0階段。2012 年，后來被譽(yù)為“人工智能教父”的 Geoffrey Hinton 帶領(lǐng)團(tuán)隊(duì)?wèi){借卷積神經(jīng)網(wǎng)絡(luò)（Convolutional Neural Networks, CNN）在ImageNet 的比賽中獲得冠軍，標(biāo)志著機(jī)器的視覺識(shí)別能力能夠超越人眼識(shí)別準(zhǔn)確率，開啟了人工智能工業(yè)化的進(jìn)程。由此，人工智能開始走進(jìn)一個(gè)個(gè)應(yīng)用場(chǎng)景。這一階段，人工智能的生產(chǎn)范式屬于典型的“手工作坊”模式，即人工智能廠商需要針對(duì)每個(gè)細(xì)分場(chǎng)景開發(fā)專屬的模型，進(jìn)而導(dǎo)致人工智能開發(fā)周期長，落地成本高，成為人工智能規(guī)?；瘧?yīng)用亟待突破的制約。ChatGPT 等預(yù)訓(xùn)練大模型應(yīng)用的成功打破了“手工定制”的生產(chǎn)范式，通過“基礎(chǔ)模型+微調(diào)”的方式，使得一個(gè)基礎(chǔ)模型能夠快速適配海量的下游應(yīng)用，為人工智能的規(guī)?；涞靥峁┝艘粭l可行的路徑。

如果以生產(chǎn)模式的差異作為分界線，我們大致可以將 2022 年之前的人工智能發(fā)展階段定義為人工智能 1.0 階段（AI1.0 階段），將2022 年之后的人工智能發(fā)展階段定義為人工智能 2.0 階段（AI2.0 階段）。AI2.0 階段相比 AI1.0 階段有以下幾點(diǎn)顯著變化：一是任務(wù)類型由封閉場(chǎng)景轉(zhuǎn)向開放任務(wù)；二是數(shù)據(jù)處理模態(tài)由單一模態(tài)轉(zhuǎn)向多模態(tài)；三是模型類型由判別式模型轉(zhuǎn)向生成式模型；四是生產(chǎn)模式由“手工作坊”轉(zhuǎn)向“基礎(chǔ)模型+微調(diào)”。

二、生成式人工智能風(fēng)險(xiǎn)管理 —— 一項(xiàng)緊迫的議程

自 ChatGPT 發(fā)布以來，全球主要國家、國際組織、企業(yè)和研究機(jī)構(gòu)紛紛提出人工智能治理舉措和呼吁，強(qiáng)調(diào)加強(qiáng)人工智能風(fēng)險(xiǎn)管理，規(guī)范人工智能技術(shù)發(fā)展。一方面，各國政府加快推進(jìn) 人工智能相關(guān)政策制定步伐。2023 年4 月 3 日，中國科技部發(fā)布《科技倫理審查辦法（試行）》（征求意見稿），提出涉及科技倫理敏感領(lǐng)域的，應(yīng)設(shè)立科技倫理（審查）委員會(huì)，并建立倫理高風(fēng)險(xiǎn)科技活動(dòng)的清單制度，對(duì)可能產(chǎn)生較大倫理風(fēng)險(xiǎn)挑戰(zhàn)的新興科技活動(dòng)實(shí)施清單管理。4 月 11 日，中國網(wǎng)信辦發(fā)布《生成式人工智能服務(wù)管理辦法（征求意見稿）》，旨在對(duì)生成式人工智能帶來的風(fēng)險(xiǎn)做出及時(shí)應(yīng)對(duì)。5 月 13 日，美國白宮總統(tǒng)科技顧問委員會(huì)（PCAST）成立生成式人工智能工作組，以幫助評(píng)估關(guān)鍵機(jī)遇和風(fēng)險(xiǎn)，并就如何更好地確保這些技術(shù)的開發(fā)和部署盡可能公平、負(fù)責(zé)任和安全提供意見。5 月 16 日，美國國會(huì)召開聽證會(huì)，OpenAI CEOSam Altman 應(yīng)邀出席，討論 “AI 監(jiān)管：人工智能的規(guī)則”，并建議政府組建新機(jī)構(gòu)、創(chuàng)建安全標(biāo)準(zhǔn)和指派第三方專家對(duì) AI 系統(tǒng)進(jìn)行審計(jì)等。5 月 16 日，法國 CNIL 發(fā)布行動(dòng)計(jì)劃，提出審計(jì)和監(jiān)控人工智能系統(tǒng)。5 月 20 日，G7 領(lǐng)導(dǎo)人表示，“需要立即評(píng)估生成式人工智能技術(shù)的機(jī)會(huì)和挑戰(zhàn)”，同意對(duì)人工智能采取“基于風(fēng)險(xiǎn)”的監(jiān)管。日本政府召開“AI 戰(zhàn)略會(huì)議”，討論制定人工智能使用規(guī)則。6 月 1日，澳大利亞官員表示，正計(jì)劃加強(qiáng)對(duì)人工智能的監(jiān)管，包括可能禁止深度造假和看似過于真實(shí)的虛假內(nèi)容。6 月 6 日，國務(wù)院辦公廳發(fā)布《國務(wù)院 2023 年度立法工作計(jì)劃》顯示，《人工智能法》已列入立法計(jì)劃，草案預(yù)備年內(nèi)提請(qǐng)全國人大審議。6 月 14 日，歐洲議會(huì)投票通過《人工智能法案》，標(biāo)志著該法案朝著成為法律邁出關(guān)鍵一步；其中，法案增加了對(duì)生成式人工智能工具提出新的透明度要求。與此同時(shí)，聯(lián)合國教科文組織呼吁各國應(yīng)立即實(shí)施全球倫理框架，以應(yīng)對(duì)人工智能挑戰(zhàn)。世界衛(wèi)生組織（WHO）也呼吁謹(jǐn)慎使用人工智能生成的大型語言模型工具。

另一方面，業(yè)界積極呼吁加強(qiáng)人工智能監(jiān)管。2023 年 3 月，特斯拉首席執(zhí)行官埃隆·馬斯克（Elon Musk）、蘋果聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克（Steve Wozniak）以及其他上千名 AI 研究人員日前簽署公開信，呼吁暫停研究比 GPT-4 更先進(jìn)的 AI 技術(shù)。由微軟等企業(yè)發(fā)起的商業(yè)軟件聯(lián)盟（BSA）公開發(fā)文，呼吁在國家隱私立法基礎(chǔ)上制定管理人工智能使用的規(guī)則。同時(shí)，包括 OpenAI 在內(nèi)的企業(yè)管理者認(rèn)為需要建立國際人工智能監(jiān)管機(jī)構(gòu)，并且要盡快建立起來。對(duì)此，聯(lián)合國秘書長安東尼奧·古特雷斯明確表示支持，并提出，計(jì)劃在今年年底建立一個(gè)國際人工智能監(jiān)管機(jī)構(gòu)，定期審查人工智能治理工作，并對(duì)如何與人權(quán)、法治和公共利益保持一致提出建議。英國首相里?！ぬK納克也對(duì)此積極回應(yīng)，并表示希望英國成為全球人工智能安全監(jiān)管的發(fā)源地。非營利組織人工智能安全中心呼吁將減輕人工智能帶來的滅絕風(fēng)險(xiǎn)作為全球優(yōu)先事項(xiàng)推進(jìn)。