今天分享的是人工智能AI系列深度研究報(bào)告：《2023年可信AI技術(shù)和應(yīng)用進(jìn)展白皮書(shū)》。（報(bào)告出品方：中國(guó)信通院）

研究報(bào)告內(nèi)容摘要如下

人工智能的飛速進(jìn)步和應(yīng)用帶來(lái)了前所未有的機(jī)遇和挑戰(zhàn)，也將可信人工智能推向產(chǎn)業(yè)發(fā)展的前臺(tái)。2021 年，中國(guó)信通院《可信人工智能白皮書(shū)》首次系統(tǒng)提煉出業(yè)內(nèi)較為統(tǒng)一的可信 AI 特征要素，在安全魯棒、隱私保護(hù)、公平性、可解釋的大框架下，可信 AI 正在金融、保險(xiǎn)、制造、醫(yī)療等領(lǐng)域加速落地。伴隨人工智能技術(shù)底座不斷夯實(shí)和大模型、AIGC 等的爆發(fā)式增長(zhǎng)，人工智能邁出了走向通用人工智能的關(guān)鍵一步，2023 年 4 月中共中央政治局會(huì)議強(qiáng)調(diào)“重視通用人工智能發(fā)展，營(yíng)造創(chuàng)新生態(tài)，重視防范風(fēng)險(xiǎn)”，可信 AI成為新階段平衡創(chuàng)新與風(fēng)險(xiǎn)的重要技術(shù)手段。

本報(bào)告基于統(tǒng)一的可信 AI 認(rèn)知維度，梳理總結(jié)可信 AI 技術(shù)和應(yīng)用發(fā)展現(xiàn)狀，提煉面向新階段大模型和 AIGC 引發(fā)的新需求，形成以技術(shù)為保障的可信 AI 評(píng)估體系和工具。全文主要觀點(diǎn)如下：

一是歸納了可信 AI 發(fā)展變遷的產(chǎn)業(yè)技術(shù)背景，即近期算法、算力、數(shù)據(jù)基礎(chǔ)不斷夯實(shí)，人工智能固有技術(shù)風(fēng)險(xiǎn)持續(xù)放大，可信 AI技術(shù)成為 AI 領(lǐng)域關(guān)鍵底層能力，各國(guó)也正在圍繞生成式人工智能監(jiān)管、人工智能倫理等推動(dòng)治理。

二是梳理了現(xiàn)階段可信 AI 四大技術(shù)方向發(fā)展情況。可信 AI 已在行業(yè)領(lǐng)域落實(shí)成具體產(chǎn)品和實(shí)踐案例，總體上正從創(chuàng)新整合解決方案階段邁向形成可信系統(tǒng)機(jī)制的階段，完整的實(shí)踐鏈路、健全的標(biāo)準(zhǔn)和系統(tǒng)機(jī)制將逐步落地。

三是概括了面向大模型和 AIGC 的可信 AI 探索，即大模型時(shí)代下可能面臨的安全可信挑戰(zhàn)，主要包括大模型的生成式攻擊和防御大模型自身的安全風(fēng)險(xiǎn)和隱患、大模型的可解釋性和公平性問(wèn)題等三大類。

四是構(gòu)建了以技術(shù)為保障的可信 AI 評(píng)估體系，面向產(chǎn)業(yè)發(fā)展需求，構(gòu)建了包括隱私保護(hù)檢測(cè)、可解釋性檢測(cè)、公平性檢測(cè)和魯棒性檢測(cè)的可信 AI 檢測(cè)指標(biāo)體系，并提出了具體的評(píng)估內(nèi)容、指標(biāo)和方式，并可進(jìn)一步賦能大模型與 AIGC 發(fā)展。最后，本白皮書(shū)從技術(shù)、產(chǎn)業(yè)、生態(tài)和監(jiān)管維度對(duì)可信人工智能發(fā)展提出了建議，對(duì)趨勢(shì)進(jìn)行了展望，將迎來(lái)研究應(yīng)用更加均衡、內(nèi)在動(dòng)力更加多維、外在監(jiān)管更加全面的發(fā)展局面

（本文僅供學(xué)習(xí)參考，不代表我們的任何投資建議。如需使用相關(guān)信息，請(qǐng)參閱報(bào)告原文。）

精選報(bào)告來(lái)源公眾號(hào)：【人工智能學(xué)派】

人工智能學(xué)派專注于：AIGC、AI大模型、AI芯片、AI算力、元宇宙、虛擬數(shù)字人、機(jī)器人、智能硬件、智能家居、智能制造、AI+電商等行業(yè)報(bào)告