近期，互聯(lián)網(wǎng)大廠相繼推出AI語言模型，從百度的文心一言到阿里巴巴的通義千問。而另一邊，ChatGPT引發(fā)的個(gè)人和商業(yè)數(shù)據(jù)泄露，也引發(fā)爭(zhēng)議。

為促進(jìn)生成式人工智能技術(shù)健康發(fā)展和規(guī)范應(yīng)用，國家互聯(lián)網(wǎng)信息辦公室起草了《生成式人工智能服務(wù)管理辦法（征求意見稿）》，向社會(huì)公開征求意見。

以ChatGPT為代表的人工智能生成內(nèi)容（AIGC）創(chuàng)新技術(shù)如何規(guī)制？征求意見稿對(duì)隱私、知識(shí)產(chǎn)權(quán)、肖像權(quán)、名譽(yù)權(quán)、訓(xùn)練數(shù)據(jù)、人工標(biāo)注、標(biāo)識(shí)、不公平競(jìng)爭(zhēng)、防沉迷等提出了規(guī)范。商道童言（Innovationcase）認(rèn)為《辦法》中有幾個(gè)條款值得重點(diǎn)關(guān)注。

第一條

為促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用，根據(jù)《中華人民共和國網(wǎng)絡(luò)安全法》《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國個(gè)人信息保護(hù)法》等法律、行政法規(guī)，制定本辦法。

在合規(guī)上，企業(yè)不僅要關(guān)注辦法提及的約束，更多的是監(jiān)管要求的演進(jìn)路徑，其相比《互聯(lián)網(wǎng)安全法》的基本規(guī)定有新的升級(jí)和新的要求。

本辦法的基礎(chǔ)，構(gòu)建在網(wǎng)安法、數(shù)安法、個(gè)保法的基礎(chǔ)框架上，因此，企業(yè)應(yīng)該關(guān)注生成式人工智能服務(wù)的本質(zhì)。這類服務(wù)基礎(chǔ)前提依然是網(wǎng)絡(luò)服務(wù)應(yīng)用，然后是是“數(shù)據(jù)密集型”應(yīng)用，極易觸及“個(gè)人信息”的雷區(qū)。?

數(shù)字經(jīng)濟(jì)應(yīng)用實(shí)踐專家駱仁童表示，在ChatGPT火爆的當(dāng)下，需要警惕的是，當(dāng)大家習(xí)慣了使用ChatGPT，很容易就會(huì)形成一個(gè)知識(shí)繭房，比互聯(lián)網(wǎng)時(shí)代甚至影響更大，這實(shí)際上對(duì)各國的政府來說都是一個(gè)大隱患?！妒謾C(jī)應(yīng)用沉迷機(jī)制最可怕的地方，是讓我們沒意識(shí)到自己在變蠢》

第二條

研發(fā)、利用生成式人工智能產(chǎn)品，面向中華人民共和國境內(nèi)公眾提供服務(wù)的，適用本辦法。

本辦法所稱生成式人工智能，是指基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)。

從廣義上講，“生成文字、圖片、聲音的算法模型和規(guī)則”可以涵蓋大部分網(wǎng)絡(luò)應(yīng)用。任何人工輸入的信息，都需要經(jīng)過算法模型或一定規(guī)則的處理，最終以另一種信息形式呈現(xiàn)。在輸出端，執(zhí)法部門如何理解“生成”在實(shí)踐中尤為重要。

也就意味著，當(dāng)生成式人工智能的產(chǎn)品不再是內(nèi)部的自行使用、測(cè)試使用或是為某個(gè)領(lǐng)域某個(gè)企業(yè)的定向開發(fā)，而是在互聯(lián)網(wǎng)上向公眾提供公開的服務(wù)時(shí)便需要注意合規(guī)的要求。

征求意見稿制度設(shè)計(jì)，一方面延續(xù)了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》關(guān)于標(biāo)識(shí)、評(píng)估、備案等既有制度安排，另一方面就訓(xùn)練數(shù)據(jù)、人工標(biāo)注等提出了新的合規(guī)要求，相比于《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，體現(xiàn)出監(jiān)管邏輯更新和制度體系迭代的新趨勢(shì)。

第四條

提供生成式人工智能產(chǎn)品或服務(wù)應(yīng)當(dāng)遵守法律法規(guī)的要求，尊重社會(huì)公德、公序良俗，符合以下要求：

（一）利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)體現(xiàn)社會(huì)主義核心價(jià)值觀，不得含有顛覆國家政權(quán)、推翻社會(huì)主義制度，煽動(dòng)分裂國家、破壞國家統(tǒng)一，宣揚(yáng)恐怖主義、極端主義，宣揚(yáng)民族仇恨、民族歧視，暴力、淫穢色情信息，虛假信息，以及可能擾亂經(jīng)濟(jì)秩序和社會(huì)秩序的內(nèi)容。

（二）在算法設(shè)計(jì)、訓(xùn)練數(shù)據(jù)選擇、模型生成和優(yōu)化、提供服務(wù)等過程中，采取措施防止出現(xiàn)種族、民族、信仰、國別、地域、性別、年齡、職業(yè)等歧視。

（三）尊重知識(shí)產(chǎn)權(quán)、商業(yè)道德，不得利用算法、數(shù)據(jù)、平臺(tái)等優(yōu)勢(shì)實(shí)施不公平競(jìng)爭(zhēng)。

（四）利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)真實(shí)準(zhǔn)確，采取措施防止生成虛假信息。

（五）尊重他人合法利益，防止傷害他人身心健康，損害肖像權(quán)、名譽(yù)權(quán)和個(gè)人隱私，侵犯知識(shí)產(chǎn)權(quán)。禁止非法獲取、披露、利用個(gè)人信息和隱私、商業(yè)秘密。

第五條

利用生成式人工智能產(chǎn)品提供聊天和文本、圖像、聲音生成等服務(wù)的組織和個(gè)人（以下稱“提供者”），包括通過提供可編程接口等方式支持他人自行生成文本、圖像、聲音等，承擔(dān)該產(chǎn)品生成內(nèi)容生產(chǎn)者的責(zé)任；

AIGC的治理將會(huì)著眼于內(nèi)容、算法、數(shù)據(jù)、平臺(tái)不正當(dāng)競(jìng)爭(zhēng)、用戶隱私等各個(gè)層面的問題。

首先，國家統(tǒng)一和國家安全是重中之重，強(qiáng)調(diào)內(nèi)容監(jiān)管。生成內(nèi)容不能觸及違反社會(huì)主義核心價(jià)值觀的底線，謹(jǐn)防打著人工智能旗號(hào)故意輸出違法有害內(nèi)容。
其次是要提防“算法歧視”現(xiàn)象。除了杜絕有害內(nèi)容的主動(dòng)輸出外，還規(guī)范了算法設(shè)計(jì)、數(shù)據(jù)選擇等相對(duì)隱性的業(yè)務(wù)實(shí)現(xiàn)規(guī)范，實(shí)現(xiàn)了從模型到數(shù)據(jù)全過程的平等。
同時(shí)，也提前給可能壟斷算法、算力、數(shù)據(jù)的企業(yè)進(jìn)行預(yù)警。國家倡導(dǎo)數(shù)字時(shí)代共享共治。在保護(hù)企業(yè)智力成果和投資成本的同時(shí)，防范如此前滴滴這種惡性競(jìng)爭(zhēng)和市場(chǎng)壟斷的發(fā)生。
數(shù)字經(jīng)濟(jì)應(yīng)用實(shí)踐專家駱仁童認(rèn)為，政府正在推進(jìn)“可信”的生成式人工智能服務(wù)的發(fā)展。對(duì)于這類服務(wù)，“可信”是最難做到的。具體來說，一是強(qiáng)調(diào)了安全評(píng)估和算法備案的前提和必要性；?二是強(qiáng)調(diào)服務(wù)提供商需要確保遵守?cái)?shù)據(jù)安全和個(gè)人信息保護(hù)，特別是隱私保護(hù)；三是對(duì)違法行為的處罰措施包括追究刑事責(zé)任。
核心問題指向服務(wù)產(chǎn)生的內(nèi)容可信度的波動(dòng)，可能超水平的表現(xiàn)，也可能難以分辨的潛在錯(cuò)誤，因此，要求企業(yè)采取一定措施保持生成內(nèi)容的準(zhǔn)確性也是符合實(shí)際需要的。

第八條

生成式人工智能產(chǎn)品研制中采用人工標(biāo)注時(shí)，提供者應(yīng)當(dāng)制定符合本辦法要求，清晰、具體、可操作的標(biāo)注規(guī)則，對(duì)標(biāo)注人員進(jìn)行必要培訓(xùn)，抽樣核驗(yàn)標(biāo)注內(nèi)容的正確性。

為了保證標(biāo)注的準(zhǔn)確性，減少因標(biāo)注錯(cuò)誤造成的數(shù)據(jù)污染，復(fù)雜的規(guī)則制定、訓(xùn)練、檢測(cè)成為行業(yè)的基本操作。服務(wù)開發(fā)者會(huì)自發(fā)地盡可能對(duì)標(biāo)簽進(jìn)行標(biāo)準(zhǔn)化，以提高模型的性能?！按驑?biāo)員”這一新職業(yè)可能也會(huì)逐漸出現(xiàn)在人工智能企業(yè)。

第十條

提供者應(yīng)當(dāng)明確并公開其服務(wù)的適用人群、場(chǎng)合、用途，采取適當(dāng)措施防范用戶過分依賴或沉迷生成內(nèi)容。

過去，用戶沉迷于網(wǎng)絡(luò)服務(wù)提供的內(nèi)容的例子比比皆是。然而，深度合成的內(nèi)容具有高度擬人化和高度交互性，讓人難以區(qū)分。他們很可能會(huì)深陷其中，不愿接受現(xiàn)實(shí)。不符合法律要求的相關(guān)服務(wù)很可能成為新時(shí)代的“網(wǎng)絡(luò)煙霧”。

第十一條

提供者在提供服務(wù)過程中，對(duì)用戶的輸入信息和使用記錄承擔(dān)保護(hù)義務(wù)。不得非法留存能夠推斷出用戶身份的輸入信息，不得根據(jù)用戶輸入信息和使用情況進(jìn)行畫像，不得向他人提供用戶輸入信息。法律法規(guī)另有規(guī)定的，從其規(guī)定。

信息泄露問題已經(jīng)開始出現(xiàn)在會(huì)話內(nèi)容生成服務(wù)中。為了根據(jù)用戶輸入提供“完全個(gè)性化”的輸出，服務(wù)提供商需要將輸入饋送到模型中，數(shù)據(jù)處理過程中很難保證“靜態(tài)”數(shù)據(jù)。

從Deepfake技術(shù)2019年爆紅以來，到去年起興起的Stable Diffusion技術(shù)、MidJourney，換臉技術(shù)、圖像生成技術(shù)就引發(fā)了對(duì)肖像權(quán)、名譽(yù)權(quán)的巨大爭(zhēng)議。

由于ChatGPT會(huì)保留用戶輸入數(shù)據(jù)以進(jìn)一步訓(xùn)練自身，其引發(fā)嚴(yán)重的隱私和數(shù)據(jù)安全擔(dān)憂。日前，ChatGPT被曝?cái)?shù)據(jù)泄漏，多名用戶反饋，看到了其他用戶與ChatGPT的對(duì)話記錄以及姓名、郵箱、信用卡最后四位數(shù)字等。當(dāng)?shù)貢r(shí)間4月5日，OpenAI發(fā)布聲明宣布了六方面整改措施，包括“保護(hù)兒童”“尊重隱私”等。

該技術(shù)的使用對(duì)商業(yè)機(jī)密也構(gòu)成威脅。近日，三星被曝芯片機(jī)密代碼遭ChatGPT泄露，引入不到20天就出3起事故。

中國支付清算協(xié)會(huì)也發(fā)出倡議書，提醒支付行業(yè)從業(yè)人員合規(guī)使用ChatGPT等工具，規(guī)避行業(yè)關(guān)鍵數(shù)據(jù)泄露風(fēng)險(xiǎn)。

第十五條

對(duì)于運(yùn)行中發(fā)現(xiàn)、用戶舉報(bào)的不符合本辦法要求的生成內(nèi)容，除采取內(nèi)容過濾等措施外，應(yīng)在3個(gè)月內(nèi)通過模型優(yōu)化訓(xùn)練等方式防止再次生成。

第十九條

提供者發(fā)現(xiàn)用戶利用生成式人工智能產(chǎn)品過程中違反法律法規(guī)，違背商業(yè)道德、社會(huì)公德行為時(shí)，包括從事網(wǎng)絡(luò)炒作、惡意發(fā)帖跟評(píng)、制造垃圾郵件、編寫惡意軟件，實(shí)施不正當(dāng)?shù)纳虡I(yè)營銷等，應(yīng)當(dāng)暫?；蛘呓K止服務(wù)。

對(duì)于生成式人工智能的“非法出口”，本辦法并沒有一刀切禁止，而是給企業(yè)留下了相當(dāng)大的空間，這部分也明確回應(yīng)了此前公眾的一些擔(dān)憂，起到了全面規(guī)范的作用。

一方面，提供商需要建立接收和處理用戶投訴的機(jī)制；另一方面，需要積極進(jìn)行內(nèi)容驗(yàn)證，發(fā)現(xiàn)違法內(nèi)容及時(shí)采取措施停止服務(wù)，防止危害不斷產(chǎn)生，限時(shí)優(yōu)化模型。

目前，本辦法還在征求意見階段，未來肯定會(huì)納入各方意見進(jìn)行調(diào)整。每個(gè)開發(fā)者都需要在數(shù)據(jù)維護(hù)、模型設(shè)計(jì)、模型輸出、用戶交互的全過程中進(jìn)行新的服務(wù)設(shè)計(jì)和改進(jìn)。

掌握人工智能治理的話語權(quán)、規(guī)則制定權(quán)，搶先形成新的國家競(jìng)爭(zhēng)優(yōu)勢(shì)，我國在個(gè)人信息保護(hù)和數(shù)據(jù)立法領(lǐng)域與歐盟、美國并行，本次出臺(tái)的辦法細(xì)則，也體現(xiàn)了我國重視和支持生成式人工智能技術(shù)的發(fā)展，將相關(guān)科研機(jī)構(gòu)和企業(yè)的發(fā)展納入合規(guī)、安全的框架，對(duì)人工智能建設(shè)極為有利。

商道童言（Innovationcases）歡迎點(diǎn)贊和分享哦！~~

免費(fèi)電子書：結(jié)構(gòu)化思維?|?荊棘商途?|?年度十詞?|?創(chuàng)新企業(yè)案例?|?區(qū)塊鏈金融

數(shù)字經(jīng)濟(jì)應(yīng)用實(shí)踐專家 駱仁童主講課程

智慧應(yīng)用 |《能源互聯(lián)網(wǎng)》.《新型電力系統(tǒng)》.《智慧建筑》.《智慧機(jī)場(chǎng)》.《智慧交通》.《煙草數(shù)字化》.《智慧城市》.《數(shù)字政府》

數(shù)字應(yīng)用?|?《大數(shù)據(jù)及中臺(tái)》.《區(qū)塊鏈》.《元宇宙》

人工智能 |??《人工智能趨勢(shì)》.?《ChatGPT新紀(jì)元》

數(shù)字化轉(zhuǎn)型?|《制造業(yè)數(shù)字化》.《零售業(yè)數(shù)字化》?

金融類課程 | 《金融科技創(chuàng)新》.?《商業(yè)銀行變革》?.《數(shù)字人民幣》

思維與技能 |《數(shù)字化管理思維》.《數(shù)字化組織變革》.《用戶思維》

宏觀與趨勢(shì) |《2023宏觀趨勢(shì)》.《數(shù)字經(jīng)濟(jì)》.《雙碳戰(zhàn)略》.《新能源汽車》

創(chuàng)新與創(chuàng)業(yè)?|《創(chuàng)業(yè)導(dǎo)師能力提升培訓(xùn)》.《中小企業(yè)賦能》