作者：曾理?熊貓法律星球

隨著人工智能廣泛普及和應(yīng)用，生成式人工智能技術(shù)（Generative Artificial Intelligence）依托語言、圖像以及多模態(tài)大模型（Foundation Model），可以實現(xiàn)較好的內(nèi)容生成效果，并在傳媒、零售、法律、醫(yī)療、金融等領(lǐng)域逐步開始提供專業(yè)化與個性化內(nèi)容生成服務(wù)。

2023年4月11日，國家互聯(lián)網(wǎng)信息辦公室發(fā)布《關(guān)于<生成式人工智能服務(wù)征求意見稿（征求意見稿）>公開征求意見的通知》（以下統(tǒng)稱“征求意見稿”），意見反饋截止時間為2023年5月10日。

與該《征求意見稿》緊密相關(guān)的是由網(wǎng)信辦、工業(yè)和信息化部、公安部公布并于2023年1月10日起施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，以及由國家互聯(lián)網(wǎng)信息辦公室會同工業(yè)和信息化部、公安部、國家市場監(jiān)督管理總局發(fā)布并于2022年3月1日起施行的《互聯(lián)網(wǎng)信息服務(wù)推薦管理規(guī)定》。

本文將結(jié)合前述關(guān)于人工智能技術(shù)的相關(guān)立法，梳理并評析《征求意見稿》中的重點法律問題。

一、明確責任主體

根據(jù)《征求意見稿》第五條：“利用生成式人工智能產(chǎn)品提供聊天和文本、圖像、聲音生成等服務(wù)的組織和個人（以下稱“提供者”），包括通過提供可編程接口等方式支持他人自行生成文本、圖像、聲音等，承擔該產(chǎn)品生成內(nèi)容生產(chǎn)者的責任；涉及個人信息的，承擔個人信息處理者的法定責任，履行個人信息保護義務(wù)。”
根據(jù)《征求意見稿》第十九條：“提供者發(fā)現(xiàn)用戶利用生成式人工智能產(chǎn)品過程中違反法律法規(guī)，違背商業(yè)道德、社會公德行為時，包括從事網(wǎng)絡(luò)炒作、惡意發(fā)帖跟評、制造垃圾郵件、編寫惡意軟件，實施不正當?shù)纳虡I(yè)營銷等，應(yīng)當暫?；蛘呓K止服務(wù)。”
根據(jù)《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第二十三條：“深度合成服務(wù)提供者，是指提供深度合成服務(wù)的組織、個人。深度合成服務(wù)技術(shù)支持者，是指為深度合成服務(wù)提供技術(shù)支持的組織、個人。深度合成服務(wù)使用者，是指使用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播信息的組織、個人?！?br>

因此，根據(jù)前文所述，我國立法目前明確了三類責任主體，一是生成式人工智能服務(wù)提供者（提供應(yīng)用或服務(wù)）；二是技術(shù)支持者（提供算法等人工智能技術(shù)）；三是服務(wù)使用者（使用生成式人工智能的個人或組織），以下簡稱“用戶”。

二、明確規(guī)范客體

根據(jù)《征求意見稿》第二條：“本辦法所稱生成式人工智能，是指基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)?！?br>
根據(jù)《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第二十三條：“深度合成技術(shù)，是指利用深度學(xué)習(xí)、虛擬現(xiàn)實等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網(wǎng)絡(luò)信息的技術(shù)，包括但不限于：（一）篇章生成、文本風(fēng)格轉(zhuǎn)換、問答對話等生成或者編輯文本內(nèi)容的技術(shù)；（二）文本轉(zhuǎn)語音、語音轉(zhuǎn)換、語音屬性編輯等生成或者編輯語音內(nèi)容的技術(shù)；（三）音樂生成、場景聲編輯等生成或者編輯非語音內(nèi)容的技術(shù)；（四）人臉生成、人臉替換、人物屬性編輯、人臉操控、姿態(tài)操控等生成或者編輯圖像、視頻內(nèi)容中生物特征的技術(shù)；（五）圖像生成、圖像增強、圖像修復(fù)等生成或者編輯圖像、視頻內(nèi)容中非生物特征的技術(shù)；（六）三維重建、數(shù)字仿真等生成或者編輯數(shù)字人物、虛擬場景的技術(shù)?！?br>

根據(jù)立法所述，基于現(xiàn)有的算法及深度合成內(nèi)容監(jiān)管基礎(chǔ)，主要形成了兩種類型的生成式人工智能形成綜合性立法，一類是根據(jù)算法應(yīng)用場景（如生物醫(yī)療領(lǐng)域、自動駕駛領(lǐng)域、數(shù)字金融等不同領(lǐng)域），二類是根據(jù)生成內(nèi)容的類型（文本/圖像/三維模型/音頻/視頻/代碼等），依次形成生成式人工智能風(fēng)險分級分類管理體系，并對涉及人臉等敏感個人信息的高風(fēng)險領(lǐng)域重點規(guī)制。

三、備案與安全評估

從人工智能立法現(xiàn)狀來看，我國呈現(xiàn)多頭監(jiān)管的趨勢，國家網(wǎng)信部門負責統(tǒng)籌協(xié)調(diào)全國，國家市場監(jiān)督管理總局、國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、電信部、公安部、科技部等有權(quán)部門依據(jù)各自職責人工智能服務(wù)的治理和監(jiān)督管理工作。

根據(jù)《征求意見稿》第六條：“利用生成式人工智能產(chǎn)品向公眾提供服務(wù)前，應(yīng)當按照《具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務(wù)安全評估規(guī)定》向國家網(wǎng)信部門申報安全評估，并按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行算法備案和變更、注銷備案手續(xù)?！?br>根據(jù)《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十九條：“具有輿論屬性或者社會動員能力的深度合成服務(wù)提供者，應(yīng)當按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行備案和變更、注銷備案手續(xù)。深度合成服務(wù)技術(shù)支持者應(yīng)當參照前款規(guī)定履行備案和變更、注銷備案手續(xù)。完成備案的深度合成服務(wù)提供者和技術(shù)支持者應(yīng)當在其對外提供服務(wù)的網(wǎng)站、應(yīng)用程序等的顯著位置標明其備案編號并提供公示信息鏈接。”
根據(jù)《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第二十條：“深度合成服務(wù)提供者開發(fā)上線具有輿論屬性或者社會動員能力的新產(chǎn)品、新應(yīng)用、新功能的，應(yīng)當按照國家有關(guān)規(guī)定開展安全評估?！?/p>

具體而言，在算法分類分級監(jiān)管方面，立法規(guī)定了網(wǎng)信部門會同電信、公安、市場監(jiān)管等有關(guān)部門建立分級分類安全管理制度，根據(jù)提供服務(wù)的輿論屬性或者社會動員能力、內(nèi)容類別、用戶規(guī)模、算法推薦技術(shù)處理的數(shù)據(jù)重要程度、對用戶行為的干預(yù)程度等對服務(wù)提供者實施分級分類管理。

在履行備案義務(wù)方面，立法規(guī)定了具有輿論屬性或者社會動員能力的服務(wù)提供者應(yīng)當在提供服務(wù)之日起十個工作日內(nèi)通過互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)填報服務(wù)提供者的名稱、服務(wù)形式、應(yīng)用領(lǐng)域、算法類型、算法自評估報告、擬公示內(nèi)容等信息，履行備案手續(xù)。服務(wù)提供者的備案信息發(fā)生變更的，應(yīng)當在變更之日起十個工作日內(nèi)辦理變更手續(xù)。服務(wù)提供者終止服務(wù)的，應(yīng)當在終止服務(wù)之日起二十個工作日內(nèi)辦理注銷備案手續(xù)。

在申請安全評估方面，立法規(guī)定了具有輿論屬性或者社會動員能力的服務(wù)提供者應(yīng)當按照國家有關(guān)規(guī)定開展安全評估。網(wǎng)信部門會同電信、公安、市場監(jiān)管等有關(guān)部門對人工智能服務(wù)依法開展安全評估和監(jiān)督檢查工作，對發(fā)現(xiàn)的問題及時提出整改意見并限期整改。

人工智能服務(wù)提供者應(yīng)當依法留存網(wǎng)絡(luò)日志，配合網(wǎng)信部門和電信、公安、市場監(jiān)管等有關(guān)部門開展安全評估和監(jiān)督檢查工作，并提供必要的技術(shù)、數(shù)據(jù)等支持和協(xié)助。

四、訓(xùn)練數(shù)據(jù)安全

根據(jù)《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第二十三條：“訓(xùn)練數(shù)據(jù)，是指被用于訓(xùn)練機器學(xué)習(xí)模型的標注或者基準數(shù)據(jù)集?！?

實踐中，數(shù)據(jù)訓(xùn)練的處理流程包括：數(shù)據(jù)采集、數(shù)據(jù)清洗、數(shù)據(jù)標注、模型訓(xùn)練、模型驗證、實現(xiàn)目標。

根據(jù)《征求意見稿》第七條：“提供者應(yīng)當對生成式人工智能產(chǎn)品的預(yù)訓(xùn)練數(shù)據(jù)、優(yōu)化訓(xùn)練數(shù)據(jù)來源的合法性負責。用于生成式人工智能產(chǎn)品的預(yù)訓(xùn)練、優(yōu)化訓(xùn)練數(shù)據(jù)，應(yīng)滿足以下要求：（一）符合《中華人民共和國網(wǎng)絡(luò)安全法》等法律法規(guī)的要求；（二）不含有侵犯知識產(chǎn)權(quán)的內(nèi)容；（三）數(shù)據(jù)包含個人信息的，應(yīng)當征得個人信息主體同意或者符合法律、行政法規(guī)規(guī)定的其他情形；（四）能夠保證數(shù)據(jù)的真實性、準確性、客觀性、多樣性；（五）國家網(wǎng)信部門關(guān)于生成式人工智能服務(wù)的其他監(jiān)管要求?！备鶕?jù)《征求意見稿》第八條：“生成式人工智能產(chǎn)品研制中采用人工標注時，提供者應(yīng)當制定符合本辦法要求，清晰、具體、可操作的標注規(guī)則，對標注人員進行必要培訓(xùn)，抽樣核驗標注內(nèi)容的正確性?！?br>
根據(jù)《征求意見稿》第十七條：“提供者應(yīng)當根據(jù)國家網(wǎng)信部門和有關(guān)主管部門的要求，提供可以影響用戶信任、選擇的必要信息，包括預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)的來源、規(guī)模、類型、質(zhì)量等描述，人工標注規(guī)則，人工標注數(shù)據(jù)的規(guī)模和類型，基礎(chǔ)算法和技術(shù)體系等?！?br>

訓(xùn)練數(shù)據(jù)的風(fēng)險存在于各個流程，其中在數(shù)據(jù)采集階段風(fēng)險最大。現(xiàn)實中，訓(xùn)練數(shù)據(jù)來源一般分為兩類，一是網(wǎng)絡(luò)數(shù)據(jù)，二是合成數(shù)據(jù)。

· 網(wǎng)絡(luò)數(shù)據(jù)的來源包括，一是采集物理世界的個人信息從而形成網(wǎng)絡(luò)數(shù)據(jù)，即取得自然人（被測試者）合法授權(quán)后，通過實時跟蹤和記錄自然人的身體運動信息、面部表情，將其轉(zhuǎn)化為網(wǎng)絡(luò)數(shù)據(jù)，用于虛擬人生成等領(lǐng)域。二是直接獲取開放的公共數(shù)據(jù)或者通過爬蟲方式搜集網(wǎng)絡(luò)數(shù)據(jù)。三是通過數(shù)據(jù)交易的方式向數(shù)據(jù)提供商或地方數(shù)據(jù)交易所購買數(shù)據(jù)。

· 合成數(shù)據(jù)來源，即生成式人工智能應(yīng)用部署后，可以實現(xiàn)人機之間的交互。用戶在輸入頁面填寫信息，從而獲得人工智能生成的內(nèi)容，比如一段文字、一幅圖像等數(shù)據(jù)。

我國立法要求，要求人工智能服務(wù)提供者和技術(shù)支持者應(yīng)當加強訓(xùn)練數(shù)據(jù)管理，采取必要措施保障訓(xùn)練數(shù)據(jù)安全，實現(xiàn)訓(xùn)練數(shù)據(jù)收集、存儲、使用全生命周期管理。訓(xùn)練數(shù)據(jù)包含個人信息的，應(yīng)當遵守個人信息保護的有關(guān)規(guī)定。

服務(wù)提供者和技術(shù)支持者提供人臉、人聲等生物識別的敏感個人信息或重要數(shù)據(jù)編輯功能的，應(yīng)當提示服務(wù)使用者依法告知被編輯的個人，并取得其單獨同意。

此外，還需進一步加強對于訓(xùn)練數(shù)據(jù)提供商的約束，要求其對于數(shù)據(jù)來源、數(shù)據(jù)交易及使用進行全流程安全監(jiān)測。

另外第二大風(fēng)險系攻擊者對數(shù)據(jù)集發(fā)起投毒，即通過向數(shù)據(jù)集中引入不正確的標簽，將AI系統(tǒng)的學(xué)習(xí)引到錯誤的方向上，以使模型將學(xué)到的特征模式與錯誤的標簽相關(guān)聯(lián)。因此，立法特別要求人工智能服務(wù)提供者和技術(shù)支持者應(yīng)當清晰、具體、可操作的標注規(guī)則，對標注人員進行必要培訓(xùn)，抽樣核驗標注內(nèi)容的正確性。

五、算法安全

根據(jù)《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第六條：“算法推薦服務(wù)提供者應(yīng)當堅持主流價值導(dǎo)向，優(yōu)化算法推薦服務(wù)機制，積極傳播正能量，促進算法應(yīng)用向上向善。算法推薦服務(wù)提供者不得利用算法推薦服務(wù)從事危害國家安全和社會公共利益、擾亂經(jīng)濟秩序和社會秩序、侵犯他人合法權(quán)益等法律、行政法規(guī)禁止的活動，不得利用算法推薦服務(wù)傳播法律、行政法規(guī)禁止的信息，應(yīng)當采取措施防范和抵制傳播不良信息?！?br>根據(jù)《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第十六條：“算法推薦服務(wù)提供者應(yīng)當以顯著方式告知用戶其提供算法推薦服務(wù)的情況，并以適當方式公示算法推薦服務(wù)的基本原理、目的意圖和主要運行機制等?！?br>根據(jù)《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十五條：“深度合成服務(wù)提供者和技術(shù)支持者應(yīng)當加強技術(shù)管理，定期審核、評估、驗證生成合成類算法機制機理?！?br>

所有算法服務(wù)包括生成式人工智能服務(wù)，都需要遵守基本的法律法規(guī)規(guī)范要求。實踐中，生成式人工智能技術(shù)的算法是技術(shù)開發(fā)者的核心資產(chǎn)和重要的商業(yè)秘密，是不為公眾所知的黑匣子。但是，當生成式人工智能產(chǎn)生對公眾有影響的內(nèi)容時, 則要求服務(wù)提供者和技術(shù)支持者遵循“算法透明原則”，即要求其在一定程度上對算法的機制、決策過程或?qū)€人權(quán)益影響的情況進行披露、公示, 旨在數(shù)據(jù)隱私、消費者權(quán)益保等領(lǐng)域保護公眾知情權(quán)。

不僅如此，還要求服務(wù)提供者和技術(shù)支持者不得利用算法對其他互聯(lián)網(wǎng)信息服務(wù)提供者進行不合理限制，或者妨礙、破壞其合法提供的互聯(lián)網(wǎng)信息服務(wù)正常運行，實施壟斷和不正當競爭行為。

該原則在司法實踐中也得到了驗證，在2022年宣判的“算法推薦第一案”中北京愛奇藝科技有限公司訴北京字節(jié)跳動科技有限公司(以下簡稱“字節(jié)公司”)侵害《延禧攻略》信息網(wǎng)絡(luò)傳播權(quán)一案, 法院針對字節(jié)公司使用信息流推薦算法傳播侵權(quán)作品的行為進行了論述: “字節(jié)公司以其服務(wù)特點和技術(shù)優(yōu)勢…,…也為自身獲取了更多的流量和市場競爭優(yōu)勢等利益。但……也存在著提高侵權(quán)傳播效率、擴大侵權(quán)傳播范圍、加重侵權(quán)傳播后果的風(fēng)險?！c不采用算法推薦、僅提供信息存儲空間服務(wù)的其他經(jīng)營者相比, 理應(yīng)對用戶的侵權(quán)行為負有更高的注意義務(wù)?！浞?wù)和運營的相應(yīng)環(huán)節(jié)中施以必要的注意、采取必要的措施加以完善?！?/p>

六、生成內(nèi)容安全

根據(jù)《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第四條：“提供深度合成服務(wù)，應(yīng)當遵守法律法規(guī)，尊重社會公德和倫理道德，堅持正確政治方向、輿論導(dǎo)向、價值取向，促進深度合成服務(wù)向上向善。”

根據(jù)《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十條：“深度合成服務(wù)提供者應(yīng)當加強深度合成內(nèi)容管理，采取技術(shù)或者人工方式對深度合成服務(wù)使用者的輸入數(shù)據(jù)和合成結(jié)果進行審核。深度合成服務(wù)提供者應(yīng)當建立健全用于識別違法和不良信息的特征庫，完善入庫標準、規(guī)則和程序，記錄并留存相關(guān)網(wǎng)絡(luò)日志。深度合成服務(wù)提供者發(fā)現(xiàn)違法和不良信息的，應(yīng)當依法采取處置措施，保存有關(guān)記錄，及時向網(wǎng)信部門和有關(guān)主管部門報告；對相關(guān)深度合成服務(wù)使用者依法依約采取警示、限制功能、暫停服務(wù)、關(guān)閉賬號等處置措施?！?br>根據(jù)《征求意見稿》第十條：“提供者應(yīng)當明確并公開其服務(wù)的適用人群、場合、用途，采取適當措施防范用戶過分依賴或沉迷生成內(nèi)容。”
根據(jù)《征求意見稿》第十二條：“提供者不得根據(jù)用戶的種族、國別、性別等進行帶有歧視性的內(nèi)容生成?！备鶕?jù)《征求意見稿》第十六條：“提供者應(yīng)當按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對生成的圖片、視頻等內(nèi)容進行標識。”根據(jù)《征求意見稿》第十八條：“提供者應(yīng)當指導(dǎo)用戶科學(xué)認識和理性使用生成式人工智能生成的內(nèi)容，不利用生成內(nèi)容損害他人形象、名譽以及其他合法權(quán)益，不進行商業(yè)炒作、不正當營銷。用戶發(fā)現(xiàn)生成內(nèi)容不符合本辦法要求時，有權(quán)向網(wǎng)信部門或者有關(guān)主管部門舉報?！?br>

根據(jù)前文所述，立法要求服務(wù)提供者對使用其服務(wù)生成或者編輯的信息內(nèi)容，應(yīng)當采取技術(shù)措施添加不影響用戶使用的標識，并依照法律、行政法規(guī)和國家有關(guān)規(guī)定保存日志信息，以便追溯查詢，同時還要求服務(wù)提供者提供深度合成服務(wù)，可能導(dǎo)致公眾混淆或者誤認的，應(yīng)當在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進行顯著標識，向公眾提示深度合成內(nèi)容的情況。而且任何組織和個人不得采用技術(shù)手段刪除、篡改、隱匿深度合成標識。

不僅如此，立法還特別要求，提供者應(yīng)當引導(dǎo)用戶正確使用人工智能生成服務(wù)，如發(fā)現(xiàn)用戶違法使用服務(wù)的，應(yīng)當立即暫停提供服務(wù)，如用戶發(fā)現(xiàn)生成內(nèi)容不符合本辦法要求時，亦有權(quán)向網(wǎng)信部門或者有關(guān)主管部門舉報。

七、保障用戶權(quán)益

（1）保障用戶信息安全

根據(jù)《征求意見稿》第十一條：“提供者在提供服務(wù)過程中，對用戶的輸入信息和使用記錄承擔保護義務(wù)。不得非法留存能夠推斷出用戶身份的輸入信息，不得根據(jù)用戶輸入信息和使用情況進行畫像，不得向他人提供用戶輸入信息。法律法規(guī)另有規(guī)定的，從其規(guī)定?！?br>根據(jù)《征求意見稿》第十四條：“提供者應(yīng)當在生命周期內(nèi)，提供安全、穩(wěn)健、持續(xù)的服務(wù)，保障用戶正常使用?！?/p>

立法要求服務(wù)提供者和技術(shù)支持者保障用戶信息安全，例如不得利用算法虛假注冊賬號、非法交易賬號、操縱用戶賬號；不得虛假點贊、評論、轉(zhuǎn)發(fā)；不得利用算法屏蔽信息、過度推薦、操縱榜單或者檢索結(jié)果排序、控制熱搜或者精選等干預(yù)信息呈現(xiàn)，實施影響網(wǎng)絡(luò)輿論或者規(guī)避監(jiān)督管理行為；不得犯用戶隱私和買賣個人數(shù)據(jù)。

（2）保障用戶知情同意權(quán)

根據(jù)《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十四條：“深度合成服務(wù)提供者和技術(shù)支持者應(yīng)當加強訓(xùn)練數(shù)據(jù)管理，采取必要措施保障訓(xùn)練數(shù)據(jù)安全；訓(xùn)練數(shù)據(jù)包含個人信息的，應(yīng)當遵守個人信息保護的有關(guān)規(guī)定。深度合成服務(wù)提供者和技術(shù)支持者提供人臉、人聲等生物識別信息編輯功能的，應(yīng)當提示深度合成服務(wù)使用者依法告知被編輯的個人，并取得其單獨同意?！?br>根據(jù)《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第十六條：“算法推薦服務(wù)提供者應(yīng)當以顯著方式告知用戶其提供算法推薦服務(wù)的情況，并以適當方式公示算法推薦服務(wù)的基本原理、目的意圖和主要運行機制等?！?br>根據(jù)《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第十七條：“算法推薦服務(wù)提供者應(yīng)當向用戶提供不針對其個人特征的選項，或者向用戶提供便捷的關(guān)閉算法推薦服務(wù)的選項。用戶選擇關(guān)閉算法推薦服務(wù)的，算法推薦服務(wù)提供者應(yīng)當立即停止提供相關(guān)服務(wù)。算法推薦服務(wù)提供者應(yīng)當向用戶提供選擇或者刪除用于算法推薦服務(wù)的針對其個人特征的用戶標簽的功能。算法推薦服務(wù)提供者應(yīng)用算法對用戶權(quán)益造成重大影響的，應(yīng)當依法予以說明并承擔相應(yīng)責任。”

我國立法要求服務(wù)提供者和技術(shù)支持者應(yīng)保障用戶擁有充分自主決策權(quán)，有權(quán)選擇是否接受人工智能提供的服務(wù)，有權(quán)隨時退出與人工智能的交互，有權(quán)隨時中止人工智能系統(tǒng)的運行，確保人工智能始終處于人類控制之下。如果用戶拒絕接受人工智能服務(wù)，需得提供替代性的傳統(tǒng)技術(shù)服務(wù)。

（3）保障用戶投訴舉報權(quán)利

根據(jù)《征求意見稿》第十三條：“提供者應(yīng)當建立用戶投訴接收處理機制，及時處置個人關(guān)于更正、刪除、屏蔽其個人信息的請求；發(fā)現(xiàn)、知悉生成的文本、圖片、聲音、視頻等侵害他人肖像權(quán)、名譽權(quán)、個人隱私、商業(yè)秘密，或者不符合本辦法要求時，應(yīng)當采取措施，停止生成，防止危害持續(xù)?！?br>根據(jù)《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十一條：“深度合成服務(wù)提供者應(yīng)當建立健全辟謠機制，發(fā)現(xiàn)利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播虛假信息的，應(yīng)當及時采取辟謠措施，保存有關(guān)記錄，并向網(wǎng)信部門和有關(guān)主管部門報告?！?br>根據(jù)《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十二條：“深度合成服務(wù)提供者應(yīng)當設(shè)置便捷的用戶申訴和公眾投訴、舉報入口，公布處理流程和反饋時限，及時受理、處理和反饋處理結(jié)果?！?br>

關(guān)于保障用戶申訴、投訴和舉報權(quán)，立法明確要求服務(wù)提供者應(yīng)當設(shè)置便捷有效的用戶申訴和公眾投訴、舉報入口，明確處理流程和反饋時限，及時受理、處理并反饋處理結(jié)果。

（4）建立未成年人保護、老年人權(quán)益保護機制

關(guān)于建立未成年人保護、老年人權(quán)益保護機制，雖然《征求意見稿》中尚未提及，但在《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》已有明文規(guī)定，人工智能服務(wù)提供者和技術(shù)支持者應(yīng)當參考。具體如下：

根據(jù)《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第十八條：“算法推薦服務(wù)提供者向未成年人提供服務(wù)的，應(yīng)當依法履行未成年人網(wǎng)絡(luò)保護義務(wù)，并通過開發(fā)適合未成年人使用的模式、提供適合未成年人特點的服務(wù)等方式，便利未成年人獲取有益身心健康的信息。算法推薦服務(wù)提供者不得向未成年人推送可能引發(fā)未成年人模仿不安全行為和違反社會公德行為、誘導(dǎo)未成年人不良嗜好等可能影響未成年人身心健康的信息，不得利用算法推薦服務(wù)誘導(dǎo)未成年人沉迷網(wǎng)絡(luò)?！?br>根據(jù)《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第十九條：“算法推薦服務(wù)提供者向老年人提供服務(wù)的，應(yīng)當保障老年人依法享有的權(quán)益，充分考慮老年人出行、就醫(yī)、消費、辦事等需求，按照國家有關(guān)規(guī)定提供智能化適老服務(wù)，依法開展涉電信網(wǎng)絡(luò)詐騙信息的監(jiān)測、識別和處置，便利老年人安全使用算法推薦服務(wù)。”

八、違法后果

根據(jù)《征求意見稿》第二十條：“提供者違反本辦法規(guī)定的，由網(wǎng)信部門和有關(guān)主管部門按照《中華人民共和國網(wǎng)絡(luò)安全法》《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國個人信息保護法》等法律、行政法規(guī)的規(guī)定予以處罰。法律、行政法規(guī)沒有規(guī)定的，由網(wǎng)信部門和有關(guān)主管部門依據(jù)職責給予警告、通報批評，責令限期改正；拒不改正或者情節(jié)嚴重的，責令暫停或者終止其利用生成式人工智能提供服務(wù)，并處一萬元以上十萬元以下罰款。構(gòu)成違反治安管理行為的，依法給予治安管理處罰；構(gòu)成犯罪的，依法追究刑事責任?！?/p>

雖然國內(nèi)目前立法中對于人工智能違法處罰的罰款較低，但該類罰款數(shù)額在國際主流趨勢均偏高，例如制定《通用數(shù)據(jù)保護條例》（GDPR）的歐盟委員會，近日發(fā)布人工智能行業(yè)監(jiān)管草案，其稱如果人工智能公司不遵守該草案，首先將受到警告，其產(chǎn)品有可能將被下架，如果人工智能公司仍違反規(guī)則，可沒收年收入6%。

又如意大利監(jiān)管機構(gòu)表示，他們不僅會暫停使用OpenAI 開發(fā)的chatgpt(一款生成式人工智能應(yīng)用)，還會調(diào)查它是否符合《通用數(shù)據(jù)保護條例》（GDPR），因此OpenAI如不依法整改，將很可能被處以2000萬歐元（約合人民幣1.49億元）或高達年收入4%的罰款。

因此，我國對于人工智能違法處罰的罰款在將來亦可能會隨之大幅提升。

綜上所述，人工智能服務(wù)的各個義務(wù)主體除了享受科技帶來的巨大商業(yè)機遇外，也應(yīng)當積極承擔起社會責任，保障用戶權(quán)利和數(shù)據(jù)安全，審慎開發(fā)和使用人工智能技術(shù)，加強人員培訓(xùn)，才能更好地管理合規(guī)風(fēng)險，實現(xiàn)可持續(xù)發(fā)展。

作者簡介：

曾理 ，廣東啟源律師事務(wù)所（高云團隊）律師，高級企業(yè)合規(guī)師。中國電子信息行業(yè)聯(lián)合會《數(shù)據(jù)合規(guī)管理體系?要求》（T/CITIF001-2022）起草人。從業(yè)至今一直專注于知識產(chǎn)權(quán)、不正當競爭、網(wǎng)絡(luò)數(shù)據(jù)安全、數(shù)據(jù)治理、企業(yè)數(shù)據(jù)合規(guī)等新型法律業(yè)務(wù)，服務(wù)客戶覆蓋了政務(wù)、金融、健康醫(yī)療、呼叫中心、人工智能、電商等多個行業(yè)。服務(wù)領(lǐng)域包括制定修改隱私政策、制定數(shù)據(jù)商業(yè)化使用合規(guī)審查制度、進行數(shù)據(jù)跨境傳輸?shù)暮弦?guī)審查，構(gòu)建企業(yè)數(shù)據(jù)資產(chǎn)體系等。曾律師參與申報的《涉外企業(yè)數(shù)據(jù)合規(guī)一站式法律服務(wù)解決方案》榮獲“2022廣州法律服務(wù)產(chǎn)品大賽”金牌推薦產(chǎn)品。