演講者?丨?甘青鋒

編輯 丨 馮懿佳

實(shí)務(wù) · 演講

本文共8760字，閱讀時(shí)間約27分鐘

本期內(nèi)容

? //??

2023年6月11日，在首屆亞太網(wǎng)絡(luò)法實(shí)務(wù)大會(huì)暨第五屆網(wǎng)絡(luò)法實(shí)務(wù)大會(huì)上，360資深法律顧問 AIGC合規(guī)專家?甘青鋒女士?就?“人工智能場(chǎng)景下之中日合規(guī)”發(fā)表了以「AIGC、AGI域內(nèi)立法趨勢(shì)及合規(guī)思考」為題的精彩演講，分享了她的專業(yè)思考。

人工智能場(chǎng)景下之中日合規(guī)——
AIGC、AGI域內(nèi)立法趨勢(shì)及合規(guī)思考

甘青鋒

360集團(tuán)資深法律顧問、AIGC合規(guī)專家

☆開場(chǎng)白★

非常感謝大會(huì)邀請(qǐng)我在網(wǎng)絡(luò)法實(shí)務(wù)大會(huì)這個(gè)平臺(tái)分享關(guān)于“人工智能場(chǎng)景下之中日合規(guī)”這一主題的思考。

首先我想要簡(jiǎn)單做一下自我介紹，我目前供職于360上市公司法務(wù)部，主要負(fù)責(zé)公司內(nèi)新技術(shù)新應(yīng)用新產(chǎn)品的政策研究以及產(chǎn)品評(píng)估的工作。

大會(huì)的主題是ACG，我本人也是6、7年的《海賊王》粉絲，自帶二次元屬性。雖說(shuō)是刻板印象，但二次元的人可能或多或少有一些社恐。如果讓我直接分享對(duì)這些主題的思考，其實(shí)對(duì)于我來(lái)說(shuō)問題不是很大；但作為今天下午第一位分享的嘉賓，要做好開場(chǎng)白，做好這個(gè)拋磚引玉的角色，對(duì)我來(lái)說(shuō)還是有一點(diǎn)難度。

所以，我使用了國(guó)內(nèi)一個(gè)AIGC的應(yīng)用，讓它來(lái)幫我寫一段開場(chǎng)白，要求能夠結(jié)合大家在大會(huì)上共聚一堂的場(chǎng)景，描述大家都是短暫地抽離日常繁忙工作的流程、來(lái)到這一平臺(tái)學(xué)習(xí)交流，還要能夠讓大家記住我的名字——甘青鋒。于是，我就提了一個(gè)問題：“能不能結(jié)合大會(huì)的場(chǎng)景，解讀一下我名字中的‘鋒’字，讓大家能記住我”。

這個(gè)AIGC反饋的結(jié)果還是挺有意思的?！扒噤h”，大家經(jīng)常可能會(huì)以為是山峰的峰，或者“寶劍鋒從磨礪出”——鋒利的鋒，這些解讀的記憶點(diǎn)不是非常強(qiáng)。而這個(gè)應(yīng)用的解讀是，“鋒”這個(gè)字可以讓人想到“含金帶鏠”的鏠，就是金字旁加一個(gè)“逢”字，是個(gè)通假字，通的是相逢的逢，本身也有“遇見，相遇”的意思。結(jié)合大會(huì)的場(chǎng)景，AI給我了一個(gè)很有文化底蘊(yùn)的解讀——“金風(fēng)玉露一相逢，便勝卻人間無(wú)數(shù)”。

所以我覺得這款應(yīng)用還是有文化底蘊(yùn)的，它用中國(guó)的古詩(shī)來(lái)展現(xiàn)當(dāng)下場(chǎng)景，表達(dá)出了大家對(duì)于網(wǎng)絡(luò)法的探討熱情，能夠在這樣一個(gè)炎熱的下午相聚于此，討論目前的網(wǎng)絡(luò)法司法實(shí)務(wù)領(lǐng)域的一些前沿問題、難點(diǎn)問題。

那么接下來(lái)，我就借著我工作的主要內(nèi)容，來(lái)跟大家簡(jiǎn)單地介紹一下我對(duì)于AIGC、AGI域內(nèi)立法趨勢(shì)的理解以及簡(jiǎn)單的幾點(diǎn)合規(guī)思考，分享主要分為四個(gè)部分：

一、探討有無(wú)統(tǒng)一的法律概念，解決法律地位和法律適用問題；

二、概述相應(yīng)的國(guó)內(nèi)外相關(guān)立法趨勢(shì)的發(fā)展；

三、重點(diǎn)關(guān)注域內(nèi)目前的監(jiān)管機(jī)構(gòu)和監(jiān)管治理機(jī)制的設(shè)置；

四、簡(jiǎn)述幾點(diǎn)合規(guī)思考，即在日常的業(yè)務(wù)范疇中如何去開展合規(guī)審查。

一、法律概念

首先進(jìn)入到我們第一部分內(nèi)容——我們?cè)谡凙IGC、AI的時(shí)候，到底是在談什么？

我先明確一個(gè)觀點(diǎn)，就是現(xiàn)有的立法框架文件中，其實(shí)是找不到AIGC的概念的，因?yàn)锳I Generated Content偏向內(nèi)容生成物的概念；但在我們現(xiàn)有框架的法律文件中，能夠找到的更多是它的上層概念，例如AGI、通用人工智能或者人工智能之類的概念。所以我們更多地是從AIGC的上層概念來(lái)對(duì)概念做辨析。

1.?域外概念

1.1? 歐盟

談?wù)摎W盟的原因在于，歐盟從2021年就已經(jīng)開始提出人工智能領(lǐng)域內(nèi)第一部有統(tǒng)一立法框架的草案文件，即《人工智能法案》。在這部法案中，它明確把AI認(rèn)定為一套系統(tǒng)，即一套使用機(jī)器學(xué)習(xí)、推導(dǎo)演繹或統(tǒng)計(jì)學(xué)方法，能夠針對(duì)人類定義的一組目標(biāo)，輸出內(nèi)容、建議、預(yù)測(cè)或影響互動(dòng)環(huán)境結(jié)果的系統(tǒng)。

在這個(gè)定義中，我用橫杠劃掉了一部分內(nèi)容，因?yàn)槟壳霸谖覀冄葜v的當(dāng)下，2023年4月份提出的最新一版審議稿暫時(shí)刪除了這部分內(nèi)容。在2022年、2021年的審議版本中有一個(gè)附件的，只有符合那個(gè)附件中的方法，才能夠認(rèn)定為是AI。但目前，因?yàn)閺?qiáng)人工智能形態(tài)的產(chǎn)品發(fā)展得太快了，所以最新的版本做了這樣的處理。

同時(shí)，最新的審議版本還增加了概念的辨析，例如對(duì)于通用人工智能的區(qū)分，它認(rèn)為，通用人工智能必須是可以廣泛適用于一系列應(yīng)用而不是有意或者是特別設(shè)計(jì)的應(yīng)用系統(tǒng)。這一概念是為了跟專用AI做區(qū)分。專用AI就是我們通常理解的Alpha-go，或智能音箱之類，更多的是一種判別式的系統(tǒng)；而通用人工智能，就是目前很火的、大家都知道的ChatGPT這類，能夠廣泛適用于各行各業(yè)、也可以適用于垂直各個(gè)領(lǐng)域的系統(tǒng)。以上是歐盟的觀點(diǎn)。

1.2? 美國(guó)

大家應(yīng)該都清楚，目前美國(guó)的發(fā)展處于強(qiáng)人工智能形態(tài)，所以接著談?wù)撘幌旅绹?guó)的觀點(diǎn)。剛剛提到歐盟把AI定義為一個(gè)系統(tǒng)，美國(guó)也不例外，也認(rèn)為AI是一套系統(tǒng)，認(rèn)為這樣一個(gè)人工系統(tǒng)，只要具備以下的這些特征，都是能夠稱之為，或者說(shuō)落入到人工智能的監(jiān)管范圍當(dāng)中的。

它的特征包括以下幾點(diǎn)：自主學(xué)習(xí)、類人任務(wù)、類人認(rèn)知、機(jī)器學(xué)習(xí)、理性學(xué)習(xí)。例如能夠通過(guò)機(jī)器學(xué)習(xí)的方式，對(duì)數(shù)據(jù)集進(jìn)行自主學(xué)習(xí)和提升，在無(wú)需大量人類監(jiān)督的情況下，針對(duì)多種無(wú)法預(yù)測(cè)的情況下執(zhí)行任務(wù)。也就是說(shuō)，通過(guò)自主學(xué)習(xí)、機(jī)器學(xué)習(xí)的方式，獲得類人的認(rèn)知，可能會(huì)發(fā)展出一些神經(jīng)網(wǎng)絡(luò)元，能夠做出一些理性的行為，執(zhí)行類人的任務(wù)。只要具備這幾個(gè)特征，在美國(guó)的司法領(lǐng)域，都會(huì)落入到人工智能的監(jiān)管范圍中。

2.?域內(nèi)概念

2.1? 部門立法

轉(zhuǎn)向國(guó)內(nèi)，雖然我們前面提到，還沒有AIGC這個(gè)概念，但是網(wǎng)信辦在今年的4月11號(hào)提出了全世界首個(gè)對(duì)于生成式人工智能服務(wù)的管理辦法（《生成式人工智能服務(wù)管理辦法（征求意見稿）》）。雖然非常簡(jiǎn)略,但其中首次提出了生成式人工智能的概念，認(rèn)為只要是基于算法模型規(guī)則生成文本，圖片聲音，視頻代碼等內(nèi)容的技術(shù)，就會(huì)落入到生成式人工智能的概念里，這是中央部門的立法。

2.2? 地方立法

從地方角度來(lái)看，有大約三個(gè)文件提及到了人工智能或者生成式人工智能，但是只有兩個(gè)有具體定義的方式，其中之一就是去年10月上海市人大發(fā)布的《上海市人工智能產(chǎn)業(yè)促進(jìn)發(fā)展條例》，以及去年11月深圳市緊隨其后發(fā)布的《促進(jìn)人工智能產(chǎn)業(yè)發(fā)展條例》。

這兩個(gè)條例對(duì)于人工智能的定義采取了相類似的方法：利用計(jì)算機(jī)或者計(jì)算機(jī)控制的設(shè)備，通過(guò)感知環(huán)境、獲取知識(shí)和推導(dǎo)演繹類的方法，實(shí)現(xiàn)對(duì)人類智能的模擬、延伸和擴(kuò)展。

上海的條例是國(guó)內(nèi)首個(gè)涉及到人工智能領(lǐng)域立法的地方性文件。這個(gè)文件還從四個(gè)方面對(duì)人工智能的概念做了一個(gè)延伸，認(rèn)為理論方法、技術(shù)和應(yīng)用系統(tǒng)，也都會(huì)落入人工智能領(lǐng)域。

前兩周，北京市也發(fā)布了《促進(jìn)通用人工智能創(chuàng)新發(fā)展的若干措施》。在這個(gè)文件中，雖然沒有具體地定義什么是人工智能、什么是通用人工智能，但是它使用了一些“通用人工智能技術(shù)生成式人工智能產(chǎn)品”類似的表述。以上是對(duì)域內(nèi)概念的辨析。

3.?域內(nèi)外對(duì)比

所以相比來(lái)看，國(guó)外認(rèn)為AI是一個(gè)系統(tǒng)，更多認(rèn)為它是多個(gè)相互作用的部件去相互組成、相互影響、能夠去維持這個(gè)系統(tǒng)正常運(yùn)行一個(gè)具體的概念。

但在國(guó)內(nèi)，更多的是將AI認(rèn)定為是一項(xiàng)技術(shù)，是能夠?qū)⒅R(shí)、技能、經(jīng)驗(yàn)和方法轉(zhuǎn)化成為實(shí)際應(yīng)用的一個(gè)過(guò)程和方法。

對(duì)比來(lái)看，我們國(guó)內(nèi)對(duì)于AI的理解會(huì)更加宏觀。相對(duì)于數(shù)字經(jīng)濟(jì)的概念來(lái)說(shuō)，是符合國(guó)內(nèi)外立法的趨勢(shì)的。例如從數(shù)據(jù)的角度來(lái)說(shuō)，國(guó)外把數(shù)據(jù)認(rèn)為是一項(xiàng)資產(chǎn)（asset）。但是去年國(guó)內(nèi)發(fā)布了一個(gè)《數(shù)據(jù)二十條》文件，其中表明國(guó)內(nèi)將數(shù)據(jù)當(dāng)做一項(xiàng)生產(chǎn)要素。

也就是說(shuō)，不管是在AI，還是在數(shù)據(jù)、數(shù)字經(jīng)濟(jì)等廣闊的概念中，我們國(guó)內(nèi)的理解及立法的監(jiān)管趨勢(shì)都會(huì)更加宏觀、闊大。

既然概念非常宏觀，那么在落地執(zhí)行中，我們可能會(huì)遇到一些問題，即到底什么樣的應(yīng)用或研發(fā)產(chǎn)品會(huì)落入人工智能的監(jiān)管中？接下來(lái)我將借助兩張圖來(lái)從實(shí)務(wù)角度辨析一下概念的問題。

第一個(gè)角度，首先我們可以看到紅杉的這份研究報(bào)告，即生成式AI應(yīng)用的全景圖。我們可以通過(guò)兩種方式來(lái)去理解到底什么東西屬于人工智能：

（1）從生產(chǎn)結(jié)構(gòu)來(lái)看，它既包括模型層，也包括應(yīng)用層。模型層就是我們理解的如OpenAI發(fā)布的一些大模型產(chǎn)品，例如GPT2、GPT3.5、GPT4；應(yīng)用層就是我們能接觸到的，一些文字、對(duì)話類，如ChatGPT這一類產(chǎn)品。

（2）還可以通過(guò)不同的生成物的類型來(lái)理解人工智能的概念，例如它既包含文本，也包含代碼，還包含圖片、音視頻、甚至3D等生成物類型。

第二個(gè)角度，國(guó)內(nèi)5月底剛發(fā)布了國(guó)家標(biāo)準(zhǔn)文件《信息安全技術(shù)人工智能計(jì)算平臺(tái)安全框架》（征求意見稿）。這份文件對(duì)于AI的計(jì)算平臺(tái)，通過(guò)區(qū)分不同的參與方相對(duì)應(yīng)的業(yè)務(wù)活動(dòng)及其核心資產(chǎn)做了具體的區(qū)分。

例如，兩個(gè)參與方，一是為AI應(yīng)用提供數(shù)據(jù)的，二是提供模型的。對(duì)于這兩個(gè)參與方來(lái)說(shuō)，其實(shí)主要處理的是數(shù)據(jù)預(yù)處理、模型搭建的活動(dòng)，其核心資產(chǎn)都涉及到訓(xùn)練數(shù)據(jù)。那么，如果之后監(jiān)管機(jī)構(gòu)發(fā)布一些立法性的監(jiān)管文件中如果對(duì)一些高質(zhì)量的數(shù)據(jù)集有具體要求的話，那么對(duì)于這些不同的參與方，肯定會(huì)設(shè)置具體的權(quán)利、義務(wù)和責(zé)任。

4.?總結(jié)

總的來(lái)說(shuō)，結(jié)合前面已經(jīng)講到的觀點(diǎn)，可以總結(jié)以下兩點(diǎn)：

（1）目前AI、AGI、AIGC的概念其實(shí)是不明確的、并沒有取得普遍認(rèn)識(shí)。

這就意味著它并不像我們理解的其它術(shù)語(yǔ)一樣，能夠直接找到適用的法律。例如我們要成立一家公司，我們有股東、合伙人，那我們可以通過(guò)直接檢索“公司”、“股東”或“合伙人”、找到直接相對(duì)應(yīng)的法律，如《公司法》、《合伙企業(yè)法》；例如我們要買賣一個(gè)房產(chǎn)，可以通過(guò)檢索“房產(chǎn)”找到《房地產(chǎn)管理法》，通過(guò)檢索“買賣”找到《民法典合同編》，或者直接就能檢索到《房屋買賣合同司法解釋》。

但是AI的概念不一樣，我們可能沒有辦法直接通過(guò)搜索“人工智能”找到一個(gè)對(duì)應(yīng)的單項(xiàng)的立法文件，所以對(duì)于對(duì)實(shí)踐的指導(dǎo)來(lái)說(shuō)，可能會(huì)存在一些困難。

（2）我們目前能夠接觸到的任意一個(gè)人工智能軟件，其代碼都會(huì)有多種來(lái)源。

從事人工智能程序開發(fā)的程序員每天都可以對(duì)一些代碼庫(kù)進(jìn)行修改、分享、上傳和更新，尤其是在例如Github或Stackoverflow之類的代碼檢索和代碼分享的平臺(tái)。這些平臺(tái)中，每天都會(huì)更新很多的不同的代碼庫(kù)。

因此可能就會(huì)出現(xiàn)一個(gè)場(chǎng)景，即人工智能最后應(yīng)用的代碼來(lái)源會(huì)分為兩種：一種是使用了開源軟件的代碼；一種是公司基于原創(chuàng)研發(fā)目的自己寫的原創(chuàng)代碼。

那對(duì)于這部分開源的代碼來(lái)說(shuō)——雖然我們現(xiàn)在都在說(shuō)OpenAI不再“open”了，但是在2019年的時(shí)候它確實(shí)還是非?！皁pen”的，對(duì)于GPT2做了開源處理——對(duì)于目前GPT2開源的一部分軟件的使用，后續(xù)如果想要對(duì)這些使用開源框架而產(chǎn)生的產(chǎn)品進(jìn)行監(jiān)管，例如要求它做一些算法、科技倫理的審查時(shí)，監(jiān)管機(jī)構(gòu)如何分配、路徑如何設(shè)計(jì)，其實(shí)都會(huì)存在相當(dāng)大的困難。

以上就是關(guān)于第一部分法律概念的分析，即人工智能領(lǐng)域目前沒有存在統(tǒng)一的法律概念，導(dǎo)致監(jiān)管會(huì)存在一些難題。

二、立法趨勢(shì)

第二部分主要討論：由于監(jiān)管存在難題，那么我們需要考慮的就是，目前的立法趨勢(shì)是如何發(fā)展的，之后可能會(huì)面對(duì)一個(gè)怎樣的執(zhí)法文件，以在日后的研發(fā)和運(yùn)營(yíng)中做具體的合規(guī)審查和執(zhí)行。

1.?域外趨勢(shì)

1.1? 美國(guó)

在美國(guó)司法領(lǐng)域，特點(diǎn)是分散立法——就是在聯(lián)邦和州治下都有一些文件，例如總統(tǒng)行政辦公室13960號(hào)文件等，及美國(guó)標(biāo)準(zhǔn)局發(fā)布的一些人工智能倫理治理框架等類似文件。這些文件中所有的治理框架都是從隱私與數(shù)據(jù)保護(hù)、算法監(jiān)管與提示、競(jìng)爭(zhēng)與消費(fèi)者保護(hù)、AI系統(tǒng)注冊(cè)管理、勞動(dòng)者保護(hù)這樣幾個(gè)大的方面，來(lái)制定立法監(jiān)管的框架文件。

1.2? 歐盟

相較來(lái)說(shuō)，歐盟會(huì)有比較統(tǒng)一的立法框架草案。不僅從2021年起就有第一版的人工智能法案草案的審議稿，22年進(jìn)行了更新，到23年的4月又出了目前最新的版本。據(jù)說(shuō)23年4月該文件收到了3000多個(gè)修訂意見，所以更新的幅度和內(nèi)容還是挺大的。但是，無(wú)論怎么更新，其中有幾個(gè)點(diǎn)一直都是不變的：

第一，歐洲議會(huì)想要發(fā)布一部類似于GDPR地位的文件，也就是說(shuō)，一個(gè)統(tǒng)一的立法的框架性的草案。

第二，它認(rèn)為AI是一個(gè)系統(tǒng)；

第三，它仍然是基于一些風(fēng)險(xiǎn)治理的機(jī)制來(lái)管理AI，治理原則主要是：要構(gòu)建可信AI（Trustworthy AI），必須要合法合規(guī)、符合倫理道德、保證技術(shù)和社會(huì)的穩(wěn)健。

基于風(fēng)險(xiǎn)治理的路徑，該草案把AI分成四種類型：

第一種是針對(duì)高風(fēng)險(xiǎn)的AI，例如涉及到基本人權(quán)和安全的，如利用AI對(duì)個(gè)人實(shí)施自我傷害或者傷害他人的行為，是完全禁止開發(fā)和研發(fā)的。

第二類是針對(duì)一些高風(fēng)險(xiǎn)的領(lǐng)域，例如醫(yī)療，教育，健康，金融等等。針對(duì)這些領(lǐng)域開發(fā)的AI，必須要執(zhí)行高監(jiān)管措施，可能包括必須要做好風(fēng)險(xiǎn)評(píng)估、針對(duì)風(fēng)險(xiǎn)行為要采取相對(duì)應(yīng)的反制措施，同時(shí)還要保證高質(zhì)量的數(shù)據(jù)集、要全程記錄處理活動(dòng)，并適當(dāng)進(jìn)行人為干預(yù)，以及類似的其它高監(jiān)管要求。

第三、第四類是針對(duì)一些有限風(fēng)險(xiǎn)和沒有風(fēng)險(xiǎn)的AI，例如文生圖的AI、處理垃圾郵件或者是廣告郵件的AI。這樣一些被視為有限風(fēng)險(xiǎn)的AI，可能只會(huì)對(duì)透明度有一些要求。這個(gè)“透明度要求”，落回到我們國(guó)內(nèi)的概念里，就是必須要有標(biāo)識(shí)的要求，即必須要在這個(gè)界面上進(jìn)行標(biāo)注，必須要讓終端的用戶知道，是在和AI進(jìn)行交互，知道生成的內(nèi)容是有操縱性或者是人為參與的過(guò)程。

2.?域內(nèi)趨勢(shì)

2.1? 部門立法

在部門立法上，目前對(duì)于AI的監(jiān)管來(lái)說(shuō)，重點(diǎn)集中在三個(gè)文件。

?第一個(gè)是在2021年四部門聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》。在算法推薦的技術(shù)里面，它包含了生成、合成的技術(shù)；再到去年11月份左右，三個(gè)部門（網(wǎng)信辦，工信部和公安部）聯(lián)合推出的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》；再到今年4月11號(hào)網(wǎng)信辦發(fā)布的一個(gè)專項(xiàng)的文件《生成式人工智能服務(wù)管理辦法》。

從趨勢(shì)上來(lái)看，部門立法會(huì)更新得更快、內(nèi)容會(huì)更細(xì)致、更有落地執(zhí)行性。其治理原則主要包括以下幾點(diǎn)：必須要合法合規(guī)、安全可信；為了要實(shí)現(xiàn)合法合規(guī)和安全可信，就會(huì)要求平臺(tái)必須完成安全評(píng)估和算法備案的工作；同時(shí)在研發(fā)和運(yùn)營(yíng)的過(guò)程中，不得歧視、禁止惡意，不能違背社會(huì)公德和公序良俗等原則性的要求。

2.1? 地方立法

相比較而言，地方性的立法文件更多的是一種促進(jìn)產(chǎn)業(yè)發(fā)展的框架性的要求，例如上海市的《促進(jìn)人工智能產(chǎn)業(yè)發(fā)展條例》、深圳經(jīng)濟(jì)特區(qū)《人工智能產(chǎn)業(yè)促進(jìn)條例》以及北京和其它各地近期正在發(fā)布的一些促進(jìn)產(chǎn)業(yè)發(fā)展措施，都要求各個(gè)政府部門互相協(xié)調(diào)和配合企業(yè)推進(jìn)人工智能產(chǎn)業(yè)的創(chuàng)新性發(fā)展。

地方性的立法文件相關(guān)的治理框架，也就是治理機(jī)制，基本上相當(dāng)類似，都是先由市政府成立人工智能委員會(huì)做統(tǒng)籌，由網(wǎng)信部門或工信部門做主管，由各個(gè)其它部門協(xié)調(diào)配合。

三、監(jiān)管治理★

1.?地方層面

地方的監(jiān)管治理結(jié)構(gòu)，其實(shí)跟剛剛我們提到的歐盟《人工智能法案草案》中的治理監(jiān)管治理機(jī)構(gòu)相類似。

在歐盟草案中，是由歐盟先設(shè)立一個(gè)人工智能委員會(huì)，具體進(jìn)行統(tǒng)籌主管；第二層級(jí)，由各個(gè)國(guó)家指定一個(gè)主管機(jī)關(guān)負(fù)責(zé)日常的執(zhí)行，主管機(jī)關(guān)定期會(huì)向人工智能委員會(huì)進(jìn)行匯報(bào)；第三層級(jí)，由專門機(jī)構(gòu)針對(duì)一些專項(xiàng)進(jìn)行立法，例如剛剛提到的醫(yī)療、金融、教育等領(lǐng)域產(chǎn)品的專項(xiàng)立法。

回到國(guó)內(nèi)，在地方層面還是參考剛剛提到的上海和深圳的條例，都是由市政府下設(shè)一個(gè)人工智能倫理委員會(huì)。但上海和深圳存在的略微差異在于，上海是由經(jīng)濟(jì)信息化部門主管，市政府加強(qiáng)領(lǐng)導(dǎo)；深圳是由工業(yè)和信息化部門主管，市政府只負(fù)責(zé)協(xié)調(diào)，其它的一些政府部門在其職責(zé)范圍內(nèi)開展一些跟AI有關(guān)的活動(dòng)。例如，市監(jiān)部門完善地方標(biāo)準(zhǔn)；統(tǒng)計(jì)部門要制定和完善一些地方的產(chǎn)業(yè)目錄；科創(chuàng)部門負(fù)責(zé)開展人工智能相關(guān)的科技成果的轉(zhuǎn)化。這是我們地方層面上監(jiān)管治理機(jī)制的設(shè)置。

2.?部委層面

第二塊是部委層面，其實(shí)從現(xiàn)有的法律文件來(lái)看，其趨勢(shì)非常明顯。首先是三大部門——網(wǎng)信部、工信部和公安部，聯(lián)合在去年推出了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》。其次，開發(fā)AIGC應(yīng)用的過(guò)程中如果涉及一些網(wǎng)絡(luò)活動(dòng)、網(wǎng)絡(luò)文化、網(wǎng)絡(luò)視頻，那可能文化旅游、新聞出版等部門也會(huì)涉及監(jiān)管。

第二個(gè)層面是考慮科技倫理審查。上個(gè)月，科技部發(fā)布了《科技倫理審查辦法（試行）》，其中規(guī)定了科技部明確的監(jiān)管職責(zé)。在5月16號(hào)，工信部新設(shè)立了兩個(gè)委員會(huì)，一個(gè)是科技倫理委員會(huì)，另一個(gè)是科技倫理專家委員會(huì)。所以在人工智能應(yīng)用的科技倫理審查方面，既有科技部的審查監(jiān)管職責(zé)，也有工信部下屬的兩個(gè)委員會(huì)的審查職責(zé)。

總體而言，從監(jiān)管趨勢(shì)來(lái)看。我們國(guó)內(nèi)在目前沒有統(tǒng)一的立法性框架文件的這樣一個(gè)背景下，呈現(xiàn)出一種多頭監(jiān)管的趨勢(shì)。那多頭監(jiān)管對(duì)于我們?nèi)粘５臉I(yè)務(wù)和運(yùn)營(yíng)意味著什么？

意味著我們可能需要投入更多的時(shí)間、成本、政府協(xié)調(diào)能力來(lái)處理相關(guān)事務(wù)。如果我們要滿足算法合規(guī)、科技倫理合規(guī)的目的，那我們就必須要按照各個(gè)部門、各個(gè)層級(jí)的要求完成安全評(píng)估、算法備案、個(gè)人信息保護(hù)、科技倫理備案，甚至是數(shù)據(jù)出境的審查——像我們今天談的出海的場(chǎng)景下，就要完成很多監(jiān)管審批相關(guān)動(dòng)作。

四、合規(guī)思考?★

最后一個(gè)部分就是我們?cè)谌粘５臉I(yè)務(wù)運(yùn)營(yíng)中的合規(guī)思考，即如何審查合規(guī)要點(diǎn)、如何配合業(yè)務(wù)，在合規(guī)層面將這些風(fēng)險(xiǎn)控制到最小。在這一部分，我制作了三張圖進(jìn)行呈現(xiàn)，第一張圖是我個(gè)人在業(yè)務(wù)參與的過(guò)程中根據(jù)合規(guī)的四個(gè)階段設(shè)置的。

1.?開發(fā)設(shè)計(jì)

首先在開發(fā)設(shè)計(jì)階段，我們需要考慮的法律適用就可能包括《新一代人工智能發(fā)展規(guī)劃》《著作權(quán)法》、各類開源許可證的要求。

剛剛在法律概念部分有提到，進(jìn)行研發(fā)的過(guò)程中，很可能會(huì)涉及到一些開源框架的使用。那么如果我們選擇的開源框架的許可證是比較寬松的，例如BSD，那可能我們就可以免費(fèi)地用于商用，直接修改和使用。但如果該開源框架用的是強(qiáng)著作權(quán)類型的開源許可證，例如GPL，那就會(huì)有一些非常具體的要求。例如，必須要保留其版權(quán)聲明；在每一次使用和修改的過(guò)程中都需要留下記錄；在每一次分發(fā)代碼的過(guò)程中都必須要符合源代碼等限制性的要求。

2.?科技倫理

第二部分是科技倫理審查。除了國(guó)內(nèi)《新一代人工智能倫理規(guī)范》《科技倫理審查辦法（試行）》《人工智能倫理治理標(biāo)準(zhǔn)化指南》等立法文件的要求以外，還需要討論國(guó)際的趨勢(shì)。

因?yàn)閲?guó)內(nèi)外對(duì)科技倫理審查都是非常重視的，三、四月份的時(shí)候，埃隆·馬斯克以及蘋果的創(chuàng)始人之一斯蒂芬·蓋瑞·沃茲尼亞克聯(lián)合了約1400名科技從業(yè)者簽署了一封聯(lián)名信，標(biāo)題是“停止強(qiáng)AI實(shí)驗(yàn)”，要求對(duì)GPT4以上系統(tǒng)的研發(fā)處以暫停六個(gè)月以上。上個(gè)月也有個(gè)比較火爆的新聞——OpenAI的創(chuàng)始人山姆·奧特曼，主動(dòng)要求美國(guó)國(guó)會(huì)對(duì)其舉行聽證，主要議題的內(nèi)容是共同討論如何對(duì)強(qiáng)AI系統(tǒng)進(jìn)行科技倫理審查、如何保證其安全性。

所以，對(duì)于科技倫理的審查，國(guó)內(nèi)外的趨勢(shì)要求都是趨于嚴(yán)格的。例如，科技部在上個(gè)月發(fā)布的《科技倫理審查辦法》中就專門提到一個(gè)強(qiáng)制性要求，即如果要從事人工智能或者敏感領(lǐng)域的研發(fā)，必須要在內(nèi)部設(shè)立一個(gè)科技倫理委員會(huì)。

3.?數(shù)安運(yùn)營(yíng)

第三部分涉及到數(shù)據(jù)安全、網(wǎng)絡(luò)安全運(yùn)營(yíng)的問題。除了考慮《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》三個(gè)法規(guī)以外，拿訓(xùn)練數(shù)據(jù)來(lái)說(shuō)，我們?nèi)粘Ｄ軌蚪佑|到的人工智能應(yīng)用，它們?cè)谶x擇預(yù)訓(xùn)練數(shù)據(jù)的時(shí)候，可能都是千億級(jí)別的數(shù)據(jù)量級(jí)。這些數(shù)據(jù)都從哪里來(lái)？可能大部分是來(lái)自公開的網(wǎng)絡(luò)或者是授權(quán)的數(shù)據(jù)庫(kù)。在如此大的千億級(jí)別的數(shù)據(jù)庫(kù)中，不可避免地會(huì)包含一些個(gè)人數(shù)據(jù)或個(gè)人敏感數(shù)據(jù)。

OpenAI在4月份的時(shí)候就發(fā)布過(guò)一個(gè)調(diào)查報(bào)告，解釋3月20號(hào)為什么會(huì)中斷服務(wù)，其中顯示，當(dāng)時(shí)ChatGPT plus有大概百分之一點(diǎn)幾的用戶群數(shù)據(jù)在應(yīng)用使用過(guò)程中被泄露了。泄露的內(nèi)容不僅包括名字、住址、手機(jī)號(hào)等基本數(shù)據(jù)，還包括信用卡號(hào)碼等非常敏感的金融數(shù)據(jù)。以及在2019年的GPT 2時(shí)代，也出現(xiàn)一種情況，即只要輸入一段特定的代碼，就會(huì)自動(dòng)生成個(gè)人的姓名、身份證號(hào)、住址、傳真號(hào)。

所以對(duì)于數(shù)據(jù)安全和網(wǎng)絡(luò)安全的運(yùn)營(yíng)，在審查的過(guò)程中必須要考慮到技術(shù)措施能不能實(shí)現(xiàn)、有沒有人為審查等控制風(fēng)險(xiǎn)的方法。

4.?知識(shí)產(chǎn)權(quán)

最后一部分是知識(shí)產(chǎn)權(quán)，立法包括《著作權(quán)法》《專利法》《商標(biāo)法》。

目前，AIGC作品到底具不具有可版權(quán)性，針對(duì)此的觀點(diǎn)是什么？從成文法角度來(lái)說(shuō)，并沒有成文的規(guī)定說(shuō)明其能否構(gòu)成作品，AI能否享有著作權(quán)人的身份。但從案例的角度來(lái)說(shuō)，可左可右，支持和不支持的情況都存在。

從域外來(lái)看，美國(guó)版權(quán)局在3月份發(fā)布的一個(gè)著作權(quán)注冊(cè)指南，明確拒絕AIGC作品具有可版權(quán)性的說(shuō)法，原因是：第一， AI系統(tǒng)并不符合憲法上任何關(guān)于“人”的認(rèn)定；其次，這種作品不具有任何的創(chuàng)新性。所以，該指南認(rèn)為AIGC生成的內(nèi)容不具有版權(quán)性。

但是也存在支持的情況，支持的原因可見國(guó)內(nèi)深圳騰訊的Dreamwriter軟件生成作品的案例。在該案例中，深圳法院支持了其可版權(quán)性，原因就在于，它認(rèn)為騰訊公司在其中有技術(shù)投入和人員投入，在投入的基礎(chǔ)上，生成的內(nèi)容也具有一定獨(dú)創(chuàng)性。所以作為開發(fā)運(yùn)營(yíng)者的角色，可以對(duì)此類作品享有著作權(quán)及背后相對(duì)應(yīng)的權(quán)益。

5.?總結(jié)

總的來(lái)說(shuō)，我們可以從這四個(gè)階段明確AIGC或AGI產(chǎn)業(yè)中涉及到的產(chǎn)品在不同的階段需要考慮的審查要點(diǎn)。但仍然有很多難點(diǎn)是沒有得到解決的，所以我還是借助了AI應(yīng)用，讓它提出了一些具體的應(yīng)對(duì)方案。

從大方向上來(lái)看，它在數(shù)據(jù)隱私保護(hù)、智能算法的公正性、知識(shí)產(chǎn)權(quán)管理、責(zé)任界定、應(yīng)用授權(quán)等角度提出的方案其實(shí)是沒有問題的，但對(duì)于具體的實(shí)際落地執(zhí)行的細(xì)節(jié)卻無(wú)法深入回答。例如它提出“采取安全可控的方法”來(lái)保護(hù)數(shù)據(jù)隱私”，但什么叫安全可控的方法？它答不出來(lái)。

所以，我們?cè)谑褂眠@些應(yīng)用來(lái)做交互的時(shí)候，可能有更多的細(xì)節(jié)需要把控，需要我們?nèi)ヌ岣嗟膒rompt，或者需要把它的算法做得更加完善。

最后是評(píng)估角度的示例。這是從現(xiàn)有的法律框架中——即剛剛提到的幾個(gè)文件，例如《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》、《互聯(lián)網(wǎng)信息服務(wù)深度合成規(guī)定》、《生成式人工智能服務(wù)管理規(guī)定》——抽取出來(lái)的一些不同階段的風(fēng)險(xiǎn)類別，包括資質(zhì)風(fēng)險(xiǎn)、算法風(fēng)險(xiǎn)、數(shù)據(jù)風(fēng)險(xiǎn)、運(yùn)營(yíng)風(fēng)險(xiǎn)。

例如針對(duì)資質(zhì)風(fēng)險(xiǎn)，如果某AI設(shè)計(jì)的目的是提供互聯(lián)網(wǎng)信息服務(wù)，那就必須要取得ICP及相關(guān)的證照要求。如果在算法方面要利用人工智能與虛擬現(xiàn)實(shí)深度合成的技術(shù)，就必須要完成安全評(píng)估和算法備案的工作。針對(duì)數(shù)據(jù)風(fēng)險(xiǎn)，則必須要獲得個(gè)人信息主體的單獨(dú)同意，完善授權(quán)鏈條。

演講者介紹

甘青鋒

360集團(tuán)資深法律顧問

AIGC合規(guī)專家

英國(guó)布里斯托大學(xué)商法碩士，曾供職于北京某法院民事審判庭，現(xiàn)為 360 集團(tuán)資深法律顧問。

為《合同起草審查指南：三觀四步法》及民法典修訂版的作者之一。數(shù)據(jù)合規(guī)、AIGC 合規(guī)專家，撰有《試論人工智能域內(nèi)法律規(guī)制問題》 《NFT 合規(guī)風(fēng)險(xiǎn)概述》《數(shù)據(jù)出境安全評(píng)估辦法合規(guī)要點(diǎn)》等多篇專業(yè)文章。

關(guān)于威理?yè)P(yáng)????

墾丁律師事務(wù)所威理?yè)P(yáng)法律團(tuán)隊(duì)，骨灰級(jí)二次元迷匯集地、產(chǎn)品經(jīng)理型律師團(tuán)隊(duì)。專注ACG產(chǎn)業(yè)全生命周期法律合規(guī)、為互聯(lián)網(wǎng)企業(yè)提供出海合規(guī)方案、國(guó)內(nèi)研發(fā)及發(fā)行各階段法律風(fēng)險(xiǎn)梳理及評(píng)估、數(shù)據(jù)合規(guī)、知識(shí)產(chǎn)權(quán)及訴訟糾紛等。

掃碼聯(lián)系林娜，加入ACG合規(guī)討論群

（請(qǐng)注明：實(shí)名-單位-來(lái)意）

團(tuán)隊(duì)初心

“二次元”發(fā)源日本，面向世界。時(shí)代賦予了“二次元”新的含義和生命。

悲壯如銀河戰(zhàn)爭(zhēng)中的提督楊威利、孤勇如明治維新的劍客緋村劍心，堅(jiān)毅如滿血熱愛穿越千年的棋魂藤原佐為、溫暖如十二國(guó)殘酷斗爭(zhēng)中始終給人希望方向的半獸樂俊....

新的時(shí)代，我們看到了在日本揚(yáng)帆起航的羅小黑戰(zhàn)記、收獲了時(shí)光代理人帶來(lái)的驚心動(dòng)魄、看到刺客伍六七邁向世界的高昂步伐、也驚艷于原神的全球開花......

熱愛二次元、癡迷日語(yǔ)、精通英語(yǔ)的我們，從漫畫到動(dòng)畫，從動(dòng)畫到游戲，從游戲到虛擬世界.....愿以法律合規(guī)為器，伴你披荊斬棘，為你保駕護(hù)航。

聲明

本文章所載內(nèi)容僅供參考之用，并不代表威理?yè)P(yáng)法律團(tuán)隊(duì)及律師的意見。如需更多信息，請(qǐng)聯(lián)系我們。