東方網(wǎng)記者薛寧薇9月11日?qǐng)?bào)道：手機(jī)導(dǎo)航語(yǔ)音、模型建構(gòu)、藝術(shù)畫作……隨著ChatGPT的出現(xiàn)，能夠生成文本、圖像、視頻、音頻等多種形式的人工智能生成內(nèi)容技術(shù)（Artificial?Intelligence?Generated?Content，以下稱“AIGC”），越來(lái)越多被應(yīng)用于生活各領(lǐng)域。

與此同時(shí)，不法分子也盯上了AIGC的“蛋糕”，相關(guān)“AI變臉”“AI擬聲”詐騙案件時(shí)有發(fā)生。出于對(duì)AIGC大模型的風(fēng)險(xiǎn)考慮，馬斯克等互聯(lián)網(wǎng)大咖也曾要求暫停人工智能大模型的訓(xùn)練。

在今天舉行的2023年國(guó)家網(wǎng)絡(luò)安全宣傳周上海地區(qū)高峰論壇活動(dòng)現(xiàn)場(chǎng)，多位網(wǎng)絡(luò)安全的業(yè)內(nèi)大咖就分享對(duì)AIGC的發(fā)展和安全治理話題發(fā)表各自見(jiàn)解。

“大模型暫停訓(xùn)練半年的呼吁是理想化的，唯有我們進(jìn)一步地以科技自強(qiáng)，來(lái)保護(hù)人民群眾的生命財(cái)產(chǎn)安全?！痹谏虾＝煌ù髮W(xué)人工智能研究院院長(zhǎng)宋海濤看來(lái)，人工智能和AIGC的產(chǎn)生，加速了人們對(duì)于信息的有效壓縮能力以及對(duì)知識(shí)的表達(dá)能力，面臨如此重大的科技涌現(xiàn)甚至對(duì)網(wǎng)絡(luò)的外延，要在進(jìn)一步擁抱科技力量和技術(shù)的同時(shí)，加強(qiáng)網(wǎng)絡(luò)安全方面?zhèn)惱砗椭卫眢w系的研究。“新業(yè)態(tài)、新技術(shù)到任何一次工業(yè)革命最終要遵循倫理和社會(huì)治理的規(guī)則，我們可以在下一階段網(wǎng)絡(luò)安全過(guò)程中如何探討倫理和治理體系的建設(shè)?！彼魏f(shuō)。

“3-5年后網(wǎng)絡(luò)上的東西可能都是AIGC生成的，它可以文生萬(wàn)物，比如網(wǎng)上看論文都不知道是不是AIGC寫的，這會(huì)牽涉到網(wǎng)絡(luò)安全問(wèn)題、生態(tài)安全問(wèn)題、數(shù)據(jù)安全問(wèn)題。”上海市信息安全測(cè)評(píng)認(rèn)證中心創(chuàng)新研究院副院長(zhǎng)徐卿表示，對(duì)于這個(gè)問(wèn)題，國(guó)家層面對(duì)數(shù)據(jù)安全制度供給在加大，包括《數(shù)安法》《個(gè)保法》等。對(duì)此，上海也推動(dòng)了許多以數(shù)據(jù)安全為中心的思路去構(gòu)架城市數(shù)據(jù)安全體系的試點(diǎn)工作?！澳壳斑€是一個(gè)起步階段，還是有大量工作要去做，方向肯定是正確的。”徐卿說(shuō)。

作為一名法律工作者，公安部第三研究所網(wǎng)絡(luò)安全法律研究中心主任、研究員黃道麗從事網(wǎng)絡(luò)安全政策法律研究近二十年，深耕數(shù)據(jù)安全、個(gè)人信息保護(hù)、網(wǎng)絡(luò)安全漏洞治理、關(guān)鍵信息基礎(chǔ)設(shè)施保護(hù)等領(lǐng)域。她認(rèn)為，AIGC在應(yīng)用中的風(fēng)險(xiǎn)是否會(huì)突破傳統(tǒng)所認(rèn)識(shí)的數(shù)據(jù)安全、個(gè)人信息保護(hù)，這當(dāng)中存在一個(gè)巨大的張力。相關(guān)立法時(shí)需要讓所有參與人員都能看到一個(gè)穩(wěn)定的預(yù)期，對(duì)行為有一個(gè)準(zhǔn)確的判斷。

在中國(guó)信息通信研究院華東分院院長(zhǎng)廖運(yùn)發(fā)看來(lái)，從技術(shù)上，要加快人工智能技術(shù)進(jìn)一步地研發(fā)。從產(chǎn)業(yè)維度上，需要加快可信人工智能的落地，形成共識(shí)。從生態(tài)維度，要加快標(biāo)準(zhǔn)的研究、制定，以及從監(jiān)管的維度如何推動(dòng)底線政策的監(jiān)管?！翱傮w來(lái)看，這些監(jiān)管都不是抑制AIGC大模型的產(chǎn)業(yè)發(fā)展，而是要統(tǒng)籌發(fā)展與安全?！绷芜\(yùn)發(fā)認(rèn)為，要構(gòu)建一個(gè)AIGC大模型的數(shù)字安全空間，涵蓋網(wǎng)絡(luò)安全以及數(shù)據(jù)安全、基礎(chǔ)設(shè)施安全、應(yīng)用安全，這對(duì)于整個(gè)AIGC大模型發(fā)展是至關(guān)重要的。

來(lái)源：東方網(wǎng)