“螞蟻呀嘿，螞蟻呀呼，螞蟻呀哈哈……”近日，配以這段魔性音樂的換臉視頻在各大社交平臺刷屏。提供該特效的AI換臉軟件Avatarify也因此火爆全網(wǎng)，并于2月25日登頂App Store免費(fèi)軟件下載榜首。不過，3月2日凌晨，該軟件在App Store中國區(qū)悄然下架。

AI換臉軟件引發(fā)爭議已非首次。南都此前報道，2019年，換臉軟件ZAO就曾因涉嫌未依法依規(guī)收集使用人臉信息被工信部約談。今年1月起正式實(shí)施的民法典，也已將AI換臉納入到肖像權(quán)的保護(hù)范圍，明確規(guī)定不得利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)。

爆紅：“螞蟻呀嘿”刷屏，相關(guān)視頻播放量超31億

在Avatarify導(dǎo)入一張人臉照片，選擇相應(yīng)模板，軟件就能通過AI算法，自動生成一段隨著節(jié)奏夸張扭動的短視頻。無論是馬斯克、比爾蓋茨，還是唐僧師徒、還珠格格，都難逃被AI換臉后隨“螞蟻呀嘿”扭動的命運(yùn)。

除了被動卷入，也有不少明星主動“換臉”。2月27日，演員甄子丹在其微博發(fā)布了一段他和吳京勾肩舉杯扭動齊唱“螞蟻呀嘿”的視頻，獲得吳京轉(zhuǎn)發(fā)及近10萬點(diǎn)贊?；萦⒓t、鄧紫棋、李佳琦、德云社相聲演員等明星也通過社交軟件紛紛參與到這場網(wǎng)絡(luò)“AI變臉”中。

南都記者在移動應(yīng)用數(shù)據(jù)分析平臺七脈數(shù)據(jù)查詢發(fā)現(xiàn)，2月中旬起，Avatarify在中國區(qū)App Store的下載量便不斷攀升。2月24日0時，該軟件在中國區(qū)App Store總榜（免費(fèi)）排名706，當(dāng)晚21時便進(jìn)入前100；2月25日0時排名52（應(yīng)用榜排名65），當(dāng)天15時、17時便分別占據(jù)總榜、免費(fèi)應(yīng)用榜榜首，并持續(xù)維持領(lǐng)先，直至3月1日才退居應(yīng)用榜第2名。

然而，3月2日2時，Avatarify在中國區(qū)App Store突然下架，且未顯示原因。與此同時，App Store上，還有一批主打“螞蟻呀嘿同款特效”甚至使用與Avatarify圖標(biāo)相同的App出現(xiàn)。

3月6日，南都記者在多個網(wǎng)絡(luò)社交平臺看到，“螞蟻呀嘿”熱度仍不減。抖音“螞蟻呀嘿”話題下，相關(guān)視頻播放量已達(dá)31億次，微博話題“螞蟻呀嘿視頻大賽”的閱讀量也已超5000萬。

風(fēng)險：AI換臉被指存?zhèn)€人隱私數(shù)據(jù)泄露、侵權(quán)等隱患

Avatarify的爆紅與下架，也讓AI換臉背后的數(shù)據(jù)安全爭議再度引發(fā)關(guān)注。

此前，號稱“僅需一張照片，出演天下好戲”的AI換臉軟件“ZAO-逢臉造戲”，也曾經(jīng)歷過上線6天，就從爆紅到被要求整改的巨大落差。?

南都此前報道，2019年8月30日，ZAO上線后迅速刷屏，登上各大應(yīng)用商店下載榜首位。然而，由于被質(zhì)疑存在隱私協(xié)議不規(guī)范、數(shù)據(jù)泄露風(fēng)險等問題，9月3日，工信部約談ZAO的孵化團(tuán)隊——北京陌陌科技有限公司，要求其組織開展自查整改，強(qiáng)化網(wǎng)絡(luò)數(shù)據(jù)和用戶個人信息安全保護(hù)。

國內(nèi)較早使用深度學(xué)習(xí)技術(shù)提供服務(wù)的廣州圖普科技網(wǎng)絡(luò)公司向南都記者介紹，相對于“換臉”技術(shù)本身，安全風(fēng)險更集中于人臉信息的收集、加工、存儲和傳輸?shù)拳h(huán)節(jié)。由于人臉識別具有高度的直接識別性和唯一性，因此在對人臉信息處理的過程中，存在更高的數(shù)據(jù)泄露、非法濫用、盜用等隱患。一旦App被黑客攻破，相關(guān)的用戶信息就有可能流入黑產(chǎn)的地下數(shù)據(jù)庫，被不法分子拿來獲取利益。

2019年9月，長沙市反電詐中心就曾發(fā)布緊急預(yù)警，提醒市民使用AI“換臉”及類似軟件風(fēng)險極高，不僅可能造成個人隱私數(shù)據(jù)泄露，甚至可能被不法分子用于實(shí)施電信網(wǎng)絡(luò)詐騙。比如，通過收集照片、視頻，利用AI技術(shù)“換臉”，用偽造的照片或視頻實(shí)施詐騙等。

3月5日，北京冠領(lǐng)律師事務(wù)所主任周旭亮接受南都記者采訪時表示，AI換臉軟件存在著諸多法律隱患，可能會侵犯用戶的肖像權(quán)、名譽(yù)權(quán)和著作權(quán)等基本權(quán)利。

西南政法大學(xué)人工智能法學(xué)院院長陳亮介紹，AI換臉技術(shù)因其應(yīng)用場景的不同也面臨著不同的法律風(fēng)險：“比如未經(jīng)授權(quán)修改影視作品，涉嫌侵犯影視作品的著作權(quán)；在相關(guān)色情視頻中的換臉，可能侵犯他人的名譽(yù)權(quán)；未經(jīng)本人同意擅自使用其肖像進(jìn)行換臉，可能侵犯他人的肖像權(quán)?！?

中國政法大學(xué)知識產(chǎn)權(quán)研究中心研究員徐新明也表示，如果軟件開發(fā)者沒有事先取得相關(guān)素材的權(quán)利人的許可，可能構(gòu)成侵權(quán)?！凹幢丬浖械牟糠炙夭氖怯捎脩糇孕猩蟼鞯模擒浖_發(fā)者開發(fā)者應(yīng)該明知道普通用戶通常是不具有版權(quán)許可的。”

規(guī)制：民法典已將AI換臉納入肖像權(quán)保護(hù)范圍

事實(shí)上，在Avatarify、ZAO面世之前，Deepfake、Deepnude等換臉應(yīng)用也曾先后引發(fā)熱議。AI換臉技術(shù)門檻降低的同時，對此類技術(shù)的濫用也催生了一批黑灰產(chǎn)業(yè)。南都記者此前調(diào)查發(fā)現(xiàn)，在獵趣、轉(zhuǎn)轉(zhuǎn)多個二手平臺上，有賣家低價出售破解版換臉軟件、“脫衣”軟件，還有賣家打包出售通過換臉軟件制作的女明星淫穢視頻，并宣稱提供視頻定制服務(wù)。?

AI換臉便利與風(fēng)險并存的背后，新技術(shù)該如何監(jiān)管？南都記者梳理發(fā)現(xiàn)，近年來國家有關(guān)部門已制定出臺多項法律法規(guī)，進(jìn)一步強(qiáng)化對此類技術(shù)應(yīng)用的規(guī)制。

2019年9月，針對AI換臉等新應(yīng)用帶來用戶隱私泄露隱憂，國家互聯(lián)網(wǎng)信息辦公室副主任劉烈宏在國新辦發(fā)布會上回應(yīng)，國家網(wǎng)信辦積極支持新技術(shù)、新應(yīng)用發(fā)展，同時也采取必要措施防范隨之帶來的風(fēng)險。國家網(wǎng)信辦已會同有關(guān)部門制定出臺了《具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務(wù)安全評估規(guī)定》《個人信息安全規(guī)范》等法規(guī)標(biāo)準(zhǔn)，指導(dǎo)督促互聯(lián)網(wǎng)企業(yè)開展安全評估，監(jiān)管上線的新技術(shù)、新應(yīng)用。此外，網(wǎng)信辦還組織開展了App違法違規(guī)收集使用個人信息專項治理，保護(hù)用戶個人信息和個人隱私，維護(hù)用戶合法權(quán)益。

2019年11月，國家網(wǎng)信辦等部門聯(lián)合印發(fā)《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》，要求利用新技術(shù)新應(yīng)用制作、發(fā)布、傳播非真實(shí)音視頻信息的，應(yīng)當(dāng)以顯著方式予以標(biāo)識；網(wǎng)絡(luò)音視頻信息服務(wù)提供者發(fā)現(xiàn)使用者利用基于深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等的虛假圖像、音視頻生成技術(shù)制作、發(fā)布、傳播謠言的，應(yīng)當(dāng)及時采取相應(yīng)的辟謠措施。

2019年12月，國家網(wǎng)信辦印發(fā)《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》，明確網(wǎng)絡(luò)信息內(nèi)容服務(wù)使用者和網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者、網(wǎng)絡(luò)信息內(nèi)容服務(wù)平臺不得利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等新技術(shù)新應(yīng)用從事法律、行政法規(guī)禁止的活動。

2021年1月起正式實(shí)施的民法典，其第1019條明確規(guī)定了肖像權(quán)的消極權(quán)能，其中“不得利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)”“未經(jīng)肖像權(quán)人同意，不得制作、使用、公開肖像權(quán)人的肖像”的規(guī)定，被視為將AI換臉納入到肖像權(quán)的保護(hù)范圍。

民法典編纂專家、中國人民大學(xué)法學(xué)院副教授朱虎此前接受南都記者采訪時透露，民法典中增加對肖像、聲音的保護(hù)，正是為了回應(yīng)AI換臉等深度偽造技術(shù)帶來的新型社會問題并予以規(guī)制、解決，避免后續(xù)損害的發(fā)生。