近兩日，讓“吃瓜群眾”應(yīng)接不暇的娛樂(lè)圈新聞中，一張淫穢視頻截圖也在流傳。圖中人物的臉，是男星劉昊然。

不過(guò)，8月26日晚間，劉昊然工作室發(fā)博打假，表示該視頻為AI換臉技術(shù)偽造，在今年1月就曾被惡意傳播，又于近日被再次傳播擴(kuò)大。該工作室表示，為維護(hù)劉昊然的合法權(quán)益，他們已向警方報(bào)案。

南都記者調(diào)查發(fā)現(xiàn)，“AI明星換臉”已經(jīng)成為一條灰色產(chǎn)業(yè)鏈。AI換臉?lè)簽E的一個(gè)重要原因，是它能夠被低成本低門(mén)檻地獲取和運(yùn)用。南都記者從一個(gè)AI換臉制作者那里了解到，“五分鐘視頻換臉100元”“學(xué)教程2000元包教包會(huì)”“不限視頻內(nèi)容”“所有明星都能換”。

根據(jù)民法典，換臉視頻都需要以肖像權(quán)人同意為前提，否則即為侵權(quán)。而制作、復(fù)制、販賣(mài)、傳播淫穢視頻，已經(jīng)觸犯了刑法。受害人可以依法進(jìn)行維權(quán)。

AI換臉被用于色情傳播，女明星是重災(zāi)區(qū)

8月28日晚，劉昊然工作室發(fā)布微博，稱(chēng)有大量用戶通過(guò)網(wǎng)絡(luò)渠道傳播含有使用AI換臉技術(shù)對(duì)劉昊然進(jìn)行侮辱的視頻，為維護(hù)劉昊然的合法權(quán)益，工作室已向警方報(bào)案。

有細(xì)心網(wǎng)友找出了劉昊然這則換臉視頻，視頻畫(huà)面中，被AI換臉的劉昊然未穿上衣。網(wǎng)友發(fā)現(xiàn)，在1分04秒的地方，人臉有明顯變化，前后并不是同一個(gè)人。網(wǎng)友因此推斷，該視頻是AI換臉合成的。

實(shí)際上，濫用深度偽造技術(shù)的“AI脫衣術(shù)”已經(jīng)存在多年，催生出的黑灰產(chǎn)屢禁不絕。顧名思義，AI換臉就是將動(dòng)態(tài)視頻中的人臉替換成其他人的人臉，在深度偽造技術(shù)的“加持”下，替換上的人臉不再是僵硬的“五毛特效”，表情神態(tài)與原視頻十分相近，甚至肉眼難以辨別。2019年，就有B站UP主“換臉哥”用深度偽造技術(shù)將楊冪的臉“貼”在了朱茵飾演的黃蓉臉上，流傳甚廣。

隨后，不法分子想出讓明星“AI脫衣”的點(diǎn)子，他們把淫穢視頻中的人臉換上明星的臉，然后在網(wǎng)絡(luò)上出售，還有人進(jìn)行換臉技術(shù)教學(xué)。

女明星是“AI脫衣術(shù)”的重災(zāi)區(qū)。去年9月，有外媒報(bào)道，女演員艾瑪·沃特森（Emma Watson）的30秒換臉視頻在色情網(wǎng)站上播放超過(guò)2300萬(wàn)次，還有多位女明星的換臉視頻被觀看了數(shù)百萬(wàn)次，或是被換臉成為數(shù)十個(gè)色情影片的女主角，比如泰勒·斯威夫特、娜塔莉·波特曼、比利·艾利什等。

南都曾多次報(bào)道AI換臉淫穢視頻打包賣(mài)的亂象。換臉軟件“ZAO”和“去演”也均被工信部、網(wǎng)信辦約談?wù)?。然而，南都記者調(diào)查發(fā)現(xiàn)，目前，“AI脫衣”的黑灰產(chǎn)仍在互聯(lián)網(wǎng)中存在。

AI換臉成本低，也被用于人臉識(shí)別

AI換臉?lè)簽E的一個(gè)重要原因，是它能夠被低成本低門(mén)檻地獲取和運(yùn)用。

南都記者在QQ中搜索“換臉”，發(fā)現(xiàn)“AI明星換臉”“AI換臉?biāo)饺硕ㄖ啤钡葦?shù)十個(gè)QQ群，群里不少人都在售賣(mài)“AI換臉”服務(wù)。

南都記者在一個(gè)AI換臉群內(nèi)聯(lián)系到了一位自稱(chēng)可以提供“AI影視換臉合成、換臉定制、換臉教學(xué)、成品打包、工具分享”服務(wù)的工作人員。該工作人員表示，只要把原始視頻素材發(fā)給他，想要換臉成哪個(gè)明星都可以。并且，該工作人員透露，不光可以換臉明星，換臉?biāo)厝艘部梢?，只需要提供一張照片，就可以做到“如假包換”。

隨后，該工作人員給南都記者發(fā)來(lái)兩段視頻樣品。南都記者發(fā)現(xiàn)，從樣品來(lái)看，經(jīng)換臉處理后的視頻看起來(lái)非常自然，肉眼看不出破綻。

關(guān)于換臉的價(jià)格，該工作人員表示，價(jià)格取決于視頻時(shí)長(zhǎng)。5分鐘100元，10分鐘200元，如果視頻很長(zhǎng)，價(jià)格可以優(yōu)惠。南都記者詢問(wèn)是否可以把色情內(nèi)容視頻換臉成明星，對(duì)方表示“不限內(nèi)容”。

如果客戶想要自己批量制作換臉視頻，也可以選擇購(gòu)買(mǎi)換臉教程。該工作人員告訴南都記者，只需花2000元，他就可以向記者提供換臉軟件，并進(jìn)行一對(duì)一教學(xué)，“包教包會(huì)”?！按蠹s一個(gè)星期就可以掌握AI換臉視頻制作?！彼f(shuō)。

在與該工作人員的聊天中，南都記者發(fā)現(xiàn)，AI換臉不僅被用于色情內(nèi)容，也被用于人臉識(shí)別。為了向南都記者表明換臉效果逼真，該工作人員透露“甚至可以過(guò)人臉識(shí)別”。

不過(guò)，他表示，并不是所有的人臉識(shí)別都可以通過(guò)，支付寶、微信、銀行類(lèi)App的人臉識(shí)別精度要求非常高，AI換臉達(dá)不到。但他透露，自己在從事一項(xiàng)灰色業(yè)務(wù)——辦理手機(jī)卡需要到營(yíng)業(yè)廳進(jìn)行實(shí)名認(rèn)證，AI換臉可以騙過(guò)開(kāi)卡環(huán)節(jié)中的人臉識(shí)別系統(tǒng)。

法律明確規(guī)定，未經(jīng)當(dāng)事人同意的AI換臉違法

其實(shí)，這不是劉昊然第一次被換臉。去年3月，抖音博主“韋康vico”的一條換臉劉昊然的創(chuàng)意視頻獲得了近120萬(wàn)點(diǎn)贊。不過(guò)，無(wú)論對(duì)何種類(lèi)型的視頻換臉，均違反了法律規(guī)定。

今年1月1日起實(shí)施的民法典中，第一千零一十九條明確規(guī)定：

任何組織或者個(gè)人不得以丑化、污損，或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)。未經(jīng)肖像權(quán)人同意，不得制作、使用、公開(kāi)肖像權(quán)人的肖像，但是法律另有規(guī)定的除外。

法律另有規(guī)定的五種情形，包括為個(gè)人學(xué)習(xí)等目的在必要范圍內(nèi)使用、新聞報(bào)道不可避免地使用、國(guó)家機(jī)關(guān)依法為依法履行職責(zé)使用等。

這意味著，無(wú)論是普通公眾還是明星，除了以上這五種情形，一切其他的換臉視頻都需要以肖像權(quán)人同意為前提，否則即為侵權(quán)。而制作、復(fù)制、販賣(mài)、傳播淫穢視頻，已經(jīng)觸犯了刑法。受害人可以依法進(jìn)行維權(quán)。