應(yīng)用軟件ZAO會(huì)不會(huì)對(duì)國(guó)家安全構(gòu)成威脅？

一款名為“ZAO-逢臉造戲”的應(yīng)用軟件使用AI人工智能技術(shù)風(fēng)靡中國(guó)，用戶只需要一張正臉照，就能將自己替換為影視作品當(dāng)中的人物。這款換臉APP迅速走紅中國(guó)社交網(wǎng)絡(luò)的同時(shí)，也引起巨大爭(zhēng)議。

ZAO于8月30日正式發(fā)布，廣受歡迎，一度登上蘋(píng)果應(yīng)用商店中國(guó)區(qū)免費(fèi)下載榜榜首，其服務(wù)器也因用戶激增數(shù)次崩潰。

但隨之而來(lái)的是外界對(duì)版權(quán)、隱私、信息安全等問(wèn)題的擔(dān)憂，有人指責(zé)ZAO的用戶協(xié)議導(dǎo)致過(guò)度收集用戶信息和過(guò)度攫取用戶授權(quán)，或擔(dān)心換臉視頻會(huì)被用于破壞人臉識(shí)別系統(tǒng)。

9月3日，ZAO運(yùn)營(yíng)團(tuán)隊(duì)就爭(zhēng)議發(fā)布致歉聲明，修改了此前的用戶協(xié)議。

ZAO隸屬于中國(guó)長(zhǎng)沙深度融合網(wǎng)絡(luò)科技有限公司，法定代表人為中國(guó)社交軟件陌陌聯(lián)合創(chuàng)始人兼游戲業(yè)務(wù)部總裁雷小亮，ZAO實(shí)為北京陌陌科技有限公司旗下產(chǎn)品。

9月3日同一天，針對(duì)媒體公開(kāi)報(bào)道和用戶曝光的ZAO用戶隱私協(xié)議不規(guī)范，存在數(shù)據(jù)泄露風(fēng)險(xiǎn)等網(wǎng)絡(luò)數(shù)據(jù)安全問(wèn)題，中國(guó)工業(yè)和信息化部網(wǎng)絡(luò)安全管理局對(duì)北京陌陌科技有限公司相關(guān)負(fù)責(zé)人進(jìn)行了問(wèn)詢約談。

由于“刷臉支付”、“刷臉解鎖”在許多中國(guó)城市已成日常，ZAO的走紅還進(jìn)一步引發(fā)了用戶對(duì)支付風(fēng)險(xiǎn)和財(cái)產(chǎn)安全的擔(dān)憂。

對(duì)此，中國(guó)互聯(lián)網(wǎng)巨頭阿里巴巴和旗下支付平臺(tái)支付寶作出保證，目前網(wǎng)上制作的換臉視頻無(wú)論多逼真，都無(wú)法突破“刷臉支付”的面部識(shí)別系統(tǒng)。

A screengrab from the Zao app圖片版權(quán)MOMO/WEIBO

Image caption

ZAO將用戶的臉映射到已有素材庫(kù)里的視頻中。

ZAO是什么？爭(zhēng)議由何而來(lái)？

ZAO是一款使用AI技術(shù)換臉的應(yīng)用程序，它將用戶提交的正面自拍映射到影視節(jié)目的剪輯片段中，替換人物角色的臉，生成逼真的視頻。

這一類(lèi)使用人工智能技術(shù)進(jìn)行人臉進(jìn)行替換的技術(shù)被稱作Deepfakes（深度造假），所用到的算法于2017年被開(kāi)發(fā)。但該技術(shù)后來(lái)被用于將色情電影角色的臉部替換為明星面部，引起巨大爭(zhēng)議。推特、Gfycat和Reddit等社交媒體網(wǎng)站都禁止了AI換臉色情視頻。

這家中國(guó)公司利用AI技術(shù)，生產(chǎn)會(huì)說(shuō)話的硅膠娃娃

ZAO迅速走紅的同時(shí)，一些用戶注意到，其用戶協(xié)議中包含的多項(xiàng)條款都隱藏法律風(fēng)險(xiǎn)。

例如，用戶進(jìn)行視頻換臉操作同時(shí)就意味著，同意或確保肖像權(quán)利人授予ZAO及其關(guān)聯(lián)公司全球范圍內(nèi)“完全免費(fèi)、不可撤銷(xiāo)、永久、可轉(zhuǎn)授權(quán)和可再許可的權(quán)利”，包括但不限于：人臉照片、圖片、視頻資料等肖像資料中所含的肖像權(quán)利人的肖像權(quán)，以及利用技術(shù)對(duì)肖像權(quán)利人的肖像進(jìn)行形式改動(dòng)。

用戶必須同意用戶協(xié)議后才能使用ZAO的換臉功能，ZAO借此不光免費(fèi)獲得了用戶上傳照片中肖像信息的使用權(quán)和轉(zhuǎn)授權(quán)，還將侵權(quán)的風(fēng)險(xiǎn)轉(zhuǎn)嫁給了用戶。

香港《南華早報(bào)》引述專(zhuān)家意見(jiàn)評(píng)論稱，這樣一來(lái)“軟件開(kāi)發(fā)者有權(quán)在未經(jīng)用戶進(jìn)一步許可的情況下將該授權(quán)轉(zhuǎn)讓給任何第三方?！睂?zhuān)家認(rèn)為，這違反了中國(guó)大陸的法律。

在用戶協(xié)議條款引發(fā)大量爭(zhēng)議后，ZAO運(yùn)營(yíng)團(tuán)隊(duì)公開(kāi)致歉，聲稱”不會(huì)存儲(chǔ)個(gè)人面部生物識(shí)別特征信息“，并修改了用戶協(xié)議，新版用戶協(xié)議刪除了上述引來(lái)爭(zhēng)議的表述。

但是，中國(guó)社交平臺(tái)微信迅速屏蔽ZAO，以安全風(fēng)險(xiǎn)為由，禁止用戶在微信平臺(tái)上上傳ZAO換臉視頻。

這款A(yù)PP的火爆程度可能也超出其運(yùn)營(yíng)團(tuán)隊(duì)的預(yù)期，ZAO新浪微博的官方帳號(hào)表示，ZAO在8月份花了700萬(wàn)租服務(wù)器，但上線第一晚就已經(jīng)消耗了每月服務(wù)器容量的三分之一。

8月31日上線第二天已有用戶抱怨服務(wù)器速度太慢，其微博官方賬號(hào)表示“心累”，服務(wù)器已進(jìn)入滿負(fù)荷狀態(tài)。

The Zao offering in the app store圖片版權(quán)MOMO

Image caption

ZAO正式發(fā)布后，一度登上蘋(píng)果應(yīng)用商店中國(guó)區(qū)免費(fèi)下載榜榜首

ZAO生成視頻能否突破“刷臉支付”？

出自中國(guó)的支付寶是全球最大移動(dòng)支付平臺(tái)，擁有超過(guò)8.7億用戶，它向用戶保證，ZAO創(chuàng)建的視頻無(wú)法突破其刷臉支付系統(tǒng)。

許多支付寶用戶通過(guò)刷臉支付，甚至可以在商店或餐廳消費(fèi)時(shí)，直接看向攝像頭進(jìn)行人臉識(shí)別，完成支付。

開(kāi)發(fā)支付寶的中國(guó)阿里巴巴集團(tuán)表示，刷臉支付使用了復(fù)雜的算法，以確保不被靜止照片或換臉視頻所蒙蔽。

支付寶在其新浪微博賬戶表示：“目前，網(wǎng)上各類(lèi)換臉軟件有很多，但不管換的有多逼真，都是無(wú)法突破刷臉支付的。”

“在進(jìn)行人臉識(shí)別前，也會(huì)通過(guò)軟硬件結(jié)合的方式進(jìn)行檢測(cè)，來(lái)判斷采集到的人臉是否是照片、視頻或者軟件模擬生成的，能有效地避免各種人臉偽造帶來(lái)的身份冒用情況?！?/p>

明星換臉色情視頻遭網(wǎng)站封殺

臺(tái)灣機(jī)器人“美玉姨”如何挑戰(zhàn)網(wǎng)路假新聞

AI和媒體 編輯室里寫(xiě)新聞的機(jī)器

電腦是否會(huì)最終取代人類(lèi)來(lái)創(chuàng)作藝術(shù)？

ZAO運(yùn)營(yíng)團(tuán)隊(duì)也在聲明中表示：使用其應(yīng)用軟件不會(huì)產(chǎn)生支付風(fēng)險(xiǎn)。

“刷臉支付安全門(mén)檻極高，僅通過(guò)一張照片實(shí)現(xiàn)的"換臉"技術(shù)完全無(wú)法突破刷臉支付的安全系統(tǒng)。權(quán)威支付平臺(tái)也均從專(zhuān)業(yè)技術(shù)角度，強(qiáng)調(diào)‘換臉’完全不可能威脅支付安全，”ZAO運(yùn)營(yíng)團(tuán)隊(duì)說(shuō)。

A mobile phone using the Alipay application圖片版權(quán)GETTY IMAGES

Image caption

支付寶是全球最大的移動(dòng)支付平臺(tái)。

媒體關(guān)注點(diǎn)

外界對(duì)該應(yīng)用程序的擔(dān)憂引起了中國(guó)媒體的關(guān)注。

《新京報(bào)》的一篇評(píng)論提出疑問(wèn)：好玩的AI換臉，也可能威脅國(guó)家安全？

文章表示，盡管ZAO軟件暫時(shí)還沒(méi)造成實(shí)際上的危害，但具有潛在危害：“有手機(jī)號(hào)，有面部圖像，通過(guò)技術(shù)合成，犯罪分子可以替你和你家人通話了?！币虼耍坝斜匾霸缫悦鞔_的法律條款予以規(guī)范。”

《廣州日?qǐng)?bào)》的一篇社論說(shuō)：“換臉視頻雖好玩，但潛在安全風(fēng)險(xiǎn)不可忽視。”

《澎湃新聞》發(fā)表文章《ZAO火爆卻注定短命背后：換臉攻擊一直都存在？》，當(dāng)中提到“由于人工智能技術(shù)所具有的高度的不確定性、創(chuàng)新性和復(fù)雜性，面對(duì)千變?nèi)f化的應(yīng)用場(chǎng)景，目前想要所有亂象得到根治也絕非易事?！?/p>

“畢竟技術(shù)本無(wú)罪，全看使用技術(shù)的人想拿它做什么。目前來(lái)看，更重要的是相關(guān)AI企業(yè)應(yīng)該堅(jiān)守自身底線?！?/p>