編輯 | 于斌

出品 | 潮起網(wǎng)「于見專欄」

”螞蟻呀嘿“最近在抖音刷屏，其背后的Avatarify 是一款A(yù)I變臉應(yīng)用，奇妙的視頻效果，喜感夸張的人臉變化，配合上短視頻應(yīng)用的流行，讓Avatarify 突然爆紅起來。

這款應(yīng)用在2 月 25 日問鼎 App Store 應(yīng)用免費榜榜首，隨后連續(xù)數(shù)天穩(wěn)居榜首。

Avatarify 最初的用途是在開遠程會議時換臉的，比如讓「托尼斯塔克」突然加入會議。

“螞蟻呀嘿”和它背后的Avatarify這款產(chǎn)品如同其他AI變臉軟件的爆紅一樣，其背后的原因也差不多相同。AI變臉軟件主要通過算法實現(xiàn)換臉或變臉，這種新鮮、獨特的娛樂方式不僅為互聯(lián)網(wǎng)注入了鬼畜元素，同時也成了年輕人熱衷的不嚴肅潮流。

而Z世代作為社交媒體的原住民，對于內(nèi)容，求新、個性化、有趣成為他們追求的熱點，Z世代是出了名的愛種草。

AI變臉軟件恰好滿足了他們開心、娛樂的需求，而他們身上與生俱來的獵奇DNA為“螞蟻呀嘿”這樣的等AI變臉軟件的傳播提供了肥沃的土壤。

似曾相識的結(jié)局

不過爆火的AI換臉app都難逃被下架的命運，僅僅7天的時間，螞蟻呀嘿就嗨不起來了。

這種似曾相識的感覺讓人不僅回想起，2019年，陌陌旗下的換臉軟件ZAO正式上線，和Avatarify相似的走紅，快速的下架。

ZAO上線僅一天時間，就刷爆各大網(wǎng)絡(luò)社交平臺，其在App Store的免費App下載快速登頂，甚至服務(wù)器也因為制作量過大而宕機。

但是ZAO從上線到App被下架，僅僅用了3天時間。

ZAO，只需要一張正臉照，就可以用你的臉制作網(wǎng)絡(luò)熱門表情包，出演經(jīng)典電影片段，跟idol、朋友飆戲，其核心也是AI

換臉技術(shù)。但這項技術(shù)在帶來新鮮體驗的同時，也存在人臉信息被濫用甚至侵害他人權(quán)益等額外風險。

雖然ZAO在微博發(fā)布聲明稱，沒有采集任何個人生物識別特征、不會存儲個人面部生物識別特征信息、使用ZAO不會產(chǎn)生支付風險等，但依然無法打消用戶的疑慮，并引起了有關(guān)部門的關(guān)注。

ZAO的用戶協(xié)議條款也讓很多用戶擔心。一方面技術(shù)濫用會導致虛假信息泛濫；另一方面，如使用明星等他人的照片來制作相關(guān)視頻，就可能涉及名譽權(quán)、肖像權(quán)、知識產(chǎn)權(quán)等法律問題。

此外，個人隱私泄漏可能會涉及資產(chǎn)安全、人身安全等問題。

如今，Avatarify 有如 ZAO 的曇花一現(xiàn)，再次喚醒人們對隱私安全的擔憂。

雖然 AI 換臉技術(shù)已日趨成熟，但其背后存在的安全隱患為它走向商業(yè)化帶來了不小的阻力。AI

變臉軟件需要更多安全保障，才能被大眾所接受，想徹底變成娛樂應(yīng)用尚需一些時日。

智能換臉的娛樂代價

事實上，無論是Avatarify還是ZAO，走紅可能是一場獵奇的意外，而下架卻是必然的結(jié)果。

創(chuàng)新有趣的智能換臉帶給我們歡樂，但歡樂的背后卻往往需要更深的警惕。

娛樂之外，卻不得不讓人心生憂慮。

披著娛樂外衣的AI換臉，冠冕堂皇地使用著他人的肖像，而其應(yīng)用對肖像權(quán)和隱私的侵害更將隨著技術(shù)的泛濫而放大。

借助一些低價乃至免費的軟件，消費者無需專業(yè)知識和技術(shù)能力，就可通過終端實現(xiàn)調(diào)整速度、攝像頭效果、更換背景、實現(xiàn)換臉等操作。

而這些眨眼、搖頭等動態(tài)行為信息，都是用戶不可更改的敏感信息，一旦被非法使用，后果不堪設(shè)想。

有演示人員演示了如何利用深度合成中的表情操縱方法的安全漏洞攻擊人臉識別系統(tǒng)。

如圖所示，只需要一個人的一張照片，利用深度合成中的表情操縱的方法生成的一段偽造的視頻。

做出比如說點頭、搖頭、說話等動作，就可以冒充這個人，輕易的來攻擊人臉識別系統(tǒng)，完全達到以假亂真的效果。

要知道，眨眼、搖頭等動態(tài)行為信息，都是用戶不可更改的敏感信息，一旦被非法使用，便會造成嚴重的后果，例如：個人信息被泄露、被侵權(quán)、被別人刷臉導致錢財上的損失、甚至被用在一些涉嫌違法的情況上。

比如在2019年3月份，就有犯罪分子使用深度偽造技術(shù)成功模仿了英國某能源公司在德國母公司CEO的聲音，詐騙了220 000歐元（約1 730?806人民幣），其破壞性可見一斑。

其次，這也在一定程度上成為了色情視頻濫觴的源頭。

值得一提的是，AI換臉最初的獵奇就是被應(yīng)用于色情行業(yè)。

2017年，美國新聞網(wǎng)站Reddit的用戶首先上傳了經(jīng)過數(shù)字化篡改的色情視頻，即這些視頻中的成人演員的臉被替換成了電影明星的臉。

此后，Reddit網(wǎng)站就成了分享虛假色情視頻的一個陣地。

2019年出現(xiàn)的一鍵生成裸照軟件DeepNude，只要輸入一張完整的女性圖片就可自動生成相應(yīng)的裸照。

受害者通常沒有追索權(quán)，并且，照片上傳之后難再刪除。這種輕易生成的色情視頻將很大程度上損害女性的工作前途、人際關(guān)系、名譽和心理健康，造成污名化女性、色情報復(fù)的惡果，使女性暴露在某種集體監(jiān)視之中。

最后，也是智能換臉帶來的最嚴重后果，就是對于信息的真實性形成的嚴峻挑戰(zhàn)。

自從攝影術(shù)、視頻、射線掃描技術(shù)出現(xiàn)以來，視覺文本的客觀性就在法律、新聞以及其他社會領(lǐng)域被慢慢建立起來，成為真相的存在，或者說，是建構(gòu)真相的最有力證據(jù)?！把垡姙閷崱背蔀檫@一認識論權(quán)威的最通俗表達，在這個意義上，視覺客觀性產(chǎn)自一種特定的專業(yè)權(quán)威體制。

然而，PS發(fā)明后，有圖不一定意味著真相。

智能換臉的出現(xiàn)和流行，讓視頻也開始變得真假難辨起來：人們普遍認為視頻可以擔當“實錘”，而現(xiàn)在這把實錘竟可憑空制造，當真?zhèn)谓缦薇粩?shù)字化操縱，娛樂的趣味性與真相的真實性在混淆視聽的人工智能生成物問世后變得更加模糊。

這對于本來就假消息滿天飛的互聯(lián)網(wǎng)來說，這無疑會造成進一步的信任崩壞。

如今“眼見為實”已不再適用，人類難以在日常的社會生活中區(qū)分數(shù)字面孔與自然人，虛假內(nèi)容輕易取得信任，真?zhèn)沃骐y上加難，合理的猜測與過度猜忌的界限更加難以平衡。

當人工智能能自動生成以假亂真的面容、聲音乃至語言的時候，互聯(lián)網(wǎng)乃至整個社會又該如何應(yīng)對這種身份信息的混亂？

在過去，人臉只是涉及肖像權(quán)的問題，但在算法高度發(fā)達的時代，人臉已不僅僅局限于肖像，它更是延伸到金融、財產(chǎn)、安全、隱私等方方面面。

而這種“變臉”軟件在生成特效時均需要導入照片，但產(chǎn)品在進行解讀和智能分析的同時也可能泄露隱私，如利用上傳的人臉用來做門禁、支付等，每個玩這款應(yīng)用的用戶都有可能會變成受害人。

可以說，不論是Avatarify還是ZAO，其走紅可能是一場獵奇的意外，而下架卻是風險衡量后的必然。

不論是從法律規(guī)制的角度，還是技術(shù)應(yīng)對的角度，人們都尚未做好準備來迎接這一技術(shù)帶來的風險和挑戰(zhàn)。

任何技術(shù)都是雙刃劍，泛濫帶來的過度娛樂雖然利好了商業(yè)，卻是一種僭越。

風險中藏著機遇

盡管AI換臉爭議不息，但機遇也不停。

首先，這是對創(chuàng)新的渴望和需求。

目前，整個創(chuàng)投行業(yè)和互聯(lián)網(wǎng)行業(yè)普遍都認為TO

C端的產(chǎn)品已經(jīng)沒法創(chuàng)新了，但實際上市場對創(chuàng)新和技術(shù)驅(qū)動帶來的變化從未停止過，而通過此次“螞蟻呀嘿”和Avatarify的事件可以看出，用戶仍有巨大的渴望但市場上還未真正出現(xiàn)能夠滿足用戶需求的產(chǎn)品。

在技術(shù)革命這塊，尤其是在AI技術(shù)的應(yīng)用也給我們留下了無窮大的想象和市場空間，而這些市場機會能不能突破，也是各個運營企業(yè)需要考慮的問題。

雖然這種AI變臉的玩法本質(zhì)上并不新鮮，基本上都是“換湯不換藥”，即使是近段時間走紅的“螞蟻呀嘿”也是只是變得更鬼畜了而已。

但不管怎么說，在AI換臉這個方向上，很多人仍然還在探索突破的路上。

另一方面，AI變臉技術(shù)的相關(guān)應(yīng)用想要真正走向商業(yè)化，首先要解決信息安全問題，平臺需要承擔監(jiān)管的責任，相應(yīng)也要付出極大的成本。

當然，在一些特定的商業(yè)場景下，比如專業(yè)影視制作、電商購物等，AI變臉或換臉技術(shù)還是能發(fā)揮很大空間的，比如速度與激情的演員去世后通過換臉技術(shù)在銀幕上重生。

總之，AI換臉技術(shù)在未來的潛力無限。但是要真正進行相關(guān)的推廣和應(yīng)用，還需要指定嚴格的監(jiān)管政策。