最近，#AI詐騙正在全國爆發(fā)#?的熱搜詞條沖上微博熱搜榜。

微博熱搜榜單

有騙子利用AI技術(shù)通過換聲、換臉，10分鐘就騙取了430萬元，這一事件也引起了網(wǎng)友熱議。

網(wǎng)友表示：太可怕了！想辦法證明我不是“我”太難了?！

也有人提出質(zhì)疑：人臉識別就是最大的潛在威脅吧。

而在國外，關(guān)于AI詐騙相關(guān)的新聞也是屢見不鮮了。一封附有危險病毒偽造成谷歌CEO視頻的郵件，近期讓不少YouTube博主們紛紛中招，吃盡了苦頭。

這兩起詐騙事件都有著深度偽造技術(shù)deepfake的身影。這是一項誕生了6年之久的換臉大法，如今AIGC技術(shù)的大爆發(fā)，更使得制作難以識別的deepfake視頻越來越容易。

01?AI深度合成技術(shù)

AI?換臉曾經(jīng)一度熱潮，如今的換臉技術(shù)卻不需要技術(shù)流的復(fù)雜算法。早在2019年，一個換臉軟件“ZAO”的出現(xiàn)，就曾讓AI換臉風(fēng)靡網(wǎng)絡(luò)，網(wǎng)絡(luò)視頻平臺上出現(xiàn)大量的AI換臉惡搞視頻。

盡管，當(dāng)時“ZAO”上線不久便因侵犯隱私等問題被下架，但這個由技術(shù)帶來的負面影響卻一直存在，直到今年AI技術(shù)的普及使得換臉再次爆發(fā)。

AI馬斯克性別逆轉(zhuǎn)

這些AI換臉、AI換聲的背后到底是什么技術(shù)在驅(qū)動這項功能的蓬勃發(fā)展？

究其背后的原因，它就是最近幾年各行各業(yè)廣泛應(yīng)用和不斷開發(fā)的深度合成技術(shù)。它是基于深度學(xué)習(xí)、虛擬現(xiàn)實為代表的生成合成類算法制作文本、圖像、音頻、視頻等信息的技術(shù)。

通過對網(wǎng)絡(luò)內(nèi)容進行處理，使其實現(xiàn)從原初形態(tài)到目標(biāo)形態(tài)的轉(zhuǎn)變，內(nèi)容的形態(tài)可以是圖像、音頻、視頻、文本等。

在實際應(yīng)用中，深度合成技術(shù)可以完成聲音復(fù)刻、文本生成、微表情操縱等。目前主要包括但不限于以下應(yīng)用場景：

文本與圖像生成

視頻與音頻生成

數(shù)字空間的建構(gòu)

數(shù)字人的生成與操控

最為人熟知的便是人臉合成，或稱“AI換臉”。

明星主播AI換臉帶貨

目前視頻聊天或直播的AI換臉有兩種方式：

第一種是事先做好的換臉視頻直接播放，目前的制作成本已經(jīng)非常低，有公開成熟的應(yīng)用可以支持該項工作；

第二種是接入實時換臉的視頻。雖然沒有發(fā)現(xiàn)有公開的應(yīng)用，但也有非常成熟的技術(shù)可以支撐。做成一段視頻的時間和設(shè)備、算力等因素相關(guān)，當(dāng)前技術(shù)可以做到和生成視頻相等。

而在手機應(yīng)用商店搜索“AI換臉”可以發(fā)現(xiàn)，有不少相關(guān)軟件，可以實現(xiàn)在影視角色、寫真、漫畫等模板的基礎(chǔ)上進行AI創(chuàng)作。這大大降低了AI換臉的入門門檻。

02?三大細節(jié)入手，破解造假視頻

對于人臉識別普遍應(yīng)用的今天，防深偽造假視頻顯得尤為重要。據(jù)了解，防深偽檢測模型的算法策略可以從三個維度入手，有效破解造假視頻。

首先是生成瑕疵。

具體而言，由于相關(guān)訓(xùn)練數(shù)據(jù)的缺失，大部分模型可能無法正確渲染部分人類面部特征，小到眨眼頻率不正常，大到口型與聲音不吻合等。

檢測模型則能將這些“基本肉眼可見”的特征都提取出來，設(shè)計特定的分析算子，從而進行分析研判。

其次是固有屬性。

由于不同攝像機擁有不同的設(shè)備指紋，在生成人臉時也會留下獨特的用于識別生成器的指紋，因此經(jīng)過對比就能發(fā)現(xiàn)端倪。

第三個細節(jié)是高層語義。

它指的是檢測面部動作單元（肌肉群）協(xié)調(diào)性、面部各區(qū)域朝向一致性、視頻微觀連續(xù)性等方面的問題，由于這些細節(jié)建模困難、難以復(fù)制，很容易抓到把柄。

因此，在大眾掌握以上辨別技巧后，面對飛涌而來AI換臉技術(shù)和真真假假的換頭內(nèi)容后，也能精準識別，防止上當(dāng)受騙。

03?AI正滲透多領(lǐng)域，直播、短視頻...

除了別有用心的人利用AI技術(shù)進行隱性傳播達到騙人目的外，AI技術(shù)更多應(yīng)用于電商、傳統(tǒng)媒體等領(lǐng)域。

直播間中，換上楊冪、迪麗熱巴等明星臉的主播在直播間帶貨，讓觀眾真假難辨。

國內(nèi)直播平臺AI明星帶貨

AI+短視頻已經(jīng)可以滿足從靜態(tài)畫面到動態(tài)視頻的創(chuàng)作。從廣告創(chuàng)意，內(nèi)容生成到場景投放，短視頻的每一環(huán)節(jié)都在與AI相關(guān)聯(lián)。

AI音樂、AI繪畫、AI換臉、AI換聲……不知不覺中，我們每個人都已經(jīng)走進了賽博世界，抖音中的#一鍵解鎖瞬息全宇宙##一鍵變妝#等特效的應(yīng)用，都是AI日常化的見證。

除了新興網(wǎng)絡(luò)媒體，傳統(tǒng)的電視直播也早已開啟AI合成技術(shù)的應(yīng)用。

俄羅斯當(dāng)?shù)仉娨暸_（Svoye?TV）便推出了一款人工智能天氣預(yù)報器。名為?(?Snezhana?Tumanova?)的?AI通過使用多個神經(jīng)網(wǎng)絡(luò)創(chuàng)建，旨在為觀眾提供準確且引人入勝的天氣預(yù)報。

俄羅斯AI美女主播

而在AI+直播的形態(tài)在跨境電商中則更為廣泛，國外一家科技公司就通過引入AIGC功能模塊，接入了ChatGPT等智能機器模型。

進一步實現(xiàn)了從文本、音頻等低密度模態(tài)向圖像、視頻、實時交互等信息密度更高模態(tài)的轉(zhuǎn)化，并結(jié)合多模態(tài)智能算法，完成了AIGC互動直播功能的落地。

這也成功在TikTok跨境電商直播、虛擬主播互動直播等場景中得到了實踐應(yīng)用。

基于人工智能的人體圖像合成技術(shù)而生成的假臉（通稱DeepFake），中國人可以利用換臉技術(shù)秒變“老外”臉。

TikTok跨境直播間截圖

總之，深度合成技術(shù)是AI領(lǐng)域最有生命力的運用，必將會在今后迸發(fā)出極大的生產(chǎn)力。

為人們帶來便利和樂趣的同時，也需要我們認真對待其中存在的問題，積極應(yīng)對和解決，確保技術(shù)的良性發(fā)展和社會的和諧穩(wěn)定。

只有這樣，才能讓AI換臉技術(shù)真正為人們帶來福利。

04?AI之風(fēng)下的自動化

大數(shù)據(jù)平臺的算法精準又高效，往往也只有高活躍度才能獲取高流量，這就對一眾創(chuàng)作者的效率提出更高要求。

這也是無需真人出鏡的AI虛擬數(shù)字人直播帶貨火爆的原因所在，對于虛擬直播的監(jiān)管是否會更苛刻，我們無從得知。

但AI的廣泛應(yīng)用及成效，也帶給我們的深度思考，AI背后“自動化”確實有可行之處！

我們一幀秒創(chuàng)作為一個AI輔助工具，利用AI幫寫+文字轉(zhuǎn)視頻AI工具，高頻輸出原創(chuàng)視頻不再是難題啦～

我們核心功能之一，”AI幫寫“，行文風(fēng)格和行文長度可以根據(jù)自身需要去設(shè)定。

它既可以模仿小紅書、名人網(wǎng)紅的行文風(fēng)格，也可以創(chuàng)造娛樂化的文字內(nèi)容，還可以幫你寫故事腳本，上千字文本長度需求，僅需10s便能完成～

除了AI幫寫，圖文轉(zhuǎn)視頻的AI視頻功能，也是我們的一大應(yīng)用亮點和主打功能。

無論純文本還是文字文件，均可一鍵識別。并且能夠根據(jù)所需去選擇不同的視頻應(yīng)用場景，自動為文案內(nèi)容匹配對應(yīng)的視頻素材，為創(chuàng)作者提供了極大的便利～

除此之外，我們還支持自身素材庫，便于創(chuàng)作者后期的二次編輯，視頻質(zhì)量也支持高分辨率輸出，滿足輸出質(zhì)量的要求。

總之，我們致力于成為AI生成內(nèi)容時代的創(chuàng)作者的絕佳內(nèi)容幫手！

大家不僅可以這里獲取例如AI幫寫、AI視頻、AI語音等強大服務(wù)，我們還會基于你的需求，定制化各種豐富有趣的功能～

讓我們一起搶先一步站穩(wěn)AI風(fēng)口，成為下一個時代創(chuàng)作者中的明星！