點開直播間乍一看，賣貨的竟是當(dāng)紅女星。再定睛一看，“明星”其實是使用人工智能（AI）實時換臉技術(shù)的普通主播。他們冒充明星藝人，只為增加賣點，助力賣貨……

近期，“AI換臉”的應(yīng)用范圍越來越廣，但存在濫用之嫌，甚至有人利用AI換臉實施犯罪，例如偽造不雅視頻、換臉詐騙等。

多起AI換臉詐騙案例

近日,福建福州的郭先生收到好友的視頻聯(lián)系,好友在視頻中稱自己的朋友在外地參加項目招投標(biāo)需要430萬元的保證金,希望能借用郭先生公司的賬戶進行過戶轉(zhuǎn)賬。

由于郭先生對此好友信任已深,加之好友在視頻中表情舉止與以往無異,郭先生未做進一步核實就同意將錢款分兩次轉(zhuǎn)入好友提供的銀行卡號。

轉(zhuǎn)賬完成后,郭先生方才發(fā)現(xiàn)上當(dāng)受騙。原來,這是騙子利用AI“換臉”技術(shù),在視頻通話中冒充好友的面孔和聲音,取得郭先生的信任后實施詐騙。

“從頭到尾都沒有和我提借錢的事情,就說會先把錢給我打過來,再讓我給他朋友賬戶轉(zhuǎn)過去,而且當(dāng)時是給我打了視頻的,我在視頻中也確認(rèn)了面孔和聲音,所以才放松了警惕?！惫壬硎尽?/p>

2022年2月,陳先生到浙江溫州市公安局甌海分局仙巖派出所報案稱,自己被“好友”詐騙了近5萬元。經(jīng)警方核實,詐騙分子利用陳先生好友“阿誠”在社交平臺發(fā)布的視頻,截取其面部視頻畫面后再利用“AI換臉”技術(shù)合成,制造陳先生與“好友”視頻聊天的假象騙取其信任,從而實施詐騙。

浙江溫州公安曾發(fā)布消息,2021年拱宸橋派出所接到報警,受害人小陳稱他在與女網(wǎng)友視頻聊天后被對方敲詐勒索。經(jīng)警方調(diào)查,對方利用AI換臉技術(shù),將小陳視頻中的面部合成到不雅視頻中,借此對其實施勒索。

2020年,上海某公司高管因?qū)Ψ绞褂肁I換臉與人工生成的語音技術(shù)制作公司領(lǐng)導(dǎo)的面孔,并要該高管轉(zhuǎn)賬,致使該高管被詐騙150萬元。

近日,小李的大學(xué)同學(xué)通過QQ跟她借錢。對方打過來一段四五秒的視頻電話,小李看到確實是本人,便放心轉(zhuǎn)賬3000元。然而,她在第二次轉(zhuǎn)賬時感覺異常,便再次撥通對方電話,這才得知同學(xué)的賬號被盜,遂報案。警方判斷,那段視頻很有可能是被人換了臉。

某公司財務(wù)小王接到領(lǐng)導(dǎo)電話,要求立刻給供應(yīng)商轉(zhuǎn)款2萬元,并將轉(zhuǎn)賬信息以郵件形式發(fā)送,轉(zhuǎn)款理由是避免繳納滯納金。由于老板的口音十分逼真,小王信以為真,在1小時內(nèi)轉(zhuǎn)款完成,后發(fā)現(xiàn)被騙。

安徽安慶“熟人”AI換臉詐騙132萬

4月27日,安徽安慶經(jīng)濟開發(fā)區(qū)發(fā)生一起“冒充熟人”詐騙案。受害人王女士報警稱,有人冒充其熟人打電話找她借錢,聲稱臨時有緊急用事需要50萬元。

王女士一開始還對方有所疑慮,但是對方又發(fā)來一段9秒的視頻,視頻中人物長相和聲音都與其熟人極為相似,王女士這才相信并匯出30萬元。

事后,王女士再次致電所謂的“熟人”,這才發(fā)現(xiàn)自己上當(dāng)受騙。原來,騙子利用AI技術(shù)制作的9秒視頻,實現(xiàn)了“換臉”效果,冒充熟人的面部特征和聲音,贏得王女士的信任,實現(xiàn)詐騙。4月28日,專案民警連夜趕赴安慶外省抓獲3名涉案嫌疑人。

經(jīng)審訊,3人均系安徽省外人員,他們通過AI技術(shù)手段獲取王女士熟人信息,并使用“換臉”技術(shù)制作出9秒視頻用于詐騙。目前,警方已追回132萬元被騙款,并將其退還給王女士,案件正在進一步偵辦中。

AI詐騙常用手法

第一種:聲音合成。騙子通過各種手段獲取目標(biāo)人的聲音素材,然后利用聲音合成技術(shù),在電話中偽造目標(biāo)人的聲線,從而詐騙受害人。這類手法難以防范,因為人們通常難以分辨電話中的聲音是否真實。

第二種:AI換臉。騙子通過AI技術(shù)實現(xiàn)視頻中的“換臉”效果,冒充熟人或親友的面容,贏得受害人信任后實施詐騙。這類手法難防范的原因是,人在視頻通話中通常更容易信任所見即所得的影像。

第三種:微信語音轉(zhuǎn)發(fā)。騙子獲取目標(biāo)人微信號后,轉(zhuǎn)發(fā)之前真實的語音信息,偽造與受害人的熟悉交談,詐騙受害人。雖然微信本身不具備語音轉(zhuǎn)發(fā)功能,但是通過非官方插件等手段,依然可以實現(xiàn)語音信息的轉(zhuǎn)發(fā)。

第四種:AI程序篩選。騙子利用AI技術(shù)分析海量互聯(lián)網(wǎng)信息,定向篩選目標(biāo)受害人群。再根據(jù)不同詐騙類型,如金融詐騙、感情詐騙等,生產(chǎn)出定制化的詐騙程序和方案,精準(zhǔn)地針對目標(biāo)人群實施詐騙。

如何防范AI詐騙

第一,多重驗證對方身份。比如同時使用視頻通話、電話通話與其他聯(lián)絡(luò)方式進行確認(rèn),或者要求對方提供更多證明材料如身份證掃描件等。切勿單憑一種方式就放松警惕,避免被AI換臉或聲音合成技術(shù)欺騙。

第二,保持高度警惕突然來電。即使顯示為熟人的號碼,也要謹(jǐn)慎。因為現(xiàn)今高達95%的詐騙電話使用假號碼,這些號碼表面顯示正常但實為偽造。收到突如其來的電話要保持理智,不輕易相信對方聲稱與要求。

第三,轉(zhuǎn)賬前再次確認(rèn)。發(fā)現(xiàn)對方態(tài)度急切,理由不明或故弄玄虛時要警惕。建議轉(zhuǎn)賬前再次撥打電話或通過其他方式要求對方解釋清楚需要款項的具體用途,同時要求提供相關(guān)證明材料。一旦發(fā)現(xiàn)蛛絲馬跡應(yīng)立即報警。

第四,警惕社交軟件誘導(dǎo)匯款。收到熟人或上級要求匯款時要仔細(xì)判斷,其提出的理由是否合情合理,是否與日常接觸的情況相符。如果對方主動找上門來要求匯款,更有可能是詐騙。應(yīng)當(dāng)拒絕或報警處理。

第五,發(fā)現(xiàn)異?；虮或_報警保護證據(jù)。不論是疑似詐騙電話、可疑轉(zhuǎn)賬要求或已經(jīng)上當(dāng)受騙,第一時間撥打報警電話。并保護相關(guān)證據(jù)如電話錄音、聊天記錄與轉(zhuǎn)賬憑證等。這些材料將有助于警方搜證,更快破案與追回被騙資金。