中國科大戰(zhàn)隊榮獲GeekPwn大賽年度極客榜第二名

?
由GeekPwn聯(lián)合多家國內(nèi)外人工智能權(quán)威企業(yè)舉辦的G-TOP年度極客榜單于2021年10月24日在上海展開現(xiàn)場評選,中國科學(xué)技術(shù)大學(xué)網(wǎng)絡(luò)空間安全學(xué)院俞能海、張衛(wèi)明教授團(tuán)隊的WM_Team戰(zhàn)隊?wèi){借“AI鑒定師——真實場景人臉深度偽造視頻鑒別”項目榮獲年度第二名。
GeekPwn由國內(nèi)頂尖信息安全團(tuán)隊碁震(KEEN)于2014年發(fā)起并主辦,是全球最大關(guān)注智能生活的安全極客(黑客)大賽。自2014 年創(chuàng)辦以來,GeekPwn 已經(jīng)成功在中國北京、上海、澳門、香港和美國硅谷、拉斯維加斯等多地舉辦,負(fù)責(zé)任地披露了上千個高危漏洞。在歷屆比賽中,從攻破智能手機(jī)、無人機(jī)、機(jī)器人、智能家居等智能產(chǎn)品,到 SSL/TLS 協(xié)議挑戰(zhàn)專場、人工智能安全挑戰(zhàn)專項,該項賽事曾獲得“安全競賽最具影響力獎”。
本次賽事報名隊伍超過200余支,進(jìn)入復(fù)賽的隊伍20支,最終進(jìn)入G-TOP年度極客榜單的僅有10支隊伍。前三名分別為:奇安信天工實驗室的“臥底打印機(jī)”,中國科大WM_Team的“AI鑒定師”,RealAI-清華大學(xué)聯(lián)合戰(zhàn)隊TSAIL的“眼鏡易容術(shù)”。這其中,中國科學(xué)技術(shù)大學(xué)網(wǎng)絡(luò)空間安全學(xué)院的WM_Team戰(zhàn)隊是唯一一支完全由高校力量組成的隊伍。

圖1 WM_Team榮獲G-TOP年度極客榜亞軍

圖2 GeekPwn年度極客榜前三名
此次比賽的最大特點是主辦方未設(shè)置統(tǒng)一的賽題,各參賽隊伍可以極大的發(fā)揮自己的優(yōu)勢,向公眾展示日常生活中可能存在的安全問題和巧妙的解決方案。組委會評委將從“技術(shù)難度,實際價值,社會影響”等多個方面進(jìn)行最終評分。此次WM_Team的參賽項目是對人臉深度偽造視頻的鑒別。人臉深度偽造是近年來新興的一類技術(shù),通過深度學(xué)習(xí)算法,實現(xiàn)人臉視頻的生成與偽造。這類技術(shù)目前已被廣泛用于娛樂應(yīng)用中,并開發(fā)了如DeepFaceLab等換臉軟件。但這類技術(shù)的盛行也帶來了極大的潛在風(fēng)險,尤其是在政治、金融、公共安全等領(lǐng)域,一旦出現(xiàn)惡意偽造,如身份偽造、輿情煽動等,都將對國家和社會帶來巨大危害,因此研究真實場景下有效的人臉深度偽造視頻鑒別技術(shù)是迫在眉睫的。
整個比賽分為“線上真人秀《我是極客》安全極客挑戰(zhàn)節(jié)目”和“線下1024極棒之夜”兩個階段。在10月15日播出的《我是極客》第一期節(jié)目中,中國科大WM_Team戰(zhàn)隊的挑戰(zhàn)任務(wù)是在5分鐘內(nèi)完成100段由主辦方技術(shù)專家精心準(zhǔn)備的視頻集檢測。

圖3 WM_Team參賽隊員
而在現(xiàn)場踢館賽中,挑戰(zhàn)視頻數(shù)量增至500個,對檢測準(zhǔn)確率又有著更高的要求,最終WM_Team踢館成功,成為唯一一支在現(xiàn)場踢館賽中成績提升的隊伍,最終榮獲第二名。

圖4 WM_Team現(xiàn)場踢館賽挑戰(zhàn)成功
中國科大WM_Team戰(zhàn)隊2020年曾在Facebook、MIT等組織的全球最大規(guī)模的“深度偽造檢測挑戰(zhàn)賽(DFDC)”獲得全球亞軍(國內(nèi)最好成績),贏得30萬美元獎金,并且相關(guān)成果被中國信通院評為2014年以來人工智安全領(lǐng)域的8項中國創(chuàng)新成果之一。
戰(zhàn)隊所在的俞能海和張衛(wèi)明教授的課題組長期從事多媒體安全與AI安全的相關(guān)研究,近年來,在對抗樣本、深度學(xué)習(xí)模型保護(hù)、深度偽造與檢測等方向取得了一系列成果,在該領(lǐng)域的頂會頂刊TPAMI、CVPR、AAAI、ICCV等發(fā)表了多篇高水平論文,并在2019年人工智能頂會IJCAI-Alibaba人工智能算法對抗賽獲得防御賽冠軍和非定向攻擊亞軍。本次G-TOP年度極客大賽取得的優(yōu)異成績將進(jìn)一步擴(kuò)大我校在人工智能安全領(lǐng)域的影響。
(網(wǎng)絡(luò)空間安全學(xué)院)

