本期為TechBeat人工智能社區(qū)第468期線上Talk！

北京時(shí)間1月4日(周三)20:00，清華大學(xué)軟件工程專業(yè)博士——馬晨的Talk將準(zhǔn)時(shí)在TechBeat人工智能社區(qū)開播！他與大家分享的主題是:?“幾何的魅力：黑盒攻擊新策略”，屆時(shí)將介紹如何巧妙借助幾何方法優(yōu)化基于決策的黑盒攻擊。

Talk·信息

主題：幾何的魅力：黑盒攻擊新策略

嘉賓：清華大學(xué)軟件工程專業(yè)博士?馬晨

時(shí)間：北京時(shí)間?1月4日?(周三) 20:00

地點(diǎn)：TechBeat人工智能社區(qū)

http://www.techbeat.net/

完整版怎么看

掃描下方二維碼，或復(fù)制鏈接https://datayi.cn/w/lPQrm8Wo瀏覽器，一鍵完成預(yù)約！上線后會在第一時(shí)間收到通知哦

Talk·介紹

盡管深度學(xué)習(xí)系統(tǒng)被廣泛應(yīng)用到人臉識別、目標(biāo)檢測、自動駕駛等領(lǐng)域中，但是無論是基于卷積神經(jīng)網(wǎng)絡(luò)還是基于Transformer的分類系統(tǒng)都存在嚴(yán)重的缺陷：一個(gè)小小的基于像素的對抗擾動就可以使其分類判斷錯誤，從而引發(fā)更嚴(yán)重的后果！基于決策的攻擊（又稱硬標(biāo)簽攻擊或hard-label攻擊）是一種無需分類器的分類概率，僅用分類器輸出的分類標(biāo)簽就可以對圖像分類器進(jìn)行攻擊的方法，是最具安全威脅的對抗攻擊類型之一。

本Talk介紹NeurIPS大會上發(fā)表的一篇論文，如何利用幾何方法優(yōu)化hard-label attack這種攻擊！以往的硬標(biāo)簽攻擊使用的對抗樣本搜索方向往往是啟發(fā)性的方向，例如HopSkipJumpAttack（HSJA）和QEBA中的近似梯度方向，Boundary Attack所使用的方向，但是從幾何角度講，如果在決策邊界的對抗樣本周圍構(gòu)造一個(gè)虛擬的半球體，就可以通過幾何手段直接找到最優(yōu)更新點(diǎn)：最優(yōu)切點(diǎn)！利用這種方式就可以構(gòu)造最優(yōu)的對抗樣本搜索方向，從而利用幾何方法進(jìn)一步優(yōu)化硬標(biāo)簽攻擊的對抗樣本失真度和查詢復(fù)雜度。

該論文在ImageNet和CIFAR-10數(shù)據(jù)集上做了廣泛的實(shí)驗(yàn)，驗(yàn)證了其有效性，其成果已發(fā)表在NeurIPS 2021大會上。

Talk大綱如下：

1. 黑盒對抗攻擊簡介；

2. 基于決策的黑盒對抗攻擊的研究現(xiàn)狀；

3. Tangent Attack攻擊方法介紹；

4. 總結(jié)

Talk·預(yù)習(xí)資料

• https://arxiv.org/abs/2111.07492

• https://github.com/machanic/TangentAttack

Talk·嘉賓介紹

馬晨，清華大學(xué)軟件工程專業(yè)博士。主要研究方向?yàn)樯疃壬窠?jīng)網(wǎng)絡(luò)的黑盒對抗攻擊（對抗樣本）與防御，專注于研究如何構(gòu)造針對深度神經(jīng)網(wǎng)絡(luò)的黑盒攻擊，如何檢測并防御新型對抗攻擊，最終致力于構(gòu)建更魯棒、更安全的深度學(xué)習(xí)系統(tǒng)。其研究成果發(fā)表在CVPR、NeurIPS、ACM MM、Neurocomputing等國際頂級會議和期刊上。馬晨博士早年著有《LDA漫游指南》一書，詳細(xì)講解了LDA主題模型的方方面面，指引了很多人入門主題模型。

個(gè)人主頁：https://github.com/machanic

-The End-

關(guān)于TechBeat人工智能社區(qū)

TechBeat (www.techbeat.net) 是一個(gè)薈聚全球華人AI精英的成長社區(qū)。 我們希望為AI人才打造更專業(yè)的服務(wù)和體驗(yàn)，加速并陪伴其學(xué)習(xí)成長。 期待這里可以成為你學(xué)習(xí)AI前沿知識的高地，分享自己最新工作的沃土，在AI進(jìn)階之路上的升級打怪的根據(jù)地！

更多詳細(xì)介紹>>https://mp.weixin.qq.com/s/pTbCK_MeTk05jK2yx1RTrQ