本期為TechBeat人工智能社區(qū)第346期線上Talk。

北京時間9月29日(周三)晚8點，清華大學(xué)在讀博士生—李一鳴的Talk將準時在TechBeat人工智能社區(qū)開播！

他與大家分享的主題是: “后門攻擊簡介”，屆時將介紹后門攻擊的基礎(chǔ)知識和一些經(jīng)典方法，并介紹他在這個領(lǐng)域的一些探索。

Talk·信息

主題：后門攻擊簡介

嘉賓：清華大學(xué)在讀博士生?李一鳴

時間：北京時間?9月29日?(周三) 20:00

地點：TechBeat人工智能社區(qū)

http://www.techbeat.net/

完整版怎么看？

掃描下方二維碼，或復(fù)制鏈接https://datayi.cn/w/korewgZP至瀏覽器，一鍵完成預(yù)約！

上線后會在第一時間收到通知哦~

Talk·提綱

后門攻擊是一種新興的針對深度學(xué)習模型的攻擊方式，攻擊者旨在模型的訓(xùn)練過程中通過某種方式對模型植入后門。當后門未被激發(fā)時，被攻擊的模型具有和正常模型類似的表現(xiàn)；而當模型中埋藏的后門被攻擊者激活時，模型的輸出變?yōu)楣粽哳A(yù)先指定的標簽，以達到惡意的攻擊目的。后門攻擊可以發(fā)生在訓(xùn)練過程并非完全受控的很多場景中，包括但不限于使用第三方數(shù)據(jù)集、使用第三方平臺進行訓(xùn)練、直接調(diào)用第三方模型等，因此對模型的安全性造成了巨大威脅。在本次分享中，我們將介紹后門攻擊的基礎(chǔ)知識和一些經(jīng)典方法，并介紹我們在這個領(lǐng)域的一些探索。

本次分享主要為：

1、后門攻擊的基礎(chǔ)知識

2、后門攻擊的代表工作

3、我們的相關(guān)探索

Talk·參考資料

這是本次分享中將會提及的資料，建議提前預(yù)習哦！

Paper List:

[1] Gu T, Liu K, et al. Badnets: Evaluating Backdooring Attacks on Deep Neural Networks, 2017.

[2] Chen X, Liu C, et al. Targeted Backdoor Attacks on Deep Learning Systems using Data Poisoning, 2017.

[3] Turner A, Tsipras D, Madry A. Label-Consistent Backdoor Attacks, 2019.

[4] Saha A, Subramanya A, Pirsiavash H. Hidden Trigger Backdoor Attacks, 2020.

[5] Tang R, Du M, et al. An Embarrassingly Simple Approach for Trojan Attack in Deep Neural Networks, 2020.

[6] Li Y, Wu B, et al. Backdoor Learning: A Survey, 2020.

[7] Li Y, Zhai T, et al. Rethinking the Trigger of Backdoor Attack, 2020.

[8] Li Y, Li Y, et al. Invisible Backdoor Attack with Sample-Specific Triggers, 2021.

[9] Zhai T, Li Y, et al. Backdoor Attack against Speaker Verification, 2021.

Github Resources:?

https://github.com/THUYimingLi/backdoor-learning-resources

知乎入門介紹文章鏈接：

https://zhuanlan.zhihu.com/p/160964591

知乎相關(guān)專欄鏈接：

https://www.zhihu.com/column/c_1340010673653395456

Talk·提問交流

通過以下兩種方式提問都將獲得微信現(xiàn)金紅包獎勵哦！

方式 ①

在Talk界面下的【交流區(qū)】參與互動！留下你的打call??和問題??，和更多小伙伴們共同討論，被講者直接翻牌解答！

你的每一次貢獻，我們都會給予你相應(yīng)的i豆積分，還會有驚喜獎勵哦！

方式 ②

在本文留言區(qū)直接提出你的問題，或掃描下方二維碼提問！

Talk·嘉賓介紹

李一鳴，清華大學(xué)四年級在讀博士生，師從夏樹濤和江勇教授。其研究主要專注于AI安全，尤其是后門學(xué)習，對抗學(xué)習和數(shù)據(jù)隱私保護。

個人主頁：

http://liyiming.tech

關(guān)于TechBeat人工智能社區(qū)

TechBeat (www.techbeat.net) 是一個薈聚全球華人AI精英的成長社區(qū)。 我們希望為AI人才打造更專業(yè)的服務(wù)和體驗，加速并陪伴其學(xué)習成長。 期待這里可以成為你學(xué)習AI前沿知識的高地，分享自己最新工作的沃土，在AI進階之路上的升級打怪的根據(jù)地！

更多詳細介紹>>https://mp.weixin.qq.com/s/pTbCK_MeTk05jK2yx1RTrQ