本期為TechBeat人工智能社區(qū)第387期線上Talk，也是伊利諾伊大學(xué)安全學(xué)習(xí)實(shí)驗(yàn)室“可信機(jī)器學(xué)習(xí): 機(jī)器學(xué)習(xí)魯棒性，隱私性，泛化性，及其內(nèi)在關(guān)聯(lián)”的系列Talk第⑦場(chǎng)。北京時(shí)間3月9日(周三)20:00，伊利諾伊大學(xué)在讀博士生——徐曉駿的Talk將準(zhǔn)時(shí)在TechBeat人工智能社區(qū)開(kāi)播！

他與大家分享的主題是: “后門攻擊及針對(duì)其的可驗(yàn)證模型魯棒性”，屆時(shí)將介紹兩種防御措施，一種是在測(cè)試時(shí)的檢測(cè)模型，從而判斷當(dāng)前模型是否含有后門；另一種是在訓(xùn)練時(shí)的可驗(yàn)證魯棒訓(xùn)練算法，使得訓(xùn)練者即使在后門數(shù)據(jù)集上也能訓(xùn)練出良好的模型。

Talk·信息

主題：后門攻擊及針對(duì)其的可驗(yàn)證模型魯棒性

嘉賓：伊利諾伊大學(xué)在讀博士生徐曉駿

時(shí)間：北京時(shí)間?3月9日?(周三) 20:00

地點(diǎn)：TechBeat人工智能社區(qū)

http://www.techbeat.net/

完整版怎么看？

掃描下方二維碼，或復(fù)制鏈接https://datayi.cn/w/xRxBv8jo至瀏覽器，一鍵完成預(yù)約！上線后會(huì)在第一時(shí)間收到通知哦

Talk·提綱

近年來(lái)機(jī)器學(xué)習(xí)技術(shù)不斷發(fā)展，已經(jīng)在許多領(lǐng)域取得了成果。然而機(jī)器學(xué)習(xí)模型的訓(xùn)練需要大量數(shù)據(jù)和計(jì)算資源，為此，很多人會(huì)使用他人共享的數(shù)據(jù)集或訓(xùn)練完成的模型。這種共享行為會(huì)導(dǎo)致許多安全隱患，在本次講座中我們就會(huì)介紹一種比較著名的攻擊——后門攻擊。攻擊者能通過(guò)修改訓(xùn)練集或模型參數(shù)，在模型中加入后門并共享給他人。這類后門模型在普通的輸入上表現(xiàn)正常，然而，當(dāng)輸入中包含特殊的觸發(fā)圖案時(shí)，模型就會(huì)被攻擊者操縱而產(chǎn)生錯(cuò)誤輸出。在本次Talk中，我們會(huì)介紹兩種防御措施，一種是在測(cè)試時(shí)的檢測(cè)模型，從而判斷當(dāng)前模型是否含有后門；另一種是在訓(xùn)練時(shí)的可驗(yàn)證魯棒訓(xùn)練算法，使得訓(xùn)練者即使在后門數(shù)據(jù)集上也能訓(xùn)練出良好的模型。

具體分享提綱如下：

· 機(jī)器學(xué)習(xí)中的后門攻擊。

· 測(cè)試時(shí)針對(duì)后門模型的檢測(cè)。

· 訓(xùn)練時(shí)針對(duì)后門數(shù)據(jù)集的可驗(yàn)證防御。

Talk·預(yù)習(xí)資料

測(cè)試時(shí)針對(duì)后門模型的檢測(cè)：

https://arxiv.org/pdf/1910.03137.pdf

代碼：

https://github.com/AI-secure/Meta-Nerual-Trojan-Detection

訓(xùn)練時(shí)針對(duì)后門數(shù)據(jù)集的可驗(yàn)證防御：

https://arxiv.org/pdf/2003.08904.pdf

代碼：

https://github.com/AI-secure/Robustness-Against-Backdoor-Attacks

Talk·提問(wèn)交流

通過(guò)以下兩種方式提問(wèn)都將獲得微信現(xiàn)金紅包獎(jiǎng)勵(lì)哦！方式 ①

在Talk界面下的【交流區(qū)】參與互動(dòng)！留下你的打call??和問(wèn)題??，和更多小伙伴們共同討論，被講者直接翻牌解答！

你的每一次貢獻(xiàn)，我們都會(huì)給予你相應(yīng)的i豆積分，還會(huì)有驚喜獎(jiǎng)勵(lì)哦！

方式 ②

在本文留言區(qū)直接提出你的問(wèn)題，或掃描下方二維碼提問(wèn)！

Talk·嘉賓介紹

徐曉駿
伊利諾伊大學(xué)在讀博士生

徐曉駿，現(xiàn)為伊利諾伊大學(xué)厄巴納-香檳分校（UIUC）的四年級(jí)博士生，導(dǎo)師為李博教授和Carl A. Gunter教授。徐曉駿當(dāng)前的主要研究方向?yàn)闄C(jī)器學(xué)習(xí)模型訓(xùn)練時(shí)的安全性保證，以及可驗(yàn)證的機(jī)器學(xué)習(xí)魯棒性，從而為大型機(jī)器學(xué)習(xí)模型在實(shí)際生活中的應(yīng)用提供安全保障。徐曉駿已在機(jī)器學(xué)習(xí)與計(jì)算機(jī)安全頂會(huì)（NeuRIPS, ICLR, CVPR, Oakland, CCS）上發(fā)表多篇論文。徐曉駿于2018年以優(yōu)秀畢業(yè)生身份畢業(yè)于上海交通大學(xué)致遠(yuǎn)學(xué)院ACM班，并獲得UIUC Computer Science Excellence獎(jiǎng)學(xué)金。

個(gè)人主頁(yè)：

https://scholar.google.com/citations?user=rdMZZQwAAAAJ&hl=zh-CN

系列Talk介紹

伊利諾伊大學(xué)安全學(xué)習(xí)實(shí)驗(yàn)室SL2(Secure Learning Lab)（http://boli.cs.illinois.edu/）由助理教授李博以及10名博士生和1名博士后組成，實(shí)驗(yàn)室隸屬于計(jì)算機(jī)組(https://cs.illinois.edu/)。

我們相信機(jī)器學(xué)習(xí)的安全性，隱私保護(hù)，可解釋性等可信賴性質(zhì)是引領(lǐng)未來(lái)機(jī)器學(xué)習(xí)算法和模型大規(guī)模部署和應(yīng)用的重要特質(zhì)，尤其是在自動(dòng)駕駛等對(duì)安全性質(zhì)要求頗高的應(yīng)用中?；诖撕诵睦砟?，SL2實(shí)驗(yàn)室的研究重點(diǎn)是構(gòu)建可驗(yàn)證性的可信機(jī)器學(xué)習(xí)算法，平臺(tái)和系統(tǒng)，從而部署于不同的實(shí)際應(yīng)用中。

從2月16日開(kāi)始，每周三、周四晚20點(diǎn)，伊利諾伊大學(xué)安全學(xué)習(xí)實(shí)驗(yàn)室的老師及同學(xué)們將帶來(lái)一系列的Talk分享，議程如下：

關(guān)于TechBeat人工智能社區(qū)

TechBeat (www.techbeat.net) 是一個(gè)薈聚全球華人AI精英的成長(zhǎng)社區(qū)。 我們希望為AI人才打造更專業(yè)的服務(wù)和體驗(yàn)，加速并陪伴其學(xué)習(xí)成長(zhǎng)。 期待這里可以成為你學(xué)習(xí)AI前沿知識(shí)的高地，分享自己最新工作的沃土，在AI進(jìn)階之路上的升級(jí)打怪的根據(jù)地！

更多詳細(xì)介紹>>https://mp.weixin.qq.com/s/pTbCK_MeTk05jK2yx1RTrQ