本期為TechBeat人工智能社區(qū)第383期線上Talk，也是伊利諾伊大學(xué)安全學(xué)習(xí)實(shí)驗(yàn)室“可信機(jī)器學(xué)習(xí): 機(jī)器學(xué)習(xí)魯棒性，隱私性，泛化性，及其內(nèi)在關(guān)聯(lián)”的系列Talk第③場(chǎng)。北京時(shí)間2月24日(周四)20:00，伊利諾伊大學(xué)在讀博士生——謝楚琳的Talk將準(zhǔn)時(shí)在TechBeat人工智能社區(qū)開(kāi)播！

她與大家分享的主題是: “聯(lián)邦學(xué)習(xí)的可驗(yàn)證魯棒性”，屆時(shí)將分享第一個(gè)對(duì)于聯(lián)邦學(xué)習(xí)魯棒性驗(yàn)證的統(tǒng)一框架，在訓(xùn)練期間對(duì)模型參數(shù)進(jìn)行裁剪和擾動(dòng)，在測(cè)試期間對(duì)模型參數(shù)進(jìn)行平滑。

Talk·信息

主題：聯(lián)邦學(xué)習(xí)的魯棒性

嘉賓：伊利諾伊大學(xué)在讀博士生謝楚琳

時(shí)間：北京時(shí)間?2月24日?(周四) 20:00

地點(diǎn)：TechBeat人工智能社區(qū)

http://www.techbeat.net/

完整版怎么看？

掃描下方二維碼，或復(fù)制鏈接https://datayi.cn/w/JoOWbwNo至瀏覽器，一鍵完成預(yù)約！上線后會(huì)在第一時(shí)間收到通知哦

Talk·提綱

聯(lián)邦學(xué)習(xí) (FL) 被提出以解決分布式訓(xùn)練機(jī)器學(xué)習(xí)模型的問(wèn)題，而無(wú)需直接訪問(wèn)不同用戶的本地訓(xùn)練數(shù)據(jù)，特別適用于數(shù)據(jù)隱私敏感的場(chǎng)景。然而，其分布式學(xué)習(xí)方法，不同用戶之間固有的異構(gòu)數(shù)據(jù)分布，以及對(duì)抗性用戶的存在引發(fā)了新的安全問(wèn)題。首先，我們提出了分布式后門，以揭示當(dāng)前聯(lián)邦學(xué)習(xí)的漏洞。盡管有一些經(jīng)驗(yàn)化的防御方法，但它們又被更強(qiáng)的攻擊化解。隨后，我們提出了第一個(gè)對(duì)于聯(lián)邦學(xué)習(xí)魯棒性驗(yàn)證的統(tǒng)一框架，在訓(xùn)練期間對(duì)模型參數(shù)進(jìn)行裁剪和擾動(dòng)，在測(cè)試期間對(duì)模型參數(shù)進(jìn)行平滑。最后，數(shù)據(jù)隱私的重要性驅(qū)動(dòng)了聯(lián)邦學(xué)習(xí)的發(fā)展，所以差分隱私技術(shù)在聯(lián)邦學(xué)習(xí)訓(xùn)練中被廣泛使用。于是我們進(jìn)一步揭示聯(lián)邦學(xué)習(xí)的差異隱私與可驗(yàn)證魯棒性之間的聯(lián)系，我們證明了滿足用戶級(jí)（實(shí)例級(jí)）差分隱私的聯(lián)邦學(xué)習(xí)模型對(duì)于有限數(shù)量的對(duì)抗性用戶（實(shí)例）具有可證明的魯棒性。

具體分享提綱如下：

·?聯(lián)邦學(xué)習(xí)的分布式后門

· 針對(duì)聯(lián)邦學(xué)習(xí)的可驗(yàn)證魯棒性

· 揭示聯(lián)邦學(xué)習(xí)的差分隱私與可驗(yàn)證魯棒性之間的聯(lián)系

Talk·預(yù)習(xí)資料

DBA論文:?

https://openreview.net/forum?id=rkgyS0VFvr

CRFL論文:?

https://arxiv.org/pdf/2106.08283.pdf

DPFL Robustness論文:?

https://alphapav.github.io/files/papers/Certified_Robustness_DPFL.pdf

Talk·提問(wèn)交流

通過(guò)以下兩種方式提問(wèn)都將獲得微信現(xiàn)金紅包獎(jiǎng)勵(lì)哦！

方式 ①

在Talk界面下的【交流區(qū)】參與互動(dòng)！留下你的打call??和問(wèn)題??，和更多小伙伴們共同討論，被講者直接翻牌解答！

你的每一次貢獻(xiàn)，我們都會(huì)給予你相應(yīng)的i豆積分，還會(huì)有驚喜獎(jiǎng)勵(lì)哦！

方式 ②

在本文留言區(qū)直接提出你的問(wèn)題，或掃描下方二維碼提問(wèn)！

Talk·嘉賓介紹

謝楚琳現(xiàn)為伊利諾伊大學(xué)厄巴納-香檳分校（UIUC）Secure Learning Lab 的二年級(jí)博士生，其導(dǎo)師為李博教授。謝楚琳當(dāng)前的主要研究方向?yàn)榭尚刨嚈C(jī)器學(xué)習(xí)和聯(lián)邦學(xué)習(xí)，包括安全性，隱私性，公平性以及可解釋性。?她的研究愿景是探索目前機(jī)器學(xué)習(xí)和聯(lián)邦學(xué)習(xí)模型的缺點(diǎn)，同時(shí)構(gòu)建更加穩(wěn)健、更加保護(hù)用戶隱私、更具公平性的模型，以促進(jìn)聯(lián)邦學(xué)習(xí)的大規(guī)模落地應(yīng)用。她在相關(guān)領(lǐng)域有多篇論文被接受到頂級(jí)會(huì)議上，包括 ICLR、ICML、CVPR 等。謝楚琳于2020年以優(yōu)秀畢業(yè)生榮譽(yù)本科畢業(yè)于浙江大學(xué)。

個(gè)人主頁(yè)：https://alphapav.github.io/

伊利諾伊大學(xué)安全學(xué)習(xí)實(shí)驗(yàn)室SL2(Secure Learning Lab)（http://boli.cs.illinois.edu/）由助理教授李博以及10名博士生和1名博士后組成，實(shí)驗(yàn)室隸屬于計(jì)算機(jī)組(https://cs.illinois.edu/)。

我們相信機(jī)器學(xué)習(xí)的安全性，隱私保護(hù)，可解釋性等可信賴性質(zhì)是引領(lǐng)未來(lái)機(jī)器學(xué)習(xí)算法和模型大規(guī)模部署和應(yīng)用的重要特質(zhì)，尤其是在自動(dòng)駕駛等對(duì)安全性質(zhì)要求頗高的應(yīng)用中?；诖撕诵睦砟睿琒L2實(shí)驗(yàn)室的研究重點(diǎn)是構(gòu)建可驗(yàn)證性的可信機(jī)器學(xué)習(xí)算法，平臺(tái)和系統(tǒng)，從而部署于不同的實(shí)際應(yīng)用中。

從2月16日開(kāi)始，每周三、周四晚20點(diǎn)，伊利諾伊大學(xué)安全學(xué)習(xí)實(shí)驗(yàn)室的老師及同學(xué)們將帶來(lái)一系列的Talk分享，議程如下：

關(guān)于TechBeat人工智能社區(qū)

TechBeat (www.techbeat.net) 是一個(gè)薈聚全球華人AI精英的成長(zhǎng)社區(qū)。 我們希望為AI人才打造更專業(yè)的服務(wù)和體驗(yàn)，加速并陪伴其學(xué)習(xí)成長(zhǎng)。 期待這里可以成為你學(xué)習(xí)AI前沿知識(shí)的高地，分享自己最新工作的沃土，在AI進(jìn)階之路上的升級(jí)打怪的根據(jù)地！

更多詳細(xì)介紹>>https://mp.weixin.qq.com/s/pTbCK_MeTk05jK2yx1RTrQ