本期為TechBeat人工智能社區(qū)第380期線上Talk，也是伊利諾伊大學(xué)安全學(xué)習(xí)實(shí)驗(yàn)室“可信機(jī)器學(xué)習(xí): 機(jī)器學(xué)習(xí)魯棒性，隱私性，泛化性，及其內(nèi)在關(guān)聯(lián)”的系列Talk第①場。

北京時(shí)間2月16日(周三) 20:00，伊利諾伊大學(xué)助理教授—李博和伊利諾伊大學(xué)在校博士生—李林翼的Talk將準(zhǔn)時(shí)在騰訊會(huì)議及將門B站直播間進(jìn)行。

他們與大家分享的主題是: “可信機(jī)器學(xué)習(xí): 機(jī)器學(xué)習(xí)魯棒性，隱私性，泛化性，及其內(nèi)在關(guān)聯(lián)”和可驗(yàn)證深度學(xué)習(xí)：概述與展望”，屆時(shí)將講解如何通過賦予機(jī)器學(xué)習(xí)算法邏輯推理能力來提高其可驗(yàn)證的魯棒性和向大家展示未來提升機(jī)器學(xué)習(xí)模型魯棒性的一個(gè)全新的角度。

系列Talk介紹

伊利諾伊大學(xué)安全學(xué)習(xí)實(shí)驗(yàn)室SL2(Secure Learning Lab)（http://boli.cs.illinois.edu/）由助理教授李博以及10名博士生和1名博士后組成，實(shí)驗(yàn)室隸屬于計(jì)算機(jī)組(https://cs.illinois.edu/)。

我們相信機(jī)器學(xué)習(xí)的安全性，隱私保護(hù)，可解釋性等可信賴性質(zhì)是引領(lǐng)未來機(jī)器學(xué)習(xí)算法和模型大規(guī)模部署和應(yīng)用的重要特質(zhì)，尤其是在自動(dòng)駕駛等對(duì)安全性質(zhì)要求頗高的應(yīng)用中?；诖撕诵睦砟?，SL2實(shí)驗(yàn)室的研究重點(diǎn)是構(gòu)建可驗(yàn)證性的可信機(jī)器學(xué)習(xí)算法，平臺(tái)和系統(tǒng)，從而部署于不同的實(shí)際應(yīng)用中。

從2月16日開始，每周三、周四晚20點(diǎn)，伊利諾伊大學(xué)安全學(xué)習(xí)實(shí)驗(yàn)室的老師及同學(xué)們將帶來一系列的Talk分享，議程如下：

直播信息

分享主題：

1. 可信機(jī)器學(xué)習(xí): 機(jī)器學(xué)習(xí)魯棒性，隱私性，泛化性，及其內(nèi)在關(guān)聯(lián)

2.?可驗(yàn)證深度學(xué)習(xí)：概述與展望

分享嘉賓：

1. 伊利諾伊大學(xué)助理教授?李博

2.?伊利諾伊大學(xué)在校博士生?李林翼

活動(dòng)時(shí)間：北京時(shí)間2月16日 (周三) 20:00

活動(dòng)地點(diǎn)：?B站直播間-直播觀看，彈幕參與討論?

http://live.bilibili.com/22183939

Talk·簡介

可信機(jī)器學(xué)習(xí): 機(jī)器學(xué)習(xí)魯棒性，隱私性，泛化性，及其內(nèi)在關(guān)聯(lián)

分享人：李博 伊利諾伊大學(xué)助理教授

機(jī)器學(xué)習(xí)的進(jìn)步引領(lǐng)了基于學(xué)習(xí)的推理和決策的快速和廣泛部署， 如今機(jī)器學(xué)習(xí)已經(jīng)用于生活的方方面面，其中不乏一些安全隱患較高的領(lǐng)域，例如自動(dòng)駕駛和醫(yī)療診斷。然而，當(dāng)前的機(jī)器學(xué)習(xí)系統(tǒng)常假設(shè)訓(xùn)練和測試數(shù)據(jù)遵循相同或相似的分布，并且不考慮潛在攻擊者操縱其中任一分布。大量研究表明，有動(dòng)機(jī)的攻擊者完全可以通過規(guī)避攻擊在測試時(shí)規(guī)避異常檢測，或者可以將精心設(shè)計(jì)的惡意實(shí)例注入訓(xùn)練數(shù)據(jù)中，通過中毒攻擊導(dǎo)致推理錯(cuò)誤。

在本次Talk中，我們將一起給大家?guī)砦覀兘M最近關(guān)于機(jī)器學(xué)習(xí)系統(tǒng)中的安全，隱私，和泛化問題的研究，并講解如何通過賦予機(jī)器學(xué)習(xí)算法邏輯推理能力來提高其可驗(yàn)證的魯棒性。

可驗(yàn)證深度學(xué)習(xí)：概述與展望

分享人：李林翼 伊利諾伊大學(xué)在讀博士生

深度學(xué)習(xí)在眾多領(lǐng)域得到了廣泛而成功地應(yīng)用，但是，另一方面，深度學(xué)習(xí)系統(tǒng)的魯棒性與可靠性問題也逐漸凸顯，這一隱患使得深度學(xué)習(xí)在自動(dòng)駕駛、安防等要求高可用性的領(lǐng)域的應(yīng)用面臨著挑戰(zhàn)，為了從根本上解決這一隱患，我們迫切需要具有魯棒性與可靠性保證的深度神經(jīng)網(wǎng)絡(luò)。在本次Talk中，我們將概覽當(dāng)前深度神經(jīng)網(wǎng)絡(luò)的主要驗(yàn)證方法以及提高神經(jīng)網(wǎng)絡(luò)的可驗(yàn)證魯棒性的途徑，這些方法和途徑為當(dāng)前的大規(guī)模深度神經(jīng)網(wǎng)絡(luò)提供了魯棒性與可靠性的保證。在講座的最后，我們將討論這一新興方向的挑戰(zhàn)和開放課題，并簡要介紹我們提出的TSS框架（發(fā)表于CCS’21），這是首個(gè)可對(duì)大型神經(jīng)網(wǎng)絡(luò)（如ImageNet數(shù)據(jù)集上的大模型）在一般化圖像變換下提供魯棒性保證的驗(yàn)證與訓(xùn)練框架。

分享提綱：

1. 深度神經(jīng)網(wǎng)絡(luò)的驗(yàn)證方法概述

2. 可驗(yàn)證深度學(xué)習(xí)領(lǐng)域的最新進(jìn)展與研究方向

3. TSS：首個(gè)針對(duì)圖像變換的可驗(yàn)證強(qiáng)魯棒性大網(wǎng)絡(luò)學(xué)習(xí)框架

Talk·預(yù)習(xí)資料

可驗(yàn)證深度學(xué)習(xí)：概述與展望

綜述論文：

https://arxiv.org/abs/2009.04131

網(wǎng)站：

https://sokcertifiedrobustness.github.io/

TSS框架論文：

https://arxiv.org/abs/2002.12398（發(fā)表于CCS’21）

PPT：http://linyil.com/res/pub/TSS-CCS21-slides.pdf

Talk·嘉賓介紹

李博教授現(xiàn)任職于伊利諾伊大學(xué)厄巴納-香檳分校計(jì)算機(jī)科學(xué)系。她曾榮獲許多學(xué)術(shù)獎(jiǎng)項(xiàng)，包括麻省理工學(xué)院技術(shù)評(píng)論 MIT TR-35 、Alfred P. Sloan 斯隆研究獎(jiǎng)、NSF CAREER 獎(jiǎng)，英特爾新星獎(jiǎng)、賽門鐵克研究實(shí)驗(yàn)室獎(jiǎng)學(xué)金，并獲得來自Amazon、Facebook、谷歌、英特爾和 IBM 等科技公司的學(xué)術(shù)研究獎(jiǎng)。她的論文曾獲多個(gè)頂級(jí)機(jī)器學(xué)習(xí)和安全會(huì)議的最佳論文獎(jiǎng)；研究成果還被永久收藏于英國科技博物館。

李博的研究側(cè)重于可信賴機(jī)器學(xué)習(xí)、計(jì)算機(jī)安全、機(jī)器學(xué)習(xí)、隱私和博弈論的理論研究和實(shí)踐分析。她曾設(shè)計(jì)多個(gè)魯棒性機(jī)器學(xué)習(xí)算法及和隱私保護(hù)數(shù)據(jù)發(fā)布系統(tǒng)。

她的工作曾被《自然》、《連線》、《財(cái)富》和《紐約時(shí)報(bào)》等主要媒體報(bào)道。

李林翼現(xiàn)為伊利諾伊大學(xué)厄巴納-香檳分校（UIUC）Secure Learning Lab的四年級(jí)博士生。他的導(dǎo)師為李博教授，并接受謝濤教授的共同指導(dǎo)。李林翼當(dāng)前的主要研究方向?yàn)榭沈?yàn)證的機(jī)器學(xué)習(xí)，包括神經(jīng)網(wǎng)絡(luò)的驗(yàn)證，可驗(yàn)證神經(jīng)網(wǎng)絡(luò)的訓(xùn)練，以及驗(yàn)證算法的應(yīng)用，其研究致力于為大規(guī)模神經(jīng)網(wǎng)絡(luò)模型提供強(qiáng)可靠性保障。李林翼已發(fā)表論文十余篇，其中以第一或共同第一作者身份撰寫的論文已在機(jī)器學(xué)習(xí)（ICML, NeurIPS, ICLR, IJCAI, AISTATS）、計(jì)算機(jī)安全（CCS）及軟件工程（FSE）等領(lǐng)域的頂級(jí)學(xué)術(shù)會(huì)議上發(fā)表，并受邀擔(dān)任ICML, NeurIPS, ICLR, UAI, AISTATS等頂級(jí)會(huì)議的審稿人。李林翼于2018年以優(yōu)良畢業(yè)生榮譽(yù)本科畢業(yè)于清華大學(xué)，并榮獲UIUC Wing Kai Cheng獎(jiǎng)學(xué)金。

Talk·提問交流

直播中被嘉賓pick回答，將獲得微信現(xiàn)金紅包獎(jiǎng)勵(lì)哦！

關(guān)于TechBeat人工智能社區(qū)

TechBeat (www.techbeat.net) 是一個(gè)薈聚全球華人AI精英的成長社區(qū)。 我們希望為AI人才打造更專業(yè)的服務(wù)和體驗(yàn)，加速并陪伴其學(xué)習(xí)成長。 期待這里可以成為你學(xué)習(xí)AI前沿知識(shí)的高地，分享自己最新工作的沃土，在AI進(jìn)階之路上的升級(jí)打怪的根據(jù)地！

更多詳細(xì)介紹>>https://mp.weixin.qq.com/s/pTbCK_MeTk05jK2yx1RTrQ?