本期為TechBeat人工智能社區(qū)第342期線上Talk。

北京時間9月9日(周四)晚8點，滑鐵盧大學計算機學院助理教授—張弘揚的Talk將準時在TechBeat人工智能社區(qū)開播！

他與大家分享的主題是: “機器學習對抗穩(wěn)健性：從經(jīng)驗到有理論保障的防御模型”，屆時將介紹其理論結果揭示了“通過隨機噪聲達到穩(wěn)健性”的本質困難，并啟發(fā)了新的研究方向。

Talk·信息

主題：機器學習對抗穩(wěn)健性：從經(jīng)驗到有理論保障的防御模型

嘉賓：滑鐵盧大學計算機學院助理教授張弘揚

時間：北京時間?9月9日?(周四) 20:00

地點：TechBeat人工智能社區(qū)

http://www.techbeat.net/

完整版怎么看？

掃描下方二維碼，或復制鏈接https://datayi.cn/w/xogayXDR至瀏覽器，一鍵完成預約！上線后會在第一時間收到通知哦~

Talk·提綱

機器學習模型往往極易受到對抗樣本的攻擊。由此帶來了人工智能落地應用的巨大挑戰(zhàn)，尤其是在諸如自動駕駛、對安全性要求較高的領域。另外，對抗樣本的存在也揭示了人類和現(xiàn)階段機器學習性能的差別。

本次分享主要為：

1、機器學習模型往往極易受到對抗樣本的攻擊：人眼不可察覺的數(shù)據(jù)細微變化經(jīng)常會造成機器學習模型錯誤的判斷結果。

本Talk主要關注測試階段機器學習針對對抗樣本的兩類穩(wěn)健模型：

1）經(jīng)驗防御；2）有證明保障的防御。

2、Talk的第一部分主要介紹我們組在經(jīng)驗防御模型方面的一系列新結果。我們的方法啟發(fā)于機器學習穩(wěn)健性和準確性之間的權衡關系，并由此設計了目前最好的經(jīng)驗防御模型訓練算法TRADES。該方法幫助我們在NeurIPS 2018視覺對抗挑戰(zhàn)賽（雙賽道），Google非限制對抗樣本挑戰(zhàn)賽及標準benchmark RobustBench中獲得第一名。由此設計的攻擊方法也幫助我們組在CVPR 2021安全AI挑戰(zhàn)賽的1,559支隊伍中榮獲冠軍。

3、Talk的第二部分主要介紹我們組在有證明保障的防御模型方面的一系列理論結果。我們主要關注Randomized Smoothing方法。正面結果方面，對TRADES訓練得到的分類器使用Randomized Smoothing算法可以達到目前最優(yōu)的可證明穩(wěn)健性。負面結果方面，我們證明Randomized Smoothing算法無法處理高維數(shù)據(jù)。我們的理論結果揭示了“通過隨機噪聲達到穩(wěn)健性”的本質困難，并啟發(fā)了新的研究方向。

Talk·參考資料

這是本次分享中將會提及的資料，建議提前預習哦！

[1]?Hongyang Zhang, Yaodong Yu, Jiantao Jiao, Eric P. Xing, Laurent El Ghaoui, Michael I. Jordan.“Theoretically Principled Trade-off between Robustness and Accuracy”, ICML 2019.

[2]?Avrim Blum, Travis Dick, Naren Manoj, Hongyang Zhang. “Random Smoothing Might be Unable to?Certify L_infty Robustness for High-Dimensional Images”, JMLR 2020.

Talk·提問交流

通過以下兩種方式提問都將獲得微信現(xiàn)金紅包獎勵哦！

方式 ①

在Talk界面下的【交流區(qū)】參與互動！留下你的打call??和問題??，和更多小伙伴們共同討論，被講者直接翻牌解答！

你的每一次貢獻，我們都會給予你相應的i豆積分，還會有驚喜獎勵哦！

方式 ②

在本文留言區(qū)直接提出你的問題，或掃描下方二維碼提問！

Talk·嘉賓介紹

張弘揚，滑鐵盧大學計算機學院助理教授，同時隸屬于向量AI研究院。他于2015至2019年的3年半時間內(nèi)獲得卡內(nèi)基梅隆大學計算機學院機器學習系博士學位，師從Maria-Florina Balcan和David P. Woodruff。在此之前，張博士畢業(yè)于北京大學，師從林宙辰和張超教授。2019至2021年期間，張博士于芝加哥豐田技術研究院從事博士后工作，師從Avrim Blum和Greg Shakhnarovich。他的近期研究方向包括可信機器學習，人工智能安全，自監(jiān)督學習。張博士的工作在包括NeurIPS 2018 Adversarial Vision Challenge（雙賽道），CVPR 2021 Security AI Challenger等多個國際大賽中榮獲冠軍。他在頂級會議及期刊中發(fā)表30多篇論文，著有專著1本，并擔任多個AI頂級會議的領域主席。

個人主頁：

https://hongyanz.github.io

關于TechBeat人工智能社區(qū)

TechBeat (www.techbeat.net) 是一個薈聚全球華人AI精英的成長社區(qū)。 我們希望為AI人才打造更專業(yè)的服務和體驗，加速并陪伴其學習成長。 期待這里可以成為你學習AI前沿知識的高地，分享自己最新工作的沃土，在AI進階之路上的升級打怪的根據(jù)地！

更多詳細介紹>>https://mp.weixin.qq.com/s/pTbCK_MeTk05jK2yx1RTrQ