|極市線上分享第107期 |

一直以來，為讓大家更好地了解學(xué)界業(yè)界優(yōu)秀的論文和工作，極市已邀請(qǐng)了超過100位技術(shù)大咖嘉賓，并完成了106期極市線上直播分享。

往期分享請(qǐng)前往bbs.cvmart.net/topics/149，也歡迎各位小伙伴自薦或推薦更多優(yōu)秀的技術(shù)嘉賓到極市進(jìn)行技術(shù)分享，與大家一起交流學(xué)習(xí)~~

眾所周知，現(xiàn)代的深度神經(jīng)網(wǎng)絡(luò)存在著嚴(yán)重的魯棒性缺陷，容易遭受對(duì)抗樣本的攻擊。如何系統(tǒng)的獲得可驗(yàn)證的魯棒性保證是近年來一個(gè)重要的研究方向。

本次分享我們邀請(qǐng)到了北京大學(xué)的張博航，為大家介紹他們NeurIPS 2022上的工作：

Rethinking Lipschitz Neural Networks and Certified Robustness: A Boolean Function Perspective（NeurIPS 2022 Oral）

“該工作系統(tǒng)探究了深度學(xué)習(xí)領(lǐng)域的核心問題：是否能夠從模型層面出發(fā)，設(shè)計(jì)出具有天然對(duì)抗魯棒性的神經(jīng)網(wǎng)絡(luò)？對(duì)于基本的L無窮魯棒性問題，我們揭示了Lipschitz神經(jīng)網(wǎng)絡(luò)的表達(dá)能力與其擬合布爾函數(shù)能力之間的深刻聯(lián)系。從這一角度，本文首先指出了標(biāo)準(zhǔn)Lipschitz神經(jīng)網(wǎng)絡(luò)表達(dá)能力的本質(zhì)缺陷，并進(jìn)一步探究了近期所提出的新型網(wǎng)絡(luò)結(jié)構(gòu)（如L無窮網(wǎng)絡(luò)）背后的深層次機(jī)理。最后，本文提出了一個(gè)魯棒性神經(jīng)網(wǎng)絡(luò)的統(tǒng)一框架，稱為SortNet（排序網(wǎng)絡(luò)），該網(wǎng)絡(luò)結(jié)構(gòu)在CIFAR-10、ImageNet等多個(gè)數(shù)據(jù)集上均取得了SOTA的表現(xiàn)。”

01 直播信息

時(shí)間：2022年12月21日（周三）20:00-21:00

主題：如何從模型層面獲得對(duì)抗魯棒性保證

直播地址：極市平臺(tái)視頻號(hào)、極市平臺(tái)B站

02 嘉賓介紹

張博航

北京大學(xué)博士四年級(jí)學(xué)生，指導(dǎo)老師是王立威教授。研究方向?yàn)樯疃葘W(xué)習(xí)中的基礎(chǔ)性問題，如神經(jīng)網(wǎng)絡(luò)的表達(dá)能力和魯棒性。在機(jī)器學(xué)習(xí)頂會(huì)NeurIPS, ICML, ICLR上以一作身份發(fā)表5篇論文。更多信息見個(gè)人主頁：https://zbh2047.github.io/

03 關(guān)于分享

?分享大綱

1、可驗(yàn)證的魯棒性背景介紹

2、基于Lipschitz性質(zhì)的魯棒性網(wǎng)絡(luò)設(shè)計(jì)

3、從布爾函數(shù)的角度理解Lipschitz神經(jīng)網(wǎng)絡(luò)的表達(dá)能力

4、該領(lǐng)域的SOTA網(wǎng)絡(luò)結(jié)構(gòu)：L無窮距離網(wǎng)絡(luò)

5、一個(gè)統(tǒng)一的框架：排序網(wǎng)絡(luò)

?論文

Rethinking Lipschitz Neural Networks and Certified Robustness: A Boolean Function Perspective（NeurIPS 2022 Oral）

論文地址：https://arxiv.org/abs/2210.01787

代碼地址：https://github.com/zbh2047/sortnet