Talk預(yù)告 | ICLR'21杰出論文獎(jiǎng)宋飏: 基于梯度估計(jì)的生成式模型
本周為TechBeat人工智能社區(qū)第293期線上Talk,這也是ICLR 2021系列Talk第④期。北京時(shí)間4月13日(周二)晚8點(diǎn),ICLR'21杰出論文獎(jiǎng)一作、斯坦福大學(xué)在讀博士—宋飏的Talk將準(zhǔn)時(shí)在TechBeat人工智能社區(qū)開(kāi)播!
他與大家分享的主題是: “基于梯度估計(jì)的生成式模型”,屆時(shí)將針對(duì)ICLR?2021 Outstanding?Paper Award《Score-Based Generative Modeling through Stochastic Differential Equations》(Oral)?做出詳細(xì)介紹。
宋飏本人也是極為優(yōu)秀,16歲通過(guò)領(lǐng)軍計(jì)劃進(jìn)入清華,曾跟隨朱軍等團(tuán)隊(duì)進(jìn)行研究工作,物理系畢業(yè)后他進(jìn)入斯坦福大學(xué)攻讀博士,師從Stefano Ermon。

Talk·信息
▼
主題:基于梯度估計(jì)的生成式模型
嘉賓:斯坦福大學(xué)計(jì)算機(jī)系
在讀博士生?宋飏
時(shí)間:北京時(shí)間?4月13日 (周二) 20:00
地點(diǎn):TechBeat人工智能社區(qū)
http://www.techbeat.net/
完整版怎么看?
掃描下方二維碼,或復(fù)制鏈接 https://datayi.cn/w/nPNwv77o 至瀏覽器,一鍵完成預(yù)約!上線后會(huì)在第一時(shí)間收到通知哦~

Talk·提綱
▼
隨著深度學(xué)習(xí)技術(shù)的進(jìn)步,生成式模型已經(jīng)可以產(chǎn)生以假亂真的圖片,音頻,甚至自然語(yǔ)言對(duì)話。然而,現(xiàn)有的生成式模型仍然存在著眾多的問(wèn)題,包括訓(xùn)練的不穩(wěn)定性,以及存在網(wǎng)絡(luò)結(jié)構(gòu)的限制等等。本次分享將介紹一種從不同角度出發(fā)的全新生成式模型來(lái)解決前述問(wèn)題。本次分享的主要內(nèi)容如下:1. 第一部分將介紹如何從一個(gè)給定的數(shù)據(jù)集估計(jì)其背后的概率分布所對(duì)應(yīng)的梯度函數(shù) (UAI 2019)。我們將會(huì)討論梯度函數(shù)相對(duì)于概率分布函數(shù)的優(yōu)越性。2. 第二部分將專注于如何從概率分布梯度函數(shù)中獲得源源不斷的數(shù)據(jù)樣本(NeurIPS 2019, NeurIPS 2020)。我們將會(huì)重點(diǎn)討論數(shù)據(jù)噪聲和梯度估計(jì)之間的關(guān)聯(lián),并指出如何利用這種關(guān)聯(lián)來(lái)大幅提升樣本質(zhì)量。
3. 第三部分將用隨機(jī)微分方程推廣第二部分中的方法(ICLR 2021 Oral),并專注于隨機(jī)微分方程所帶來(lái)的一系列特殊優(yōu)勢(shì),包括似然函數(shù)計(jì)算,樣本生成過(guò)程的靈活控制,以及反問(wèn)題求解等等。
Talk·參考資料
▼
這是本次分享中將會(huì)提及的資料,建議提前預(yù)習(xí)哦!
《Sliced Score Matching: A Scalable Approach to Density and Score Estimation》
https://arxiv.org/abs/1905.07088
《Generative Modeling by Estimating Gradients of the Data Distribution》
https://arxiv.org/abs/1907.05600
《Improved Techniques for Training Score-Based Generative Models》
https://arxiv.org/abs/2006.09011
《Score-Based Generative Modeling through Stochastic Differential Equations》
https://arxiv.org/abs/2011.13456
Talk·提問(wèn)交流
▼
通過(guò)以下兩種方式提問(wèn)都將獲得微信現(xiàn)金紅包獎(jiǎng)勵(lì)哦!
方式 ①
在Talk界面下的【交流區(qū)】參與互動(dòng)!留下你的打call??和問(wèn)題??,和更多小伙伴們共同討論,被講者直接翻牌解答!

你的每一次貢獻(xiàn),我們都會(huì)給予你相應(yīng)的i豆積分,還會(huì)有驚喜獎(jiǎng)勵(lì)哦!
方式 ②
在本文留言區(qū)直接提出你的問(wèn)題,或掃描下方二維碼提問(wèn)!

Talk·嘉賓介紹
▼

斯坦福大學(xué)在讀博士生
宋飏,斯坦福大學(xué)計(jì)算機(jī)系在讀博士生,師從Stefano Ermon教授。本科畢業(yè)于清華大學(xué)物理系數(shù)理基礎(chǔ)科學(xué)專業(yè)。研究方向?yàn)樯墒侥P图捌湓跈C(jī)器學(xué)習(xí)安全性和反問(wèn)題求解上的應(yīng)用。工作發(fā)表于NeurIPS, ICLR, ICML, UAI, AISTATS等機(jī)器學(xué)習(xí)頂級(jí)會(huì)議,包括1篇NeurIPS Oral (2019)和2篇ICLR Oral (2021)。蘋果獎(jiǎng)學(xué)金以及摩根大通獎(jiǎng)學(xué)金得主。
ICLR系列Talk
▼
*點(diǎn)擊標(biāo)題跳轉(zhuǎn)詳情
第①?gòu)?/strong>

第②彈

第③彈

關(guān)于TechBeat人工智能社區(qū)
▼
TechBeat(www.techbeat.net)是一個(gè)薈聚全球華人AI精英的成長(zhǎng)社區(qū)。我們希望為AI人才打造更專業(yè)的服務(wù)和體驗(yàn),加速并陪伴其學(xué)習(xí)成長(zhǎng)。期待這里可以成為你學(xué)習(xí)AI前沿知識(shí)的高地,分享自己最新工作的沃土,在AI進(jìn)階之路上的升級(jí)打怪的根據(jù)地!
更多詳細(xì)介紹>>https://mp.weixin.qq.com/s/pTbCK_MeTk05jK2yx1RTrQ