Talk預(yù)告 | 劍橋大學(xué)蘇熠暄:對比搜索(Contrastive Search)當(dāng)前最優(yōu)的文本生成算法

本期為TechBeat人工智能社區(qū)第461期線上Talk!
北京時間12月8日(周四)20:00,劍橋大學(xué)在讀博士生——蘇熠暄的Talk將準(zhǔn)時在TechBeat人工智能社區(qū)開播!
他與大家分享的主題是:?“對比搜索(Contrastive Search)—當(dāng)前最優(yōu)的文本生成算法”,屆時將分享其在NeurIPS2022上的工作及接下來的一篇后續(xù)工作。
Talk·信息
主題:對比搜索(Contrastive Search)—當(dāng)前最優(yōu)的文本生成算法
嘉賓:劍橋大學(xué)在讀博士生 蘇熠暄
時間:北京時間?12月8日(周四) 20:00
地點(diǎn):TechBeat人工智能社區(qū)
http://www.techbeat.net/

Talk·介紹
文本生成在自然語言處理領(lǐng)域有著重要地位。傳統(tǒng)的生成方法如貪心搜索(Greedy Search)或集束搜索(Beam Search)經(jīng)常會導(dǎo)致模型退化(Model Degeneration)的問題。其他方法如Top-K采樣或核采樣(Nucleus Sampling)則經(jīng)常會導(dǎo)致語義信息不一致的問題。在本次報告中,講者將介紹在NeurIPS 2022中最新提出的對比搜索(Contrastive Search)算法。該方法已在16種語言下得到了廣泛的驗(yàn)證,并且已經(jīng)部署在騰訊AI Lab上線產(chǎn)品(Effidit)以及Huggingface Transformers平臺庫中。本次Talk主要分為兩個部分。首先會分享講者在NeurIPS 2022上的工作,之后會介其接下來的一篇后續(xù)工作。
Talk·提問交流
在Talk界面下的【交流區(qū)】參與互動留下你的打call??和問題??,和更多小伙伴們共同討論,被講者直接翻牌解答!

你的每一次貢獻(xiàn),我們都會給予你相應(yīng)的i豆積分,還會有驚喜獎勵哦!
Talk·預(yù)習(xí)資料
A Contrastive Framework for Neural Text Generation
https://arxiv.org/abs/2202.06417https://github.com/yxuansu/simctg
Contrastive Search Is What You Need For Neural Text Generation
http://arxiv.org/abs/2210.14140https://github.com/yxuansu/Contrastive_Search_Is_What_You_Need
Talk·嘉賓介紹

劍橋大學(xué)在讀博士生
蘇熠暄,劍橋大學(xué)博士生,導(dǎo)師為Nigel Collier教授。此前他于劍橋大學(xué)獲得碩士學(xué)位,于北京理工大學(xué)獲得本科學(xué)位。他的研究方向關(guān)注于大規(guī)模語言模型,文本生成,以及表征學(xué)習(xí)。到目前為止,他已與NeurIPS,ACL,EMNLP,NAACL,EACL等會議中發(fā)表十余篇論文。
主頁:https://yxuansu.github.io/

-The End-

關(guān)于TechBeat人工智能社區(qū)
TechBeat (www.techbeat.net) 是一個薈聚全球華人AI精英的成長社區(qū)。 我們希望為AI人才打造更專業(yè)的服務(wù)和體驗(yàn),加速并陪伴其學(xué)習(xí)成長。 期待這里可以成為你學(xué)習(xí)AI前沿知識的高地,分享自己最新工作的沃土,在AI進(jìn)階之路上的升級打怪的根據(jù)地!
更多詳細(xì)介紹>>https://mp.weixin.qq.com/s/pTbCK_MeTk05jK2yx1RTrQ