Talk預(yù)告 | 南加州大學(xué)博士生林禹臣: 如何將常識(shí)教給機(jī)器?常識(shí)推理與語(yǔ)言模型

本期為TechBeat人工智能社區(qū)第345期線上Talk。
北京時(shí)間9月23日(周四)晚8點(diǎn),南加州大學(xué)計(jì)算機(jī)系在讀博士生—林禹臣的Talk將準(zhǔn)時(shí)在TechBeat人工智能社區(qū)開(kāi)播!
他與大家分享的主題是: “如何將常識(shí)教給機(jī)器?常識(shí)推理與語(yǔ)言模型”,屆時(shí)將介紹常識(shí)推理在問(wèn)答系統(tǒng)、對(duì)話系統(tǒng)和機(jī)器人的語(yǔ)言控制等方面的進(jìn)展與挑戰(zhàn)。
Talk·信息
主題:如何將常識(shí)教給機(jī)器?常識(shí)推理與語(yǔ)言模型
嘉賓:南加州大學(xué)計(jì)算機(jī)系在讀博士生?
林禹臣
時(shí)間:北京時(shí)間?9月23日?(周四) 20:00
地點(diǎn):TechBeat人工智能社區(qū)
http://www.techbeat.net/
完整版怎么看?
掃描下方二維碼,或復(fù)制鏈接https://datayi.cn/w/woVa5mWP至瀏覽器,一鍵完成預(yù)約!
上線后會(huì)在第一時(shí)間收到通知哦~?
Talk·提綱
盡管如今的語(yǔ)言模型在許多重要的任務(wù)上都獲得了突破性的成就,我們還是可以時(shí)??吹剿鼈儠?huì)犯一些低級(jí)的錯(cuò)誤。其中很大的一部分錯(cuò)誤是由于沒(méi)有掌握運(yùn)用常識(shí)推理的能力而造成的。這導(dǎo)致我們很難直接將許多模型直接應(yīng)用到日常生活場(chǎng)景中。所謂的常識(shí)性知識(shí)主要指人類對(duì)日常物體、事件屬性的普遍假設(shè),也包括社交活動(dòng)和心理變化的認(rèn)識(shí)。這些常識(shí)知識(shí)的抽取和建模要比基于命名實(shí)體的事實(shí)知識(shí)要更為困難,但是它們又如此重要。常識(shí)推理在問(wèn)答系統(tǒng)、對(duì)話系統(tǒng)和機(jī)器人的語(yǔ)言控制等方面都是非常必要的一環(huán)。因此,在構(gòu)建通用人工智能體的道路上,常識(shí)推理是至關(guān)重要的一環(huán)。
本次分享主要為:
1、簡(jiǎn)要介紹常識(shí)推理的背景知識(shí)、現(xiàn)今發(fā)展以及它與其他領(lǐng)域的聯(lián)系。
2、主要以KagNet (EMNLP 2019) 為例介紹如何在封閉式推理任務(wù)(closed-ended commonsense reasoning tasks比如commonsenseQA)中利用常識(shí)知識(shí)圖譜來(lái)提高預(yù)訓(xùn)練語(yǔ)言模型的表現(xiàn)。并介紹其后續(xù)工作MHGRN(EMNLP2020)。
3、以O(shè)penCSR為例來(lái)介紹林禹臣如何將常識(shí)推理從多選題的形式擴(kuò)展到更加開(kāi)放式的推理模式 (open-ended commonsense reasoning),并詳細(xì)介紹DrFact模型——一種直接利用文本型知識(shí)庫(kù)進(jìn)行多條推理的常識(shí)問(wèn)答模型 (NAACL2021)。
4、林禹臣將介紹其實(shí)驗(yàn)室最近在常識(shí)推理領(lǐng)域數(shù)據(jù)集構(gòu)建方面的成果,包括生成式推理CommonGen,多語(yǔ)言常識(shí)推理數(shù)據(jù)集X-CSR,謎題類問(wèn)答RiddleSense,邏輯性推理測(cè)試RICA等。
Talk·參考資料
這是本次分享中將會(huì)提及的資料,建議提前預(yù)習(xí)哦!
1、KagNet: Knowledge-Aware Graph Networks for commonsense Reasoning.?(EMNLP 2019)
2、Scalable Multi-Hop Relational Reasoning for Knowledge-Aware Question Answering?(EMNLP2020)
3、Differentiable Open-Ended commonsense Reasoning?(NAACL 2021)
4、Common Sense Beyond English: Evaluating and Improving Multilingual Language Models for commonsense Reasoning?(ACL 2021)5、CommonGen: AConstrained Text Generation Challenge for Generative commonsense Reasoning?(EMNLP 2020 Findings)6、RiddleSense: Reasoningabout Riddle Questions Featuring Linguistic Creativity and commonsenseKnowledge?(ACL 2021 Findings)7、RICA: Evaluating RobustInference Capabilities Based on commonsense Axioms?(EMNLP 2021)
8、常識(shí)推理的資料站:
https://commonsense.run/
Talk·提問(wèn)交流
通過(guò)以下兩種方式提問(wèn)都將獲得微信現(xiàn)金紅包獎(jiǎng)勵(lì)哦!
方式 ①
在Talk界面下的【交流區(qū)】參與互動(dòng)!留下你的打call??和問(wèn)題??,和更多小伙伴們共同討論,被講者直接翻牌解答!

你的每一次貢獻(xiàn),我們都會(huì)給予你相應(yīng)的i豆積分,還會(huì)有驚喜獎(jiǎng)勵(lì)哦!
方式 ②
在本文留言區(qū)直接提出你的問(wèn)題,或掃描下方二維碼提問(wèn)!

Talk·嘉賓介紹

南加州大學(xué)計(jì)算機(jī)系博士生
林禹臣,南加州大學(xué)計(jì)算機(jī)系博士生,導(dǎo)師為Prof. Xiang Ren。在此之前,他本科畢業(yè)于上海交通大學(xué)IEEE試點(diǎn)班(2014-2018),曾在Google AI 與 Facebook AI Research (FAIR) 擔(dān)任研究實(shí)習(xí)生,分別受指導(dǎo)于William Cohen和 Scott Yih。他曾多次擔(dān)任ACL, EMNLP, NAACL, ICLR, NeurIPS, AAAI等會(huì)議的審稿人,獲得過(guò)WWW 2020 best paper runner-up, 百度AI新星等榮譽(yù)。
他的博士研究致力于自然語(yǔ)言處理中的常識(shí)推理(commonsense reasoning)——表征并融入常識(shí)知識(shí)于神經(jīng)語(yǔ)言模型中,從而創(chuàng)造更貼近人類思維與行為的智能體。他的研究興趣也包括聯(lián)邦學(xué)習(xí) (federated learning), 跨任務(wù)泛化(cross-task generalization),元學(xué)習(xí)(meta-learning),終身學(xué)習(xí)(lifelong/continual learning)等方向在自然語(yǔ)言處理中的應(yīng)用。
個(gè)人主頁(yè):
https://yuchenlin.xyz/

關(guān)于TechBeat人工智能社區(qū)
TechBeat (www.techbeat.net) 是一個(gè)薈聚全球華人AI精英的成長(zhǎng)社區(qū)。 我們希望為AI人才打造更專業(yè)的服務(wù)和體驗(yàn),加速并陪伴其學(xué)習(xí)成長(zhǎng)。 期待這里可以成為你學(xué)習(xí)AI前沿知識(shí)的高地,分享自己最新工作的沃土,在AI進(jìn)階之路上的升級(jí)打怪的根據(jù)地!
更多詳細(xì)介紹>>https://mp.weixin.qq.com/s/pTbCK_MeTk05jK2yx1RTrQ?