在任務(wù)型對(duì)話系統(tǒng)中，域外（Out-of-domain, OOD）意圖檢測(cè)是相當(dāng)重要的一個(gè)模塊。它能夠防止模型將這類意圖錯(cuò)誤分類為某個(gè)域內(nèi)意圖，從而發(fā)生預(yù)期外的系統(tǒng)行為。例如對(duì)于一個(gè)智能音樂(lè)軟件里的對(duì)話系統(tǒng)，用戶給出例如“購(gòu)買(mǎi)某本圖書(shū)”的對(duì)話請(qǐng)求即為域外意圖。本期我們邀請(qǐng)到來(lái)自北京郵電大學(xué)的嚴(yán)淵蒙，分享他如何在無(wú)監(jiān)督設(shè)置下基于馬氏距離的生成式分類器來(lái)檢測(cè)OOD樣本。

講者介紹

嚴(yán)淵蒙，北京郵電大學(xué)模式識(shí)別實(shí)驗(yàn)室碩士生，自然語(yǔ)言處理方向，導(dǎo)師為徐蔚然老師。其主要研究方向?yàn)閷?duì)話系統(tǒng)中的口語(yǔ)理解，特別是少樣本情況下的遷移學(xué)習(xí)、自監(jiān)督學(xué)習(xí)等技術(shù)，目前已在ACL、EMNLP等會(huì)議上發(fā)表多篇論文。

會(huì)議題目

一種基于馬氏距離的生成式OOD檢測(cè)方法

會(huì)議摘要

本文中我們主要探索無(wú)監(jiān)督設(shè)置下的OOD意圖檢測(cè)方法，即訓(xùn)練過(guò)程中只有有監(jiān)督的域內(nèi)語(yǔ)料是可獲取的，而無(wú)法獲取到域外的標(biāo)注語(yǔ)料。我們提出了一個(gè)簡(jiǎn)單但強(qiáng)大的基于馬氏距離的生成式分類器來(lái)檢測(cè)OOD樣本。具體來(lái)說(shuō)，我們使用高斯判別分析（Gaussian Discriminant Analysis, GDA）對(duì)編碼器導(dǎo)出的域內(nèi)樣本的特征進(jìn)行建模以避免基于softmax的分類器過(guò)度自信的問(wèn)題；同時(shí)我們比較了在特征空間中使用歐氏距離和馬氏距離進(jìn)行OOD意圖判別的性能，顯示了使用馬氏距離進(jìn)行OOD意圖判別的優(yōu)勢(shì)。我們?cè)谒膫€(gè)基準(zhǔn)數(shù)據(jù)集上進(jìn)行實(shí)驗(yàn)，結(jié)果證明我們的方法顯著優(yōu)于若干基線。

論文標(biāo)題：A Deep Generative Distance-Based Classifier for Out-of-Domain Detection with Mahalanobis Space

在線閱讀：https://bbs.sffai.com/d/260-ood

會(huì)議亮點(diǎn)

1、我們提出了一種基于距離函數(shù)的生成式OOD檢測(cè)方法，用于無(wú)監(jiān)督的OOD意圖檢測(cè)任務(wù)；

2、我們?cè)趥鹘y(tǒng)歐氏距離的基礎(chǔ)上，引入馬氏距離，并且比較了歐氏距離和馬氏距離的性能優(yōu)劣，結(jié)果顯示馬氏距離相比歐氏距離能夠更好地處理特征之間的相關(guān)性，從而在OOD意圖檢測(cè)任務(wù)上獲得更好的效果；

3、在四個(gè)公開(kāi)數(shù)據(jù)集上的實(shí)驗(yàn)證明了我們的方法顯著優(yōu)于此前的基線。

直播時(shí)間

2021年7月25日（周日）20:00—21:00 線上直播

關(guān)注微信公眾號(hào)：人工智能前沿講習(xí)，對(duì)話框回復(fù)“SFFAI115”，獲取入群二維碼

注：騰訊會(huì)議直播地址會(huì)分享在交流群內(nèi)

現(xiàn)代科學(xué)技術(shù)高度社會(huì)化，在科學(xué)理論與技術(shù)方法上更加趨向綜合與統(tǒng)一，為了滿足人工智能不同領(lǐng)域研究者相互交流、彼此啟發(fā)的需求，我們發(fā)起了SFFAI這個(gè)公益活動(dòng)。SFFAI每周舉行一期線下活動(dòng)，邀請(qǐng)一線科研人員分享、討論人工智能各個(gè)領(lǐng)域的前沿思想和最新成果，使專注于各個(gè)細(xì)分領(lǐng)域的研究者開(kāi)拓視野、觸類旁通。

SFFAI目前主要關(guān)注機(jī)器學(xué)習(xí)、計(jì)算機(jī)視覺(jué)、自然語(yǔ)言處理等各個(gè)人工智能垂直領(lǐng)域及交叉領(lǐng)域的前沿進(jìn)展，將對(duì)線下討論的內(nèi)容進(jìn)行線上傳播，使后來(lái)者少踩坑，也為講者塑造個(gè)人影響力。SFFAI還在構(gòu)建人工智能領(lǐng)域的知識(shí)森林—AI Knowledge Forest，通過(guò)匯總各位參與者貢獻(xiàn)的領(lǐng)域知識(shí)，沉淀線下分享的前沿精華，使AI Knowledge Tree枝繁葉茂，為人工智能社區(qū)做出貢獻(xiàn)，歡迎大家關(guān)注SFFAI論壇：https://bbs.sffai.com。?