掃碼添加小享，回復(fù)“KDD”??

免費(fèi)獲取全部獲獎(jiǎng)?wù)撐?代碼合集

KDD最佳論文獎(jiǎng)

研究方向

All in One: Multi-task Prompting for Graph Neural Networks

標(biāo)題：All in One: 多任務(wù)提示用于圖神經(jīng)網(wǎng)絡(luò)

作者：Xiangguo Sun, Hong Cheng, Jia Li, Bo Liu, Jihong Guan

內(nèi)容：受自然語言處理(NLP)中提示學(xué)習(xí)的啟發(fā)，提示學(xué)習(xí)在利用先驗(yàn)知識(shí)進(jìn)行各種NLP任務(wù)方面展示了顯著的有效性，我們研究圖形提示的主題，目的是填補(bǔ)預(yù)訓(xùn)練模型和各種圖形任務(wù)之間的差距。

在本文中，作者為圖形模型提出了一種新的多任務(wù)提示方法。具體來說，首先使用提示詞、詞匯結(jié)構(gòu)和插入模式統(tǒng)一了圖形提示和語言提示的格式。通過這種方式，NLP中的提示想法可以無縫地引入圖形領(lǐng)域。然后，為了進(jìn)一步縮小各種圖形任務(wù)與最先進(jìn)的預(yù)訓(xùn)練策略之間的差距，作者進(jìn)一步研究了各種圖形應(yīng)用的任務(wù)空間，并將下游問題重構(gòu)為圖形級(jí)任務(wù)。之后，作者引入元學(xué)習(xí)來有效地學(xué)習(xí)圖形多任務(wù)提示的更好初始化。以便提示框架對(duì)不同的任務(wù)更可靠和通用。經(jīng)實(shí)驗(yàn)，結(jié)果證明了該方法的優(yōu)越性。

應(yīng)用數(shù)據(jù)科學(xué)方向

Improving Training Stability for Multitask Ranking Models in Recommender Systems

標(biāo)題：改進(jìn)推薦系統(tǒng)中多任務(wù)排序模型的訓(xùn)練穩(wěn)定性

作者：Jiaxi Tang, Yoel Drori, Daryl Chang, Maheswaran Sathiamoorthy, Justin Gilmer, Li Wei, Xinyang Yi, Lichan Hong, Ed H. Chi

內(nèi)容：在本文中，作者分享了對(duì)改進(jìn)YouTube推薦的真實(shí)世界多任務(wù)排序模型訓(xùn)練穩(wěn)定性方面的發(fā)現(xiàn)和最佳實(shí)踐，展示了導(dǎo)致模型訓(xùn)練不穩(wěn)定的一些特性，并猜測(cè)原因。此外，根據(jù)作者對(duì)訓(xùn)練不穩(wěn)定點(diǎn)附近的訓(xùn)練動(dòng)態(tài)的觀察，作者推測(cè)為什么現(xiàn)有的解決方案會(huì)失敗，并提出了一種新的算法來緩解現(xiàn)有解決方案的局限性。在YouTube生產(chǎn)數(shù)據(jù)集上的實(shí)驗(yàn)表明，與幾種常用的基線方法相比，所提出的算法可以顯著改善訓(xùn)練穩(wěn)定性而不損害收斂性。

KDD最佳學(xué)生論文獎(jiǎng)

研究方向

Feature-based Learning for Diverse and Privacy-Preserving Counterfactual Explanations

標(biāo)題：基于特征的學(xué)習(xí)方法用于生成多樣且保護(hù)隱私的反事實(shí)解釋

作者：Vy Vo, Trung Le, Van Nguyen, He Zhao, Edwin Bonilla, Gholamreza Haffari, Dinh Phung

內(nèi)容：可解釋的機(jī)器學(xué)習(xí)旨在理解長期以來因缺乏可解釋性而臭名昭著的復(fù)雜黑盒系統(tǒng)的推理過程。一種繁榮的方法是通過反事實(shí)解釋，它提供了建議，告訴用戶可以做些什么來改變結(jié)果。反事實(shí)示例不僅必須反駁黑盒分類器的原始預(yù)測(cè)，還應(yīng)滿足實(shí)際應(yīng)用的各種約束。多樣性是討論較少的關(guān)鍵約束之一，雖然多樣的反事實(shí)解釋是理想的，但同時(shí)滿足一些其他約束在計(jì)算上具有挑戰(zhàn)性。

此外，針對(duì)發(fā)布的反事實(shí)數(shù)據(jù)的隱私問題日益受到關(guān)注。為此，作者提出了一個(gè)基于特征的學(xué)習(xí)框架，可以有效處理反事實(shí)約束，并為有限的私密解釋模型池貢獻(xiàn)自身。作者展示了該方法在生成具有可行性和合理性的多樣反事實(shí)解釋方面的靈活性和有效性。與同等容量的對(duì)應(yīng)部分相比，作者的反事實(shí)引擎更高效，而重新識(shí)別風(fēng)險(xiǎn)也最低。

KDD時(shí)間檢驗(yàn)獎(jiǎng)

研究方向

Auto-WEKA: Combined Selection and Hyperparameter Optimization of Classification Algorithms

標(biāo)題：Auto-WEKA: 分類算法的組合選擇和超參數(shù)優(yōu)化

作者：Chris Thornton ,Frank Hutter, Holger H. Hoos, Kevin Leyton-Brown

內(nèi)容：存在許多不同的機(jī)器學(xué)習(xí)算法，考慮到每個(gè)算法的超參數(shù)，總體上有令人難以置信的大量可能的替代方案。作者考慮同時(shí)選擇學(xué)習(xí)算法并設(shè)置其超參數(shù)的問題，這超越了以前僅單獨(dú)解決這些問題的工作。作者表明這個(gè)問題可以通過一個(gè)完全自動(dòng)化的方法來解決，利用貝葉斯優(yōu)化的最新創(chuàng)新。

具體而言，作者考慮了廣泛的特征選擇技術(shù)(組合3種搜索方法和8種評(píng)估方法)以及WEKA中實(shí)現(xiàn)的所有分類方法，跨越2種集成方法、10種元方法、27種基本分類器以及每個(gè)分類器的超參數(shù)設(shè)置。在來自UCI倉庫、KDD Cup 09、MNIST數(shù)據(jù)集的變體和CIFAR-10的21個(gè)流行數(shù)據(jù)集上，作者展示的分類性能通常比使用標(biāo)準(zhǔn)選擇/超參數(shù)優(yōu)化方法好很多。

掃碼添加小享，回復(fù)“KDD”??

免費(fèi)獲取全部獲獎(jiǎng)?wù)撐?代碼合集

應(yīng)用數(shù)據(jù)科學(xué)方向

Ad Click Prediction: A View From the Trenches

標(biāo)題：廣告點(diǎn)擊預(yù)測(cè)：來自第一線的視角

作者：Hugh Brendan McMahan, Gary Holt, David Sculley, Michael Young, Dietmar Ebner, Julian Grady, Lan Nie, Todd Phillips, Eugene Davydov, Daniel Golovin, Sharat Chikkerur, Dan Liu, Martin Wattenberg, Arnar Mar Hrafnkelsson, Tom Boulos, Jeremy Kubica

內(nèi)容：預(yù)測(cè)廣告點(diǎn)擊率(CTR)是在數(shù)十億美元的在線廣告業(yè)中處于核心地位的大規(guī)模學(xué)習(xí)問題。作者介紹了一些案例研究和話題，這些內(nèi)容來自部署的CTR預(yù)測(cè)系統(tǒng)的最近實(shí)驗(yàn)。這包括在傳統(tǒng)監(jiān)督學(xué)習(xí)框架下的改進(jìn)，該框架基于FTRL-Proximal在線學(xué)習(xí)算法(具有出色的稀疏性和收斂特性)以及每坐標(biāo)學(xué)習(xí)率。

作者還探討了一些在實(shí)際系統(tǒng)中出現(xiàn)但乍一看似乎不在傳統(tǒng)機(jī)器學(xué)習(xí)研究領(lǐng)域內(nèi)的挑戰(zhàn)。這包括用于內(nèi)存節(jié)省的有用技巧、評(píng)估和可視化性能的方法、為預(yù)測(cè)概率提供置信度估計(jì)的實(shí)際方法、校準(zhǔn)方法以及自動(dòng)管理特征的方法。本文的目標(biāo)是強(qiáng)調(diào)理論進(jìn)步與該工業(yè)環(huán)境下的實(shí)際工程之間的密切關(guān)系，并展示將傳統(tǒng)機(jī)器學(xué)習(xí)方法應(yīng)用于復(fù)雜動(dòng)態(tài)系統(tǒng)時(shí)出現(xiàn)的深層挑戰(zhàn)。

杰出論文獎(jiǎng)

On the Predictive Power of Graph Neural Networks

標(biāo)題：關(guān)于圖神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)能力

作者：Weihua Hu

內(nèi)容：在本論文中，作者旨在通過理解、改進(jìn)和基準(zhǔn)測(cè)試GNNs的預(yù)測(cè)能力來構(gòu)建強(qiáng)大的預(yù)測(cè)性GNNs，預(yù)測(cè)能力指GNNs進(jìn)行準(zhǔn)確預(yù)測(cè)的能力。本文由三個(gè)部分組成。在第I部分中，作者為理解GNNs的預(yù)測(cè)能力開發(fā)了一個(gè)理論框架。具體關(guān)注表達(dá)能力，詢問GNNs是否可以表達(dá)期望的圖函數(shù)。作者使用理論框架為給定GNN是否足夠強(qiáng)大提供洞見，以對(duì)數(shù)據(jù)中的地面真值目標(biāo)函數(shù)建模。

作者還提出了一個(gè)可以證明對(duì)圖的大多數(shù)函數(shù)建模的最大表達(dá)能力GNN模型。在配備了設(shè)計(jì)表達(dá)能力強(qiáng)的GNN模型的框架之后，在第II部分中，作者繼續(xù)提高它們?cè)谖匆?未標(biāo)記的數(shù)據(jù)上的預(yù)測(cè)能力，即提高GNNs的泛化能力。出于實(shí)際應(yīng)用的考慮，作者在兩個(gè)常見的有限數(shù)據(jù)場(chǎng)景下開發(fā)了提高GNN泛化能力的方法：有限標(biāo)簽數(shù)據(jù)和有限邊連接性。最后，在第III部分中，作者創(chuàng)建了新的圖基準(zhǔn)數(shù)據(jù)集，以解決現(xiàn)有基準(zhǔn)的問題，并促進(jìn)社區(qū)提高GNN的預(yù)測(cè)能力。

杰出論文獎(jiǎng)（亞軍）

Characterization and Detection of Disinformation Spreading in Online Social Networks

標(biāo)題：在線社交網(wǎng)絡(luò)中虛假信息傳播的特征和檢測(cè)

作者：Francesco Pierri

內(nèi)容：在這項(xiàng)工作中，作者利用網(wǎng)絡(luò)和計(jì)算機(jī)科學(xué)方法來解決在線社交網(wǎng)絡(luò)中虛假信息傳播的問題。關(guān)注Twitter和Facebook，研究在政治選舉和新冠疫情等相關(guān)事件期間，虛假信息和其他惡意內(nèi)容傳播所涉及的機(jī)制和參與者，因?yàn)楣姶藭r(shí)對(duì)可靠信息的需求更高。作者對(duì)主流和傳統(tǒng)新聞網(wǎng)站發(fā)布的可靠信息與反復(fù)被曝光傳播虛假信息、誤導(dǎo)信息、惡作劇、假新聞和極端宣傳的網(wǎng)站傳播的不可靠信息進(jìn)行了系統(tǒng)性比較。

作者建立了一個(gè)回歸模型，考慮了人口統(tǒng)計(jì)學(xué)、社會(huì)經(jīng)濟(jì)和政治因素，發(fā)現(xiàn)在線虛假信息與疫苗結(jié)果之間存在顯著關(guān)聯(lián)。最后，基于上述分析的結(jié)果，作者部署了一種方法來準(zhǔn)確分類Twitter上用戶自然交互的新聞文章。按照用戶根據(jù)分享內(nèi)容塑造不同傳播模式的直覺，訓(xùn)練和測(cè)試現(xiàn)成的機(jī)器學(xué)習(xí)分類器，可以對(duì)新聞文章的真實(shí)性進(jìn)行分類，而無需查看其內(nèi)容。

Efficient and Secure Message Passing for Machine Learning

標(biāo)題：機(jī)器學(xué)習(xí)的高效和安全的消息傳遞

作者：Xiaorui Liu

內(nèi)容：機(jī)器學(xué)習(xí)(ML)技術(shù)給人類社會(huì)帶來了革命性影響，未來它們也將繼續(xù)作為技術(shù)創(chuàng)新者發(fā)揮作用。為了擴(kuò)大其影響，迫切需要解決機(jī)器學(xué)習(xí)中出現(xiàn)的新興和關(guān)鍵挑戰(zhàn)，如效率和安全問題。

本論文的主要目標(biāo)是通過創(chuàng)新研究和原理方法找出解決這些挑戰(zhàn)的解決方案。特別是，作者提出了多種具有高效消息傳遞的分布式優(yōu)化算法，以緩解通信瓶頸并加速分布式ML系統(tǒng)中的ML模型訓(xùn)練。作者還提出了多種安全消息傳遞方案作為圖神經(jīng)網(wǎng)絡(luò)的構(gòu)建模塊，旨在顯著提高M(jìn)L模型的安全性和魯棒性。

掃碼添加小享，回復(fù)“KDD”??

免費(fèi)獲取全部獲獎(jiǎng)?wù)撐?代碼合集