圖神經(jīng)網(wǎng)絡(luò)（GNN）是一類專門針對圖結(jié)構(gòu)數(shù)據(jù)的神經(jīng)網(wǎng)絡(luò)模型，在社交網(wǎng)絡(luò)分析、知識(shí)圖譜等領(lǐng)域中取得了不錯(cuò)的效果。近來，相關(guān)研究人員在GNN的可解釋性、架構(gòu)搜索、對比學(xué)習(xí)等方面做了很多探究。

本周精選了10篇GNN領(lǐng)域的優(yōu)秀論文，來自來自中科院、浙江大學(xué)、中南大學(xué)、騰訊等機(jī)構(gòu)等機(jī)構(gòu)。

為了方便大家閱讀，只列出了論文標(biāo)題、作者、AI華同學(xué)綜述等信息，如果感興趣可復(fù)制網(wǎng)頁鏈接查看，PC端數(shù)據(jù)同步（收藏即可在PC端查看），每日新論文也可登錄小程序查看。

1. Hierarchical and Contrastive Representation Learning for Knowledge-aware Recommendation

作者：Bingchao Wu,Yangyuxuan Kang,Daoguang Zan,Bei Guan,Yongji Wang

鏈接：https://www.aminer.cn/pub/643e0acf0746dc40e3418ed6

AI綜述（大模型驅(qū)動(dòng)）：為了解決知識(shí)圖譜推薦中的過平滑問題，本文提出了一種名為HiCON的Hierarchical和CONtrastive表示學(xué)習(xí)框架,提出了分層消息聚合機(jī)制來分別與低階鄰居和元路徑約束的高階鄰居來進(jìn)行交互，以避免知識(shí)圖的指數(shù)擴(kuò)張。此外,該框架還提供了跨序列對比學(xué)習(xí)來執(zhí)行表示,以使表示更加區(qū)分性。在三個(gè)數(shù)據(jù)集上進(jìn)行的大量實(shí)驗(yàn)中, HiCON在性能上超過了目前最先進(jìn)的方法。

2. Temporal Aggregation and Propagation Graph Neural Networks for Dynamic Representation

作者：Tongya Zheng,Xinchao Wang,Zunlei Feng,Jie Song,Yunzhi Hao,Mingli Song,Xingen Wang,Xinyu Wang,Chun Chen

鏈接：https://www.aminer.cn/pub/643e0acf0746dc40e3418ed5

AI綜述（大模型驅(qū)動(dòng)）：本文提出了一種新的時(shí)間圖融合方法,即時(shí)態(tài)聚類和傳播圖神經(jīng)網(wǎng)絡(luò)(TAP GNN)。該方法首先分析了動(dòng)態(tài)表示問題的計(jì)算復(fù)雜性,通過在消息傳遞范式中演化時(shí)態(tài)圖。昂貴的復(fù)雜性激勵(lì)我們設(shè)計(jì)了AP（聚合和傳播）Block,它顯著減少了歷史鄰居的多次計(jì)算。最后,TAP GNN支持在圖流情景中進(jìn)行在線推理,其中將時(shí)態(tài)信息整合到節(jié)點(diǎn)嵌入中,具有時(shí)態(tài)激活函數(shù)和映射層。實(shí)驗(yàn)結(jié)果表明,所提出的TAP GNN在預(yù)測性能和在線推理潛力方面優(yōu)于現(xiàn)有的時(shí)間圖方法。

3. Multi-View Graph Representation Learning Beyond Homophily?

作者：Bei Lin,You Li,Ning Gui,Zhuopeng Xu,Zhiwu Yu

鏈接：https://www.aminer.cn/pub/643e0acf0746dc40e3418ed8

AI綜述（大模型驅(qū)動(dòng)）：最近的表示學(xué)習(xí)方法通常采用自監(jiān)督學(xué)習(xí)，并通過解決手工制作的輔助任務(wù)（所謂的前置任務(wù)）來學(xué)習(xí)嵌入。本文提出了一種新的無監(jiān)督圖表示學(xué)習(xí)框架,名為多維圖編碼器(MVGE), 提出了多視圖視角和使用不同的借口任務(wù)來將圖中的不同信號(hào)捕獲到嵌入中。此外,還提出了一種簡單的操作來保持屬性和個(gè)人化,尤其是在結(jié)構(gòu)層面上。在合成和真實(shí)世界網(wǎng)絡(luò)數(shù)據(jù)集上進(jìn)行的大量實(shí)驗(yàn)表明,與MVGE學(xué)習(xí)的節(jié)點(diǎn)表示在三個(gè)不同的下流任務(wù)中表現(xiàn)出顯著的性能改進(jìn)。

4. Audience Expansion for Multi-show Release Based on an Edge-prompted Heterogeneous Graph Network?

作者：Kai Song,Shaofeng Wang,Ziwei Xie,Shanyu Wang,Jiahong Li,Yongqiang Yang

鏈接：https://www.aminer.cn/pub/64377346eb3a372744c80a40

AI綜述（大模型驅(qū)動(dòng)）：本文提出了一種基于異構(gòu)圖網(wǎng)絡(luò)的視頻觀眾擴(kuò)張方案,可以考慮不同的雙向相互作用和特征。在離線階段,選擇節(jié)目的用戶身份和特定部分信息組合作為節(jié)點(diǎn),并使用點(diǎn)擊/共同點(diǎn)擊關(guān)系和觀看時(shí)間構(gòu)建邊。當(dāng)新節(jié)目出現(xiàn)時(shí),它們的嵌入和后續(xù)匹配用戶可以在一個(gè)一致的空間中生成。在在線階段,包括點(diǎn)擊/查看用戶在內(nèi)的后續(xù)數(shù)據(jù)被應(yīng)用于尋找相似的用戶。

5. Enhancing Model Learning and Interpretation using Multiple Molecular Graph Representations for Compound Property and Activity Prediction?

作者：Apakorn Kengkanna,Masahito Ohue

鏈接：https://www.aminer.cn/pub/6438c501d6db87a14654a3a9

AI綜述（大模型驅(qū)動(dòng)）：本文介紹了一種多重分子圖表示方法,結(jié)合更高級(jí)別信息并研究了其對模型學(xué)習(xí)和解釋的影響。實(shí)驗(yàn)結(jié)果表明,將多重分子圖表示與簡化的分子圖表示相結(jié)合可以產(chǎn)生有希望的模型性能。此外,分析結(jié)果可以為背景知識(shí)提供顯著特征和潛在子結(jié)構(gòu)保持一致。這些多重分子圖表示和解釋分析可以幫助模型理解和促進(jìn)藥物發(fā)現(xiàn)領(lǐng)域的應(yīng)用。

6. NPS: A Framework for Accurate Program Sampling Using Graph Neural Network

作者：Yuanwei Fang,Zihao Liu,Yanheng Lu,Jiawei Liu,Jiajie Li,Yi Jin,Jian Chen,Yenkuang Chen,Hongzhong Zheng,Yuan Xie

鏈接：https://www.aminer.cn/pub/643f5c4336af860e941acc57

AI綜述（大模型驅(qū)動(dòng)）：本文介紹了神經(jīng)程序抽取(NPS),一種新的框架,利用圖神經(jīng)網(wǎng)絡(luò)的動(dòng)態(tài)映射來學(xué)習(xí)執(zhí)行嵌入。NPS使用AssemblyNet進(jìn)行嵌入生成,利用應(yīng)用程序的代碼結(jié)構(gòu)和運(yùn)行時(shí)間狀態(tài)。AssemblyNet是NPS的圖模型和神經(jīng)架構(gòu),捕捉應(yīng)用程序的行為在數(shù)據(jù)計(jì)算、代碼路徑和數(shù)據(jù)傳輸方面。NPS在實(shí)驗(yàn)中表現(xiàn)出強(qiáng)大魯棒性,減少了昂貴的精度調(diào)控負(fù)載。此外,NPS與最先進(jìn)的GNN方法相比具有更高的準(zhǔn)確性和通用性。

7. Addressing Variable Dependency in GNN-based SAT Solving?

作者：Zhiyuan Yan,Min Li,Zhengyuan Shi,Wenjie Zhang,Yingcong Chen,Hongce Zhang

鏈接：https://www.aminer.cn/pub/643f5c3d36af860e941a93e2

AI綜述（大模型驅(qū)動(dòng)）：?現(xiàn)有作品使用圖神經(jīng)網(wǎng)絡(luò)?(GNN) 進(jìn)行（近似）SAT 求解。我們表明，對于一組對稱 SAT 問題，并發(fā)預(yù)測肯定會(huì)產(chǎn)生錯(cuò)誤答案，因?yàn)樗雎粤?SAT 問題中布爾變量之間的依賴關(guān)系。本文提出了一種基于GNN的架構(gòu)AsymSAT,可以生成任意變量的依賴預(yù)測。實(shí)驗(yàn)結(jié)果表明,依賴變量預(yù)測擴(kuò)展了基于GNN的方法的解決能力,因?yàn)樗岣吡舜笮蜏y試集上解決的 SAT案例數(shù)量。

8. ProGAP: Progressive Graph Neural Networks with Differential Privacy Guarantees?

作者：Sina Sajadmanesh,Daniel Gatica-Perez

鏈接：https://www.aminer.cn/pub/643f5c4336af860e941acd7b

AI綜述（大模型驅(qū)動(dòng)）：本文提出了一種新的圖神經(jīng)網(wǎng)絡(luò)(GNN)模型,名為ProGAP,用于保護(hù)圖結(jié)構(gòu)化數(shù)據(jù)集的隱私。與聚類干擾技術(shù)相結(jié)合,ProGAP將一個(gè)GNN分解為一個(gè)連貫的子模型序列, 每個(gè)子模型都在先前子模型學(xué)習(xí)和緩存的私有聚合節(jié)點(diǎn)嵌入上進(jìn)行訓(xùn)練，與以前的方法相比，這導(dǎo)致表達(dá)能力增強(qiáng)，同時(shí)限制了所產(chǎn)生的隱私成本。實(shí)驗(yàn)結(jié)果表明,ProGAP可以實(shí)現(xiàn)對訓(xùn)練和推理階段的隱私保證,并在基準(zhǔn)圖數(shù)據(jù)集上評估其性能。

9. Spectral Gap Regularization of Neural Networks?

作者：Edric Tam,David Dunson

鏈接：https://www.aminer.cn/pub/642f8a3d90e50fcafd431ef1

AI綜述（大模型驅(qū)動(dòng)）：本文提出了Fiedler 正則化,一種利用譜/圖信息進(jìn)行正則化的神經(jīng)網(wǎng)絡(luò)方法。現(xiàn)有的正則化方法通常側(cè)重于懲罰權(quán)重的全局/統(tǒng)一的方式,忽略了神經(jīng)網(wǎng)絡(luò)的連接結(jié)構(gòu)。我們提出使用神經(jīng)網(wǎng)絡(luò)基礎(chǔ)圖中的Fiedler值作為正則化工具。通過譜圖理論提供這一方法的理論動(dòng)機(jī), 我們展示了 Fiedler 值的幾個(gè)有用屬性，使其可用作正則化工具。?我們提供了一種近似的變分方法，可以在訓(xùn)練期間加快計(jì)算速度。

10. Equivariant Graph Neural Networks for Charged Particle Tracking?

作者：Daniel Murnane,Savannah Thais,Ameya Thete

鏈接：https://www.aminer.cn/pub/643621a290e50fcafd6664ac

AI綜述（大模型驅(qū)動(dòng)）：本文提出了一種用于帶電粒子跟蹤的新的圖神經(jīng)網(wǎng)絡(luò)(GNN)對稱等變架構(gòu)EuclidNet,該架構(gòu)利用碰撞事件的圖表示和對探測波束軸向量的旋轉(zhuǎn)對稱性,從而產(chǎn)生了一個(gè)更高效的模型。我們通過在TraceML數(shù)據(jù)集上評估EuclidNet,該數(shù)據(jù)集模擬了高亮度大型強(qiáng)子對撞機(jī)(HL LHC)的高堆積條件。結(jié)果表明,EuclidNet在小模型范圍內(nèi)(<1000個(gè)參數(shù))取得了接近業(yè)界領(lǐng)先的性能。這項(xiàng)研究為未來研究提供依據(jù)。