圖神經網絡:基礎、前沿與應用
鏈接:https://pan.baidu.com/s/1MmjEH5plO8yvjcBuEPC--w?pwd=x1v9?
提取碼:x1v9

前沿:圖神經網絡是機器學習、數據科學、數據挖掘領域新興的發(fā)展方向,被稱作圖上的深度學習,有望推動第三代人工智能的順利發(fā)展。
豐富:綜述圖神經網絡的基礎理論、模擬算法、研究前沿以及廣泛和新興的應用場景
深入:摒棄簡單介紹概念與框架的思維,深入分析圖神經網絡的現狀以及未來的調整與機遇,幫助專業(yè)人士和初學者知其然知其所以然
力薦:囊括國內AI界半壁江山的大咖聯袂推薦
內容簡介
本書致力于介紹圖神經網絡的基本概念和算法、研究前沿以及廣泛和新興的應用,涵蓋圖神經網絡的廣泛主題,從基礎到前沿,從方法到應用,涉及從方法論到應用場景方方面面的內容。全書分為四部分:第一部分介紹圖神經網絡的基本概念;第二部分討論圖神經網絡成熟的方法;第三部分介紹圖神經網絡典型的前沿領域;第四部分描述可能對圖神經網絡未來研究比較重要和有前途的方法與應用的進展情況。
本書適合高年級本科生和研究生、博士后研究人員、講師以及行業(yè)從業(yè)者閱讀與參考。
作者簡介
吳凌飛博士
畢業(yè)于美國公立常春藤盟校之一的威廉與瑪麗學院計算機系。目前他是Pinterest公司主管知識圖譜和內容理解的研發(fā)工程經理。曾任京東硅谷研究中心的首席科學家和IBM Thomas J. Vatson Research Centerl的高級研究員。主要研究方向是機器學習、表征學習和自然語言處理的有機結合,在圖神經網絡及其應用方面有深入研究。他在機器學習、深度學習等領域的著名會議或期刊上發(fā)表100多篇論文。
崔鵬博士
清華大學計算機系終身副教授。于2010年在清華大學獲得博士學位。研究興趣包括數據挖掘、機器學習和多媒體分析,擅長網絡表示學習、因果推理和穩(wěn)定學習、社會動力學建模和用戶行為建模等。他在機器學習和數據挖掘領域的著名會議或期刊上發(fā)表100多篇論文。
裴健博士
杜克大學電子與計算機工程系教授。他是數據科學、大數據、數據挖掘和數據庫系統等領域的研究人員。他擅長為新型數據密集型應用開發(fā)有效的數據分析技術,并將其研究成果轉化為產品和商業(yè)實踐。自2000年以來,他已經出版一本教科書、兩本專著,并在眾多具有影響力的會議或期刊上發(fā)表300多篇論文。
趙亮博士
埃默里大學計算科學系助理教授。曾在喬治梅森大學信息科學與技術系和計算機科學系擔任助理教授。于2016年在弗吉尼亞理工大學計算機科學系獲得博士學位。研究興趣包括數據挖掘、人工智能和機器學習,在時空和網絡數據挖掘、圖深度學習、非凸優(yōu)化、事件預測和可解釋機器學習等方面有深入研究。
精彩書評
本書詳細地介紹了圖神經網絡這一新興的、快速發(fā)展的研究領域。
——韓家煒
美國伊利諾伊大學香檳分校計算機系教授,ACM院士、IEEE院士
本書對圖表征學習進行了綜述,由這一領域的學者團隊編撰完成,是想了解圖神經網絡的學生、研究人員和實踐者的參考之作。
——沈向洋
ACM院士、IEEE院士、美國工程院院士、英國皇家工程科學院國際院士,微軟研究院前技術和研究執(zhí)行副總裁
作為深度學習的前沿領域,圖神經網絡在組合概率機器學習和符號推理方面具有強大潛力。它在數據驅動范式和知識驅動范式之間架起了溝通的橋梁,有望促進第三代人工智能的發(fā)展。本書以富有洞察力的方式介紹了GNN,內容涉及從基礎知識到前沿發(fā)展,從算法基礎到應用探討。對于任何想要學習和了解圖神經網絡的科學家、工程師和學生來說,本書是頗具價值的參考資料。
——張鈸
清華大學教授,中國科學院院士
作為深度學習的一個重要領域,圖神經網絡近年來取得了突飛猛進的發(fā)展。這本由業(yè)界專業(yè)人士撰寫的作品涵蓋了圖神經網絡的基礎和應用的方方面面。相信這是一本大家會想閱讀的書。強烈推薦!
——李航
字節(jié)跳動人工智能實驗室總監(jiān)
圖神經網絡是當前人工智能的熱門領域之一。本書由國際數據挖掘領域學者、加拿大皇家學會院士裴健教授和CCF-IEEECS青年科學家獎獲得者崔鵬教授等領銜出版。英文版已由施普林格出版社推出,中文版將為國內感興趣的讀者提供閱讀學習的便利,很有參考價值,值得關注。
——周志華
南京大學計算機系主任兼人工智能學院院長,歐洲科學院外籍院士
圖神經網絡是機器學習、數據科學、數據挖掘領域新興的發(fā)展方向。本書作者是這個領域的科學家,他們探討了圖神經網絡的理論基礎、算法設計和實踐案例。這是一本好書,我強烈推薦!
——楊強
香港科技大學講座教授,AAAI、ACM等學會會員,加拿大皇家科學院、加拿大工程院院士
本書由領域學者團隊編撰,對圖神經網絡的基礎理論進行了詳細介紹,對不同主題進行了廣泛覆蓋。通過本書,讀者可以一覽圖神經網絡全貌、快速開展前沿研究或將之落地于實際應用。
——張成奇
悉尼科技大學副校長,人工智能杰出教授
本書是當前介紹圖神經網絡方面非常深入的書籍之一,由該領域的學者編撰,是優(yōu)秀的參考和學習資料。
——俞士綸
伊利諾伊大學芝加哥分校講席教授,ACM會員,IEEE會員
本書詳細地介紹了圖神經網絡,為在大型圖數據上更深一步研究及探尋快而準的方法提供了不可缺少的基礎和方向。
——于旭(Jeffrey Xu Yu)
香港中文大學教授
深度學習時代,圖計算與神經網絡天然地結合到一起。圖神經網絡為人工智能的發(fā)展注入了新動力,同時也成為熱門的領域之一,在工業(yè)界得到廣泛應用。本書對圖神經網絡的基礎、前沿技術以及應用做了講解,是圖神經網絡的研究者以及實踐者優(yōu)秀的參考資料。
——葉杰平
密歇根大學終身教授,IEEE會員
近年來,圖深度學習已經被廣泛應用到很多人工智能的研究領域,并取得了成功。本書總結了圖神經網絡的算法和理論基礎,廣泛介紹了各種圖神經網絡的前沿研究方向,并精選了10個圖神經網絡廣泛應用的行業(yè)。這是一本優(yōu)秀的深度學習教科書!
——熊輝
香港科技大學(廣州)講座教授,AAAS會員,IEEE會員
圖神經網絡是一個具有巨大潛力的研究方向,近年來受到廣泛關注。本書作者是該領域的學者,具有學術界和工業(yè)界的豐富實踐經驗。他們通過這本書從概念、算法到應用豐富介紹了圖神經網絡的相關技術。強烈推薦對這個領域感興趣的學生、工程師與研究人員閱讀!
——謝幸
微軟亞洲研究院首席研究員,CCF會士,IEEE會員
圖神經網絡是一類基于深度學習的處理圖結構數據的方法,在推薦系統、計算機視覺、生物制藥等眾多科學領域展現出了卓越的性能。本書由該領域的專業(yè)學者傾力打造,從圖神經網絡的理論基礎出發(fā),著重介紹了圖神經網絡的研究前沿和新興應用。圖神經網絡方興未艾,本書內容厚重,是從事該領域研究的科研人員和學生優(yōu)秀的參考書。
——文繼榮
中國人民大學教授,信息學院院長,高瓴人工智能學院執(zhí)行院長
圖機器學習是當前機器學習領域熱門的研究方向之一。本書針對圖神經網絡的基礎、發(fā)展、前沿以及應用進行細致介紹,是圖神經網絡領域值得深入學習的佳作。
、——陶大程
京東探索研究院院長,京東集團高級副總裁,澳大利亞科學院院士
圖神經網絡把深度學習和圖結構融合起來,是機器學習領域過去幾年重要的理論發(fā)展之一,在金融科技、搜索推薦、生物醫(yī)藥等領域有著廣泛和重要的應用。本書由該領域的專業(yè)學者編撰,是研究人員、學生和業(yè)界實踐者學習圖神經網絡的一本參考圖書。
——漆遠
復旦大學浩清教授、博導,AI3研究院院長,前阿里巴巴副總裁及螞蟻集團首席AI科學家
圖神經網絡是一個快速發(fā)展的領域。本書涉及圖神經網絡的概念、基礎和應用,非常適合對此領域感興趣的讀者閱讀。
——劉歡
亞利桑那州立大學教授,ACM會員,IEEE會員
圖神經網絡作為一種新興技術,近年來受到學術界和工業(yè)界的廣泛關注。本書由4位工作在此領域前沿的杰出學者編撰,內容涵蓋了圖神經網絡的基礎概念、技術、應用領域以及與產業(yè)結合的進展。受益于作者在該領域的深厚積累,本書為圖神經網絡研究人員提供了全局視角,既適合對此領域感興趣的初學者,其模塊化的結構也適合對該領域有一定積累的學者針對某一內容進行深入研究。
——林學民
上海交通大學講席教授,歐洲科學院院士,IEEE會員,AAIA會員
圖神經網絡已經成為圖數據分析處理的基本工具。本書深入介紹了圖神經網絡的基礎和研究前沿,可作為有關科研人員、開發(fā)者和師生的重要參考書。
——李飛飛
阿里巴巴集團副總裁,IEEE會員
圖神經網絡是當前AI領域的重要前沿方向之一,在學術界和工業(yè)界得到廣泛的關注和應用。本書由相關領域的專業(yè)學者編撰而成,系統性地總結了圖神經網絡領域的關鍵技術,內容涵蓋了圖神經網絡的基礎方法和前沿應用。2021年英文書出版時我就關注到這本書,現在很高興看到中文版即將出版。對于國內研究和應用圖神經網絡的專業(yè)人士和初學者來說,本書是一本很棒的參考書。
——崔斌
北京大學教授
圖神經網絡是對深度學習的重要拓展和延伸。本書由專業(yè)學者編著,系統地介紹了該領域的基礎問題、前沿算法和應用場景。編者對章節(jié)之間的邏輯關系給出了清晰的梳理和導讀,對初入該領域和具有一定基礎的讀者均具有重要的學習和參考價值。
——陳恩紅
中國科學技術大學大數據學院執(zhí)行院長
圖神經網絡是機器學習非常熱門的領域之一。本書是非常好的學習資源,內容涵蓋圖表征學習的廣泛主題和應用。
——Jure Leskovec
斯坦福大學副教授
圖神經網絡是一種新興的機器學習模型,已在科學和工業(yè)界掀起風暴。現在正是加入這一行動的時機——這本書無論對新人還是經驗豐富的從業(yè)者而言是很好的資源!書中的內容由這一領域的學者團隊精心撰寫而成。
——Petar Velikovi
DeepMind高級研究科學家
目錄
第 一部分 引言
第 1章 表征學習 2
1.1 導讀 2
1.2 不同領域的表征學習 3
1.2.1 用于圖像處理的表征學習 3
1.2.2 用于語音識別的表征學習 5
1.2.3 用于自然語言處理的表征學習 7
1.2.4 用于網絡分析的表征學習 8
1.3 小結 9
第 2章 圖表征學習 11
2.1 導讀 11
2.2 傳統圖嵌入方法 12
2.3 現代圖嵌入方法 13
2.3.1 保留圖結構和屬性的圖表征學習 13
2.3.2 帶有側面信息的圖表征學習 15
2.3.3 保留高級信息的圖表征學習 15
2.4 圖神經網絡 16
2.5 小結 17
第3章 圖神經網絡 18
3.1 導讀 18
3.2 圖神經網絡概述 19
3.2.1 圖神經網絡基礎 19
3.2.2 圖神經網絡前沿 20
3.2.3 圖神經網絡應用 22
3.2.4 本書組織結構 23
3.3 小結 24
第二部分 基礎
第4章 用于節(jié)點分類的圖神經網絡 28
4.1 背景和問題定義 28
4.2 有監(jiān)督的圖神經網絡 29
4.2.1 圖神經網絡的一般框架 29
4.2.2 圖卷積網絡 30
4.2.3 圖注意力網絡 32
4.2.4 消息傳遞神經網絡 33
4.2.5 連續(xù)圖神經網絡 33
4.2.6 多尺度譜圖卷積網絡 35
4.3 無監(jiān)督的圖神經網絡 37
4.3.1 變分圖自編碼器 37
4.3.2 深度圖信息最大化 39
4.4 過平滑問題 41
4.5 小結 42
第5章 圖神經網絡的表達能力 44
5.1 導讀 44
5.2 圖表征學習和問題的提出 47
5.3 強大的消息傳遞圖神經網絡 49
5.3.1 用于集合的神經網絡 49
5.3.2 消息傳遞圖神經網絡 50
5.3.3 MP-GNN的表達能力 51
5.3.4 具有1-WL測試能力的MP-GNN 53
5.4 比1-WL測試更強大的圖神經網絡架構 54
5.4.1 MP-GNN的局限性 54
5.4.2 注入隨機屬性 56
5.4.3 注入確定性距離屬性 61
5.4.4 建立高階圖神經網絡 65
5.5 小結 69
第6章 圖神經網絡的可擴展性 71
6.1 導讀 71
6.2 引言 72
6.3 抽樣范式 72
6.3.1 節(jié)點級抽樣 74
6.3.2 層級抽樣 76
6.3.3 圖級抽樣 79
6.4 大規(guī)模圖神經網絡在推薦系統中的應用 82
6.4.1 物品-物品推薦 82
6.4.2 用戶-物品推薦 83
6.5 未來的方向 84
第7章 圖神經網絡的可解釋性 86
7.1 背景:深度模型的可解釋性 86
7.1.1 可解釋性和解釋的定義 86
7.1.2 解釋的價值 87
7.1.3 傳統的解釋方法 88
7.1.4 機遇與挑戰(zhàn) 90
7.2 圖神經網絡的解釋方法 90
7.2.1 背景 91
7.2.2 基于近似的解釋 92
7.2.3 基于相關性傳播的解釋 95
7.2.4 基于擾動的解釋 96
7.2.5 生成式解釋 97
7.3 圖神經網絡的可解釋模型 97
7.3.1 基于GNN的注意力模型 98
7.3.2 圖上的解耦化表征學習 100
7.4 圖神經網絡解釋的評估 101
7.4.1 基準數據集 101
7.4.2 評價指標 103
7.5 未來的方向 103
第8章 圖神經網絡的對抗魯棒性 105
8.1 動機 105
8.2 圖神經網絡的局限性:對抗性樣本 107
8.2.1 對抗性攻擊的分類 107
8.2.2 擾動的影響和一些啟示 110
8.2.3 討論和未來的方向 112
8.3 可證明的魯棒性:圖神經網絡的認證 113
8.3.1 特定模型的認證 113
8.3.2 模型無關的認證 115
8.3.3 高級認證和討論 116
8.4 提高圖神經網絡的魯棒性 117
8.4.1 改進圖 117
8.4.2 改進訓練過程 118
8.4.3 改進圖神經網絡的架構 120
8.4.4 討論和未來的方向 121
8.5 從魯棒性的角度進行適當評估 122
8.6 小結 124
第三部分 前沿
第9章 圖分類 128
9.1 導讀 128
9.2 用于圖分類的圖神經網絡:典型工作和現代架構 129
9.2.1 空間方法 129
9.2.2 頻譜方法 132
9.3 池化層:從節(jié)點級輸出學習圖級輸出 133
9.3.1 基于注意力的池化層 134
9.3.2 基于聚類的池化層 134
9.3.3 其他池化層 134
9.4 圖神經網絡和高階層在圖分類中的局限性 135
9.5 圖神經網絡在圖分類中的應用 137
9.6 基準數據集 137
9.7 小結 138
第 10章 鏈接預測 139
10.1 導讀 139
10.2 傳統的鏈接預測方法 140
10.2.1 啟發(fā)式方法 140
10.2.2 潛在特征方法 143
10.2.3 基于內容的方法 145
10.3 基于GNN的鏈接預測方法 145
10.3.1 基于節(jié)點的方法 145
10.3.2 基于子圖的方法 147
10.3.3 比較基于節(jié)點的方法和基于子圖的方法 150
10.4 鏈接預測的理論 151
10.4.1 γ–衰減啟發(fā)式理論 151
10.4.2 貼標簽技巧 155
10.5 未來的方向 158
10.5.1 加速基于子圖的方法 158
10.5.2 設計更強大的貼標簽技巧 159
10.5.3 了解何時使用獨熱特征 159
第 11章 圖生成 160
11.1 導讀 160
11.2 經典的圖生成模型 160
11.3 深度圖生成模型 163
11.4 小結 178
第 12章 圖轉換 179
12.1 圖轉換問題的形式化 179
12.2 節(jié)點級轉換 180
12.3 邊級轉換 182
12.4 節(jié)點-邊共轉換 186
12.5 其他基于圖的轉換 193
12.6 小結 196
第 13章 圖匹配 197
13.1 導讀 197
13.2 圖匹配學習 198
13.3 圖相似性學習 205
13.4 小結 210
第 14章 圖結構學習 211
14.1 導讀 211
14.2 傳統的圖結構學習 212
14.3 圖神經網絡的圖結構學習 215
14.4 未來的方向 226
14.5 小結 227
第 15章 動態(tài)圖神經網絡 228
15.1 導讀 228
15.2 背景和表示法 229
15.3 動態(tài)圖的類型 233
15.4 用圖神經網絡對動態(tài)圖進行建模 236
15.5 應用 242
15.6 小結 247
第 16章 異質圖神經網絡 248
16.1 HGNN簡介 248
16.2 淺層模型 251
16.3 深度模型 254
16.4 回顧 259
16.5 未來的方向 259
第 17章 自動機器學習 262
17.1 背景 262
17.2 搜索空間 265
17.3 搜索算法 269
17.4 未來的方向 273
第 18章 自監(jiān)督學習 275
18.1 導讀 275
18.2 自監(jiān)督學習概述 276
18.3 將SSL應用于圖神經網絡:對訓練策略、損失函數和代理任務進行分類 277
18.4 節(jié)點級代理任務 283
18.5 圖級代理任務 287
18.6 節(jié)點-圖級代理任務 293
18.7 討論 294
18.8 小結 295
第四部分 廣泛和新興的應用
第 19章 現代推薦系統中的圖神經網絡 298
19.1 圖神經網絡在推薦系統中的實踐 298
19.2 案例研究1:動態(tài)的GNN學習 304
19.3 案例研究2:設備-云協作的GNN學習 309
19.4 未來的方向 313
第 20章 計算機視覺中的圖神經網絡 315
20.1 導讀 315
20.2 將視覺表征為圖 316
20.3 案例研究1:圖像 318
20.4 案例研究2:視頻 320
20.5 其他相關工作:跨媒體 322
20.6 圖神經網絡在計算機視覺中的前沿問題 324
20.7 小結 326
第 21章 自然語言處理中的圖神經網絡 327
21.1 導讀 327
21.2 將文本建模為圖 329
21.3 案例研究1:基于圖的文本聚類和匹配 332
21.4 案例研究2:基于圖的多跳閱讀理解 335
21.5 未來的方向 338
21.6 小結 339
第 22章 程序分析中的圖神經網絡 341
22.1 導讀 341
22.2 程序分析中的機器學習 342
22.3 程序的圖表征 343
22.4 用于程序圖的圖神經網絡 345
22.5 案例研究1:檢測變量誤用缺陷 346
22.6 案例研究2:預測動態(tài)類型化語言中的類型 348
22.7 未來的方向 350
第 23章 軟件挖掘中的圖神經網絡 352
23.1 導讀 352
23.2 將軟件建模為圖 353
23.3 相關的軟件挖掘任務 355
23.4 軟件挖掘任務實例:源代碼總結 357
23.5 小結 364
第 24章 藥物開發(fā)中基于圖神經網絡的生物醫(yī)學知識圖譜挖掘 366
24.1 導讀 366
24.2 現有的生物醫(yī)學知識圖譜 367
24.3 知識圖譜的推理 369
24.4 藥物開發(fā)中基于KG的假設生成 374
24.5 未來的方向 376
第 25章 預測蛋白質功能和相互作用的圖神經網絡 383
25.1 從蛋白質的相互作用到功能簡介 383
25.2 三個典型的案例研究 387
25.3 未來的方向 393
第 26章 異常檢測中的圖神經網絡 395
26.1 導讀 395
26.2 基于GNN的異常檢測的問題 397
26.3 流水線 400
26.4 分類法 403
26.5 案例研究 404
26.6 未來的方向 409
第 27章 智慧城市中的圖神經網絡 410
27.1 用于智慧城市的圖神經網絡 410
27.2 未來的方向 419
參考文獻 420
查看全部↓