鏈接：https://pan.baidu.com/s/1ch7UbV_TrYbdSyCV2-g1nw?pwd=ou4j?

提取碼：ou4j

知識(shí)就是力量，人工智能想要讓計(jì)算機(jī)像人一樣思考，同樣需要知識(shí)的力量。計(jì)算機(jī)實(shí)現(xiàn)人工智能需要哪些知識(shí)，這些知識(shí)要如何表示、獲取、計(jì)算以及使用，都是人工智能的重要研究課題。知識(shí)圖譜作為人類知識(shí)結(jié)構(gòu)化形成的知識(shí)系統(tǒng)，是人工智能研究和智能信息服務(wù)的基礎(chǔ)核心技術(shù)，被廣泛應(yīng)用于搜索引擎、問(wèn)答系統(tǒng)、智能對(duì)話系統(tǒng)以及個(gè)性化推薦等知識(shí)驅(qū)動(dòng)的領(lǐng)域。

為了更好地向讀者闡述知識(shí)智能方面的z新研究成果，作者整理出版了這部專著。本書內(nèi)容包括語(yǔ)言知識(shí)和世界知識(shí)兩種類型知識(shí)，以及這兩類知識(shí)在表示學(xué)習(xí)、自動(dòng)獲取與計(jì)算應(yīng)用方面的z新探索。作為數(shù)據(jù)智能與知識(shí)智能的前沿研究方向，知識(shí)圖譜與深度學(xué)習(xí)的融合互動(dòng)是人工智能的重要發(fā)展趨勢(shì)，本書對(duì)此做了全面梳理。作者希望能夠得到業(yè)內(nèi)專家指正，也希望能夠吸引更多志同道合之士，共同探討未來(lái)專業(yè)發(fā)展方向。

內(nèi)容簡(jiǎn)介

知識(shí)圖譜旨在將人類知識(shí)組織成結(jié)構(gòu)化知識(shí)系統(tǒng)，是人工智能實(shí)現(xiàn)真正意義的理解、記憶與推理的重要基礎(chǔ)。知識(shí)圖譜作為典型的符號(hào)表示系統(tǒng)，如何有效用于機(jī)器學(xué)習(xí)算法，面臨著知識(shí)表示、知識(shí)獲取和計(jì)算推理等方面的諸多挑戰(zhàn)。近年來(lái)，以神經(jīng)網(wǎng)絡(luò)為代表的深度學(xué)習(xí)技術(shù)引發(fā)了人工智能的新一輪浪潮。

本書介紹了作者團(tuán)隊(duì)在知識(shí)圖譜與深度學(xué)習(xí)方面的研究成果，展現(xiàn)了數(shù)據(jù)驅(qū)動(dòng)的深度學(xué)習(xí)與符號(hào)表示的知識(shí)圖譜之間相互補(bǔ)充和促進(jìn)的技術(shù)趨勢(shì)。本書內(nèi)容對(duì)于人工智能基礎(chǔ)研究具有一定的參考意義，既適合專業(yè)人士了解知識(shí)圖譜、深度學(xué)習(xí)和人工智能的前沿?zé)狳c(diǎn)，也適合對(duì)人工智能感興趣的本科生和研究生作為學(xué)習(xí)讀物。

作者簡(jiǎn)介

劉知遠(yuǎn)

清華大學(xué)計(jì)算機(jī)系副教授、博士生導(dǎo)師。主要研究方向?yàn)楸硎緦W(xué)習(xí)、知識(shí)圖譜和社會(huì)計(jì)算。2011年獲得清華大學(xué)博士學(xué)位，已在ACL、IJCAI、AAAI等人工智能領(lǐng)域的著名國(guó)際期刊和會(huì)議發(fā)表相關(guān)論文60余篇，谷歌學(xué)術(shù)引用超過(guò)7 000次。博士論文曾被評(píng)為清華大學(xué)優(yōu)秀博士學(xué)位論文、中國(guó)人工智能學(xué)會(huì)優(yōu)秀博士學(xué)位論文。曾被評(píng)為清華大學(xué)優(yōu)秀博士后，獲得過(guò)中文信息學(xué)會(huì)青年創(chuàng)新獎(jiǎng)，入選《麻省理工科技評(píng)論》“35歲以下科技創(chuàng)新35人”中國(guó)區(qū)榜單（MIT TR-35 China）、中國(guó)科學(xué)技術(shù)協(xié)會(huì)青年人才托舉工程、中國(guó)計(jì)算機(jī)學(xué)會(huì)青年學(xué)者提升計(jì)劃。多次擔(dān)任ACL、EMNLP、COLING、IJCNLP等著名國(guó)際會(huì)議的領(lǐng)域主席。

韓旭

清華大學(xué)計(jì)算機(jī)系博士生，主要研究方向?yàn)樽匀徽Z(yǔ)言處理、知識(shí)圖譜、信息抽取。在AAAI、ACL、EMNLP、COLING、NAACL等人工智能領(lǐng)域的著名國(guó)際會(huì)議上發(fā)表多篇論文，是OpenKE、OpenNRE等開源項(xiàng)目的開發(fā)者之一。

孫茂松

清華大學(xué)計(jì)算機(jī)系長(zhǎng)聘教授，清華大學(xué)人工智能研究院常務(wù)副院長(zhǎng)，清華大學(xué)計(jì)算機(jī)學(xué)位評(píng)定分委員會(huì)主席。主要研究方向?yàn)樽匀徽Z(yǔ)言理解、中文信息處理、Web智能、社會(huì)計(jì)算和計(jì)算教育學(xué)等。國(guó)家重點(diǎn)基礎(chǔ)研究發(fā)展計(jì)劃（“973”計(jì)劃）首席科學(xué)家，國(guó)家社會(huì)科學(xué)基金重大項(xiàng)目首席專家。在重要國(guó)際刊物、國(guó)際會(huì)議、國(guó)內(nèi)核心刊物上發(fā)表論文200余篇，谷歌學(xué)術(shù)引用9 000余次。2013年帶領(lǐng)團(tuán)隊(duì)成功研制并發(fā)布了全球第1個(gè)向全社會(huì)免費(fèi)開放的中文慕課平臺(tái)“學(xué)堂在線”，目前注冊(cè)用戶已超過(guò)2 000萬(wàn)人。2017年領(lǐng)銜研制出“九歌”人工智能詩(shī)歌寫作系統(tǒng)，引起了社會(huì)關(guān)注。主要兼職包括教育部教學(xué)信息化與教學(xué)方法創(chuàng)新指導(dǎo)委員會(huì)副主任委員，互聯(lián)網(wǎng)教育智能技術(shù)及應(yīng)用國(guó)家工程實(shí)驗(yàn)室副主任，中國(guó)科學(xué)技術(shù)協(xié)會(huì)第九屆全國(guó)委員會(huì)委員，中國(guó)中文信息學(xué)會(huì)第六屆、第七屆副理事長(zhǎng)，《中文信息學(xué)報(bào)》主編。2016年獲“全國(guó)優(yōu)秀科技工作者”及“首都市民學(xué)習(xí)之星”稱號(hào)。

目錄

第1 章緒論.1

1.1 知識(shí)圖譜簡(jiǎn)介2

1.2 深度學(xué)習(xí)的優(yōu)勢(shì)和挑戰(zhàn)4

1.3 深度學(xué)習(xí)+ 知識(shí)圖譜=1 .8

1.3.1 知識(shí)的表示學(xué)習(xí)9

1.3.2 知識(shí)的自動(dòng)獲取10

1.3.3 知識(shí)的計(jì)算應(yīng)用13

1.4 本書結(jié)構(gòu)14

1.5 本章總結(jié)14

第一篇世界知識(shí)圖譜

第2 章世界知識(shí)的表示學(xué)習(xí)19

2.1 章節(jié)引言19

2.2 相關(guān)工作20

2.2.1 知識(shí)表示學(xué)習(xí)經(jīng)典模型20

2.2.2 平移模型及其拓展模型22

2.3 基于復(fù)雜關(guān)系建模的知識(shí)表示學(xué)習(xí)25

2.3.1 算法模型.25

2.3.2 實(shí)驗(yàn)分析.26

2.3.3 小結(jié)32

2.4 基于關(guān)系路徑建模的知識(shí)表示學(xué)習(xí)32

2.4.1 算法模型.32

2.4.2 實(shí)驗(yàn)分析.34

2.4.3 小結(jié)39

vi j 知識(shí)圖譜與深度學(xué)習(xí)

2.5 基于屬性關(guān)系建模的知識(shí)表示學(xué)習(xí)39

2.5.1 算法模型.40

2.5.2 實(shí)驗(yàn)分析.41

2.5.3 小結(jié)44

2.6 融合實(shí)體描述信息的知識(shí)表示學(xué)習(xí)44

2.6.1 算法模型.45

2.6.2 實(shí)驗(yàn)分析.47

2.6.3 小結(jié)54

2.7 融合層次類型信息的知識(shí)表示學(xué)習(xí)55

2.7.1 算法模型.55

2.7.2 實(shí)驗(yàn)分析.57

2.7.3 小結(jié)62

2.8 融合實(shí)體圖像信息的知識(shí)表示學(xué)習(xí)62

2.8.1 算法模型.63

2.8.2 實(shí)驗(yàn)分析.64

2.8.3 小結(jié)68

2.9 本章總結(jié)68

第3 章世界知識(shí)的自動(dòng)獲取70

3.1 章節(jié)引言70

3.2 相關(guān)工作71

3.2.1 有監(jiān)督的關(guān)系抽取模型71

3.2.2 遠(yuǎn)程監(jiān)督的關(guān)系抽取模型.72

3.3 基于選擇性注意力機(jī)制的關(guān)系抽取73

3.3.1 算法模型.74

3.3.2 實(shí)驗(yàn)分析.78

3.3.3 小結(jié)82

3.4 基于關(guān)系層次注意力機(jī)制的關(guān)系抽取83

3.4.1 算法模型.83

目錄j vii

3.4.2 實(shí)驗(yàn)分析.86

3.4.3 小結(jié)89

3.5 基于選擇性注意力機(jī)制的多語(yǔ)言關(guān)系抽取.89

3.5.1 算法模型.90

3.5.2 實(shí)驗(yàn)分析.93

3.5.3 小結(jié)98

3.6 引入對(duì)抗訓(xùn)練的多語(yǔ)言關(guān)系抽取98

3.6.1 算法模型.99

3.6.2 實(shí)驗(yàn)分析.103

3.6.3 小結(jié)106

3.7 基于知識(shí)圖譜與文本互注意力機(jī)制的知識(shí)獲取.106

3.7.1 算法模型.107

3.7.2 實(shí)驗(yàn)分析.112

3.7.3 小結(jié)117

3.8 本章總結(jié)118

第4 章世界知識(shí)的計(jì)算應(yīng)用119

4.1 章節(jié)引言119

4.2 細(xì)粒度實(shí)體分類120

4.2.1 算法模型.120

4.2.2 實(shí)驗(yàn)分析.122

4.2.3 小結(jié)129

4.3 實(shí)體對(duì)齊129

4.3.1 算法模型.129

4.3.2 實(shí)驗(yàn)分析.132

4.3.3 小結(jié)135

4.4 融入知識(shí)的信息檢索.136

4.4.1 算法模型.136

4.4.2 實(shí)驗(yàn)分析.138

4.4.3 小結(jié)143

viii j 知識(shí)圖譜與深度學(xué)習(xí)

4.5 本章總結(jié)143

第二篇語(yǔ)言知識(shí)圖譜

第5 章語(yǔ)言知識(shí)的表示學(xué)習(xí)147

5.1 章節(jié)引言147

5.2 相關(guān)工作148

5.2.1 詞表示學(xué)習(xí)148

5.2.2 詞義消歧.149

5.3 義原的表示學(xué)習(xí)149

5.3.1 算法模型.149

5.3.2 實(shí)驗(yàn)分析.152

5.3.3 小結(jié)155

5.4 基于義原的詞表示學(xué)習(xí)156

5.4.1 算法模型.156

5.4.2 實(shí)驗(yàn)分析.159

5.4.3 小結(jié)164

5.5 本章總結(jié)164

第6 章語(yǔ)言知識(shí)的自動(dòng)獲取166

6.1 章節(jié)引言166

6.2 相關(guān)工作167

6.2.1 知識(shí)圖譜及其構(gòu)建167

6.2.2 子詞和字級(jí)NLP 167

6.2.3 詞表示學(xué)習(xí)及跨語(yǔ)言的詞表示學(xué)習(xí)167

6.3 基于協(xié)同過(guò)濾和矩陣分解的義原預(yù)測(cè)168

6.3.1 算法模型.168

6.3.2 實(shí)驗(yàn)分析.171

6.3.3 小結(jié)175

6.4 融入中文字信息的義原預(yù)測(cè)175

6.4.1 算法模型.176

目錄j ix

6.4.2 實(shí)驗(yàn)分析.179

6.4.3 小結(jié)183

6.5 跨語(yǔ)言詞匯的義原預(yù)測(cè)183

6.5.1 算法模型.184

6.5.2 實(shí)驗(yàn)分析.188

6.5.3 小結(jié)194

6.6 本章總結(jié)194

第7 章語(yǔ)言知識(shí)的計(jì)算應(yīng)用195

7.1 章節(jié)引言195

7.2 義原驅(qū)動(dòng)的詞典擴(kuò)展.196

7.2.1 相關(guān)工作.196

7.2.2 任務(wù)設(shè)定.198

7.2.3 算法模型.199

7.2.4 實(shí)驗(yàn)分析.202

7.2.5 小結(jié)207

7.3 義原驅(qū)動(dòng)的神經(jīng)語(yǔ)言模型.207

7.3.1 相關(guān)工作.208

7.3.2 任務(wù)設(shè)定.209

7.3.3 算法模型.210

7.3.4 實(shí)驗(yàn)分析.213

7.3.5 小結(jié)219

7.4 本章總結(jié)219

第8 章總結(jié)與展望220

8.1 本書總結(jié)220

8.2 未來(lái)展望221

8.2.1 更全面的知識(shí)類型221

8.2.2 更復(fù)雜的知識(shí)結(jié)構(gòu)222

8.2.3 更有效的知識(shí)獲取223

8.2.4 更強(qiáng)大的知識(shí)指導(dǎo)223

x j 知識(shí)圖譜與深度學(xué)習(xí)

8.2.5 更精深的知識(shí)推理224

8.3 結(jié)束語(yǔ)224

相關(guān)開源資源226

參考文獻(xiàn)228

后記.243

查看全部↓

前言/序言

知識(shí)就是力量。

||[英]弗蘭西斯￠ 培根

知識(shí)能夠豐富人的思想，能夠讓人更聰明。我們通過(guò)思考，獲得知識(shí)就能解決我們

從前所不知道的很多問(wèn)題。這時(shí)，知識(shí)就是一種力量。而人工智能想要讓計(jì)算機(jī)像人一

樣思考，同樣需要知識(shí)的力量。計(jì)算機(jī)實(shí)現(xiàn)人工智能需要哪些知識(shí)，這些知識(shí)又要如何

表示，如何獲取，如何計(jì)算，以及如何使用，都是人工智能的重要研究課題。

近年來(lái)，深度學(xué)習(xí)技術(shù)大放異彩，極大地提升了自然語(yǔ)言處理、計(jì)算機(jī)視覺(jué)等人工

智能任務(wù)的性能。我們應(yīng)當(dāng)辯證地看待深度學(xué)習(xí)技術(shù)的歷史地位。一方面，它充分利用

人工神經(jīng)網(wǎng)絡(luò)的分布式表示能力和層次結(jié)構(gòu)泛化能力，從大規(guī)模訓(xùn)練數(shù)據(jù)中自動(dòng)學(xué)習(xí)，

顯著提升了對(duì)無(wú)結(jié)構(gòu)文本、圖像、語(yǔ)音數(shù)據(jù)背后語(yǔ)義信息的表示與學(xué)習(xí)性能，將數(shù)據(jù)驅(qū)

動(dòng)方法推向新的高度；另一方面，我們也認(rèn)識(shí)到，深度學(xué)習(xí)從大規(guī)模數(shù)據(jù)中自動(dòng)學(xué)習(xí)任

務(wù)模式和語(yǔ)義信息，既受到大數(shù)據(jù)長(zhǎng)尾分布的制約，也無(wú)法真正理解這些模式與語(yǔ)義，

缺少可解釋性；近年來(lái)的研究也表明，深度學(xué)習(xí)技術(shù)無(wú)法有效應(yīng)對(duì)有針對(duì)性的攻擊樣例，