最美情侣中文字幕电影,在线麻豆精品传媒,在线网站高清黄,久久黄色视频

歡迎光臨散文網(wǎng) 會(huì)員登陸 & 注冊(cè)

SimGRACE: A Simple Framework for Graph Contrastive Learning with

2023-03-16 23:58 作者:blgpb  | 我要投稿

這篇論文發(fā)表于WWW 2022

論文地址:https://arxiv.org/pdf/2202.03104.pdf

作者認(rèn)為現(xiàn)在的圖對(duì)比學(xué)習(xí)中的增廣操作主要有3種方式:

  1. 通過試錯(cuò)對(duì)每個(gè)數(shù)據(jù)集手動(dòng)選擇增強(qiáng)方式

  2. 通過繁瑣的搜索來選擇增強(qiáng)

  3. 通過引入昂貴的特定領(lǐng)域知識(shí)作為指導(dǎo)來獲得增強(qiáng)

以上3種方法都限制了現(xiàn)有GCL方法的效率和更普遍的適用性。為了避免這些關(guān)鍵問題,作者提出了一個(gè)簡(jiǎn)單的圖對(duì)比學(xué)習(xí)框架,簡(jiǎn)稱SimGRACE,它不需要數(shù)據(jù)擴(kuò)充。具體來說,作者將原始圖作為輸入,將原始GNN和具有擾動(dòng)版本的GNN模型作為兩個(gè)編碼器,以獲得兩個(gè)視圖進(jìn)行對(duì)比。SimGRACE的靈感來自于這樣一個(gè)觀察,即圖數(shù)據(jù)可以在編碼器擾動(dòng)期間很好地保持其語義,而不需要手動(dòng)試錯(cuò)、繁瑣的搜索或昂貴的領(lǐng)域知識(shí)來進(jìn)行擴(kuò)充選擇。而且解釋了為什么SimGRACE能夠成功。此外,作者設(shè)計(jì)對(duì)抗性訓(xùn)練計(jì)劃,被稱為AT-SimGRACE,以增強(qiáng)圖對(duì)比學(xué)習(xí)的穩(wěn)健性并從理論上解釋了原因。盡管很簡(jiǎn)單,但證明了SimGRACE可以

與最先進(jìn)的方法在可推廣性、可轉(zhuǎn)移性和魯棒性方面相當(dāng)或者更好,同時(shí)享有前所未有的靈活性和效率。

例如,GraphCL首先為GCL設(shè)計(jì)了四種類型的通用增強(qiáng)(節(jié)點(diǎn)丟棄、邊緣擾動(dòng)、屬性屏蔽和子圖)。然而,這些增強(qiáng)并不適用于所有場(chǎng)景,因?yàn)閳D的結(jié)構(gòu)信息和語義在各個(gè)領(lǐng)域之間差異很大。例如,GraphCL發(fā)現(xiàn)邊緣擾動(dòng)有利于社交網(wǎng)絡(luò),但會(huì)損害GCL中的一些生物化學(xué)分子。更糟糕的是,即使擾動(dòng)很弱,這些擴(kuò)充也可能完全改變圖的語義。例如,在苯環(huán)中丟棄一個(gè)碳原子將改變芳香系統(tǒng)并產(chǎn)生烯烴鏈,這將大大改變分子的性質(zhì)。為了解決這些問題,最近提出了若干策略。通常,GraphCL通過繁瑣的嘗試和錯(cuò)誤手動(dòng)選擇每個(gè)數(shù)據(jù)集的數(shù)據(jù)增強(qiáng),這大大限制了他們提出的框架的通用性和實(shí)用性。為了擺脫GraphCL的繁瑣的數(shù)據(jù)集特定手動(dòng)調(diào)整,JOAO[53]提出在選擇擴(kuò)充對(duì)時(shí)自動(dòng)化GraphCL。


SimGRACE: A Simple Framework for Graph Contrastive Learning with的評(píng)論 (共 條)

分享到微博請(qǐng)遵守國家法律
汝南县| 鹿邑县| 渝北区| 兰考县| 乌兰察布市| 银川市| 兴隆县| 临湘市| 高雄县| 汉源县| 昌乐县| 霍林郭勒市| 竹北市| 田林县| 黄山市| 阿勒泰市| 乌兰察布市| 新丰县| 吴川市| 安吉县| 博客| 枣庄市| 轮台县| 仙游县| 浙江省| 甘肃省| 宁明县| 临沭县| 通道| 大港区| 吉林省| 南召县| 遂溪县| 铜鼓县| 宣武区| 习水县| 清苑县| 玛沁县| 常德市| 灌南县| 东城区|