在图学习领域,由于图(Graph)数据也存在缺少标签或难以标注的问题,自 2020 年来,研究者们也着力于将对比学习技术应用于图表示学习任务上,取得了十分不错的效果,这一系列算法研究称为 图对比学习(Graph Contrastive Learning)。由于图是一种离散的数据结构,且一些常见的图学习任务中,数据之间往往存在紧密的关联(如链接...
图自监督学习是一种有效训练图神经网络模型的方式,通过一个预定义的预训练任务(pretext task),图自监督学习的目的则是以无监督的方式训练一个泛化性较强的图编码器,能够泛化到不同的图下游任务中,从而减少对标签样本的依赖。其中,图对比学习是图自监督学习的一个主流分支,采用了数据增强+对比的方式训练图神经网络。
Visualization of molecular representations learned by MolClr via t-SNe. 本文研究了分子表征的自监督学习。具体来说,研究者提出了通过GNN和三种分子图增强策略:原子掩蔽、键删除和子图删除来进行表征的分子对比学习。通过对比增强中的正对和负对,MolCLR学习了一般GNN主干的信息表示。实验表明,MolCLR预训练的GNN模型在...
Visualization of molecular representations learned by MolClr via t-SNe. 本文研究了分子表征的自监督学习。具体来说,研究者提出了通过GNN和三种分子图增强策略:原子掩蔽、键删除和子图删除来进行表征的分子对比学习。通过对比增强中的正对和负对,MolCLR学习了一般GNN主干的信息表示。实验表明,MolCLR预训练的GNN模型在...
近日,Bengio 大神带领其团队发布了新的图神经网络对比基准测试框架以及附带的 6 个标准化数据集。大家可以开始尽情刷榜了! 论文链接: https://arxiv.org/pdf/2003.00982.pdf 开源链接: https://github.com/graphdeeplearning/benchmarking-gnns 时至今日,图神经网络已经成为了分析图数据并且进行学习的标准工具,被成...
结合图神经网络和对比学习的药物-靶点预测方法及系统.pdf,本发明公开了结合图神经网络和对比学习的药物‑靶点预测方法及系统,本发明不仅考虑了药物蛋白质的宏观信息和微观信息,还通过构建药物蛋白质对的语义图来捕获药物和蛋白质之间全面而深刻的关系,最后通过一种对比
文章旨在解决现有图神经网络方法严重依赖标注样本的问题,提出MERIT方法,基于图自监督学习和BYOL[Grill et al., 2020]的思想,利用online和target network在2个对比视图上进行对比学习,设计了cross-netowrk(对比online和target network的输出)和cross-view(对比同一个network中2个不同视图的输出)来学习可以使下游任务受益...
因此,本文提出了一种基于对比学习的全局增强动态异质图神经网络。 1.引言 随着社交网络、推荐系统和生物信息学等领域的发展,图数据的应用越来越广泛。图数据通常具有动态性和异质性的特点,这给传统的神经网络带来了挑战。为了更好地对动态异质图数据进行建模和学习,我们提出了一种采用对比学习的全局增强动态异质图神经...
具体来说,我们在关系级和元图级设计了预训练任务,并通过对比学习进一步增强了它们的代表性。在关系级别,通过区分最简单的异质图边来捕捉相对应的语义信息;在元图级别,构建不同的元图实例来捕捉对应的语义信息。 论文名称: Contrastive Pre-Training of GNNs on Heterogeneous Graphs 会议: CIKM2021 论文链接: https:/...
第一部分通过浅层神经网络，来介绍深度学习中的一些概念；第二部分将介绍图卷积网络。在其大致框架与浅...