为了解决这个问题,自监督学习(Self-supervised Learning,SSL)正在成为一种全新的范式,通过精心设计的代理任务来提取富含语义信息的知识,而不依赖人工标注的数据。在本综述中,我们扩展了最早出现在计算机视觉和自然语言处理领域的自监督学习,对现有的图自监督学习(Graph Self-supervised Learning,Graph SSL)技术进行了及时...
E. Buchatskaya, C. Doersch, B. Avila Pires, Z. Guo, M. Ghesh- laghi Azar, B. Piot, k. kavukcuoglu, R. Munos, and M. Valko, “Bootstrap your own latent - a new approach to self-supervised learning,” in NeurIPS, vol. 33, 2020, pp. 21 271–21 284. ...
【图深度自监督学习Philips S. Yu团队重磅新作】Graph Self-Supervised Learning: A Survey,程序员大本营,技术文章内容聚合第一站。
Self-supervised learning on graphs: Deep insights and new direction. arxiv preprint. Classification-based Approach(C-APP) C-APP 依赖伪标签进行快速的模型训练。 Multi-stage self-supervised learning for graph convolutional networks on graphs with few labeled nodes. AAAI, 2020. Deep clustering for unsu...
step-1: View generation 我们首先为所有节点提取局部子图, 其中子图可以是r−hopegor−hopego(即每个节点周围的生成子图) 或由从每个节点开始的一组随机游走序列生成的子图. 实际上, 不同的选择不会显著影响结果, 并且RW(随机游走)对于密集图更有效. LetS={S1,S2,...,SN}S={S1,S2,...,SN}是为...
本文旨在探索自监督学习（Self-supervised Learning, SSL）在用户-物品二部图推荐系统中的应用，以增强模型训练学习过程。通过自监督学习，我们旨在学习更为鲁棒的节点表示，尤其强调通过图结构数据增强生成节点的多个视图，最大化同一节点不同视图间的一致性（正样本对），同时最小化不同节点视图间的一致性...
In this paper, we propose a novel self-supervised graph representation learning model with variational inference. First, we strengthen the semantic relation between node and graph level in a self-supervised manner to alleviate the issue of over-dependence on data labels. Second, we utilize the ...
3.节点表示容易收到噪声交互的影响。在本文中作者通过在用户-物品图上引入自监督学习来改善GCN在推荐系统上的准确率和鲁棒性,将其称为Self-supervised Graph Learning(SGL),并应用在LightGCN模型上。SGL是模型无关的,并通过辅助自监督任务来补充监督任务中的信息以达成上述目的。
论文题目:Self-Supervised Learning of Graph Neural Networks: A Unified Review 论文地址:https://arxiv.org/abs/2102.10757 1 Introduction 可以将SSL的前置任务分为两类:对比模型和预测模型。 两类的主要区别在于对比模型需要data-data对进行训练,而预测模型需要data-label对,其中label时从数据中自行生成的,如图1...
Graph Self-Supervised Learning: A Surveyieeexplore.ieee.org/abstract/document/9770382 PDF: https://arxiv.org/pdf/2103.00111.pdfarxiv.org/pdf/2103.00111.pdf 1. 背景与概括 图的深度学习作为一个热门领域引起了广泛的研究兴趣,但是由于当前研究大多集中在半监督或者监督学习上,存在标签依赖严重、泛...