Simple Graph Contrastive Learning method(SimGCL)可以平稳地调节统一性,并提供信息性的差异, 两个原因可能解释了lightGCN高度聚类的特征分布:LightGCN的信息传递机制--随着层数的增加,节点嵌入变得局部相似,推荐数据中的流行偏向。 SGLED在理论上花费了较少的时间来进行图卷积,这个好处可能会抵消SimGCL在构建邻接矩阵...
Imposing different random noises creates variance between contrastive views, while the learnable invariance is still retained due to the controlled magnitude(这句话比较经典).这种方式和图增强的方式相比较,添加噪音的方式正则化embedding space,向着更均匀的方向正则化,这是很容易实现的而且效率高得多。 The major...
通过调整𝜖的值,我们可以直接控制增强表示与原始表示的偏离程度。直观地说,一个更大的𝜖将导致学习表示的更大致均匀的分布,因为当增强表示离原始表示足够远时,其表示中的信息也会受到噪声的显著影响。由于噪声是从均匀分布中采样的,通过对比增广表示,原始表示被正则化为更高的一致性。作者提出了以下的实验分析来证...
论文标题:Are Graph Augmentations Necessary? Simple Graph Contrastive Learning for Recommendation论文作者:Junliang Yu, H. Yin, Xin Xia, Tong Chen, Li-zhen Cui, Quoc Viet Hung Nguyen论文来源:SIGIR 2022论文地址:download 论文代码:download 1 Introduction本文是针对图对比学习在推荐系统中的应用而提出的...
XSimGCL: Towards Extremely Simple Graph Contrastive Learning for Recommendation XSimGCL: 面向极简图对比学习的推荐框架 来源:TKDE 2022 摘要:本文是SIGIR 2022 SimGCL的改良版,为同一作者所著。在本文中,作者质疑了对比学习作为推荐的辅助任务使用管道方法与推荐主任务分离的必要性,并提出了XSimGCL框架,该框架取消...
4、对比损失函数(contrastive loss function)。 给定 batchbatch 中一组生成的视图 {˜xk}{x~k},其中包括一对正例 ˜xix~i 和˜xjx~j ,对比预测任务旨在对给定 ˜xix~i 识别{˜xj}k≠i{x~j}k≠i 中的˜xjx~j。随机抽取 NN 个样本的小批量样本,并在从小批量样本上生成增强视图,从而产生 2...
例如,GraphCL首先为GCL设计了四种类型的通用增强(节点丢弃、边缘扰动、属性屏蔽和子图)。然而,这些增强并不适用于所有场景,因为图的结构信息和语义在各个领域之间差异很大。例如,GraphCL发现边缘扰动有利于社交网络,但会损害GCL中的一些生物化学分子。更糟糕的是,即使扰动很弱,这些扩充也可能完全改变图的语义。例如,在...
论文标题:Are Graph Augmentations Necessary? Simple Graph Contrastive Learning for Recommendation 论文作者:Junliang Yu, H. Yin, Xin Xia, Tong Chen, Li-zhen Cui, Quoc Viet Hung Nguyen 论文来源:SIGIR 2022 论文地址:download 论文代码:download
论文信息论文标题:Simple Contrastive Graph Clustering论文作者:Yue Liu, Xihong Yang, Sihang Zhou, Xinwang Liu论文来源:2022,arXiv论文地址:download 论文代码:download1 Introduction 贡献:提出了一种简单的对比深度图聚类方法,称为 SCGCSCGC。SCGCSCGC 不
In this paper, we introduce the idea of contrastive learning into graph neural networks and experimentally demonstrate that the way of training graph models by contrastive learning is significantly better than Siamese. In addition, we found that Principal Neighbourhood Aggregation for Graph Nets (PNA)...