进行实验研究,以证明 XSimGCL 是基于图增强的对应数据集的理想替代方案。 对比学习有效性证明,从sgl(Selfsupervised graph learning for recommendation)的变体开始 借鉴了最初的SGL的三种变体:SGL-ND (-ND表示节点丢弃)、SGL-ED (-ED表示边缘丢弃)和SGL-RW (-RW表示随机行走,即多层边缘丢弃)。同时为了创建一个...
Imposing different random noises creates variance between contrastive views, while the learnable invariance is still retained due to the controlled magnitude(这句话比较经典).这种方式和图增强的方式相比较,添加噪音的方式正则化embedding space,向着更均匀的方向正则化,这是很容易实现的而且效率高得多。 The major...
Simple Graph Contrastive Learning for Recommendation 论文作者:Junliang Yu, H. Yin, Xin Xia, Tong Chen, Li-zhen Cui, Quoc Viet Hung Nguyen 论文来源:SIGIR 2022 论文地址:download 论文代码:download 1 Introduction 本文是针对图对比学习在推荐系统中的应用而提出的相关方法。通常做对比学习的时候,需要对数据...
LightGCL Simple Yet Effective Graph Contrastive Learning For Recommendation论文阅读笔记 Abstract 目前的图对比学习方法都存在一些问题,它们要么对用户-项目交互图执行随机增强,要么依赖于基于启发式的增强技术(例如用户聚类)来生成对比视图。这些方法都不能很好的保留内在的语义结构,而且很容易受到噪声扰动的影响。所以...
例如,GraphCL首先为GCL设计了四种类型的通用增强(节点丢弃、边缘扰动、属性屏蔽和子图)。然而,这些增强并不适用于所有场景,因为图的结构信息和语义在各个领域之间差异很大。例如,GraphCL发现边缘扰动有利于社交网络,但会损害GCL中的一些生物化学分子。更糟糕的是,即使扰动很弱,这些扩充也可能完全改变图的语义。例如,在...
Graph Contrastive Learning (GCL) has shown superior performance in representation learning in graph-structured data. Despite their success, most existing GCL methods rely on prefabricated graph augmentation and homophily assumptions. Thus, they fail to generalize well to heterophilic graphs where connected...
This is the PyTorch implementation for LightGCL proposed in the paperLightGCL: Simple Yet Effective Graph Contrastive Learning for Recommendation,International Conference on Learning Representation, 2023. Fig: Model Structure of LightGCL Due to the large size of datasetsML-10M,AmazonandTmall, we have...
we propose a simple yet effective approach for unsupervised point cloud learning. In particular, we identify a very useful transformation which generates a good contrastive version of an original point cloud. They make up a pair. After going through a shared encoder and a shared head network, th...
A Simple Framework for Contrastive Learning of Visual Representations 1. 论文摘要 提出了一个针对图像表征的基于contrastive learning 的简单框架。主要结论:(1) 数据增强的组成对定义有效的预测任务十分重要。(2) 通过在表征与contrastive loss 之间引入一个非线性变换对于学习的表征质量有很大... ...
2.1 Graph Contrastive Learning for Recommendation. SGL 和 SimGCL 的方法:它们通过在图结构和嵌入中进行随机丢弃操作来执行数据增强,以生成视图来构建对比样本对。然而,这种随机的增强可能导致丢失重要信息,从而加剧不活跃用户的稀疏性问题。 HCCF 和 NCL的方法:采用基于启发式的策略来构建用于嵌入对比的视图。尽管它...