在标记样本有限的情况下,自监督学习(self-supervised learning, SSL)成为利用大量未标记样本的新范式。SSL在自然语言和图像学习任务中已经取得了很好的效果。最近,利用图神经网络(GNNs)将这种成功扩展到图数据的趋势。 在本综述论文中,作者提供了使用SSL训练GNN的不同方法的统一回顾。具体来说,将SSL方法分为对比模型和...
自监督学习 (SSL) 是一种用于提高数据利用率的新兴范式,有助于缓解稀疏问题。 受 SSL 在其他领域的成功启发,最近的努力将 SSL 用于推荐系统,并取得了显著成就。在基于 GNN 的推荐系统领域,值得进一步探索自监督学习方向。 08-06 基于GNN的推荐系统的鲁棒性 最近的研究表明,GNN 很容易被输入上的小扰动所欺骗,即...
python train_ssl.py --input_dir <resampled-dir> --raw_data_dir <tusz-data-dir> --save_dir <save-dir> --graph_type combined --max_seq_len <clip-len> --output_seq_len 12 --do_train --num_epochs 350 --task 'SS pre-training' --metric_name loss --use_fft --lr_init 5e-4 ...
图神经网络(GNN)是一种深度学习的方法,特别擅长处理图结构的数据。通过一些特别的节点和边的策略,GNN能把图数据变成神经网络能训练的标准格式。在节点分类、边信息传播和图聚类这些任务中,GNN表现得都特别好。 相比于其他的图学习算法,GNN有着特别出色的学习能力,它擅长找到图数据中节点和边背后隐藏的深层次规律和语...
一种流行的学习范式是基于超图的半监督学习 (SSL),其目标是将标签分配给超图中最初未标记的顶点。由于图卷积网络 (GCN) 对基于图的 SSL 是有效的,我们提出了 HyperGCN,这是一种在超图上训练用于 SSL 的 GCN 的新方法。我们通过对真实世界超图的详细实验证明 HyperGCN 的有效性,并分析它何时比最先进的 baseline...
在本文中,我们探讨了基于图的直方图SSL的GNN。受现实网络中复杂关系(超越两两关系)的启发,我们提出了一种新的有向超图方法。我们的工作基于现有的graph-based SSL 直方图,源自optimal transportation理论。本文的一个重要贡献是在算法稳定性的框架下建立了单层GNN的泛化误差边界。我们还通过对真实数据的详细实验,证明了...
将图神经网络(GNN)与深度强化学习(DRL)相结合。新的DRL+GNN体系结构能够在任意网络拓扑图上学习、操作和生成。
实际上,如果没有足够的监督信号,半监督学习Semi-Supervised Learning (SSL)的效果都是有限的。考虑到图上半监督学习的特点,本文不仅仅考虑了同类数据不同view之间的相关性,还建模了节点属性和图拓扑结构之间的潜在联系来作为额外的监督信号。基于增强后的图监督信号,CG3在标签率只有0.5%的情况下,可以取得8%左右的...
南大发布首篇《健壮深度半监督学习》综述论文,全面阐述现有rdssl中分布、特征与标签损坏方法体系与进展 【mila-唐建】几何深度学习药物发现,87页ppt,附视频 阿里达摩院最新《时间序列transformer建模》综述论文 噪声数据如何建模?香港浸会大学最...
南大发布首篇《健壮深度半监督学习》综述论文,全面阐述现有rdssl中分布、特征与标签损坏方法体系与进展 【mila-唐建】几何深度学习药物发现,87页ppt,附视频 阿里达摩院最新《时间序列transformer建模》综述论文 噪声数据如何建模?香港浸会大学...