本文提出了一种新的训练算法 Cluster-GCN,核心思想在于利用聚类算法将大图划分为多个簇,划分遵循簇间连接少而簇内连接多的原则,这种简单的方法有效的减少了内存和计算资源的消耗,同时也能取得非常好的预测精度。 5.Reference 《Cluster-GCN: An Efficient Algorithm for Training Deep and Large Graph Convolutional Networks》 benedekrozemb...
Cluster GCN的思路很巧妙,和graphsage中做节点领域采样的方式不同,cluster是通过社区发现对图进行分区,例如将一个大图聚类为n个小图,然后每个小图作为一个batch分别使用GCN(当然其它gnn也可以)训练,这一方面大大降低了显存压力,另一方面限制了节点的邻域的范围。 几种scalable GNN的思想 接着比较了一下现有的几种训练...
【论文阅读笔记】Cluster-GCN 文章信息: 《Cluster-GCN: An Efficient Algorithm for Training Deep and Large Graph Convolutional Networks》,KDD2019 代码: google-research/cluster_gcn at master · google-research/google-researchgithub.com/google-research/google-research/tree/master/cluster_gcn Introduction...
clusterGCN：采用图聚类算法将图数据划分为多个子图（簇），然后在每个子图上进行卷积操作。这种策略可以显著减少计算量，并使得模型能够处理大规模图数据。GraphSAGE：采用邻居采样策略，对每个节点采样固定数量的邻居节点进行卷积操作。这种策略可以灵活控制计算复杂度，并使得模型能够学习到局部图结构信息。2. ...
Vanilla Cluster-GCN Time and Space complexity Stochastic Multiple Partitions Issues of training deeper GCN Experiment Training Deeper GCN Conclusion Abstract 大规模GCN的训练:目前基于SGD的gcn算法,1)面临随着gcn层数增长,计算复杂度呈指数增长;2)需要保存整个Graph和每个node的embedding,存储量巨大。
训练两层GCN的VRGCN比Cluster-GCN快,但是却慢于增加一层网络但实现相似准确率的Cluster-GCN 在内存使用方面,VRGCN比Cluster-GCN使用更多的内存(对于三层的情况5倍多)。当训练4层GCN的时候VRGCN将被耗尽,然而Cluster-GCN当增加层数的时候并不需要增加太多的内存,并且Cluster-GCN对于这个数据集训练 4 层的GCN将实现...
Cluster-GCN: An Efficient Algorithm for Training Deep and Large Graph Convolutional Networks This repository contains a TensorFlow implementation of "Cluster-GCN: An Efficient Algorithm for Training Deep and Large Graph Convolutional Networks" by Wei-Lin Chiang, Xuanqing Liu, Si Si, Yang Li, Samy ...
本发明公开了一种基于改进的ClusterGCN的文本分类方法,包括如下步骤:1)预处理;2)数据集划分;3)初始化;4)训练模型;5)输出.这种方法实现了数据的增强,同时缓解了网络层数加深带来的过平滑问题,减少了邻域扩展的范围避免了大量的邻域搜索,有效减少了内存消耗,提高了计算效率,通过节点聚类的方法,来减少偏远节点对当前...
A PyTorch implementation of "Cluster-GCN: An Efficient Algorithm for Training Deep and Large Graph Convolutional Networks" (KDD 2019). - benedekrozemberczki/ClusterGCN
Cluster-GCN An Efficient Algorithm for Training Deep and Large Graph Convolutional Networks (KDD 2019)