1.看了gcn和gs的讲解一直不太明白而至的核心区别在哪,所以去看了源码,记录一下个人认为的核心区别。 2. 核心区别 (1)gcn 的计算公式: 理解: D~−1/2A~D~−1/2 这部分理解为图的邻接矩阵信息(其实经过度矩阵的正则化)记为A; Hl 就理解为每层的节点输入特征,其实l=0时就是原始节点的embeding信息,...
前面说到,GCN中做卷积融合是全图的,梯度是基于全图更新,若是图比较大,每个点邻居节点也较多,这样的融合效率必然是很低的。于是GraphSAGE出现了。 在提GraphSAGE前,先解释下transductive learning、inductive learning的概念,这也是GraphSAGE与其他图模型的区别。 transductive是说要预测的数据在训练时模型也能看到。进一步解...
GCN的基本思想: 把一个节点在图中的高纬度邻接信息降维到一个低维的向量表示。 GCN的优点: 可以捕捉graph的全局信息,从而很好地表示node的特征。 GCN的缺点: Transductive learning的方式,需要把所有节点都参与训练才能得到node embedding,无法快速得到新node的embedding。 1.图采样算法 1.1 GraphSage: Representation Le...
1.graph embedding(GE)1.1.图中学习的分类 1.2.相似度度量方法2.Graph neural network2.1.Graph convolutional network(GCN) 2.1.1.引子:热传播模型 2.1.2.热传播在graph上的求解:傅里叶变换 2.2.分析下graph neural中哪些东西可以做? 2.3.损失函数3.GraphSAGE:generalized aggregation方法4.Gated Graph Neural Netw...
那么GraphSAGE究竟改进了什么? 灵活的聚合函数代替平均值!所以你会发现这里都用AGG来表示。 除了Mean以外,还有Pool:变换相邻矢量,应用对称矢量函数。以及LSTM:对重新洗牌的邻居应用LSTM。 GraphSAGE与普通GCN的主要区别就是广义邻域聚集,即GraphSAGE扩展了GCN的聚集函数AGG。
GCN的优点: 可以捕捉graph的全局信息,从而很好地表示node的特征。 GCN的缺点: Transductive learning 直推式,需要把所有节点都参与训练才能得到node embedding,无法快速得到新node的embedding。 例如在现实生活中,对你影响最大就是亲朋好友,这些属于一阶邻居,然后可能你偶尔从他们口中听说一些他们的同事、朋友的一些故事...
真正的区别在于训练时间:在这种情况下,GraphSAGE 比 GAT 快 88 倍,比 GCN 快 4 倍。 这就是 GraphSage 的真正威力。通过使用邻居采样截断图,我们丢失了很多信息。最新的节点附件可能不如使用 GCN 和 GAT 时那么好。但是,GraphSage 旨在提高可伸缩性。反过来,它可以导致构建大尺寸图以获得更好的准确性。
也就是说,作者在文中提到的 GraphSAGE-GCN 其实就是用上面这个聚合函数,替代掉其它方法中先聚合,再 concat 的操作,并且作者指出这种方法是局部谱卷积的线性近似,因此将其称为 GCN 聚合器。 来点善后工作 最后我们就简单的补充一些喜闻乐见,且比较简单的东西吧。用 GraphSA...