一般称g为作用在f上的filter或kernel。图上卷积如下,具体证明可参考:Orangrass:图卷积网络(GCN)新手...
Pooling 的思路很棒,有 GraphSAGE。 Deep 的思路很棒,有 DeepGCN。 扩大感受野的思路也很棒,比如 High-Order GCN(矩阵式)和 PinSAGE(消息式)。 做Graph Deep Learning 的大家加油吖!
2)、局限于浅层:GCN论文中表明,目前GCN只局限于浅层,实验中使用2层GCN效果最好,为了加深,需要使用残差连接等trick,但是即使使用了这些trick,也只能勉强保存性能不下降,并没有提高,Deeper Insights into Graph Convolutional Networks for Semi-Supervised Learning一文也针对When GCNs Fail ?这个问题进行了分析。虽然有...
层传递公式就是这样,下面用pyg实现: importtorchimporttorch.nn.functionalasFfromtorch_geometricimportnnfromtorch_geometric.dataimportDatafromtorch_geometric.datasetsimportPlanetoidclassGCN(torch.nn.Module):def__init__(self,in_channels,hidden_channels,num_classify,dropout):super().__init__()self.conv1=nn...
图神经网络已经不是个很新的领域了,笔者一直也在有用GCN的代码,却没有好好了解过它的原理,最近一直很忙,正好也好久没有更新文章了,就想以GCN的详解为契机,深挖一系列比较需要数学推理的模型。 为了了解图卷积神经网络,就要先了解什么是图,什么是卷积神经网络。
如何理解 Graph Convolutional Network(GCN)? 先说问题的本质:图中的每个结点无时无刻不因为邻居和更远的点的影响而在改变着自己的状态直到最终的平衡,关系越亲近的邻居影响越大。 要想理解GCN以及其后面一系列工作的实质,最重要的是理解其中的精髓Laplacian矩阵在干什么。知道了Laplacian矩阵在干什么后,剩下的只是...
(2)spectral domain就是GCN的理论基础了。这种思路就是希望借助图谱的理论来实现拓扑图上的卷积操作。从整个研究的时间进程来看:首先研究GSP(graph signal processing)的学者定义了graph上的Fourier Transformation, 进而定义了graph上的convolution,最后与深度学习结合提出了Graph Convolutional Network。
Q2 GCN为什么要利用Spectral graph theory?这是论文(Semi-Supervised Classification with Graph Convolutional Networks)中的重点和难点,要理解这个问题需要大量的数学定义及推导 过程:(1)定义graph上的Fourier Transformation傅里叶变换(利用Spectral graph theory,借助图的拉普拉斯矩阵的特征值和特征向量研究图的性质)(2)定...
【新智元导读】Graph Convolutional Network(GCN)是直接作用于图的卷积神经网络,GCN 允许对结构化数据进行端到端的学习,也即输入可以是任意大小和形状的图。本文介绍 GCN 最新进展,讨论各种方法的优势和缺陷。GCN 未来如何拓展用于解决特定类型的问题,例如学习指示图或关系图,以及怎样用学习的图嵌入更多任务,也值得期待...
(1)GCN顾名思义:应用场景一定会有Graph上的任务。社交网络、调控网络、生物分子结构等都可以表示成...