1.1 图卷积神经网络 卷积神经网络(CNN)在图像识别和自然语言处理这些领域里表现得很好,但它只能处理规则的数据,比如网格和序列。那如果遇到不规则的数据,比如社交媒体的网络数据、化学成分的结构数据、生物的蛋白数据或者知识图谱这些数据,CNN就不太给力了。所以,为了解决这个问题,研究者们尝试把CNN扩展到图结构数据,并...
CNN,即卷积神经网络(Convolutional Neural Network),是一种深度学习模型,专门用于处理具有网格状结构(如图像、视频等)的数据。CNN 的设计灵感来源于动物视觉系统的工作原理,其主要特点是通过卷积层和池化层来提取图像中的特征,然后通过全连接层进行分类或回归等任务。 以下是 CNN 的主要组成部分和特点: 主要组成部分: ...
GNN与CNN有以下两个方面上的区别: 1、形式和使用场景上的区别 CNN用来处理传统的图像数据,而GNN模仿了CNN,希望能够处理CNN处理不了的结构化数据。 具体地说:CNN用一个可学习的卷积核提取每个卷积滑窗内的特征,也就是说在每个卷积滑窗内加权求和每个像素特征得到一个特定的值。而GNN由于每个节点的邻居数量不一样...
根据基于响应的蒸馏,提出了一个全新的CNN2GNN框架,从而从大型CNN到小型GNN进行蒸馏,并桥接两个异构网络。 蒸馏后的“增强型”GNN可以同时归纳提取单个实例的样本内表示以及实例之间的拓扑关系。 3 Method 为了桥接CNN和GNN,本文提出了全新的CNN2GNN异构蒸馏架构。 它设计了一个深度图学习头部,根据下游任务可微地学习...
与传统的卷积神经网络(Convolutional Neural Network,简称CNN)和循环神经网络(Recurrent Neural Network,简称RNN)不同,图神经网络能够有效地处理不定长的图结构数据,并利用节点之间的关系来进行学习和推理。它能够捕捉到图的局部结构和全局拓扑特征,从而提取更丰富的特征表示,进而提升各种图分析任务的性能。
本节主要以CNN为例,解析三个图神经网络的核心思想——局部性(Locality),汇聚(Aggregation)与组合(composition),后面将会说明这三个特征如何延伸/泛化(generalize)到更一般非欧数据/图中。 CNN 的本质是将一个像素和其周围的像素值通过(局部的)卷积核进行汇聚(Aggregation),经过...
对比CNN的三大特征,GNN类比的话:(1)局部连接是图的最基本的表现形式。(2)权值共享可以减少网络的计算量。(3)多层结构可以让网络捕获不同的特征。然而,从CNN到GNN的转变还面临着另一个问题,难以定义局部卷积核和池化操作。 2.2 模型 2.2.1 模型类型
在正式开始前,先找准图神经网络GNN(Graph Neural Network)的位置。 图神经网络GNN是深度学习的一个分支。 深度学习的四个分支对应了四种常见的数据格式,前馈神经网络FNN处理表格数据,表格数据可以是特征向量,卷积神经网络CNN处理图像数据,循环神经网络RNN处理时序数据,图神经网络GNN处理图数据。
卷积神经网络（CNN）会聚合相邻像素之间的信息，同样的思想也可以用在图上。图上有两类信号，每个节点上...
CNN已老、GNN来了,清华大学孙茂松组一文综述GNN 在过去几年中,GNN已经成为图领域机器学习任务的强大而实用的工具。 编|新智元 文强,肖琴,大明 深度学习的最大软肋是什么? 这个问题的回答仁者见仁,但图灵奖得主Judea Pearl大概有99.9%的几率会说,是无法进行因果推理。