【CS224W学习笔记 day08】 GNN的表示性有多强? GNN是基于邻居聚合的神经网络,它输入的每个节点特征,最后通过不断的信息传递和聚合计算,最后可以训练出来一个可以计算每个节点embedding的模型,但是它的表示性有多强呢,比如在传统机器学习中,如果… 阅读全文 ...
连接层面的特征工程 根据已有连接预测新的连接。 如何设计一个结点对的特征? 直接提取link的特征,把link变成d维向量,而不是把两个结点本身的d维向量拼在一起,损失了link 本身的结构信息。 连接预测的两种构想 1,随机删掉一些连接 然后再预测他们 2,根据一个时间段内由边决定的图 预测 在另一时间段在图中新出...
CS224W-图神经网络 笔记6.1:Message Passing and Node Classification - 节点分类方法简介 CS224W-图神经网络 笔记6.1:Message Passing and Node Classification - 节点分类方法简介本文总结之日CS224W Winter 2021只更新到了第四… 阅读全文 赞同 6 ...
回忆一下节点嵌入1任务。其目的在于将节点映射到d维向量,使得在图中相似的节点在向量域中也相似。 我们已经学习了 “Shallow” Encoding 的方法来进行映射过程,也就是使用一个大矩阵直接储存每个节点的表示向量,通过矩阵与向量乘法来实现嵌入过程。 这种方法的缺陷在于: 一个GNN网络的结构如图: 通过网络可以解决的任...
简介:cs224w(图机器学习)2021冬季课程学习笔记12 Knowledge Graph Embeddings 本章主要内容: 本章首先介绍了 异质图heterogeneous graph 和 relational GCN (RGCN)。 接下来介绍了 知识图谱补全knowledge graph completion 任务,以及通过图嵌入方式的四种实现方式及其对关系表示的限制:TransE,TransR,DistMult,ComplEx。
2.betweenness centrality介数中心性:节点连接的最短路径越多就越重要,类似于交通要道。 如A到B、D、E的最短路径都要经过节点C,所以节点C的节点中心度为3。规定边缘节点A、B、E的节点中心度为0。 3.closeness centrality紧密度中心性:节点越居中,与其他节点的路径越短越重要 ...
作为一种解决问题的通用语言,将问题抽象成图,用同一种机器学习的算法可以求解多个问题。 但为问题选择合适的表示是很难的问题——选择合适的点、边和问题域 2.design choice 有向图和无向图directed/undirected graphs 节点度node degrees 无向图的每个节点都被计算两次,平均节点度*2 ...
cs224w学习笔记(02)传统图机器学习方法 传统图机器学习方法 传统机器学习的任务级别可以划分为三个级别:Node-level、Edge-level、Graph-level 按照节点的不同,特征也分别为nodes、links、graphs 传统的机器学习模型 random forest SVM Neural network, etc $ x \rightarrow y $...
幂迭代法 不断迭代直到误差(L1范数 差的绝对值 或 L2范数 平方和的平方根)需要约50次 实例 converge 收敛 1 死胡同 没有输出重要性 因此重要性在死胡同里泄露了 2 蜘蛛陷阱 所有输出在同一组里,陷阱吸收了所有重要性 见下图 b自循环 在一次次迭代中 吸收了所有重要性 ...
在深入研究GNN的训练和预测流程时，我们需要确保任务设计的合理性以避免信息泄露问题。GNN任务主要分为三个层次：节点级、边级和图级。节点级任务（节点分类）是输入图到GNN后，节点得到的embedding可用作传统机器学习中的特征，用于回归、二分类或多分类。边级任务（链路预测）通过节点embedding预测边的存在...