《simple-hgn原理详解》①simple - HGN，也就是简单异构图网络，是为了应对复杂的异构图数据处理需求而生的。在社交网络里，既有用户、群组这些不同类型的节点，又存在好友关系、群组加入关系等多种边；知识图谱中，人物、地点等实体节点通过 “出生于”“创作了” 等关系边相连。传统的图神经网络在处理这类异构图...
HetSANN(数据预处理过程没有公开) 下面介绍Simple-HGN的方法: 原始的GAT中,计算attention的时候是: ATTNGAT(i,j)=Softmax∀j∈Ni(a→(Whi(l−1)‖Whj(l−1))) 而在Simple-HGN中,加入了边类型的信息: α^ij(l)=Softmax∀j∈Ni(a→(Whi(l−1)‖Whj(l−1)‖Wrϕ()(l−1))) 另外...
4 Simple-HGN 使用三个trick提升GAT的性能 ①边类型嵌入 ②图残差连接:增加了一个线性变换参数;同时也对注意力分数进行残差操作,并且此处使用了多头注意力 ③对输出的嵌入表征进行L2正则化,这非常有效 5 实验 大致就是baseline随便调调也能很好,在不同数据集上还很稳定。 6 讨论 边类型信息是否有用?消融实验里面...
@Mumpsy thanks fam@Sarpanitu yeah, simpleplanes really needs to add a thing that lets you prioritize fuel tanks 8.5 years ago 3,031 GoeringsWorkshop @Mumpsy thanks fam 8.5 years ago 74.3k Mumpsy Really cool! Great job! 8.5 years ago 614 breakfastair @GoeringsWorkshop thanks...