基于划分的方法:想象有一堆散点需要聚类,聚类效果是“类内的点都足够近,类间的点都足够远”。首先要确定散点聚类数,然后挑选部分(几个)点作为初始中心点,再给数据点做迭代重置,直到最后到达聚类效果。这就是所谓的“启发式算法”,也形成了k−meansk−means算法及其变体包括k−medoidsk−medoids、k−mode...
然后,总结了不同粒度采样策略的图神经网络模型,还有主流加速框架以及相关的技术。这些都是为了给以后在大规模数据应用中,图神经网络在框架和算法上如何协同优化提供一些想法和方向。 2 图神经网络模型 图神经网络是专门处理图结构数据的神经网络,能结合图计算和神经网络的优势,将图结构信息抽象为节点特征。图计算模型擅...
一个深度神经网络是模块化的，它可以被分割成神经元集合，其中每个神经元集合内部高度连接，但集合之间的连接度很低。更具体点来说，研究人员使用图聚类(graph clustering)算法将训练好的网络分解成集群，并将每个集群视为一个“模块”。采用的聚类算法叫做谱聚类(spectral clustering)，用它来计算一个划分(partition)...
首先,为解决计算效率低下的问题,基于马尔可夫聚类的多跳图神经网络采用幂迭代方法逼近逆矩阵,以实现近似线性计算复杂度,并减轻由存储密集邻接矩阵引起的内存消耗问题;其次,对于有限的多跳邻域表示问题,基于马尔可夫聚类的多跳图神经网络依次利用规范化马尔可夫聚类中的 Regularize、Inflflation 和 Prune 算子对邻接矩阵进行...
本文针对大规模图神经网络,从算法模型和框架优化两方面进行调研、总结和分析。首先介绍GNN基础知识和典型算法,接着总结不同粒度采样策略的图神经网络模型,以及主流加速框架及相关技术。为后续图神经网络在大规模数据应用中框架-算法的协同优化提供思路。 本文内容组织如图2所示: ...
分类号TP391学号16069051UDC04密级公开工学博士学位论文基于深度神经网络的图像聚类算法研究博士生姓名郭西风学科专业计算机科学与技术研究方向模式识别与人工智能指导教师祝恩教授协助指导教师殷建平教授国防科技大学研究生院二〇二〇年六月
摘要：本发明公开了一种基于聚类图神经网络的网络安全异常检测算法。该算法包括以下步骤：利用图模型描述网络拓扑结构，利用图神经网络卷积层优化节点特征，利用图聚类算法将图分割成多个不相交子图，将每个子图视为一个节点，子图的邻接关系视为边，形成一个子图，利用图注意力层为每个节点学习一个权重，将每个子图中的...
深度卷积嵌入聚类算法,以解决目标函数存在退化解的问题.很多深度聚类算法使用单独的一个聚类损失函数同时优化神经网络的参数和聚类模型的参数.这类损失函数一般存在退化解,即神经网络可以通过将所有样本映射到同一个特征点上来使损失函数值最小化.在该退化解下,深度神经网络学习的特征缺乏合理意义,得到的聚类结果也不能...
摘要:图神经网络(GNN)是图表示学习中的强大工具。但是,最近的研究表明,GNN容易受到精心设计的扰动(称为对抗攻击)的攻击。对抗性攻击很容易愚弄GNN来预测下游任务。对抗攻击的脆弱性使人们越来越关注在安全关键型应用中应用GNN。因此,开发健壮的算法来对抗对抗攻击具有重要意义。防御对抗攻击的自然想法是清除受干扰的图。
Zheyan Shen等人通过使用来自不同环境的未标注数据,提出了一种基于变量聚类的变量分解的算法,称为区分性变量去相关(Differentiated Variable Decorrelation, DVD)。这个方法是注意到保留因果性变量之间的相关性未必会导致模型在未知环境中的性能不稳定。以特征间相关性的在训练集数据和未标注之间的数据稳定性作为聚类的...