第2章 神经网络基础2.1 机器学习基本概念2.1.1 机器学习的分类机器学习有以下几种常见的分类方法:根据训练数据是否有标签可分为: 监督学习:训练数据中每个样本都有标签,通过标签指导模型进行训练 无监督学习:训练数据完全没有标签,算法从数据中发现约束关系,如数据之间的关联等,典型的无监督算法有如聚类算法 半监督...
《深入浅出图神经网络》GNN原理解析学习笔记(一)图的概述 文章目录 《深入浅出图神经网络》GNN原理解析学习笔记(一)图的概述 图的基本定义 图的基本类型 邻居和度 子图与路径 图的存储与遍历 邻接矩阵和关联矩阵 图的遍历 图数据的应用场景 图数据类别 图数据的应用场景 图数据任务分类 图的基本定义 普遍表示...
3、属性图:是由 顶点(Vertex),边(Edge),标签(Lable),关系类型 还有 属性(Property)组成的有向图。顶点也称为 节点(Node),边也称为 关系(Relationship)。 4、非显示图:数据之间没有显示地定义出关系,需要依据某种规则或者计算方式将数据的关系表达出来,进而将数据当成一种图数据进行研究。 1.4 图数据深度学习 ...
1、基于手工的方法 一般来说,图数据中属性信息的处理是比较简单的,按照属性的类型进行相应的编码设计,然后将其拼接成一个表示节点属性的特征向量就可以了,但是结构信息蕴含在节点之间的关系中,是比较难处理的。我们所对比的两个方法的核心都是在如何处理图的结构信息上。 缺点:该方法对于图数据的处理方式非常依赖人工...
《深入浅出图神经网络》第2章的个人读书笔记 第2章 神经网络基础 2.1 机器学习基本概念 2.1.1 机器学习的分类 机器学习有以下几种常见的分类方法: 根据训练数据是否有标签可分为: 监督学习:训练数据中每个样本都有标签,通过标签指导模型进行训练 无监督学习:训练数据完全没有标签,算法从数据中发现约束关系,如数据...
在损失函数上加入正则项使得模型学习到有用的特征,比如隐藏层使用Sigmoid激活函数,我们认为神经元的输出接近1时是活跃的,而接近0时是不活跃的,稀疏自编码器就是限制神经元的活跃度来约束模型,尽可能使大多数神经元处于不活跃的状态。 定义神经元的活跃度为它在所有样本上的平均值,用\(\hat\rho_i\),限制\(\hat...
比较容易混淆的一点是:这个自编码器先编码再解码,最后得到的不还是原始输入或者逼近原始输入的东西吗?所以要特别注意,自编码器训练完后,是直接拿输入过一个编码器进行特征提取再放到后面的神经网络里去的,解码器就用不到了,有种GAN的思想。实际使用中,通常有d<nd<n,因为要进行降维嘛,符合这种条件的编码器被称为...
去噪自编码器:在原始自编码器的输入的基础上加入一些噪声作为编码器的输入,编码器需要重构出不加噪声的原始输入。 稀疏自编码器:以限制神经元的活跃度来限制约束模型的,尽可能使大多数神经元都处于不活跃的状态。 变分自编码器:用于生成新的样本数据,其本质是生成模型,它假设我们得到的样本都是服从某个复杂分布,生...
《深入浅出图神经网络》GNN原理解析☄学习笔记(三)卷积神经网络,程序员大本营,技术文章内容聚合第一站。
写在前面: 之前为了应付课程Project对GNN的学习就是半路出家,全靠网上的博客。所以现在对于一些GNN底层最基本的东西还不是很清楚,觉得理应学明白一点。之前就对《深入浅出图神经网络》一书有所耳闻,看了网上的一些评论认为这本书的内容还是偏浅偏简单,我认为权当一个引