本文转载自我的博客:吴恩达《深度学习专项》笔记+代码实战(一):深度学习入门最近,我在学习吴恩达老师的《深度学习专项》(Deep Learning Specialization)。和我智商相当的物理学家费曼… 周弈帆发表于周弈帆的博... 深度学习专项课程精炼图笔记 王博Kin...发表于人工智能算...打开...
本文是对《动手学深度学习PyTorch版》的复习要点记录,以查漏补缺、巩固基础和准备面试为主。笔记把一些有关的章节聚合为一个小专题进行学习,包含概念,图示,公式和部分重要源码解读。内容跨度上,会从最基本的张量到近来必会必知的GPT,侧重NLP方向。文章较长,共十大专题,4.3w字,建议收藏,按目录查询阅读。欢迎指出不...
机器学习(Machine Learning)是一门专门研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,重新组织已有的知识结构使之不断改善自身的性能的学科。 机器能否像人类一样能具有学习能力呢?1959年美国的塞缪尔(Samuel)设计了一个下棋程序,这个程序具有学习能力,它可以在不断的对弈中改善自己的棋艺。4年后,这个...
欠拟合(underfitting):训练误差和验证误差都很严重,但差距小,如果模型不能降低训练误差,可能意味着模型过于简单,表达能⼒不⾜,⽆法捕获学习模式 过拟合(overfitting):训练误差明显低于验证误差,训练样本数量不⾜。深度学习领域,最好的预测模型在训练数据上的表现往往⽐在保留数据上好得多。实际更关心验证误差,...
此部分内容是做笔记用的,大部分内容来源于网络。大家如果还不熟悉前向传播、反向传播点击下面的链接:1.计算图、tensor和Function 在深度学习框架中,反向传播的计算依赖于autograd自动微分机制(这里说的自动微分,即指求导/梯度)。而autograd实现的基础,有以下两个部分:数学基础和底层结构基础。1.数学… ...
一、深度学习之激活函数 1.阶跃函数 定义: 阶跃函数是一种特殊的连续时间函数,是一个从0跳变到1的过程,属于奇异函数。 公式: 图像: 2.sigmoid 函数 定义: 激活函数的作用在于决定如何来激活输入信号的总和。 公式: 图像: 作用: sigmoid函数是一条平滑的曲线,输出随着输入发生连续性的变化,sigmoid函数的平滑性对...
1.1.3 从数据中学习表示 机器学习三要素 输入数据点 预期输出的示例(标签) 衡量算法效果好坏的方法:运用衡量结果进行调节的过程称作学习。 机器学习和深度学习的核心问题:有意义地变换数据,即学习输入数据得有用表示(以便让数据更接近预期输出) 机器学习中的学习:寻找更好数据表示地自动搜索过程。(有多种找到更好表...
1.1 深度学习与机器学习的区别 学习目标 目标 知道深度学习与机器学习的区别 应用 无 1.1.1 区别 区别 1.1.1.1 特征提取方面 机器学习的特征工程步骤是要靠手动完成的,而且需要大量领域专业知识 深度学习通常由多个层组成,它们通常将更简单的模型组合在一起,通过将数据从一层传递到另一层来构建更复杂的模型。通过...
深度学习个人笔记 记录笔者关于DL的心得与体会 TroubleShooter · 11 篇内容 订阅专栏神经网络可视化(二):tensorboardx 之前介绍了两篇关于神经网络参数与可视化的文章: 神经网络的参数个数:torchsummary - 知乎 (zhihu.com) 神经网络可视化(一):netron - 知乎 (zhihu.com) 本文记录另外一种工具:tensorboardx 直接看...
一、深度学习之激活函数 1.阶跃函数 定义: 阶跃函数是一种特殊的连续时间函数,是一个从0跳变到1的过程,属于奇异函数。 公式: 图像: 2.sigmoid 函数 定义: 激活函数的作用在于决定如何来激活输入信号的总和。 公式: 图像: 作用: sigmoid函数是一条平滑的曲线,输出随着输入发生连续性的变化,sigmoid函数的平滑性对...