李宏毅机器学习2022年学习笔记(一)-- Introduction 点击查看 李宏毅机器学习2022年学习笔记(二)-- Tips for Training 点击查看 李宏毅机器学习2022年学习笔记(三)-- CNN 点击查看 李宏毅机器学习2022年学习笔记(四)-- 注意力机制 点击查看 李宏毅机器学习2022年学习笔记(五)-- transformer 点击查看 李宏毅机器学习2022...
在机器学习中衡量一个函数f的好坏是用一组testing data来进行测试,那么要知道一个生成函数的函数F的好坏当然是要准备一把函数来进行测试咯。 从这里可以看到机器学习和元学习在数据上有所不一样: 机器学习的数据: 元学习的数据: 这里要说明: 由于元学习有多个任务,每个任务如果有很多数据,那么训练时间会很长很长...
李宏毅机器学习2022 李宏毅classification课程笔记 文章目录 4 Classification 4.1 function set 简单了解一下概率模型 高斯分布 怎么计算高斯分布的参数?——最大似然估计 4.2 后验概率的计算推导 4 Classification 首先分类问题还是属于机器学习模型,只不过输出不是连续的值,而是分类结果。我们用的同样是三步:选择function ...
Aggregate 更新方法: 每个隐藏层都是一个图,图中每个结点的权值 = 一个待学习的参数 w × 上一层这个结点所有相邻结点的权值和 + 原本在第一层 input layer 这个结点输入的值(例如:w1* x3就是 h30) 需要注意的是,全连接神经网络的神经元是固定的,因此对于每个图输入后,最后进入全连接层的 vector 维度应该...
李宏毅机器学习2022年学习笔记(二)-- Tips for Training 一、 General Guide——如何达到更好的效果 1. Training data 出现的问题 训练完一次模型后,根据训练集的损失以及测试集的损失来确定网络需要进行模型改进还是优化函数改进。 整体调整方向如下图所示:...
一. 概念 机器学习可以应用到很多场景中,例如语音识别、图像识别、AI智能下棋等。 它的输入可以是一段声音信号/图片/物体之间的位置关系,数据类型例如:Vector、Matrix、Sequence等。之后通过机器学习寻找一种将输入进行转化为你想要的输出结果的方法,经过这个方法的计算
李宏毅2022《机器学习/深度学习》——学习笔记(5) 文章目录 优化方法 CNN CNN和全连接神经网络的区别 感受野 共享参数 CNN和全连接神经网络的总结 Pooling CNN流程 自注意力机制 自注意力机制解决的问题 输入是一组向量的例子 输入是一组向量时输出的可能
神经网络训练不起来(四)损失函数(Loss)也可能有影响 直接把分类问题当作回归问题来做不行。这就是说class1和class2比较有关系,而class1和class3比较没有关系,实际上可能并没有关系。 可以使用 one-hot vector来解决 分类问题一般用交叉熵做损失函数。 参考资料 (强推)李宏毅2021/2022春机器学习课程...
李宏毅机器学习2022年学习笔记(五)-- transformer 一、seq2seq 1. 含义 输入一个序列,机器输出另一个序列,输出序列长度由机器决定。 文本翻译:文本至文本; 语音识别:语音至文本; 语音合成:文本至语音; 聊天机器人:语音至语音。 2. 应用 ①自然语言处理(NLP问题),不过seq2seq有时候不一定是最佳的解决方法。
P.S. 本次将第三章 CNN 讲解有关内容和之前看的吴恩达深度学习 - 卷积神经网络专项课程的内容结合在一起进行总结 一、 概念导入:边缘检测 假如有一张如下的图像,想让计算机搞清楚图像上有什么物体,有两种方法:检测图像的 垂直边缘 和 水平边缘。 如下图所示,一个 6 * 6