8 月 8 日,吴恩达在他自己创办的在线教育平台Coursera 上线了他的人工智能专项课程(Deep Learning Specialization)。此课程广受好评,通过视频讲解、作业与测验等让更多的人对人工智能有了了解与启蒙,国外媒体报道称:吴恩达这次深度学习课程是迄今为止,最全面、系统和容易获取的深度学习课程,堪称普通人的人工智能第一课。
梯度下降算法能够保证每次迭代w和b都能向着J(w,b)全局最小化的方向进行。其数学原理主要是运用泰勒一阶展开来证明的,可以参考我的另一篇博客中的Gradient Descent有提到如何推导:中国台湾大学林轩田机器学习基石课程学习笔记10 – Logistic Regression 5. Derivatives 这一部分的内容非常简单,Andrew主要是给对微积分、求...
这些问题的解决将有助于推动深度学习技术的进一步发展。总之,吴恩达的《深度学习》课程为我提供了宝贵的学习机会和实践经验。通过这门课程的学习,我对深度学习的基本原理和应用有了更深入的了解。同时,我也意识到了深度学习的挑战和未来的发展方向。在未来,我将继续关注深度学习的最新进展,并努力将其应用于实际问题中。
并以逻辑回归为例,将其算法流程包括梯度下降转换为向量化的形式,从而大大提高了程序运算速度。本节课我们将从浅层神经网络入手,开始真正的神经网络模型的学习。 1. Neural Networks Overview 首先,我们从整体结构上来大致看一下神经网络模型。 前面的课程中,我们已经使用计算图的方式介绍了逻辑回归梯度下降算法的正向传...
在《神经网络与深度学习》课程笔记(2)中我们介绍过,整个训练样本构成的输入矩阵X的维度是(nx,m),权重矩阵w的维度是(nx,1),b是一个常数值,而整个训练样本构成的输出矩阵Y的维度为(1,m)。利用向量化的思想,所有m个样本的线性输出Z可以用矩阵表示:
Coursera吴恩达《神经网络与深度学习》课程笔记(3)-- 神经网络基础之Python与向量化,算法中,数据量很大,在程序中应该尽量减少使用loop循环
上节课我们主要对深度学习(Deep Learning)的概念做了简要的概述。我们先从房价预测的例子出发,建立了标准的神经网络(Neural Network)模型结构。然后从监督式学习入手,介绍了Standard NN,CNN和RNN三种不同的神经网络模型。接着介绍了两种不同类型的数据集:Structured Data和Unstructured Data。最后,我们解释了近些年来深度...
Coursera吴恩达《神经网络与深度学习》课程笔记(4)-- 浅层神经网络,我的个人网站:红色石头的机器学习之路我的知乎主页:红色石头我的微博:RedstoneWill的微博我的GitHub:RedstoneWill的GitHub我的微信公众号:红
简介:上节课我们主要对深度学习(Deep Learning)的概念做了简要的概述。 上节课我们主要对深度学习(Deep Learning)的概念做了简要的概述。我们先从房价预测的例子出发,建立了标准的神经网络(Neural Network)模型结构。然后从监督式学习入手,介绍了Standard NN,CNN和RNN三种不同的神经网络模型。接着介绍了两种不同类型...
尽管深度学习有着非常显著的优势,Andrew还是建议对实际问题进行建模时,尽量先选择层数少的神经网络模型,这也符合奥卡姆剃刀定律(Occam’s Razor)。对于比较复杂的问题,再使用较深的神经网络模型。 5. Building blocks of deepneural networks 下面用流程块图来解释神经网络正向传播和反向传播过程。如下图所示,对于第l层...