本文简单介绍与深度学习中关于自动微分的一些基本概念。包括自动微分,反向传播,雅可比向量积(JVP),和向量雅可比积(VJP)。 自动微分与数值微分是不同的 数值微分是一种计算导数的方法,它通过计算函数在某一点的两个非常接近的点的函数值之差来估计导数。
近日，牛津与微软等机构的多位学者联合提出一种名为「正向梯度」（forward gradient）的自动微分模式，可...
向量叉积太牛辣,雅可比恒等式,混合积公式,拉格朗日公式,太牛辣!向量和空间几何这一章比我想象中要费时间,一个向量叉积估计可能就要花费五个小时左右,这一章应该会比微分方程的进度进展差不多微分方程的分类理解还没有总结,需要找时间单独找视频再总结分类规律,现在先把向量叉积和那几个公式总结一下,理解下来吧,...