今天,我们要训练一个简单的有两个卷积层的CNN,如下所示。 灵感来源 盘子上的玉米提示了我CNN反向传播过程中的解卷积的原理。 红框是2 * 2输出图像 绿色框是3 * 3卷积核 蓝色框是4 * 4输入图像 “由于我们在对4 * 4图像执行卷积后得到2 * 2的输出图像,因此在执行反向传播时,我们需要对2 * 2输出图像...
2.1、ReLU层->前向传播公式 2.2、ReLU层->反向传播公式 2.3、ReLU层->完整代码 3、Softmax输出层 3.1、Softmax层->前向传播公式 3.2、Softmax层->损失函数计算 3.3、Softmax层->反向传播公式 3.4、Softmax层->完整代码 4、卷积层 4.1、卷积层->前向传播公式 4.2、卷积层->反向传播公式->对W的偏导 4.3...
而在多层CNN的情况下,我们需要反向传播该错误率。 让我试着通过一个具体的例子和代码来解释我的意思。 网络结构 如上所示,网络结构非常简单,只有两层卷积和一层完全连接的层。 请注意,在执行卷积时,我们需要将卷积核转置(旋转)180度,请注意上图中的绿色框。 另外,请注意,为了简单我并没有绘制激活层。 但在代...