https://github.com/TingsongYu/ghostnet_cifar10github.com/TingsongYu/ghostnet_cifar10 一、前言 CVPR 2020 最近放榜,其中有一篇论文提出了一种新奇的轻量级卷积神经网络设计,思想非常巧妙,于是对其进行阅读和代码实践,并总结一些可能的下一步工作,供大家参考,共同学习。 本笔记主要分为三个部分,第一部分是论文...
这里还有一个地方原文没说清楚但是一看代码就懂:如果stride=2,则shortcut其实是一个Depthwise的convolution: nn.Sequential(depthwise_conv(inp,inp,3,stride,relu=True),nn.Conv2d(inp,oup,1,1,0,bias=False),nn.BatchNorm2d(oup),) GhostNet类: 最后看最顶层的GhostNet类: GhostNet由以Ghost modules为基础的G...
《GhostNet: More Features from Cheap Operations》笔记 GhostNet Introduction GhostNet是从模型设计方面精简卷积神经网络模型。 Motivation 卷积神经网络模型得到的特征中有许多特征是冗余的。比如下图是ResNet-50的第一个残差块得到的特征图,红色、绿色和蓝色框的特征图表现出非常高的相似性。同颜色的下一个特征图就像...
一、网络框架 二、代码解读