还有深度可分离卷积也在设计紧凑的CNN时发挥了重要作用。同时最新的神经网络结构搜索NAS还通过强化学习,演化学习算法等来优化结构。 当代的卷积神经网络都以3*3卷积为主,并且偶数卷积核被普遍认为不如奇数卷积核,因此很少被用作CNN的基本构建模块。 并且当前对模型的优化工作主要集中在前向推理阶段,而模型训练因为复杂...
还有深度可分离卷积也在设计紧凑的CNN时发挥了重要作用。同时最新的神经网络结构搜索NAS还通过强化学习,演化学习算法等来优化结构。 当代的卷积神经网络都以3*3卷积为主,并且偶数卷积核被普遍认为不如奇数卷积核,因此很少被用作CNN的基本构建模块。 并且当前对模型的优化工作主要集中在前向推理阶段,而模型训练因为复杂...