轻量化模型设计方法 (一)空间卷积设计 (二)移位卷积设计 (三)NAS架构搜索 三,贡献与改进 贡献 未来研究方向 论文题目:神经网络模型轻量化方法综述发表时间:2024年5月作者:高杨,曹仰杰,段鹏松作者单位:郑州大学网络空间安全学院发表期刊:计算机科学论文等级:C刊影响因子:1.5 论文链接:https://www.jsjkx.com/CN/10....
轻量化模型设计方法包括人工设计方法和自动设计方法。人工设计方法通过优化卷积结构、精简卷积操作来完成。自动设计方法通过某种策略自动设计高性能、精简的轻量化模型，如神经架构搜索(NAS)。本文梳理了近年来模型轻量化相关的经典方法及未来研究方向，以帮助研究者快速了解模型轻量化领域的最新进展。
然而,随着数据量的不断增大以及人们对高准确率的不断追求,神经网络模型的参数规模急剧增大,网络复杂度不断提高,导致计算、存储等资源开销不断扩大,使其在资源受限场景下的部署面临极大挑战。因此,如何在不影响模型性能的前提下实现模型轻量化,进而降低模型训练和部署的成本成为当前的研究热点之一。为此,文中从复杂模型...