量子位 报道 | 公众号 QbitAI 正在夏威夷举办的CVPR 2017，刚刚评出了今年的两篇最佳论文(Best Paper Awards)：一篇是Densely Connected Convolutional Networks，作者包括清华大学的Zhuang Liu、康奈尔大学的Gao Huang和Kilian Q. Weinberger，以及Facebook研究员Laurens van der Maaten。地址：https://arxiv.org/abs/...
CVPR 2017 Best Paper 1、看abstract时候的问题(看其他部分时候的回答) 1.shorter connections between layers close to the input and those close to the output makes network be substantially deeper, more accurate, and efficient to train。这是为什么? 2.our network has L(L+1) direct connections.有这...
在网络结构的探索中,通用网络的出现往往给研究人员带来更多的研究工具,也往往能在不同程度上推动相关领域的发展。本文介绍的DenseNet在2017年荣获了计算机视觉顶级会议之一CVPR的best paper(最佳论文)奖项,由于其网络深度更深并且参数数量更少的特性,影响了后面很多学者的工作。 参考文献: 【1】He K, Zhang X, Ren ...
Densely Connected Convolutional Networks,CVPR-2017-best paper之一(共两篇,另外一篇是apple关于GAN的paper),早在去年八月 DenseNets的paper就发布在arXiv上了。 就CNN的发展来说,2017注定被DenseNets给占了(12年开始,经典的CNN网络,AlexNet,VGG,GoogLenet系列,ResNet系列),除了AlexNet,VGG,GoogLenet,ResNet都是在传...
discriminator network有一个问题时,它只会关注latest的refined images,这就会导致两个问题:第一是adversarial training时会有分歧;第二是refiner network会重新加入那些已经加入的但是被网络忘记的real image的特征。因此本文在update discriminator的时候使用到了refined images的历史信息。 6、结果怎么样 效果: 训练结果对...
本篇在16年8月挂到arXiv上,中了2017年CVPR,是继16年何大神的ResNet之后,第二个华人的best paper,这里有个作者本尊的talk,现场讲解。一作Gao Huang(黄高)05年北航的本科生(GPA第一),15年清华博士毕业(读了6年。。),后来在康奈尔待了3年做博后,此刻在清华作青椒,本篇是在康奈尔时的工作。二作刘壮(同等贡...
CVPR 2017 Best Paper Densely Connected Convolutional Networks 1、看abstract时候的问题(看其他部分时候的回答) 1.shorter connections between layers close to the input and those close to the output makes network be substantially deeper, more accurate, and efficient to train。这是为什么?
在当年,ResNet横扫 ImageNet 2015和COCO 榜单。也是从ResNet开始,神经网络在视觉分类任务上的性能第一次超越了人类。它也让当时第二次获得CVPR Best Paper的何恺明正式踏上了大神之路。 最初ResNet 的设计是用来处理深层 CNN 结构中梯度消失和梯度爆炸的问题,它将输入从卷积层的每个块添加到输出,让每一层更容易学...
它也让当时第二次获得CVPR Best Paper的何恺明正式踏上了大神之路。最初 ResNet 的设计是用来处理深层 CNN 结构中梯度消失和梯度爆炸的问题,它将输入从卷积层的每个块添加到输出,让每一层更容易学习恒等映射,并且还减少了梯度消失的问题。而如今,残差模块已经成为几乎所有 CNN 结构中的基本构造。
CVPR 2017 作者:Gao Huang,Zhuang Liu,Laurens van der Maaten,Kilian Q. Weinberger 机构:康奈尔大学,清华大学,Facebook AI Research 被引频次:5181 DenseNet也是CVPR2017的最佳论文之一。在当时的神经网络模型都遇到一个问题:随着网路层数的加深,训练过程中的前传信号和梯度信号在经过很多层之后可能会逐渐消失。而Den...