在ImageNet-1K上达到了90%的Top-1 Accuracy,下游的检测和分割任务上双双达到60+的水平,COCO AP box 63.8%,ADE 20k mIoU 61.0%。此外,RevCol架构依然遵循了可逆神经网络的设计范式,也就继承了可逆网络天然的节省显存的优势,文中的大部分实验均可在2080ti上完成。而节省显存这件事,对于大模型训练无疑是重要的。
在ImageNet-1K上达到了90%的Top-1 Accuracy,下游的检测和分割任务上双双达到60+的水平,COCO AP box 63.8%,ADE 20k mIoU 61.0%。此外,RevCol架构依然遵循了可逆神经网络的设计范式,也就继承了可逆网络天然的节省显存的优势,文中的大部分实验均可在2080ti上完成。而节省显存这件事,对于大模型训练无疑是重要的。
利用FixRes这个简单的策略对ImageNet数据集上的SOTA进行优化,FixRes都达到了更高的accuracy: FixResNeXt-101 32x48d(224训练,320测试):top-1 acc达到86.4%,超过ResNeXt-101 32x48d所达到的85.4%; FixEfficientNet-L2(475训练,600测试):top-1 acc达到88.5%,超过Noisy Student Training (L2)所达到的88.4%; 首先,...
Inception-v3 (Szegedy et al., 2015) 以及 Inception-v4 (Szegedy et al., 2016)。 1. 准确率(Accuracy) 图1 展示了提交给 ImageNet 挑战赛的架构的 1-crop 准确率,最左边的是 AlexNet,最右边的是 Inception -v4。最新的 ResNet 和 Inception 架构相比其他架构准确率至少高 7%。本文中,我们使用不同的...
其中主要关注ImageNet的多标签子集评估,最好的模型已经能达到97%的Top-1的准确率。 这项研究的分析结果显示,将近一半的所谓的预测错误根本就不是错误,并且还在图片中发现了新的多标签,也就是说,如果没有人工审查过预测结果,这些模型的性能可能都是被「低估」的!
在ImageNet-1K上达到了90%的Top-1 Accuracy,下游的检测和分割任务上双双达到60+的水平,COCO AP box 63.8%,ADE 20k mIoU 61.0%。此外,RevCol架构依然遵循了可逆神经网络的设计范式,也就继承了可逆网络天然的节省显存的优势,文中的大部分实验均可在2080ti上完成。而节省显存这件事,对于大模型训练无疑是重要的。
PUG-ImageNet 等合成数据集可以精确控制摄像机角度和纹理等因素,是一种很有前景的研究路径,因此研究者分析了模型在合成数据上的性能。PUG-ImageNet 包含逼真的 ImageNet 图像,姿态和光照等因素存在系统性变化,性能以绝对 top-1 准确率为衡量标准。 研究者提供了 PUG-ImageNet 中不同因素的结果,发现 ConvNeXt 在...
1. 准确率(Accuracy) 图1 展示了提交给 ImageNet 挑战赛的架构的 1-crop 准确率,最左边的是 AlexNet,最右边的是 Inception -v4。最新的 ResNet 和 Inception 架构相比其他架构准确率至少高 7%。本文中,我们使用不同的颜色区分不同的架构和他们的作者,同一个网络的色系相同,例如粉色系的都是 ResNet。
「刷榜」一直是模型创新的原动力,把模型Top-1准确率推动到90%+,比人类还高。 但ImageNet数据集是否真的像我们想象中的那么有用? 很多论文都曾对ImageNet发出质疑,比如数据的覆盖度、偏见问题、标签是否完善等等。 其中最重要的是,模型90%的准确率是否真的准确?
1. 准确率(Accuracy) 图1 展示了提交给 ImageNet 挑战赛的架构的 1-crop 准确率,最左边的是 AlexNet,最右边的是 Inception -v4。最新的 ResNet 和 Inception 架构相比其他架构准确率至少高 7%。本文中,我们使用不同的颜色区分不同的架构和他们的作者,同一个网络的色系相同,例如粉色系的都是 ResNet。