以CIFAR10的训练为例,50000个为training set(已打标签),10000为testing set step1:输入一张testing的图片 step2:将这张图片和训练集的所有图片对比,将差别最小的类的标签分配给它 比较两张图片的办法: 就是比较32x32x3的像素块。最简单的方法就是逐个像素比较,最后将差异值全部加起来。 方法一:就是将两张图
这个新操作的内存复杂度为线性上下文大小和特征维度,使其兼容大输入和模型大小。 我们还介绍了AFT-local和AFT-conv,这两种模型变体在保持全局连接的同时利用了局部性和空间权重共享的思想。对两个自回归建模任务(CIFAR10 和 Enwik8)以及一个图像识别任务(ImageNet-1K 分类)进行了大量实验。 实验表明,AFT 在所有基准...