解决方法:使用Nonlocal块,首先创建一个包含每个成对位置之间关系的密集亲和矩阵,然后使用该矩阵作为注意力图通过加权均值聚合特征 。但是该方法设计大量特征对,包含太多噪声。解决该问题最新的方法(A2Net,CGNL块等)专注于创建更合理的注意力图。但是这也缺乏关于使用定位过滤器(1x1卷积)的远程依赖,如图A。 二、创新点...
Unifying Nonlocal Blocks for Neural Networks Lei Zhu1,3,4 Qi She∗,2 Duo Li7 Yanye Lu1,3 Xuejing Kang5 Jie Hu6 Changhu Wang2 zhulei@stu.pku.edu.cn, sheqi1991@gmail.com 1Institute of Medical Technology, Peking University Health Science Center, Peking University 2Bytedance AI Lab 3...