高精度分割:通过交叉注意力机制,CCNet能够捕获图像中的全局上下文信息,从而提升分割精度。在多个基准数据集(如Cityscapes、ADE20K)上的实验表明,CCNet取得了最先进的分割性能。 轻量级设计:尽管功能强大,但CCNet采用了轻量级设计,减少了计算和内存开销。这使得CCNet能够在各种硬件平台上高效运行,满足实时应用的需求。 四、...
本文提出的Criss-Cross Network (CCNet)在Non-local基础上进行改进,简单来说就是将Non-local中的全局注意力机制替换为十字型的注意力机制,能够以一种更加高效和有效地方式获取重要信息。 贡献: (1)提出了一个新的交叉的注意模块,它可以被用来以一种更有效和更有效的方式从长距离依赖中捕捉上下文信息。 (2)CCNet...
和non-local的方法相比极大的降低了计算量,同时采用二阶注意力,能够从所有像素中获取全图像的上下文信息,以生成具有密集且丰富的上下文信息的新特征图。在计算矩阵相乘时,每个像素只抽取特征图中对应十字位置的像素进行点乘,计算相似度。 3 CCNet 4 实验结果 PyTorch代码: importtorch importtorch.nnasnn defINF(B,H...