我们知道之前Focal Loss是为one-stage的检测器的分类分支服务的,它支持0或者1这样的离散类别label。 然而,对于我们的分类-质量联合表示,label却变成了0~1之间的连续值。我们既要保证Focal Loss此前的平衡正负、难易样本的特性,又需要让其支持连续数值的监督,自然而然就引出了我们对Focal Loss在连续label上的拓展形式...
为了解决这个问题,作者从两阶段中现有的解决方案(如EQLv2)开始,将它们调整在一阶段检测器中一起处理Focal Loss。作者发现这些解决方案与它们在两阶段检测器上的应用相比,只带来了微小的改进(见表1)。然后,作者认为,简单地结合现有的解决方案与Focal Loss,不能同时解决这两种类型的不平衡问题。通过比较不同数据分布...
IOU Loss是通过计算两个目标框的交集面积与并集面积之比来衡量它们的重叠程度,公式如下: IOU Loss = 1 - IOU 其中,IOU表示交并比,计算公式为: IOU = Intersection / Union GIOU Loss是在IOU Loss的基础上进行了改进,解决了IOU Loss在处理高度不一致的目标框时的缺陷。GIOU Loss考虑了目标框的外接矩形(bounding...
而对于预测概率为0.5时,损失函数值只减少了0.25倍,所以FocalLoss减少了简单样本的影响从而更加关注于难以区分的样本。 (2)、改进第二点如下公式所示。 FocalLoss还引入了平衡因子alpha,用来平衡正负样本本身的比例不均匀。alpha取值范围0~1,当alpha>0.5时,可以相对增加y=1所占的比例,保证正负样本的平衡。 (3)、虽...
Quality Focal Loss (QFL)是一种用于目标检测的改进损失函数。它的主要创新是将目标的定位质量(如边界框与真实对象的重叠度量,例如IoU得分)直接融合到分类损失中,形成一个联合表示。这种方法能够解决传统目标检测中分类与定位任务之间存在的不一致性问题。QFL通过为每个类别的得分赋予根据定位质量调整的权重,使得检测模...
loss_weight * distribution_focal_loss( pred, target, weight, reduction=reduction, avg_factor=avg_factor) return loss_cls 一句话总结:基于任意one-stage 检测器上,调整框本身与框质量估计的表示,同时用泛化版本的GFocal Loss训练该改进的表示,无cost涨点(一般1个点出头)AP --- 这个工作核心是围绕“表示...
最后,作者基于残差网络,FPN搭建了检测网络RetinaNet,该网络使用的策略都是他们自己提出的而且目前效果非常好的基础结构,再结合Focal Loss,刷新检测算法的精度也不意外。 2. Focal Loss是交叉熵损失的改进版本,一个二分类交叉熵可以表示为: 上面公式可以简写成: ...
Focal Loss for Dense Object Detection 是ICCV2017的Best student paper,文章思路很简单但非常具有开拓性意义,效果也非常令人称赞。 GHM(gradient harmonizing mechanism) 发表于 “Gradient Harmonized Single-stage Detector",AAAI2019,是基于Focal loss的改进,也是个人推荐的一篇深度学习必读文章。
对于weighting factor,通过在EFL中所有类别中设置focusing factor始终为来观察其影响。因此,weighting factor的函数也可以看作是一种结合Focal Loss的重加权方法。正如预期的那样,weighting factor比改进的Baseline高出0.4%。 通过这2个组件的协同作用,EFL显著提高了改进的Baseline的性能,从25.7%AP提高到27.5%AP。
不管在CV,还是NLP领域,该损失函数值得大家去尝试。在AAAI2019会议上提出一种基于Focal loss的改进版GHM(Gradient Harmonized Single-stage Detector),有兴趣的也可以去读读。 更多文章可关注笔者公众号:自然语言处理算法与实践