我们知道之前Focal Loss是为one-stage的检测器的分类分支服务的,它支持0或者1这样的离散类别label。 然而,对于我们的分类-质量联合表示,label却变成了0~1之间的连续值。我们既要保证Focal Loss此前的平衡正负、难易样本的特性,又需要让其支持连续数值的监督,自然而然就引出了我们对Focal Loss在连续label上的拓展形式...
而对于预测概率为0.5时,损失函数值只减少了0.25倍,所以FocalLoss减少了简单样本的影响从而更加关注于难以区分的样本。 (2)、改进第二点如下公式所示。 FocalLoss还引入了平衡因子alpha,用来平衡正负样本本身的比例不均匀。alpha取值范围0~1,当alpha>0.5时,可以相对增加y=1所占的比例,保证正负样本的平衡。 (3)、虽...
传统的Focal Loss以所有类别中的相同调制因子来平衡训练过程,因此无法处理长尾问题。 为了解决这个问题,本文提出了均衡Focal Loss(EFL),根据不同类别的正负样本的不平衡程度,独立地重新平衡不同类别样本的损失贡献。具体来说,EFL采用了一个与类别相关的调制因子,可以根据不同类别的训练状态进行动态调整。在具有挑战性的...
Focal Loss 是一个在交叉熵(CE)基础上改进的损失函数,来自ICCV2017的Best student paper——Focal Loss for Dense Object Detection。论文下载链接为:https://openaccess.thecvf.com/content_ICCV_2017/papers/Lin_Focal_Loss_for_ICCV_2017_paper.pdf。Focal Loss的提出源自图像领域中目标检测任务中样本数量不平衡...
IOU Loss是通过计算两个目标框的交集面积与并集面积之比来衡量它们的重叠程度,公式如下: IOU Loss = 1 - IOU 其中,IOU表示交并比,计算公式为: IOU = Intersection / Union GIOU Loss是在IOU Loss的基础上进行了改进,解决了IOU Loss在处理高度不一致的目标框时的缺陷。GIOU Loss考虑了目标框的外接矩形(bounding...
最后,作者基于残差网络,FPN搭建了检测网络RetinaNet,该网络使用的策略都是他们自己提出的而且目前效果非常好的基础结构,再结合Focal Loss,刷新检测算法的精度也不意外。 2. Focal Loss是交叉熵损失的改进版本,一个二分类交叉熵可以表示为: 上面公式可以简写成: ...
Focal Loss for Dense Object Detection 是ICCV2017的Best student paper,文章思路很简单但非常具有开拓性意义,效果也非常令人称赞。 GHM(gradient harmonizing mechanism) 发表于 “Gradient Harmonized Single-stage Detector",AAAI2019,是基于Focal loss的改进,也是个人推荐的一篇深度学习必读文章。
loss_weight * distribution_focal_loss( pred, target, weight, reduction=reduction, avg_factor=avg_factor) return loss_cls 一句话总结:基于任意one-stage 检测器上,调整框本身与框质量估计的表示,同时用泛化版本的GFocal Loss训练该改进的表示,无cost涨点(一般1个点出头)AP --- 这个工作核心是围绕“表示...
GHM(gradient harmonizing mechanism) 发表于 “Gradient Harmonized Single-stage Detector",AAAI2019,是基于Focal loss的改进,也是个人推荐的一篇深度学习必读文章。 第一部分 Focal Loss Focal Loss的引入主要是为了解决难易样本数量不平衡(注意,有区别于正负样本数量不平衡)的问题,实际可以使用的范围非常广泛,为了方便...