crossentropy是分类问题中常用的一种loss函数,其更为详细的内容描述我们已经在之前的博客【NLP笔记:浅谈交叉熵(cross entropy)】做过了一番讨论,因此这里就不再详细展开了,仅仅给出其定义公式如下: 4. KLDivergence KL Divergence同样在我们之前的博客【NLP笔记:浅谈交叉熵(cross entropy)】中进行了一些简单的介绍。