KL散度(Kullback-Leibler散度)是一种衡量两个概率分布之间差异性的度量方法。 KL 散度是对熵公式的轻微修改。假定有真实的概率分布 p (一般指观察值,样本)和近似分布 q(一般指预测模型的输出),那两者的差异如下(离散型): DKL(p∣∣q)=∑i=1Np(xi)⋅(logp(xi)−logq(xi))=∑i=1Np(xi)...