vae的loss函数为两项,重构损失(reconstruct loss)以及kl散度正则项(kl loss),分别对应模型训练过程希望达成的两个目的。 loss=MSE(X,X′)+KL(N(μ1,σ12),N(0,1)) reconstruct loss计算的是解码器解码得到的向量和输入向量之间的MSE loss,这一项比较好理解,就是反映出vae生成的结果和输入之间的差异,对应的...
首先,我使用独立的 LSTM 模型进行分类,并且损失收敛。 然后,我使用了AE模型,编码器是LSTM,解码器是MLP,模型覆盖率很好。 但是,当我使用 VAE 模型时,我的重构损失仍然在 0.69 左右,这基本上意味着模型除了抛硬币之外什么也没学到,同时我的 KL 散度下降到了一个相对较小的数字。所以,我怀疑计算 mu 和 log var...