Kaldi LF-MMI训练---通过config配置factored TDNN一文讲了如何用config配置factored TDNN,本文会接着去看一下具体TdnnComponent在Kaldi里面是怎么实现的。关于网络训练以及调用TdnnComponent的细节,大家可以看一下脚本kaldi/egs/swbd/s5c/local/chain/tuning/run_tdnn_7q.sh里面有关steps/nnet3/chain/train.py的细节。
LF-MMI(Lattice-Free Maximum Mutual Information)训练准则通过在神经网络输出层计算出来所有可能的标注序列,根据这些标注序列计算出相应的 MMI 信息和相关的梯度,然后通过梯度传播算法完成训练。 LF-MMI 训练准则能够在训练过程中直接计算所有可能路径的后验概率(Posterior Probability),省去了鉴别性训练前需要提前生成 Lat...
本人Ph.D.期间两个工作都是基于Kaldi LF-MMI trained factored Time Delay Neural Network (TDNN-F)[1,2,3]结构去做进一步改进的,一开始刚接触factored TDNN的时候自己似懂非懂的啃了一些Kaldi脚本和底层实现的代码,后面发现其实只需要有重点的理解TDNN-F中的一些模块就可以在TDNN-F里面实现自己提出的算法和想法...