1.lstm的结构图 LSTM主要由记忆单元C,遗忘门,输入门和输出门组成,门的取值范围都是(0,1),由sigmoid函数控制 遗忘门f 遗忘门以前一个时刻的隐层状态ht−1和该时刻输入xt的线性组合作为sigmoid函数的输入,用来控制遗忘多少*前一时刻记忆单元Ct-1的内容。 那么经过遗忘门之后:Ct-1中的内容还剩多少呢:• 表示...
GRU是另一种对RNN进行优化的结构。它在保持LSTM效果的同时,简化了模型结构,使得训练过程更为高效。 5. 生成对抗网络(GAN) GAN由生成器和判别器两部分组成,它能够生成极为逼真的图像、语音等数据。这使得GAN在数据增强、艺术创作等领域具有广泛的应用前景。