在第二节的第四部分,我们提出了RNN的n VS m结构:Encoder-Decoder模型,Encoder-Decoder模型是深度学习中常见的一种模型。在本文中,我们只简单介绍其在文本-文本的应用,比如将英语翻译成汉语,所以该模型也可以称为Seq2Seq 模型。下图为Encoder-Decoder模型的抽象图: 2. 分析 1)Encoder 给定句子对<X,Y>,我们的目...
("RNN模型结构: ",model)importtorch.optimasoption criterion=nn.CrossEntropyLoss()optimizer=option.Adam(model.parameters(),lr=0.1)forepochinrange(5000):optimizer.zero_grad()input_batch,target_batch=make_batch()output=model(input_batch)loss=criterion(output,target_batch)if(epoch+1)%1000==0:print...