1 训练的时候 loss 不下降 模型结构问题。当模型结构不好、规模小时，模型对数据的拟合能力不足。训练...
首先，过拟合可能是导致loss不下降的主要原因之一。过拟合意味着模型在训练数据上表现良好，但在新数据（即测试集或验证集）上的表现却较差。这通常表现为训练loss下降，而验证loss反而上升。为解决过拟合，可以考虑以下几种策略：- **增加数据量**：更多的训练数据可以提供更丰富的学习样本，帮助模型更好...
如题,我用lstm做一个时序数据分类预测,损失函数是交叉熵损失,结果train loss很快降到0.69,之后也缓慢下降;但val loss从一开始训练就在0.69左右波动,没有下降和收敛的兆头,一些参数设置如下,百度了试过改参数初始化、加bn、改lstm层数、还把adam换了都不行,loss根本不下降,求求救救我!!(相同的数据用SVM做分类,...
val_loss先下降后上升或不下降只上升 train loss 不断下降,test loss不断下降,说明网络仍在学习; train loss 不断下降,test loss趋于不变,说明网络过拟合; train loss 趋于不变,test loss不断下降,说明数据集100%有问题; train loss 趋于不变,test loss趋于不变,说明学习遇到瓶颈,需要减小学习率或增大批量数目...
老哥们,我又来了!请..老哥们,我又来了!请问现在这个情况是不是已经说明一些问题了啊。。。我感觉val loss每次要下降都会被拉上去用的googlenet V2是我keep prob的问题吗还是啥此前用过V3 跑一半数据集
loss计算是否正确？最近看了Andrej Karpathy的一篇博客，写到了一些关于训练的技巧，讲的还是挺不错的，...
虽然时隔很久，但估计是曲线被tensorboard平滑了，图放大看看 你
先调试 学习率，这玩意儿最蛋疼。如果是用的adam之类的优化器，先搞成sgd试试。