Gem Lo 2021-11-24 10:43 采纳率: 0%
浏览 420
已结题

训练集损失一直下降,但验证集损失基本不变

问题遇到的现象和发生背景

训练集的损失能够一直下降,但是验证集的损失基本不变

img

下面这个是使用weight-decay和减小学习率的结果

img

问题相关代码,请勿粘贴截图
运行结果及报错内容
我的解答思路和尝试过的方法

我用的是pytorch,我以为是过拟合,然后尝试使用dropout并设置为0.2或者0.5发现效果会差很多,而尝试在优化器中使用weightdecay=0.05发现作用不大。

我想要达到的结果

这种情况是过拟合了吗,这个训练充分了吗?

  • 写回答

0条回答 默认 最新

    报告相同问题?

    问题事件

    • 系统已结题 12月2日
    • 创建了问题 11月24日