问题遇到的现象和发生背景
训练集的损失能够一直下降，但是验证集的损失基本不变
下面这个是使用weight-decay和减小学习率的结果
问题相关代码，请勿粘贴截图
运行结果及报错内容
我的解答思路和尝试过的方法
我用的是pytorch，我以为是过拟合，然后尝试使用dropout并设置为0.2或者0.5发现效果会差很多，而尝试在优化器中使用weightdecay=0.05发现作用不大。
我想要达到的结果
这种情况是过拟合了吗，这个训练充分了吗？
训练集损失一直下降，但验证集损失基本不变
- 写回答
- 好问题 0 提建议
- 追加酬金
- 关注问题
分享- 邀请回答
-
0条回答 默认 最新
- 2022-02-25 12:13回答 1 已采纳 （1）你没有给出模型，数据情况，谁也分析不了（2）训练误差小，测试误差大，这是典型的过拟合（3）损失值降为 0，还是下降很快，接近于 0，这是完全不同的，从问题描述和图中看不出来
- 2022-07-21 23:10回答 2 已采纳 趋势相同应该还不算，只有当趋势背离，即训练集的评估指标变好，但是验证集评估指标变坏的时候，才算过拟合。
- 2022-06-15 15:37回答 1 已采纳 这种情况要么就是模型本身参数设置和结构的问题，要么就是数据集少了，一般不会出现训练集比测试集还差
- 2021-05-06 16:35mu_xing_的博客 Tensorflow2.0训练损失值降低，但测试正确率基本不变的情况问题描述解决方法修改参数检查模型loss计算方法数据标签权重初始值 问题描述 对于一个架构，在识别mnist手写数字集精度较高的情况下，更换其他的数据集，却...
- 2022-05-12 16:03回答 1 已采纳 减小学习率和BatchSize
- 2022-05-09 19:49回答 1 已采纳 训练集相当于课后的作业，用于日常的知识巩固验证集相当于月考，用来纠正和强化学到的知识测试集相当于期末考试，用来最终评估学习效果 测试集并不会影响模型最终的性能。
- 2022-06-22 10:51回答 3 已采纳 不是，你这个是class_loss一塌糊涂导致你的pr和map曲线也不行，但是你的obj和box是正常的，也就是说网络有找到目标，只不过目标在分类的时候分错了。首先考虑的应该是你的数据集情况。1.你的
- 2023-10-15 21:45万里长征第一步的博客 以上情况在某种程度上相当于模型不学习了，(只有一组参数，学习完不在学习)epoch，在训练集得到的参数，应用到测试集上。不能等训练集结束再将参数应用到测试集上。在对数据集进行训练时，权重等参数得到更新，应该...
- 2021-08-17 01:03回答 1 已采纳 解决好了，用管理员身份启动r studio就可以下载了
- 2023-02-16 18:38回答 1 已采纳 从你提供的代码看，存在几种可能性导致没有弹出曲线图窗口： plt.show()没有被调用：在使用 matplotlib 绘制图像时，必须调用 plt.show() 才能弹出窗口并显示图像。因此，您需要
- 2021-09-17 09:55回答 1 已采纳 监控视频里面截取的？如果几乎一摸一样，建议删除掉这部分重复的吧，留下一些就可以，多余的对于数据集来说没有多大的意义，反而训练时间变长了。对于数据集来说，最终要的是要看数据的分布情况而不是数量，分布越广
- 2020-09-18 04:53今天小编就为大家分享一篇解决Pytorch训练过程中loss不下降的问题，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
- 2021-11-11 11:34回答 2 已采纳 单纯的增加训练集 理论上因为泛化性更强了，更多情况下测试结果会有提高，实际场景中一般8：2 、 9：1都有的，这种一般都可以 自己调控的 训练时候可以都运行下，还有交叉验证啥的 只有去跑模型对比才知道
- 2021-09-07 09:38LN烟雨缥缈的博客 train loss 趋于不变，test loss不断下降，说明数据集100%有问题; train loss 趋于不变，test loss趋于不变，说明学习遇到瓶颈，需要减小学习率或批量数目;或者是数据集有问题（数据集标注错误数据比较多） train ...
- 2023-09-06 14:36m0_74148969的博客 不止一次出现这种情况，很多情况可能导致该现象出现，可能是学习率，梯度下降出现问题。这次是因为数据数值过大，加入BatchNorm层后解决该问题。
- 没有解决我的问题, 去提问
问题事件
系统已结题
12月2日
创建了问题
11月24日
悬赏问题
- ¥15 HFSS 中的 H 场图与 MATLAB 中绘制的 B1 场 部分对应不上
- ¥15 如何在scanpy上做差异基因和通路富集？
- ¥20 关于#硬件工程#的问题，请各位专家解答！
- ¥15 关于#matlab#的问题：期望的系统闭环传递函数为G(s)=wn^2/s^2+2¢wn+wn^2阻尼系数¢=0.707，使系统具有较小的超调量
- ¥15 FLUENT如何实现在堆积颗粒的上表面加载高斯热源
- ¥30 截图中的mathematics程序转换成matlab
- ¥15 动力学代码报错，维度不匹配
- ¥15 Power query添加列问题
- ¥50 Kubernetes&Fission&Eleasticsearch
- ¥15 報錯：Person is not mapped，如何解決？