深度学习换了一个数据集之后，1600的图像个数正常尺寸，100的batch，trainning loss在一段时间后会变成0，过一会突然非零，但是几次迭代后又会出现，请问什么原因啊，验证集准确率刚开始为0.5后续有所提高。以前从没有出现过0的损失。高人请教一下，不至于过拟合吧
train loss经常出现0怎么回事
- 写回答
- 好问题 0 提建议
- 追加酬金
- 关注问题
分享- 邀请回答
-
1条回答 默认 最新
- 2022-06-07 10:28回答 1 已采纳 embeddings为4096，后面的为3Xargs.embedding_size=384？4096无法整除以384，所以是无法reshape的，所以你应该是改了什么参数了，改回去看看
- 回答 2 已采纳 说明你的样本太少，明显已经过拟合了。
- 2020-06-29 00:25回答 1 已采纳 https://www.jianshu.com/p/3db91d6bdf83
- 2020-02-05 18:00追梦小狂魔的博客 train loss 不断下降，test loss不断下降，说明网络仍在学习; train loss 不断下降，test loss趋于不变，说明网络过拟合; train loss 趋于不变，test loss不断下降，说明数据集100%有问题; train loss 趋于不变，...
- 2021-03-18 16:11回答 2 已采纳 帮你改了下代码，路径你自己再改改，验证集acc能跑到0.8以上了。 import os import tensorflow as tf from tensorflow.keras import S
- 2023-03-16 15:49回答 1 已采纳 参考GPT和自己的思路： 这个问题的原因可能是过拟合或数据不平衡。当增加train数据时，模型可能会过度拟合这些数据，导致loss不再下降。此外，使用的数据可能不平衡，其中某些类别可能具有更多的训练示
- 2022-07-16 10:25回答 2 已采纳 可以试试动态调整学习率 ，batch_size可以调，也可以调整下训练集测试集比例，设置每次保存最优模型等
- 2023-03-25 18:21lanmy_dl的博客 解决方式，调了lr也不是。最后发现是因为测试是每一个epoch的训练后，所以下一次训练之前要重新train(),也就是要把net.train()写在epoch里面，而不是...训练的loss出现nan，第一个epoch是正常的，后面的就开始nan了。
- 2020-03-27 16:24回答 1 已采纳 https://blog.csdn.net/weixin_42886817/article/details/99855287
- 2021-10-15 09:18回答 2 已采纳 没有csv文件，我也运行不起来。。。
- 2020-03-31 15:26回答 2 已采纳 把transforms.Normalize((0.1307),(0.3081))改为transforms.Normalize((0.1307,),(0.3081,))
- 2020-04-20 18:05KORIYN的博客 训练网络—train loss、test loss,accuracy从一开始就不变 在训练NTSNet的时候，使用了vgg_16bn的baseline，将其设置为unpretrained的时候，发现vgg文件使用了默认的kaiming初始化。 但遇到这样一个问题：把vgg_16bn...
- 2020-08-23 10:52回答 2 已采纳 optimizer='Adam' 你写错了。
- 2020-05-21 11:06AI 黎明的博客 参考: link.
- 2023-02-07 11:24Goafan的博客 有些模型训练完在log中打印了每个epoch的loss和精度，但是没有一个直观的曲线图，也找不到最大acc。写了一个函数绘图并打印最大acc.
- 没有解决我的问题, 去提问
