xk1010 2020-01-09 11:04 采纳率: 100%
浏览 5402

神经网络训练时,损失值在0.1波动,不再下降,是否认为已经收敛?

在利用卷积神经网络训练一组数据时,损失值从3.7左右下降到0.15左右,之后损失值不再下降,这种情况是否可以认为已经收敛?但此时的测试集准确率只有92%左右,如果想要继续提高准确率,应该从哪方面入手:数据集本身?网络模型?训练参数?还是其它方面?
这是训练的两张图:图片说明图片说明

  • 写回答

1条回答 默认 最新

  • threenewbee 2020-01-09 11:41
    关注

    一个是本身数据的可学习性,一个是模型的问题。一个是网络调参不好。
    打一个比方,如果仅仅用每天的天气数据预测每天的股票价格,怎么预测都误差很大,这个就是可学习性差。可学习性差表现为过拟合。
    而用一个只有单层10个神经元的网络去判别图片,这个就是模型的问题。模型不好主要表现在学不动,不收敛。
    还有一个就是网络调参,比如说虽然你的网络复杂性够了,数据也OK,但是优化器不好,导致梯度消失,过早收敛,这个你要换优化器的算法,必要的时候可以用网格搜索的方式手动调参。

    评论

报告相同问题?

悬赏问题

  • ¥15 想问一下stata17中这段代码哪里有问题呀
  • ¥15 flink cdc无法实时同步mysql数据
  • ¥100 有人会搭建GPT-J-6B框架吗?有偿
  • ¥15 求差集那个函数有问题,有无佬可以解决
  • ¥15 【提问】基于Invest的水源涵养
  • ¥20 微信网友居然可以通过vx号找到我绑的手机号
  • ¥15 寻一个支付宝扫码远程授权登录的软件助手app
  • ¥15 解riccati方程组
  • ¥15 使用rabbitMQ 消息队列作为url源进行多线程爬取时,总有几个url没有处理的问题。
  • ¥15 Ubuntu在安装序列比对软件STAR时出现报错如何解决