透明小脑袋 2020-09-15 10:21 采纳率: 100%
浏览 725
已采纳

LSTM模型训练过拟合问题。

使用ConvLSTM预测图像序列总是出现过拟合的问题,数据集是Moving MNIST 移动数据集,前10帧预测后10帧,训练集11000个序列,验证集1000个序列,优化器Adam,学习率0.001,batch_size=10,MSE做损失函数。

已尝试增加normalization、dropout、梯度裁剪、L1与L2正则10e-6、10e-5、10e-4都无法解决过拟合的问题

图片说明

橙色为训练集损失,蓝色为验证集损失,验证集损失训练一段时间开始上升。
请问这种情况该怎样解决?

  • 写回答

1条回答 默认 最新

  • threenewbee 2020-09-15 10:33
    关注

    没办法,你的训练样本太少。增加训练样本是唯一的办法。
    好比吃不饱饭怎么办,不增加饭,采用稀饭掺水,少餐多顿这些办法都治标不治本。

    所以你看即便it大厂,也在拼命积攒数据以及人工标注数据,花费大量成本,如果算法能解决,何必如此。

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论

报告相同问题?

悬赏问题

  • ¥15 霍尔传感器接放大器的应用
  • ¥20 针对计算后数据做一致性检验可以用Bland Altman法吗
  • ¥15 win32如何自绘编辑框的背景图片(语言-c++|操作系统-windows)
  • ¥15 微信夜间被转走了1w对,当天手机剪切板里就出现了这个乱码,有铁子可以看看是啥吗可以
  • ¥50 跑通github上的代码 深度学习 pytorch
  • ¥50 求写,批处理调用分区助手分区脚本
  • ¥15 求购HI3519AV100开发板
  • ¥15 请问1553 RT怎么测试,没有BC有方法吗
  • ¥100 业务编程如何选择学习方向和内容?
  • ¥15 wamp3.3.5安装完成后图标正常显示绿色,鼠标左右键点击图标均无反应。求解决方法。