Snoopy9797 2021-09-29 16:32 采纳率: 0%
浏览 25
已结题

样本网络训练梯度问题

LSTM利用批量样本进行训练，采用批量梯度下降，取平均梯度进行参数更新，但是却收敛到中心线上了，推导公式发现是误差相互抵消导致梯度为0不更新了，不知道怎么解决。

img

img

img

  • 写回答

2条回答 默认 最新

  • Lyna Tlncgbnn 2021-09-30 16:52
    关注

    学习率调一下，可以用随机的。可以去看一些迭代过程中的优化方法，比如adam。随便用一种就可以解决的

    评论

报告相同问题？

问题事件

  • 已结题 （查看结题原因） 10月2日
  • 修改了问题 9月29日
  • 修改了问题 9月29日
  • 创建了问题 9月29日

悬赏问题

  • ¥15 如何在scanpy上做差异基因和通路富集？
  • ¥20 关于#硬件工程#的问题，请各位专家解答！
  • ¥15 关于#matlab#的问题：期望的系统闭环传递函数为G(s)=wn^2/s^2+2¢wn+wn^2阻尼系数¢=0.707，使系统具有较小的超调量
  • ¥15 FLUENT如何实现在堆积颗粒的上表面加载高斯热源
  • ¥30 截图中的mathematics程序转换成matlab
  • ¥15 动力学代码报错，维度不匹配
  • ¥15 Power query添加列问题
  • ¥50 Kubernetes&Fission&Eleasticsearch
  • ¥15 報錯：Person is not mapped，如何解決？
  • ¥15 c++头文件不能识别CDialog