穆穆青风至 2022-10-16 20:37 采纳率: 97.4%
浏览 27
已结题

关于利用梯度下降求参数

损失函数用的是带正则化的均方误差mse,对2个参数利用随机梯度下降进行迭代,然后下面图横轴是迭代次数,纵轴就是均方误差mse,有点不明白 1、为啥先下降后上升,不应该一直下降直到区域平缓吗?2、是否我梯度下降实现错了呢?这正常吗,一开始我写的终止循环条件是本次迭代的mse和上一轮迭代的mse差的绝对值小于0.01,那么基本上10次以内就达到这个条件然后就退出了,如果这个图正常,3、那我实际该如何写终止条件了,因为我还有别的一个参数要变动,那个参数我得依据实验效果也就是这个mse选取最优的,但是这下好了,我连这个图都看不明白,有几个疑问,请指教

img

  • 写回答

2条回答 默认 最新

  • Elwin Wong 2022-10-17 15:57
    关注

    loss先下降后上升,可能的原因之一是学习率比较大,随机梯度下降算法没法收敛。
    其他的疑问有点不太理解你的意思,哈哈!

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论
查看更多回答(1条)

报告相同问题?

问题事件

  • 系统已结题 10月28日
  • 已采纳回答 10月20日
  • 创建了问题 10月16日

悬赏问题

  • ¥15 如何在scanpy上做差异基因和通路富集?
  • ¥20 关于#硬件工程#的问题,请各位专家解答!
  • ¥15 关于#matlab#的问题:期望的系统闭环传递函数为G(s)=wn^2/s^2+2¢wn+wn^2阻尼系数¢=0.707,使系统具有较小的超调量
  • ¥15 FLUENT如何实现在堆积颗粒的上表面加载高斯热源
  • ¥30 截图中的mathematics程序转换成matlab
  • ¥15 动力学代码报错,维度不匹配
  • ¥15 Power query添加列问题
  • ¥50 Kubernetes&Fission&Eleasticsearch
  • ¥15 報錯:Person is not mapped,如何解決?
  • ¥15 c++头文件不能识别CDialog