线性模型训练问题111111

Question

咨询和问题，线性模型可以按下面这种公式训练不，如果是平方或者多项式可以直接乘嘛，特殊公式可以直接指定公式转换不呢，还是只能分拆乘单项去算权重？
目标值 =权重ln(参数1)+(权重+权重参数2+权重参数3)(权重+权重参数2+权重参数3^2)/参数1权重+权重

Answer 1

【相关推荐】

• 这篇博客: 【BN、LN和梯度消失与梯度爆炸】中的 2. 梯度剪切、正则 部分也许能够解决你的问题, 你可以仔细阅读以下内容或跳转源博客中阅读:
  

  梯度剪切主要是针对梯度爆炸提出的，其思想是设置一个梯度剪切阈值，更新梯度时，如果梯度超过这个阈值，那么就将其强制限制在这个范围之内，防止梯度爆炸。另一种解决梯度爆炸的手段是权重正则化（weithts regularization），常见的是 l1 正则，和 l2正则。

如果你已经解决了该问题, 非常希望你能够分享一下解决方案, 写成博客, 将相关链接放在评论区, 以帮助更多的人 ^-^