灵剑 2016-03-05 04:09 采纳率: 0%
浏览 1327
已结题

神经网络 反向传导过程

小弟初学神经网络,出现了一个问题,望各位大神解惑。

首先说下编程结果:
用的sigmoid函数,输入输出参数已归一化,w的初始值为[0,1]的随机数
运行后发现,所有w最终都会趋于0,无论输入什么,隐藏层和输出层的值都趋于不变

自己对公式重新分析后存在困惑:
首先,对于最后一层隐藏层,就是直接与输出层相连的隐藏层,有图片说明,而输出层有图片说明,对于所有最后一层隐藏层中的结点,该值是一样的,也就是说,对于最后一层隐藏层所有节点的w的偏导值完全是等倍数修改的。而这又会导致最后一层隐藏层所有节点的w值趋同,前几层理解过程一样,最终导致相同层的w值都近似相等。
请问是哪里理解错了?

  • 写回答

1条回答 默认 最新

报告相同问题?

悬赏问题

  • ¥15 如何在scanpy上做差异基因和通路富集?
  • ¥20 关于#硬件工程#的问题,请各位专家解答!
  • ¥15 关于#matlab#的问题:期望的系统闭环传递函数为G(s)=wn^2/s^2+2¢wn+wn^2阻尼系数¢=0.707,使系统具有较小的超调量
  • ¥15 FLUENT如何实现在堆积颗粒的上表面加载高斯热源
  • ¥30 截图中的mathematics程序转换成matlab
  • ¥15 动力学代码报错,维度不匹配
  • ¥15 Power query添加列问题
  • ¥50 Kubernetes&Fission&Eleasticsearch
  • ¥15 報錯:Person is not mapped,如何解決?
  • ¥15 c++头文件不能识别CDialog