为什么神经网络要那么多隐藏层，对一个隐藏层加激活函数权重不断更新不可以吗

Question

如图，为什么不把两层用一层加一个激活函数代替，这样不是减少运算了吗

Answer 1

那不成了浅层神经网络了吗，就不是深度神经网络了。
深度即多层的意义在于每一层都能从前一层的基础上学习到更多内容，所以多层不是浅层网络能替代的，甚至浅层上有无穷多个神经元也是不能替代多层网络的。
就是因为它的层次学习特征。