损失函数是什么意思，可不可以直白的讲一下

Question

损失函数用来计算什么的，是什么意思，可不可以直白的讲一下，本人非计算机专业

Answer 1

损失函数的输入是网络预测值与真实目标值,然后计算出一个距离值,衡量该网络在这个示例上的效果好坏,即损失函数用来衡量网络输出结果的质量。
深度学习的基本技巧是利用这个距离值作为反馈信号来对权重值进行微调,以降低当前示例对应的损失值。这种调节由优化器来完成,它实现了所谓的反向传播算法,这是深度学习的核心算法。
一开始对神经网络的权重随机赋值,因此网络只是实现了一系列随机变换。其输出结果自然也和理想值相去甚远,相应地,损失值也很高。但随着网络处理的示例越来越多,权重值也在向正确的方向逐步微调,损失值也逐渐降低。这就是训练循环 (training loop) ,将这种循环重复足够多的次数,得到的权重值可以使损失函数最小。具有最小损失的网络,其输出值与目标值尽可能地接近,这就是训练好的网络。