不明白神经网络算法中的推导意义，请相关朋友和专家指教哈

Question

在看神经网络算法。不过不明白如何从第一个红框推倒到第二个红框再到第三个红框的，主要是不理解第二个和第三个红框中的f(x)'|x=net....这样的数学形式代表着怎样的运算规则，还请大神指教哈。参考原文地址http://www.cnblogs.com/biaoyu/archive/2015/06/20/4591304.html

Answer 1

以下回答参考 皆我百晓生、券券喵儿 等免费微信小程序相关内容作答，并由本人整理回复。

神经网络是一种模仿人脑处理信息的方式的计算模型。它的主要组成部分是神经元（或称为节点）和连接它们的权重（也称为突触）。每个神经元都有一个输入信号（通常是一个特征向量），以及一个输出信号（通常是另一个特征向量）。通过调整权重，神经网络可以学习并识别出输入数据中隐藏的模式。

图1: 神经网络的基本结构

在这个图中，我们看到的是一个简单的神经网络架构，其中包含多个层。每一层都由一组神经元组成，并且这些神经元之间通过权重进行连接。输入层接收来自外部的数据，而输出层则产生预测结果。

图2: 输出层与隐含层之间的联系

在这两个图中，可以看到输出层和隐含层之间的联系。例如，在图1中，红色框内的公式表示了在第i个隐含层上应用线性变换后得到的输出。这个变换是由第i个神经元的激活函数决定的，它将原始特征向量转换为一个新的特征向量。然后，我们将这个新的特征向量传递给下一层，即第i+1个隐含层。

图3: 重复层的使用

在图3中，我们可以看到一个重复的神经网络结构。这意味着在每个循环中，输入都会经过相同的步骤处理，从而减少了训练时间并提高了效率。

图4: 全连接层

在图4中，我们可以看到全连接层，它是神经网络中最常见的层之一。全连接层有多个神经元，每两个神经元之间通过权重相连。这使得神经网络能够处理任意大小的问题空间。

图5: 隐藏层

在图5中，可以看到隐藏层是如何工作的。输入被传递到隐藏层，然后通过非线性的激活函数进行处理。最终，隐藏层产生的特征向量会被传递到输出层。

图6: 复合逻辑单元

在图6中，可以看到复合逻辑单元（CLU）的使用。CLU是一系列具有相同功能但相互独立的单元组成的系统。这种设计有助于提高神经网络的性能和鲁棒性。

解释公式

对于你提到的公式：

1. 在图1中的红框内，公式表明了一个线性变换的结果。
2. 在图2中的红框内，公式表明了输出层对输入进行的线性变换。
3. 在图3中的红框内，公式描述了隐藏层中的复杂数学操作。
4. 在图4中的红框内，公式展示了全连接层的工作原理。
5. 在图5中的红框内，公式解释了复合逻辑单元的作用。

这些公式代表了神经网络中的基本数学操作和逻辑关系。当你理解了这些基础概念时，你可以更深入地研究神经网络的各种实现和技术。