深度学习笔记——激活函数是什么？

Question

激活函数是核心组件之一，它赋予神经网络非线性能力，使得模型能够学习复杂的模式和函数映射。常见的激活函数有多种，每种激活函数都有其独特的特性、优缺点，并且往往是基于前一代激活函数的改进。

Answer 1

激活函数

1. Sigmoid 函数
2. Tanh 函数
3. ReLU（Rectified Linear Unit）
4. Leaky ReLU
5. Parametric ReLU（PReLU）
6. ELU（Exponential Linear Unit）
7. SELU（Scaled Exponential Linear Unit）
8. Swish(SiLU)
   总结
   热门专栏
   机器学习
   深度学习
   激活函数
   激活函数是核心组件之一，它赋予神经网络非线性能力，使得模型能够学习复杂的模式和函数映射。常见的激活函数有多种，每种激活函数都有其独特的特性、优缺点，并且往往是基于前一代激活函数的改进。

————————————————

                        版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
                    

原文链接：https://blog.csdn.net/haopinglianlian/article/details/145414634