深度学习笔记——正则化是什么？

Question

深度学习中常见的正则化有哪些？深度学习中常见的正则化有哪些？

Answer 1

L1 正则化（Lasso）
原理
使用场景
优缺点
L2 正则化（Ridge）
原理
使用场景
优缺点
Elastic Net 正则化
定义
公式
优点
缺点
应用场景
Dropout
原理
使用场景
优缺点
早停法（Early Stopping）
原理
使用场景
优缺点
Batch Normalization (BN)
原理
使用场景
优点
缺点
权重衰减（Weight Decay）
原理
使用场景
优点
缺点
剪枝（Pruning）
原理
应用场景
优点
缺点
Q&A
权重归一化和权重衰减的异同
热门专栏
机器学习
深度学习
————————————————

                        版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
                    

原文链接：https://blog.csdn.net/haopinglianlian/article/details/145398247