在机器学习中经常碰到各种求极值的方法,例如梯度下降算法、牛顿迭代法等,这些知识如何系统地学习?
收起
这些知识属于工程数学原理的内容,具体分支是最优化理论,您可以参考相关教材。一般地,优化问题可以分为无约束优化和有约束优化,您提到的梯度法和牛顿法都属于无约束优化中的梯度类方法,此外无约束优化中还有非梯度类的坐标下降算法等;有约束优化中最著名的是拉格朗日乘子法。如有帮助请采纳
报告相同问题?