1,回归与渐度下降
(1)下列用python画出(-10<x<10)
y=4+5x+2x^2
(2) 将式子定义 parameter(a0,a1,a2),这个式子中随机数(应用基于正规分布生成随机数的函数,选择适当的分布值)利用50对 数据集用python画出
y=a0+a1x+a2x^2
(3)最小二乘法方式求出上面的parameter(实际计算利用python)
(4)在parameter上用梯度下降方式表示恰当的定义代价函数或损失函数 在此基础上以梯度下降方式对parameter寻求update式
(5)请利用python填写如(2)所示的请求数据集。以(4)方式请求parameter程序图标显示每张代价值在迭代中的变化(可以根据需要增加数据集,超参数适当选择)
2 回归适中与正规化
(1)第一题(2)问生成10对数据集。下列应用 最小二乘法 求出parameter(实际计算使用python)
(2)利用岭回归,正规化,为了不让过拟合发生,重新解答(1)(尝试ridge term 的超参数 从小到大的多种尝试)
(3)(1)生产10000对数据集解答问题时,请考虑并解决使用何种方式合适。( 最小二乘法? 其他的可能会让性能有所提升的算法)