用scikit-opt求解sklearn的SVR

Question

现在在用scikitlearn做支持向量机回归，然后想用各种智能优化算法求解超参数，调用了scikit-opt智能优化算法库，跑不出来，迭代次数设置2次都跑不出来。然后重启jupyter notebook成功后，cpu占用率下不去，好像内部依然在运行。scikit-opt 单独跑文档内的算例是不出错的。请帮忙点拨一下，万分感谢

Answer 1

你调用的遗传算法进行优化，对于优化问题来说，种群数量不大（50），迭代次数也不太大（300）。
但是，你的目标函数并不是一个简单的函数，而是 SVR 的参数。SVR 支持向量机，默认的方法并不是线性回归，而是非线性如梯度下降，需要大量迭代，因此耗时不小。
也就是说，上层的遗传算法大致要调用 50× 300 目标函数计算，因此下层的 SVR 要做 15000 次支持向量机回归，所以。。。
建议：
（1）可以测试单独做一次 SVR 的耗时是多少，就可以估计 总的耗时要多少了；
（2）可以在目标函数内增加 print SVR_score，至少你可以看到程序是不是仍然在运行；
（3）一般来说，整个思路，用遗传算法进行支持向量机进行参数优化，并不适当。