使用基于Stacking集成学习的多模型融合预测时，元学习器的测试集效果特别差的原因是什么

Question

使用基于Stacking集成学习的多模型融合预测时，元学习器的测试集效果特别差的原因是什么？

Answer 1

不知道你这个问题是否已经解决, 如果还没有解决的话:

• 这个问题的回答你可以参考下: https://ask.csdn.net/questions/7771928
• 这篇博客你也可以参考下：集成方法stack模型在样例数据集的试验
• 您还可以看一下 纪佳琪老师的机器学习之集成学习理论与代码实践课程中的 stacking原理及实现小节, 巩固相关知识点
  
• 除此之外, 这篇博客: 机器学习-Stacking方法的原理及实现中的 对stacking模型网格搜索调参 部分也许能够解决你的问题, 你可以仔细阅读以下内容或跳转源博客中阅读:
  

  这里仍然使用上一个案例的模型，下面是代码及结果。

  from mlxtend.regressor import StackingRegressor
  from mlxtend.data import boston_housing_data
  from sklearn.linear_model import LinearRegression, Ridge, Lasso
  from sklearn.svm import SVR
  from sklearn.model_selection import train_test_split, GridSearchCV
  from sklearn.metrics import mean_squared_error
  import numpy as np
  import matplotlib.pyplot as plt
  
  
  x, y = boston_housing_data()
  x = x[:100]
  y = y[:100]
  # 划分数据集
  x_train, x_test, y_train, y_test = train_test_split(x, y, test_size=0.2)
  # 初始化基模型
  lr = LinearRegression()
  svr_lin = SVR(kernel='linear', gamma='auto')
  svr_rbf = SVR(kernel='rbf', gamma='auto')
  ridge = Ridge(random_state=2019,)
  models = [lr, svr_lin, svr_rbf, ridge]
  
  params = {
      'ridge__alpha': [0.1, 1.0, 10.0],
      }
  sclf = StackingRegressor(regressors=models, meta_regressor=ridge)
  # 训练回归器
  grid = GridSearchCV(estimator=sclf, param_grid=params, cv=5, refit=True)
  grid.fit(x_train, y_train)
  print(grid.best_params_, grid.best_score_)
  

  

如果你已经解决了该问题, 非常希望你能够分享一下解决方案, 写成博客, 将相关链接放在评论区, 以帮助更多的人 ^-^