递归特征消除特征选择的基估计器和后边模型训练的模型必须一样吗？

Question

递归特征消除特征选择的基估计器和后边模型训练的模型必须一样吗？

Answer 1

可以是不同的。
首先使用基估计器对数据集进行特征排序，并选择排序靠前的特征。然后，将选择出来的特征用于训练模型，并计算模型的性能。如果性能达到预期，则停止特征选择过程，否则继续使用基估计器对剩余的特征进行排序，直到达到预设的特征数或者性能阈值。
基估计器用于对特征进行排序，而模型训练阶段则为了计算模型的性能。因此，基估计器和后续的模型训练模型可以不同。但需要注意的是，无论基估计器和后续的模型训练模型是什么，它们都应该具有相同的特征集合。这样可以确保选出的特征对后续模型的训练和预测有用。