特征递归消除-CFANZ编程社区

特征递归消除官方给了两者方法

1.RFE

2.RFECV

一.RFE

官方解释

链接：sklearn.feature_selection.RFE — scikit-learn 1.0.2 documentationhttps://scikit-learn.org/stable/modules/generated/sklearn.feature_selection.RFE.html?highlight=rfe#sklearn.feature_selection.RFE 给定一个为特征分配权重的外部估计器（例如，线性模型的系数），递归特征消除（RFE）的目标是通过递归地考虑越来越小的特征集来选择特征。首先，估计器在初始特征集上进行训练，每个特征的重要性通过任何特定属性或可调用获得。然后，从当前的特征集中剪除最不重要的特征。该过程在修剪后的集合上递归重复，直到最终达到要选择的所需特征数量。

库

sklearn.feature_selection.RFE

重要参数

参数参数说明

参数	参数说明
estimator	监督学习估计有`fit`提供有关功能的重要性（如信息的方法`coef_`，`feature_importances_`）只估计器有具备这两个的其中一个才能进行特征递归消除例如：随机森林
n_features_to_select	要选择的特征数。如果`None`，则选择一半的特征。如果是整数，则参数是要选择的特征的绝对数量。如果在 0 和 1 之间浮动，则它是要选择的特征的一部分。
step	如果大于或等于 1，则`step`对应于每次迭代要删除的（整数）个特征。如果在 (0.0, 1.0) 范围内，则`step`对应于每次迭代中要删除的特征的百分比（向下舍入）

estimator

监督学习估计有fit提供有关功能的重要性（如信息的方法coef_，feature_importances_）

只估计器有具备这两个的其中一个才能进行特征递归消除

例如：随机森林

n_features_to_select 要选择的特征数。如果None，则选择一半的特征。如果是整数，则参数是要选择的特征的绝对数量。如果在 0 和 1 之间浮动，则它是要选择的特征的一部分。

step 如果大于或等于 1，则step对应于每次迭代要删除的（整数）个特征。如果在 (0.0, 1.0) 范围内，则step对应于每次迭代中要删除的特征的百分比（向下舍入）

重要属性

属性	属性说明
ranking_	特征排名，`ranking_[i]` 对应于第 i 个特征的排名位置。选定（即估计的最佳）特征被分配等级 1。
support_	所选特征的掩码。

二.RFECV

使用交叉验证进行递归特征消除以选择特征数量

库

sklearn.feature_selection.RFECV

重要参数

参数参数说明

参数	参数说明
estimator	和RFE一样一种监督学习估计器，其`fit`方法通过`coef_` 属性或`feature_importances_`属性提供有关特征重要性的信息。
step	和RFE一样如果大于或等于 1，则`step`对应于每次迭代要删除的（整数）个特征。如果在 (0.0, 1.0) 范围内，则`step`对应于每次迭代中要删除的特征的百分比（向下舍入）。请注意，最后一次迭代可能会删除少于的`step`特征以达到`min_features_to_select`.
cv	确定交叉验证拆分策略。cv 的可能输入是：无，使用默认的 5 折交叉验证，整数，指定折叠次数。

estimator

和RFE一样

一种监督学习估计器，其fit方法通过coef_ 属性或feature_importances_属性提供有关特征重要性的信息。

step

和RFE一样

如果大于或等于 1，则step对应于每次迭代要删除的（整数）个特征。如果在 (0.0, 1.0) 范围内，则step对应于每次迭代中要删除的特征的百分比（向下舍入）。请注意，最后一次迭代可能会删除少于的step特征以达到min_features_to_select.

确定交叉验证拆分策略。cv 的可能输入是：

无，使用默认的 5 折交叉验证，
整数，指定折叠次数。

重要属性

属性	属性说明
ranking_	特征排名，`ranking_[i]` 对应于第 i 个特征的排名位置。选定（即估计的最佳）特征被分配等级 1。
support_	所选特征的掩码。