在sklearn pipeline中对部分变量执行PCA及自定义实现合理性问询

现有自定义实现的潜在问题 #

• 硬编码全局变量NUMBER_NONPCA_FEATURES灵活性极差，更换数据集或特征规则需要修改类源码，多任务并行场景下全局变量易冲突导致逻辑错误
• score_samples、inverse_transform两个方法没有显式返回值，调用时会得到None，完全无法正常使用这两个功能
• 强依赖输入为Pandas DataFrame，传入Numpy数组时iloc调用会直接报错，兼容性不足
• 后续Sklearn版本如果更新PCA内部逻辑，例如新增接收X作为输入的内置方法，继承自父类的未重写方法会直接作用于全量特征，导致逻辑异常

更优的原生实现方案 #

无需自定义类，直接使用Sklearn内置的ColumnTransformer即可实现需求，该工具本身就是为不同特征列执行不同预处理操作设计的，完全符合Pipeline的执行规范，不存在数据泄露风险，稳定性和兼容性远高于自定义实现。

示例代码如下：

from sklearn.compose import ColumnTransformer
from sklearn.pipeline import Pipeline
from sklearn.decomposition import PCA
from sklearn.ensemble import RandomForestClassifier

# 非PCA特征的数量，按需调整即可
NUMBER_NONPCA_FEATURES = 5

# 声明列转换器：前NUMBER_NONPCA_FEATURES列直接保留，剩余列执行PCA
partial_pca = ColumnTransformer(
    transformers=[
        ("keep_original", "passthrough", slice(None, NUMBER_NONPCA_FEATURES)),
        ("pca_reduce", PCA(n_components=2), slice(NUMBER_NONPCA_FEATURES, None))
    ]
)

# 直接集成到Pipeline中
clf_pipeline = Pipeline(steps=[
    ("partial_pca", partial_pca),
    ("classifier", RandomForestClassifier())
])

该方案的优势：

• 完全基于Sklearn原生接口实现，无需自定义逻辑，兼容性拉满，支持Numpy数组、Pandas DataFrame等多种输入格式
• 参数灵活可调，可随时修改作用列的规则，例如指定特定列索引、列名执行PCA，无需修改核心逻辑
• 原生支持PCA所有内置方法，无需手动重写覆盖，不会出现功能缺失
• 严格遵循Pipeline的训练/预测逻辑，拟合阶段仅使用训练集数据计算PCA参数，预测阶段复用训练好的参数转换测试集，完全规避数据泄露风险

内容的提问来源于stack exchange，提问作者A. Bollans