Python中构建多元回归模型：生成预测器全组合方法

你的现有代码仅处理了单个预测器的情况，要生成所有唯一的预测器组合（包含1个、2个…直到全部预测器的组合），可以用Python标准库itertools.combinations实现，具体步骤如下：

1. 生成所有非空预测器组合 #

先导入itertools，然后遍历从1到预测器总数的所有长度，生成对应长度的特征组合，最后将所有组合收集到列表中：

import pandas as pd
import itertools

# 分离预测器列名与目标变量
predictors = df.drop(['Target'], axis=1).columns.tolist()
all_combinations = []

# 生成1个到全量预测器的所有组合
for combo_length in range(1, len(predictors)+1):
    # 生成指定长度的不重复组合
    combos = itertools.combinations(predictors, combo_length)
    # 转换为列表格式并加入总列表
    all_combinations.extend([list(combo) for combo in combos])

2. 遍历组合拟合模型 #

拿到所有组合后，即可循环每个组合提取对应特征列，用于模型拟合（以线性回归为例）：

from sklearn.linear_model import LinearRegression

for combo in all_combinations:
    # 提取当前组合的特征矩阵
    X = df[combo]
    y = df['Target']
    
    # 拟合模型（可替换为你需要的模型类型）
    model = LinearRegression()
    model.fit(X, y)
    
    # 示例：打印模型R²分数
    r2_score = model.score(X, y)
    print(f"组合{combo}的R²分数: {r2_score:.4f}")

补充说明 #

• itertools.combinations生成的是无序不重复组合（如[A,B]与[B,A]视为同一组合，符合预测器组合的实际需求）
• 若需包含空组合（仅常数项模型），可将循环起始长度改为0
• 当预测器数量较多时，组合总数会指数级增长（如10个特征对应2¹⁰-1=1023种组合），需注意计算资源消耗

内容的提问来源于stack exchange，提问作者Sia Mah