使用enable_categorical=True时XGBoost DMatrix解析错误排查

错误原因分析 #

1. JSON字符串传递错误：你通过to_json()将特征和标签转为JSON字符串后传给xgb.DMatrix，但DMatrix会把字符串当作文件路径去读取，这就是报错“找不到文件”的核心原因——完全不需要将数据转为JSON格式传递。
2. 数组型特征的不支持性：XGBoost目前不支持直接将数组/列表作为单个分类特征，它的特征体系基于逐列标量，每个特征必须是单个值而非数组，这也是np.vstack后仍报错的原因：字符串数组无法被解析为有效的分类特征列。

解决方案 #

针对你“特征无固定顺序、不想拆分为固定列”的需求，最适合的方式是将数组型特征转为类别存在性编码（即词袋模型的二进制形式），把每个出现的类别作为独立特征，标记样本是否包含该类别，完全忽略元素顺序。

具体实现代码 #

import xgboost as xgb
import numpy as np
import pandas as pd
from sklearn.feature_extraction.text import CountVectorizer

# 修正原始数据：将字符串"NA"替换为真实缺失值np.nan
test = pd.DataFrame({
    'out': ["a", "b"],
    'features': [
        np.array(["house", "horse", "something", np.nan]),
        np.array(["house", np.nan, np.nan, np.nan])
    ]
})

# 将每个样本的数组转为空格分隔的字符串（自动忽略缺失值）
test['feature_str'] = test['features'].apply(
    lambda x: ' '.join([item for item in x if pd.notna(item)])
)

# 用CountVectorizer做二进制编码：仅标记类别是否存在
vec = CountVectorizer(binary=True)
X_encoded = vec.fit_transform(test['feature_str'])

# 转换为DataFrame，方便后续处理
X_df = pd.DataFrame(X_encoded.toarray(), columns=vec.get_feature_names_out())

# 将标签转为数值型（XGBoost要求标签为数值）
y_train = test['out'].map({'a': 0, 'b': 1})

# 创建DMatrix并训练模型
dtrain = xgb.DMatrix(X_df, label=y_train)
params = {
    'objective': 'binary:logistic',
    'enable_categorical': True,  # 若后续有原始分类列可启用，此处编码后为0/1也可正常使用
    'eval_metric': 'logloss'
}
model = xgb.train(params, dtrain, num_boost_round=10)

关键说明 #

• 存在性编码完美适配“特征无固定顺序”的场景：不管类别在数组中的位置如何，只要样本包含该类别，对应特征列就标记为1，否则为0。
• 若你坚持使用enable_categorical=True处理原始分类特征，需要确保每个特征列是pandas的category类型标量，而非数组。XGBoost的分类特征支持仅针对标量列，不支持数组型特征。

内容的提问来源于stack exchange，提问作者Lu_Ste