使用SVM预测饮酒行为时仅输出单一类别结果的问题求助

嘿，我来帮你拆解下这个问题——你的SVM模型在测试集上只输出了非饮酒者（类别0）的预测结果，完全没识别出饮酒者（类别1），这种情况在二分类任务里很常见，主要和数据分布、模型参数设置、特征处理这几个方面有关，咱们一步步来排查：

1. 先检查数据集的类别分布 #

这是最常见的原因：如果你的训练集里非饮酒者（类别0）占比极高（比如90%以上），模型为了追求整体准确率，会倾向于预测多数类，哪怕完全忽略少数类。

你可以先运行这两行代码，查看训练集和测试集的类别比例：

# 查看训练集类别分布
table(resp.train$drinking)
# 查看测试集类别分布
table(resp.test$drinking)

如果确实存在严重的类别不平衡，那接下来就要针对性调整模型。

2. 修正SVM参数的错误设置 #

你在调参时给线性核SVM加了gamma参数——但线性核是不需要gamma的，gamma是RBF、多项式核等非线性核的参数，线性核只需要调整cost（正则化系数）。同时调gamma会干扰参数搜索的结果，建议先去掉gamma，重新做交叉验证：

tune.out <- tune(svm, drinking~., data=resp.train, kernel="linear", ranges=list(cost=c(0.1,1.5,10,100)))
besti <- tune.out$best.model
pred <- predict(besti, newdata=resp.test)
table(pred, resp.test$drinking) # 用混淆矩阵看真实分类效果

3. 给少数类添加权重（针对类别不平衡） #

如果数据确实不平衡，SVM默认对所有样本的错误惩罚是一样的，这时候可以通过class.weights参数给少数类更高的权重，让模型更重视少数类的分类错误：

# 计算训练集的类别比例，假设类别1是少数类
class_counts <- table(resp.train$drinking)
# 权重比例设为多数类数量/少数类数量
weight_ratio <- class_counts[1] / class_counts[2]

# 带权重的交叉验证
tune.out <- tune(svm, drinking~., data=resp.train, kernel="linear", 
                 ranges=list(cost=c(0.1,1.5,10,100)),
                 class.weights = c("0"=1, "1"=weight_ratio))

4. 对特征做标准化处理 #

SVM对特征的尺度非常敏感，尤其是线性核。如果你的特征之间数值差异很大（比如一个特征是年龄0-100，另一个是收入0-10000），模型会偏向于尺度大的特征，导致分类效果差。建议先标准化特征：

# 对训练集特征标准化（排除标签列）
resp.train_scaled <- resp.train
feature_cols <- setdiff(names(resp.train_scaled), "drinking")
resp.train_scaled[feature_cols] <- scale(resp.train_scaled[feature_cols])

# 测试集要用训练集的均值和标准差来标准化（避免数据泄露）
resp.test_scaled <- resp.test
resp.test_scaled[feature_cols] <- scale(resp.test_scaled[feature_cols],
                                        center = attr(resp.train_scaled[feature_cols], "scaled:center"),
                                        scale = attr(resp.train_scaled[feature_cols], "scaled:scale"))

# 用标准化后的数据重新训练和预测
tune.out <- tune(svm, drinking~., data=resp.train_scaled, kernel="linear", ranges=list(cost=c(0.1,1.5,10,100)))
besti <- tune.out$best.model
pred <- predict(besti, newdata=resp.test_scaled)
table(pred, resp.test$drinking)

5. 换用更合适的评估指标 #

别只看table(pred)，建议用混淆矩阵结合召回率、F1-score来评估模型，这些指标能更准确反映模型对少数类的识别能力：

# 生成混淆矩阵
conf_mat <- table(pred, resp.test$drinking)
# 计算召回率（少数类的识别率）
recall <- conf_mat[2,2]/sum(conf_mat[,2])
# 计算F1-score
precision <- conf_mat[2,2]/sum(conf_mat[2,])
f1_score <- 2*(precision*recall)/(precision+recall)

cat("召回率:", recall, "\nF1-score:", f1_score)

内容的提问来源于stack exchange，提问作者Rachel