使用caret的train函数训练Linear SVM后特征权重获取异常问题

这是个很常见的误解——你混淆了支持向量的系数和最终的特征权重，我来给你拆解清楚：

核心原因 #

svmFit1$finalModel@coef存储的并不是每个特征的直接权重，而是每个支持向量对应的拉格朗日乘子（带类别标签符号）。你的模型选出了32个支持向量，所以这个矩阵会有32列；而每个支持向量本身包含4个特征的值，要得到你预期的4个特征权重，需要把这些系数和对应的支持向量做加权求和。

如何得到正确的4个特征权重 #

你只需要把@coef和@SV（支持向量矩阵）做矩阵乘法即可，代码如下：

# 计算最终的特征权重
feature_weights <- svmFit1$finalModel@coef %*% svmFit1$finalModel@SV
feature_weights

运行这段代码后，你会得到一个1×4的矩阵，正好对应4个特征的权重，和你预期的一致。

再深入理解一下 #

• svmFit1$finalModel@SV：每行是一个支持向量，共32行，每列对应一个特征（4列），代表被选中的支持向量的特征值（已经经过中心化和标准化处理）。
• svmFit1$finalModel@coef：对于二分类问题，这是一个1×32的矩阵，每个值是对应支持向量的拉格朗日乘子乘以类别标签（+1或-1）。
• 决策函数的本质是：sum(系数 × 支持向量特征) + 截距，所以把两个矩阵相乘，就得到了每个特征的总权重，再加上svmFit1$finalModel@rho（截距）就是完整的决策函数。

简单来说，某个特征的总权重，就是把32个支持向量中该特征的值，分别乘以对应的系数后全部相加——这正是矩阵乘法帮你完成的操作。

内容的提问来源于stack exchange，提问作者Jack Armstrong