LinearSVC训练触发Liblinear收敛警告，调参后仍未解决该如何处理？

核心原因 #

LinearSVC底层依赖liblinear实现，对输入特征的尺度高度敏感。你当前使用的名词（NN）、形容词（JJ）的原始计数值取值范围波动较大，会导致优化过程中损失函数难以降到收敛阈值，这是你调整迭代次数和dual参数仍无法解决问题的核心原因。

可行解决步骤 #

• 第一步：对输入特征做标准化处理
  在拆分训练集测试集之后，先对特征做尺度统一，再喂入模型训练，示例代码如下：

from sklearn.preprocessing import StandardScaler
# 初始化标准化器
scaler = StandardScaler()
# 训练集拟合后做标准化，测试集直接用训练集的统计量转换
X_train_scaled = scaler.fit_transform(X_train)
X_test_scaled = scaler.transform(X_test)

# 配合之前你试过的参数调整
classifier = LinearSVC(max_iter=5000, dual=False)
classifier.fit(X_train_scaled, y_train)

• 第二步：调整正则化强度
  如果标准化后仍有收敛警告，可以调小C参数降低模型复杂度，正则化越强越容易收敛，示例：

classifier = LinearSVC(C=0.1, max_iter=5000, dual=False)

• 第三步：补充特征提升区分度
  当前仅用名词、形容词两个特征区分新闻和romance类别的区分度不足，也会导致模型难以收敛。可以新增更多特征维度，比如动词计数（VB开头POS tag）、句子长度、平均词长、副词计数（RB开头POS tag）等，特征区分度提升后收敛问题也会自然缓解。
• 第四步：更换适配低维特征的分类器
  如果以上操作仍未解决问题，可以更换对特征尺度、特征维度要求更低的分类器，比如逻辑回归、朴素贝叶斯、决策树类模型。

内容的提问来源于stack exchange，提问作者jinkx