如何解决线性回归训练中出现的ValueError: could not convert string to float: 'ID1'错误

错误原因 #

scikit-learn的LinearRegression模型仅支持数值型特征，你传入的X = df[['ID']]是字符串类型的列（值为'ID1'、'ID2'等），模型尝试将这些字符串转换为浮点数时失败，因此触发该错误。

解决方案 #

根据ID列的实际用途，选择以下方案：

方案1：移除ID列（ID仅作为数据标识） #

如果ID只是数据的唯一标识，和RMSE没有关联，直接不用它作为特征。由于线性回归至少需要一个特征，你可以构造一个全1的常数项特征（模型会拟合出y的均值），代码修改如下：

import pandas as pd
from sklearn.linear_model import LinearRegression

data = {
'ID': ['ID1', 'ID2', 'ID3', 'ID4', 'ID5'],
'RMSE': [10.05616902165789, 9.496130901397015, 9.857060740380899,9.528204292426823,9.491117416326155]
}
df = pd.DataFrame(data)

y = df['RMSE']
# 构造常数项特征矩阵
X = pd.DataFrame({'const': [1]*len(df)})

reg = LinearRegression().fit(X, y)
preds = reg.predict(X)
mean_pred = preds.mean()

print('Mean of predicted RMSE values:', mean_pred)

如果只是想得到预测值的均值，其实直接计算y.mean()即可，结果和上述代码一致。

方案2：对ID列做编码（ID含分类/顺序意义） #

如果ID代表分类或顺序信息（比如不同组别、时间顺序），需要将字符串转为数值型，以下是两种常用方法：

标签编码（适合有顺序的ID）

如果ID1到ID5存在顺序逻辑（比如代表第1到第5组），用标签编码将字符串转为连续数字：

import pandas as pd
from sklearn.linear_model import LinearRegression
from sklearn.preprocessing import LabelEncoder

data = {
'ID': ['ID1', 'ID2', 'ID3', 'ID4', 'ID5'],
'RMSE': [10.05616902165789, 9.496130901397015, 9.857060740380899,9.528204292426823,9.491117416326155]
}
df = pd.DataFrame(data)

# 对ID列做标签编码
le = LabelEncoder()
df['ID_encoded'] = le.fit_transform(df['ID'])

X = df[['ID_encoded']]
y = df['RMSE']

reg = LinearRegression().fit(X, y)
preds = reg.predict(X)
mean_pred = preds.mean()

print('Mean of predicted RMSE values:', mean_pred)

独热编码（适合无顺序的分类ID）

如果ID是无顺序的分类变量（比如不同独立组别），用独热编码生成二进制特征：

import pandas as pd
from sklearn.linear_model import LinearRegression

data = {
'ID': ['ID1', 'ID2', 'ID3', 'ID4', 'ID5'],
'RMSE': [10.05616902165789, 9.496130901397015, 9.857060740380899,9.528204292426823,9.491117416326155]
}
df = pd.DataFrame(data)

# 对ID列做独热编码，drop_first避免多重共线性
X = pd.get_dummies(df[['ID']], drop_first=True)
y = df['RMSE']

reg = LinearRegression().fit(X, y)
preds = reg.predict(X)
mean_pred = preds.mean()

print('Mean of predicted RMSE values:', mean_pred)

内容的提问来源于stack exchange，提问作者Reetu Singh