You need to enable JavaScript to run this app. PyTorch时间序列回归损失先降后升、准确率恒为0问题咨询
优惠活动
大模型
产品
解决方案
定价
更多

PyTorch时间序列回归损失先降后升、准确率恒为0问题咨询

异常现象成因
  1. 输出层激活函数使用错误
    你当前要解决的是数值回归任务,预测的Price数值范围在40~200区间,但输出层使用了sigmoid激活函数,该函数输出范围固定为[0,1],永远不可能匹配真实标签的数值区间,会导致损失计算始终存在较大偏差,且训练后期极易出现梯度消失、参数更新异常的问题。
  2. 评估指标逻辑错误
    准确率是分类任务专属的评估指标,回归任务不存在“预测正确/错误”的二分判定逻辑,你直接套用分类任务的准确率计算代码,拿[0,1]区间的预测值和几十上百的真实Price值做相等判定,结果自然永远为0.0。
  3. 时间序列数据集划分错误
    时间序列任务禁止使用train_test_split随机打乱数据划分,这种划分方式会让模型拿到未来时间段的数据学习规律,属于数据泄露,前期模型可以学到虚假的关联让loss下降,后期学习到的错误规律会导致loss反向上升,泛化能力完全失效。
  4. 数据未做归一化
    你的特征量纲差异极大:f5、f6数值范围是数十万量级,f2、f3是两位数量级,year是四位数量级,不同特征的量级差会导致神经网络参数更新方向异常,训练不稳定,极易出现loss后期震荡上升的情况。
  5. 模型过拟合+学习率过高
    你总共只有26条样本,训练集仅20条,却使用了6层全连接网络,参数量远大于数据所需,极易出现过拟合:前期学习通用规律时loss下降,后期开始记忆训练集的噪声,导致训练集和测试集loss同步上升。如果学习率设置过高,训练后期参数会偏离最优解区间,也会直接导致loss反向升高。
理想损失值说明

回归任务的理想损失值不是0。真实数据本身存在无法被拟合的随机噪声,损失值的大小也和你选择的损失函数、标签的量纲直接相关,只要训练集和测试集的损失都稳定在较低区间、且二者差值很小,就属于正常的训练结果,强行追求损失为0只会导致模型严重过拟合,完全丧失泛化能力。

调整方案
  • 修正网络输出层:删除最后一层的sigmoid激活函数,直接返回全连接层的原始输出,适配回归任务的数值范围。
  • 更换评估指标:删除分类准确率计算逻辑,改用MAE(平均绝对误差)、RMSE(均方根误差)等回归任务专属评估指标。
  • 修正数据集划分逻辑:按照时间顺序切分数据集,取靠前的80%时间的样本作为训练集,靠后的20%时间的样本作为测试集,全程不打乱样本顺序。
  • 对数据做归一化:对所有输入特征和预测标签统一做标准化(Z-Score)或者最值归一化(Min-Max),把所有数值映射到[0,1]或者[-1,1]的相近区间,降低训练难度。
  • 简化模型结构:20条训练样本最多使用2~3层全连接层即可,不要使用6层的深层结构,激活函数统一使用ReLU即可,不要混合多种激活函数增加训练复杂度。
  • 优化训练参数:降低初始学习率,同时加入早停(Early Stopping)机制,当测试集损失连续3~5个epoch上升时直接停止训练,避免过拟合和loss跑飞,也可以加入L2正则化、Dropout层进一步降低过拟合风险。

内容的提问来源于stack exchange,提问作者Medulla Oblongata

相关产品推荐
方舟 Agent Plan

超全模态模型 × Harness 升级,最新支持 Deepseek-V4.1-Flash、GLM-5.3 系列、Doubao-Seedream-5.0-pro、Kimi-K3 (部分), 限时 9.9 元起

最近更新时间:2026.10.15 21:15:10