Tensorflow训练损失过高、categorical_accuracy固定及LSTM训练CSV方法咨询
TensorFlow CSV训练与LSTM实现问题解答
1. 现有代码存在的问题
- 损失函数与任务不匹配:你当前输出的损失数值极低(e-4~e-6量级),明显是误用了均方误差等回归类损失,你的任务是多分类任务,损失逻辑完全不匹配,模型没有正确的优化方向。
- 精度指标与标签编码不匹配:
categorical_accuracy要求标签为one-hot编码格式,如果你直接传入A/B/C/D对应的整数编码,精度计算逻辑完全错误,所以会一直卡在随机猜测的概率值不动。 - 数据预处理缺失:如果没有对x1到z21的数值特征做归一化/标准化处理,不同特征尺度差异过大会导致模型收敛困难。
- 模型结构或超参数不合理:如果当前使用的全连接结构拟合能力不足,或者学习率设置过高/过低,都会导致模型无法学习到有效特征。
2. 降低训练损失的操作方案
- 匹配任务与损失函数:多分类任务根据标签编码格式选用
CategoricalCrossentropy(one-hot标签)或SparseCategoricalCrossentropy(整数标签),禁止使用回归类损失。 - 匹配精度指标:对应选用
categorical_accuracy或sparse_categorical_accuracy,保证指标计算逻辑正确。 - 完成数据预处理:所有特征列做标准化/归一化,标签做对应编码处理,不要直接传入字符串标签。
- 优化训练配置:降低初始学习率至1e-4~1e-5,加入
EarlyStopping回调监控验证损失防止过拟合,根据数据集大小调整批次大小与网络层数。
3. LSTM训练该数据集的代码实现
注意:LSTM是针对时序数据的模型,仅适合你的CSV行是按时间顺序连续采集的场景,需要构造时间滑窗生成时序输入;如果每行是独立样本,不需要强行使用LSTM,全连接网络效果更优。
以下为可直接运行的代码示例:
import pandas as pd import numpy as np import tensorflow as tf from tensorflow.keras import layers, models from sklearn.preprocessing import StandardScaler, LabelEncoder from sklearn.model_selection import train_test_split # 1. 读取并解析CSV数据 df = pd.read_csv("替换为你的CSV文件路径.csv") feature_cols = df.columns.drop("class") X_raw = df[feature_cols].values y_raw = df["class"].values # 2. 数据预处理 # 特征标准化 scaler = StandardScaler() X_scaled = scaler.fit_transform(X_raw) # 标签整数编码 le = LabelEncoder() y_encoded = le.fit_transform(y_raw) num_classes = len(le.classes_) # 3. 构造LSTM所需的时序输入格式:(样本数, 时间步, 特征数) # 时间步窗口大小可根据你的数据时序依赖长度调整,这里设为10 time_step = 10 X_seq, y_seq = [], [] for i in range(time_step, len(X_scaled)): X_seq.append(X_scaled[i-time_step:i, :]) y_seq.append(y_encoded[i]) X_seq = np.array(X_seq) y_seq = np.array(y_seq) # 4. 划分训练集与测试集,时序数据不要打乱顺序 X_train, X_test, y_train, y_test = train_test_split(X_seq, y_seq, test_size=0.2, shuffle=False) # 5. 构建LSTM模型 model = models.Sequential([ layers.LSTM(64, return_sequences=True, input_shape=(time_step, X_scaled.shape[1])), layers.Dropout(0.2), layers.LSTM(32, return_sequences=False), layers.Dropout(0.2), layers.Dense(32, activation='relu'), layers.Dense(num_classes, activation='softmax') ]) # 6. 编译模型 model.compile( optimizer=tf.keras.optimizers.Adam(learning_rate=1e-4), loss=tf.keras.losses.SparseCategoricalCrossentropy(), metrics=['sparse_categorical_accuracy'] ) # 7. 训练模型,加入早停防止过拟合 early_stop = tf.keras.callbacks.EarlyStopping(monitor='val_loss', patience=10, restore_best_weights=True) history = model.fit( X_train, y_train, batch_size=32, epochs=100, validation_split=0.1, callbacks=[early_stop] ) # 8. 测试集效果评估 test_loss, test_acc = model.evaluate(X_test, y_test, verbose=0) print(f"测试集分类精度:{test_acc:.4f}")
内容的提问来源于stack exchange,提问作者Mayama
相关产品推荐
相关产品推荐

