训练字符串SHA1哈希预测模型时遇形状不兼容错误求助

错误原因 #

报错Shapes (None, 40, 100) and (None, 64, 100) are incompatible的核心是模型输出序列长度与目标序列长度不匹配：

• 输入X对应64字符的原字符串，形状为(样本数, 64, 字符集大小)
• 目标y对应40字符的SHA1哈希值，形状为(样本数, 40, 字符集大小)
• 当前模型的全连接层（Dense）会保留输入的时间步维度（64），导致最终输出仍为64步序列，无法与目标的40步序列对齐。

解决方案：调整为序列到序列（Seq2Seq）结构 #

由于输入和输出序列长度不同，需要采用编码-解码结构适配：

1. 编码层：将64步的输入序列压缩为固定维度的特征向量
2. 重复向量层：将编码后的向量重复40次，匹配目标序列的长度
3. 解码层：用TimeDistributed包装全连接层，为每个时间步生成字符概率分布

修改后的create_model函数如下：

def create_model():
    model = Sequential()
    reg = tf.keras.regularizers.l2(0.001)
    # 编码器：将(64, 100)的输入压缩为一维特征向量
    model.add(Flatten(input_shape=(64, len(chars))))
    model.add(Dense(160, kernel_regularizer=reg, bias_regularizer=reg, activation="relu"))
    model.add(Dense(640, kernel_regularizer=reg, bias_regularizer=reg, activation="relu"))
    model.add(Dense(320, kernel_regularizer=reg, bias_regularizer=reg, activation="relu"))
    model.add(Dense(160, kernel_regularizer=reg, bias_regularizer=reg, activation="relu"))
    
    # 重复向量40次，适配目标序列长度
    model.add(RepeatVector(40))
    
    # 解码器：为每个时间步生成字符概率
    model.add(TimeDistributed(Dense(160, kernel_regularizer=reg, bias_regularizer=reg, activation="relu")))
    model.add(TimeDistributed(Dense(len(chars), kernel_regularizer=reg, bias_regularizer=reg, activation='softmax')))
    
    opt = keras.optimizers.RMSprop(learning_rate=0.001)
    # 修正metrics写法，符合Keras API规范
    model.compile(optimizer=opt, loss='categorical_crossentropy', metrics=['accuracy', 'precision'])
    return model

关键修改说明 #

• Flatten：将二维序列输入(64, 100)展平为一维，让全连接层学习全局特征
• RepeatVector(40)：把编码后的特征向量重复40次，生成(40, 160)的序列，对应目标哈希的40个字符
• TimeDistributed(Dense)：让全连接层独立作用于每个时间步，最终输出(40, 100)的序列，与目标y形状完全匹配
• metrics修正：将'Accuracy'改为'accuracy'、'Precision'改为'precision'，避免API兼容报错

额外注意事项 #

• SHA1是单向哈希函数，从原字符串预测哈希的建模难度极大，1000条数据集远远不足，建议生成10万+样本
• 可替换全连接层为LSTM/GRU等循环神经网络，更适合序列建模任务
• 正则化参数0.001可能偏强，可根据训练中的过拟合情况调整

内容的提问来源于stack exchange，提问作者dimapv