Keras转CoreML后LSTM字符预测模型输出不符问题求助

首先得指出你模型里的一个小问题——你在Dense层已经设置了activation='softmax'，又额外加了一层Activation('softmax')，这相当于对输出做了两次softmax计算，不仅浪费算力，还可能干扰CoreML的转换逻辑。建议先移除这行冗余代码，重新训练或者加载修正后的模型：

model = Sequential()
model.add(LSTM(128, input_shape=(SEQUENCE_LENGTH, len(chars))))
model.add(Dense(len(chars), activation='softmax'))
# 删掉下面这行重复的激活层
# model.add(Activation('softmax'))

问题1：转换后输出形状和原模型不匹配 #

你的Keras模型输入是(None, 40, 31)，输出是(None, 31)（对应最后一个时间步的字符概率分布），但CoreML返回的是(40,31)，这大概率是CoreML转换时对LSTM层的输出逻辑推断错了。

解决方法： #

1. 确认LSTM层的输出逻辑：你没设置return_sequences=True，所以Keras的LSTM默认只返回最后一个时间步的隐藏状态（形状(None, 128)），再经过Dense层得到(None,31)。但CoreML可能误把LSTM识别为返回所有时间步，导致输出变成(None,40,31)，最终Dense层作用在每个时间步上，就出现了(40,31)的输出。
2. 转换时显式指定输入形状：用input_shape参数明确告诉CoreML输入的维度，避免自动推断出错：

coreml_model = coremltools.converters.keras.convert(
    'keras_model_fixed.h5',
    input_names=['sentence'],
    output_names=['chars_prob'],
    input_shape={'sentence': (SEQUENCE_LENGTH, len(chars))}  # 明确输入是(40,31)
)

3. 检查转换后的模型元数据：打印模型规格确认输出形状是否正确：

print(coreml_model.get_spec())

如果输出的multiArrayType形状是31，就说明形状已经和原模型匹配了。

问题2：预测值不一致，以及class_labels报错 #

为什么用class_labels会报错？ #

当你传入class_labels时，CoreML会默认把模型当成分类器，期望输出是单个类别索引（形状(None,)），但你的原模型输出是(None,31)的概率分布，自然会提示“输出层大小和类别数不匹配”。如果想让CoreML直接返回类别名称，得用classifier_config参数来配置：

coreml_model = coremltools.converters.keras.convert(
    'keras_model_fixed.h5',
    input_names=['sentence'],
    output_names=['chars_prob'],
    input_shape={'sentence': (SEQUENCE_LENGTH, len(chars))},
    classifier_config=coremltools.ClassifierConfig(class_labels=chars)
)

这样转换后的模型会有两个输出：一个是概率分布chars_prob，另一个是预测的类别名称classLabel，符合你的需求。

为什么预测值和原模型不一样？ #

预测值差异通常是这几个原因：

1. 数值精度不匹配：CoreML默认的精度可能和Keras不同，转换时指定precision='float32'（和Keras默认精度一致）就能减少差异：

coreml_model = coremltools.converters.keras.convert(
    'keras_model_fixed.h5',
    input_names=['sentence'],
    output_names=['chars_prob'],
    input_shape={'sentence': (SEQUENCE_LENGTH, len(chars))},
    precision='float32'
)

2. 输入预处理不一致：要确保CoreML的输入和Keras的输入预处理完全一致——比如字符转one-hot编码的顺序、数值范围等。比如Keras里输入是(40,31)的one-hot矩阵，CoreML的输入也必须是同样形状、同样编码顺序的MultiArray。
3. 重复softmax层的影响：前面提到的两次softmax会改变概率值，修正模型后重新转换，预测值应该就能和Keras对齐了。

验证方法 #

拿同一个输入样本分别在Keras和CoreML里测试：

• Keras侧：keras_pred = model.predict(input_sample)（input_sample形状是(1,40,31)）
• CoreML侧：coreml_pred = coreml_model.predict({'sentence': input_sample[0]})（CoreML不需要batch维度，直接传(40,31)的数组）
  对比两者的输出概率，正常情况下只会有微小的精度差异，整体趋势应该完全一致。

内容的提问来源于stack exchange，提问作者Elias Pedersen