如何减小TensorFlow LSTM Saved Model体积以适配Heroku部署？

针对你遇到的variables.data-00000-of-00001文件过大导致Heroku部署slug超标的问题，可以通过以下几种方式优化：

1. 模型后训练量化（Post-Training Quantization） #

这是最直接有效的方式，通过将模型权重从32位浮点（FP32）转换为更低精度的格式（如INT8、FP16），大幅减小体积，同时对精度影响极小。

转成TFLite量化模型 #

import tensorflow as tf

# 加载已保存的SavedModel
model = tf.keras.models.load_model('lstm')

# 初始化转换器
converter = tf.lite.TFLiteConverter.from_keras_model(model)

# 启用INT8量化（需代表数据集校准，若无需校准可改用FP16）
converter.optimizations = [tf.lite.Optimize.DEFAULT]
# 若追求更高精度，可改用FP16量化：
# converter.target_spec.supported_types = [tf.float16]

# 转换模型
tflite_quant_model = converter.convert()

# 保存量化后的模型
with open('lstm_quantized.tflite', 'wb') as f:
    f.write(tflite_quant_model)

量化后的TFLite模型体积通常能缩小到原SavedModel的1/4（INT8）或1/2（FP16），部署时只需加载这个.tflite文件即可。

2. 模型剪枝（Pruning） #

通过移除模型中贡献极小的权重（接近0的参数），减少参数数量，进而减小体积。需使用TensorFlow Model Optimization Toolkit：

步骤示例 #

import tensorflow as tf
from tensorflow_model_optimization import sparsity

# 加载模型
model = tf.keras.models.load_model('lstm')

# 定义剪枝参数（例如剪去50%的权重）
pruning_params = {
    'pruning_schedule': sparsity.PolynomialDecay(
        initial_sparsity=0.0,
        final_sparsity=0.5,
        begin_step=0,
        end_step=1000
    )
}

# 对模型应用剪枝
pruned_model = sparsity.prune_low_magnitude(model, **pruning_params)

# 重新编译并微调（可选，避免精度下降）
pruned_model.compile(optimizer='adam', loss='mse')
pruned_model.fit(x_train, y_train, epochs=5)

# 移除剪枝相关的包装层，得到精简模型
final_model = sparsity.strip_pruning(pruned_model)

# 保存剪枝后的模型
final_model.save('lstm_pruned')

剪枝后的模型参数数量减少，variables.data文件体积会显著降低。

3. 优化模型结构 #

从根源减少参数数量：

• 减少LSTM层的单元数：如果当前LSTM单元数设置过高（比如512或1024），可尝试降低到256或128，重新训练模型，验证精度是否满足需求。
• 移除冗余层：检查模型中是否有不必要的全连接层或重复结构，精简模型架构。

4. Heroku部署额外优化 #

• 配置.gitignore文件，排除训练数据、日志文件、临时文件等非必要内容，只保留优化后的模型文件和代码。
• 使用Heroku的slugignore进一步排除不需要的文件，比如__pycache__/、.git/等。

内容的提问来源于stack exchange，提问作者Adit Magotra