能否基于exported文件夹中的ckpt文件恢复TensorFlow训练？

结论 #

你无法使用exported文件夹中体积更小的ckpt文件恢复原有训练流程、延续80000步的训练进度。

两类ckpt的核心差异 #

• training文件夹下的ckpt是完整训练快照：除模型权重外，还同步保存了优化器状态、学习率调度器参数、当前训练步数、随机数种子状态等所有训练进程相关的元信息，加载后可以直接从断点处继续训练。
• exported文件夹下的ckpt是推理专用导出权重：导出时仅保留了模型本身的可训练参数，剔除了所有训练相关的冗余状态，因此体积更小，仅适用于模型推理、部署、或者作为预训练权重开启全新的微调任务，无法接续原有训练流程的状态。

自行验证方法 #

你可以运行以下代码查看两类ckpt的内容差异，确认用途：

import torch

# 替换为你本地training文件夹下的ckpt文件路径
train_ckpt = torch.load("./training/model.ckpt-80000")
print("训练用ckpt包含的key：", train_ckpt.keys())
# 输出会包含optimizer、lr_scheduler、global_step等训练相关字段

# 替换为你本地exported文件夹下的ckpt文件路径
export_ckpt = torch.load("./exported/model.ckpt")
print("导出用ckpt包含的key：", export_ckpt.keys())
# 输出仅包含模型参数相关字段

内容的提问来源于stack exchange，提问作者Jeffrey Hao