TFS Predict API与tf.keras.model.predict输出是否一致？

TensorFlow Serving（简称TFS）Predict API 的输出和本地调用tf.keras.Model.predict得到的原始推理结果完全一致，但两者都不会返回模型编译阶段配置的指标计算结果，你提到的BinaryAccuracy场景下，接口不会返回二分类准确率值列表。

• 首先明确计算边界：不管是TFS Predict接口，还是本地的model.predict()方法，本质都是执行模型的前向传播计算图，只会返回模型结构本身定义的输出（比如二分类场景下sigmoid层输出的0-1区间预测概率），不会自动触发编译阶段配置的损失、指标相关计算逻辑。
• 编译阶段配置的BinaryAccuracy等指标，本身需要同时输入「模型预测值」和「对应真实标签」才能完成计算，这类逻辑只会在你本地调用model.fit()（训练）、model.evaluate()（评估）时运行。而TFS Predict接口默认只接收推理特征作为输入，没有传入真实标签的入口，根本不具备计算准确率的条件。
• 不存在自动关联逻辑：你在模型编译时传入的metrics配置，不会被自动导出到TFS加载的推理签名中，TFS加载模型时只会识别你导出时指定的推理输入输出张量，完全感知不到你编译阶段配了什么指标。

特殊情况说明：如果你导出SavedModel时手动自定义了推理签名，把指标计算逻辑硬编码进了推理计算图，同时在签名里定义了真实标签的输入字段，那TFS可以按照你自定义的逻辑返回对应计算结果。但这属于你手动修改推理逻辑的定制场景，不是默认行为，和编译阶段的metrics配置没有自动关联。

内容的提问来源于stack exchange，提问作者pedro malheiro