You need to enable JavaScript to run this app. TensorFlow SavedModel 如何处理额外依赖?nltk预处理模型的导出加载解析
优惠活动
大模型
产品
解决方案
定价
更多

TensorFlow SavedModel 如何处理额外依赖?nltk预处理模型的导出加载解析

问题场景

用户尝试使用tf.saved_model.save()导出TensorFlow模型,文本预处理流程依赖了nltk等外部第三方库,可运行的示例代码如下:

import tensorflow as tf
import nltk
import tensorflow_datasets as tfds
from tensorflow.python.ops import gen_string_ops
from tensorflow.python.ops import string_ops

train_data, val_data, test_data = train_data, validation_data, test_data = tfds.load(
    name="imdb_reviews", 
    split=('train[:60%]', 'train[60%:]', 'test'),
    as_supervised=True)


def remove_stops(text):
    nltk.download('stopwords')
    stop_words = nltk.corpus.stopwords.words('english')
    for w in stop_words:
        text = string_ops.regex_replace(text, '\\b{}\\b'.format(w),'')  # 移除所有停用词
    text = tf.strings.strip(text)  # 去除首尾多余空白
    return text

vectorize_layer = tf.keras.layers.experimental.preprocessing.TextVectorization(  # 生成输入数据的BOW表示
    max_tokens=1000,
    standardize=remove_stops,  # 调用自定义的停用词移除逻辑做文本标准化
    output_mode='count') 

train_feats = list(map(lambda x: x[0], train_data))  # PrefetchDataset不支持直接访问元素,转成列表传入
vectorize_layer.adapt(train_feats)  # BOW层需要提前适配训练集,得到对应的向量映射规则

# 定义简易分类网络
input_layer = tf.keras.Input(shape=(), name='input_text', dtype=tf.string)
model = tf.keras.Sequential()
model.add(input_layer)
model.add(vectorize_layer)
model.add(tf.keras.layers.Dense(units=64, activation='softmax')) 
model.add(tf.keras.layers.Dense(units=1, activation='sigmoid'))
model.compile(optimizer='adam',loss='binary_crossentropy', metrics = ['binary_accuracy'])
model.fit(train_data.shuffle(10000).batch(512),
             epochs=2,
             validation_data=val_data.batch(512))

tf.saved_model.save(model, './save_here')

与认知相悖的运行现象

依据公开的SavedModel设计文档说明:SavedModel仅会保存训练得到的模型参数与计算逻辑,不会留存用户编写的自定义Python代码逻辑。

但实际测试时,在完全没有导入nltk、tensorflow_datasets等原项目依赖库的独立脚本中,执行如下加载推理代码:

import tensorflow as tf
loaded_model = tf.saved_model.load('./save_here')
loaded_model(tf.constant(['test me pls']))

代码可以正常运行并输出推理结果,没有抛出任何依赖缺失、函数未定义类的报错:

<tf.Tensor: shape=(1, 1), dtype=float32, numpy=array([[0.5086063]], dtype=float32)>

核心疑问

这个运行结果和原有认知存在明显矛盾:预处理逻辑中甚至包含了调用nltk下载停用词数据集、加载外部停用词表的操作,为什么导出的模型在完全没有这些外部依赖的环境下可以正常跑通全流程?
核心问题:SavedModel在模型导出时究竟是如何处理这类涉及外部库的预处理依赖的?


内容的提问来源于stack exchange,提问作者emilaz

相关产品推荐
方舟 Agent Plan

超全模态模型 × Harness 升级,最新支持 Deepseek-V4.1-Flash、GLM-5.3 系列、Doubao-Seedream-5.0-pro、Kimi-K3 (部分), 限时 9.9 元起

最近更新时间:2026.11.02 18:06:04