Preprocessing Layers与KerasTuner协同问题及方案咨询

1. 初始代码错误原因 #

KerasTuner要求用于调参的build_model函数只能接受hp作为唯一必填参数。你最初定义的build_model(hp, preprocessing_head, inputs)额外添加了两个参数，当KerasTuner内部调用该函数时，只会传入hp对象，导致preprocessing_head参数被错误地传入hp对象，而preprocessing_head(inputs)实际变成了用hp对象作为输入，自然会抛出“输入不是张量”的错误。即使你手动调用时传了三个参数，也不符合KerasTuner的调用规范。

2. 临时方案的优缺点 #

优点 #

• 快速解决了参数不匹配的问题，代码能正常运行并完成调参任务
• 逻辑简单，直接复用了已构建好的预处理模型titanic_preprocessing

缺点 #

• 耦合度高：预处理逻辑硬编码在build_model函数内部，导致该函数无法复用在其他预处理流程的调参任务中
• 可读性差：其他开发者阅读代码时，需要额外查找外部定义的titanic_preprocessing和inputs，增加了理解成本
• 扩展性弱：如果后续需要更换预处理逻辑，必须修改build_model函数本身，不符合开闭原则

3. 更规范的优化方案 #

推荐两种更优雅的实现方式，既符合KerasTuner的要求，又保持代码的灵活性和复用性：

方案一：使用闭包封装预处理依赖 #

通过闭包将预处理相关的对象（preprocessing_head和inputs）封装到build_model的定义中，避免硬编码同时满足KerasTuner的参数要求：

def make_build_model(preprocessing_head, inputs):
    def build_model(hp):
        units = hp.Int("units", min_value=32, max_value=512, step=32)
        activation = hp.Choice("activation", ["relu", "tanh"])

        preprocessed_inputs = preprocessing_head(inputs)
        result = titanic_model(units, activation)(preprocessed_inputs)

        model = tf.keras.Model(inputs, result)
        model.compile(
            loss=tf.keras.losses.BinaryCrossentropy(from_logits=True),
            optimizer=tf.keras.optimizers.Adam(),
            metrics=['accuracy']
        )
        return model
    return build_model

# 使用时传入预处理依赖
build_model = make_build_model(titanic_preprocessing, inputs)
# 初始化调参器示例
tuner = keras_tuner.RandomSearch(
    build_model,
    objective="val_accuracy",
    max_trials=5
)

方案二：继承HyperModel类 #

通过继承keras_tuner.HyperModel类，将预处理逻辑和模型构建逻辑封装在一起，结构更清晰：

class TitanicHyperModel(keras_tuner.HyperModel):
    def __init__(self, preprocessing_head, inputs):
        self.preprocessing_head = preprocessing_head
        self.inputs = inputs

    def build(self, hp):
        units = hp.Int("units", min_value=32, max_value=512, step=32)
        activation = hp.Choice("activation", ["relu", "tanh"])

        preprocessed_inputs = self.preprocessing_head(self.inputs)
        result = titanic_model(units, activation)(preprocessed_inputs)

        model = tf.keras.Model(self.inputs, result)
        model.compile(
            loss=tf.keras.losses.BinaryCrossentropy(from_logits=True),
            optimizer=tf.keras.optimizers.Adam(),
            metrics=['accuracy']
        )
        return model

# 初始化HyperModel实例
hypermodel = TitanicHyperModel(titanic_preprocessing, inputs)
# 初始化调参器示例
tuner = keras_tuner.RandomSearch(
    hypermodel,
    objective="val_accuracy",
    max_trials=5
)

补充说明 #

• 无论哪种方案，预处理模型titanic_preprocessing的adapt操作都应该在调参前完成，避免每次构建模型时重复执行，浪费计算资源
• 你的titanic_model函数中，model_inputs = tf.keras.Input(shape=28)的shape=28需要确认是否和预处理后的输出维度一致，避免出现维度不匹配的错误

内容的提问来源于stack exchange，提问作者Sir_Jingo