循环内构建LSTM模型触发TensorFlow警告：能否忽略或规避？

问题描述 #

在R语言中使用Keras和TensorFlow处理时间序列滚动窗口验证时，采用每次迭代新建模型的方式（如用[1:10]训练预测11、[2:11]训练预测12），触发TensorFlow警告：循环内重复创建@tf.function导致重追踪开销大，建议将其定义在循环外。但需求是每次使用全新模型，疑惑能否忽略该警告或有无适配规避方案。

代码示例（非精确实现）：

Epochs = 100

# 触发警告的循环
for(i in 10:1){
# 滚动窗口数据转换
x_train <- data[1+10-i,] # y_train、x_test同理定义

# 循环内构建模型部分触发警告
model <- keras_model_sequential() %>% 
    layer_lstm(units = units,
               input_shape = c(lag, features)) %>%
    layer_dense(units = 1)
 
  model %>% compile(loss = "mean_squared_error",
                    optimizer = "adam",
                    metrics = "accuracy")
  
  for(j in 1:Epochs){
    model %>% fit(
      x_train,
      y_train,
      epochs = 1,
      batch_size = batch,
      shuffle = F
    )
    model %>% reset_states()
  }

# 保存预测结果
result[i] <- model %>% predict(x_test, batch_size = batch)
}

曾尝试将模型加载移到循环外消除警告，但不符合每次使用全新模型的需求。

解决方案 #

能否忽略警告？ #

可以忽略，但不推荐。警告的核心是每次循环创建模型时，TensorFlow会重新追踪fit、predict等函数的计算图，多次迭代后会累积性能开销，拖慢运行速度——尤其当滚动窗口次数多、模型结构复杂时，影响会很明显。如果你的迭代次数少、模型规模小，暂时忽略不会有太大问题，但大规模运行时效率损失不可忽视。

适配的规避方案 #

方案1：复用模型结构，重置参数实现“全新模型”

不在循环内重复创建模型结构，而是在循环外定义一次模型，每次循环通过重新编译重置模型的可训练参数和优化器状态，既满足“每次用全新模型”的需求，又避免重复追踪@tf.function。

修改后的代码示例：

Epochs = 100

# 循环外一次性定义模型结构
model <- keras_model_sequential() %>% 
    layer_lstm(units = units,
               input_shape = c(lag, features)) %>%
    layer_dense(units = 1)

for(i in 10:1){
# 滚动窗口数据转换
x_train <- data[1+10-i,] # y_train、x_test同理定义

# 重新编译模型：自动重置所有可训练参数和优化器状态
model %>% compile(loss = "mean_squared_error",
                  optimizer = "adam",
                  metrics = "accuracy")
  
  for(j in 1:Epochs){
    model %>% fit(
      x_train,
      y_train,
      epochs = 1,
      batch_size = batch,
      shuffle = F
    )
    model %>% reset_states()
  }

# 保存预测结果
result[i] <- model %>% predict(x_test, batch_size = batch)
}

这种方式的核心是：模型结构仅初始化一次，每次循环通过compile操作重置权重和优化器状态，效果等价于新建模型，但消除了重复追踪的开销。

方案2：关闭特定警告（治标不治本）

如果不想修改代码逻辑，可以直接关闭TensorFlow的重追踪警告，但这只是隐藏警告，性能开销依然存在。在R中可以通过以下代码实现：

# 在循环执行前设置日志级别，关闭警告
tensorflow::tf$get_logger()$setLevel("ERROR")

方案3：自定义训练循环

若需要更精细的控制，可编写自定义训练循环，将训练步骤包装成一个@tf.function放在循环外，循环内仅传入不同的训练数据并重置模型参数。这种方式代码量会增加，适合熟悉TensorFlow底层逻辑的用户。

内容的提问来源于stack exchange，提问作者Aisberg