如何从CNTK模型中移除input_variable以实现自回归（应用UnfoldFrom）

我来帮你调整代码实现自回归效果——你现在的问题核心是原来的模型直接绑定了input_variable，导致没法被UnfoldFrom的lambda正确调用。咱们一步步重构代码：

第一步：重构模型定义，解除输入变量绑定 #

你之前直接把input_variable传入Recurrence得到模型，这会让模型和这个输入变量硬绑定，没法灵活用于自回归场景。先把递归单元定义成独立的可调用函数：

import cntk as C

# 先定义LSTM单元，再包装成递归结构，不绑定任何输入变量
lstm_cell = C.LSTM(121, name='LSTM')
recur_model = C.Recurrence(lstm_cell, name="Recur")

第二步：修正自回归包装函数 #

调整你的auto_regressive函数，注意要正确调用CNTK的UnfoldFrom，并且确保lambda函数只依赖前一步的输出：

def auto_regressive(model):
    @C.Function
    def unfold(seq_start, dyn_axis: C.Sequence[C.Tensor[121]]):
        # UnfoldFrom需要的是一个接收前一步输出、返回下一步输出的函数
        unfold_from_op = C.UnfoldFrom(lambda prev_output: model(prev_output))
        # 传入初始状态和动态轴参考，生成自回归序列
        return unfold_from_op(initial_state=seq_start, dynamic_axes_like=dyn_axis)
    return unfold

第三步：完整使用示例 #

现在可以生成自回归模型并使用了：

# 生成自回归模型实例
ar_model = auto_regressive(recur_model)

# 准备初始状态（比如全零张量，对应序列的起始输入）
initial_state = C.constant(value=0.0, shape=(121,))
# 动态轴参考：用一个带序列轴的变量来指定输出的序列结构，不需要实际输入数据
dyn_axis_ref = C.sequence.input_variable(121)

# 生成自回归输出序列
output_sequence = ar_model(initial_state, dyn_axis_ref)

关键说明 #

• 解除输入绑定：原来的model = Recurrence(...) (a)会把模型和a硬绑定，导致模型只能接收这个特定输入。重构后recur_model是一个纯函数，可接收任意符合形状的输入，正好适配UnfoldFrom的自回归逻辑。
• dynamic_axes_like：这个参数用来告诉CNTK输出序列的动态轴结构，只需要传入一个带序列轴的变量即可，不需要实际填充数据。
• UnfoldFrom的逻辑：它会从initial_state开始，反复调用传入的lambda函数（把上一步的输出作为下一步的输入），生成完整的自回归序列。

内容的提问来源于stack exchange，提问作者snowflake