如何用新版Spago包构建LSTM网络？API兼容问题求助

1. 替代ag.NewGraph的方案 #

新版Spago已移除显式的Graph管理机制，无需手动创建计算图。所有张量操作会自动追踪梯度依赖，直接使用ag.Var定义可训练参数即可，梯度计算与反向传播会在后台自动处理。

2. 新版Spago LSTM网络构建与训练示例 #

以下是适配新版Spago的LSTM网络实现（以文本分类任务为例）：

定义LSTM模型 #

package main

import (
    "fmt"
    "github.com/nlpodyssey/spago/ag"
    "github.com/nlpodyssey/spago/nn"
    "github.com/nlpodyssey/spago/nn/lstm"
)

// TextClassifier 基于LSTM的文本分类模型
type TextClassifier struct {
    nn.Module
    LSTM     *lstm.Model
    Dense    *nn.Linear
    Dropout  *nn.Dropout
}

func NewTextClassifier(inputSize, hiddenSize, outputSize int) *TextClassifier {
    return &TextClassifier{
        LSTM:    lstm.New(inputSize, hiddenSize),
        Dense:   nn.NewLinear(hiddenSize, outputSize),
        Dropout: nn.NewDropout(0.2),
    }
}

// Forward 前向传播实现
func (m *TextClassifier) Forward(xs []ag.Tensor) ag.Tensor {
    // LSTM前向传播，获取最后时刻的隐藏状态
    hs := m.LSTM.Forward(xs...)
    lastHidden := hs[len(hs)-1]
    
    // Dropout与全连接层
    dropped := m.Dropout.Forward(lastHidden)
    return m.Dense.Forward(dropped)
}

训练循环示例 #

func main() {
    // 初始化模型、损失函数、优化器
    model := NewTextClassifier(100, 128, 2) // inputSize=100（词嵌入维度）, hiddenSize=128, outputSize=2（二分类）
    lossFn := nn.NewCrossEntropyLoss()
    optimizer := nn.NewAdam(model.Parameters(), nn.AdamConfig{LR: 0.001})

    // 模拟训练数据（批量输入：每个样本是长度为5的词嵌入序列）
    batchSize := 32
    seqLength := 5
    inputSize := 100
    xs := make([][]ag.Tensor, batchSize)
    ys := make([]ag.Tensor, batchSize)
    for i := 0; i < batchSize; i++ {
        seq := make([]ag.Tensor, seqLength)
        for j := 0; j < seqLength; j++ {
            seq[j] = ag.Var(ag.RandNormal(inputSize)) // 随机生成词嵌入
        }
        xs[i] = seq
        ys[i] = ag.Var(ag.NewScalar(float64(i%2))) // 随机生成标签
    }

    // 训练迭代
    epochs := 10
    for epoch := 0; epoch < epochs; epoch++ {
        totalLoss := 0.0
        optimizer.ZeroGrad()

        for i := 0; i < batchSize; i++ {
            logits := model.Forward(xs[i])
            loss := lossFn.Forward(logits, ys[i])
            totalLoss += loss.Value().Item().F64()
            ag.Backward(loss) // 反向传播计算梯度
        }

        optimizer.Step() // 更新参数
        fmt.Printf("Epoch %d, Loss: %.4f\n", epoch+1, totalLoss/float64(batchSize))
    }
}

关键API变化说明 #

• 移除ag.NewGraph：无需手动创建计算图，张量操作自动追踪梯度
• nn.Apply替代：新版模型直接通过Forward方法完成前向传播，无需额外调用nn.Apply
• LSTM初始化：使用lstm.New(inputSize, hiddenSize)替代旧版构造方式，前向传播直接传入序列张量即可

内容的提问来源于stack exchange，提问作者Muhammad Fahri