golang.org/x/time/rate Wait传Context作用及限流器作用域问题

向Wait()传入context的作用 #

rate.Limiter.Wait()方法的默认行为是阻塞等待，直到限流器分配到可用令牌才会继续执行后续逻辑，传入context的核心作用是管控等待行为的生命周期：

• 支持主动取消、超时控制：如果传入的context绑定了超时、截止时间，或者在其他协程中被主动调用cancel方法终止，Wait会立刻结束等待，返回对应的context.Canceled或context.DeadlineExceeded错误，不会无限阻塞。比如给context设置200ms超时，若等待令牌的时间超过200ms，就会直接返回错误，不会继续占用协程资源。
• 对齐上游调用链路的生命周期：如果上游请求已经断开、对应处理协程需要提前退出，Wait可以随context的终止立刻返回，避免无意义的等待造成资源泄漏。

当前示例中的限流器是否为每次调用独立实例 #

当前实现下的限流器是MyClass实例级别的共享资源，并非每次Process调用独立。
限流器仅在NewMyClass()初始化时创建一次，作为结构体字段被同一个MyClass实例的所有Process方法调用共享。无论调用Process时传入的是ctx1还是ctx2，所有请求都会共用同一个“每秒3次请求”的配额：示例中连续4次调用Process，前3次可以快速获取令牌执行，第4次需要等待约333ms（1秒/3次）拿到新令牌后才会继续执行，传入不同context不会改变限流器的配额计数，仅会影响单次Wait的等待是否可被提前终止。

实现每次调用使用独立限流器的方法 #

如果需要每次调用Process时都使用完全独立的限流器实例、配额互不干扰，不要把limiter作为MyClass的持久化字段，直接在Process方法内部初始化限流器即可，示例代码如下：

func (m *MyClass) Process(ctx context.Context) error {
    // 每次调用都新建独立限流器，配额不与其他调用共享
    limiter := rate.NewLimiter(rate.Limit(3), 1)
    err := limiter.Wait(ctx)
    if err != nil {
        return err
    }
    // 后续业务逻辑
}

如果需要按特定维度（比如用户ID、请求链路ID）划分限流作用域，同维度共享限流器、不同维度使用独立实例，可以用带并发安全的存储结构维护不同作用域对应的限流器，简单示例如下：

import (
    "context"
    "fmt"
    "sync"
    "time"
    "golang.org/x/time/rate"
)

type MyClass struct {
    scopeLimiters sync.Map // 存储不同作用域对应的限流器
    qps           rate.Limit
    burst         int
}

func NewMyClass() (*MyClass, error) {
    return &MyClass{
        qps:   rate.Limit(3),
        burst: 1,
    }, nil
}

// 从context提取作用域标识，可根据业务需求替换为用户ID、traceID等
func getScopeID(ctx context.Context) string {
    if v := ctx.Value("scope_id"); v != nil {
        return v.(string)
    }
    // 无自定义标识时生成唯一ID，实现每次调用独立
    return fmt.Sprintf("uniq_%d", time.Now().UnixNano())
}

func (m *MyClass) Process(ctx context.Context) error {
    scopeID := getScopeID(ctx)
    // 对应作用域已有限流器则复用，没有则新建
    limiter, _ := m.scopeLimiters.LoadOrStore(scopeID, rate.NewLimiter(m.qps, m.burst))
    err := limiter.(*rate.Limiter).Wait(ctx)
    if err != nil {
        return err
    }
    // 后续业务逻辑
    return nil
}

内容的提问来源于stack exchange，提问作者thiago