Go Redis ForEachMaster结合Scan游标未返回全部Keys问题求助

核心问题分析 #

你的代码在处理大数量Redis Key时出现数据遗漏，核心问题集中在以下两点：

1. 游标追踪的键不固定 #

你使用rc.String()作为sync.Map的键，但*redis.Client实例的String()返回的是指针地址。每次调用ForEachMaster时，同一主节点会被创建新的Client实例，导致键值变化——之前保存的游标无法被加载，相当于每次都从0开始扫描，旧游标却仍存在于Map中，最终导致部分节点的扫描流程异常终止。

2. 游标检查逻辑存在遗漏 #

你的cursorMap.Range回调函数在遇到第一个非0游标时就终止遍历，无法确保检查所有主节点的游标状态。如果某个节点的游标未被检查到，会导致该节点的后续扫描被直接跳过。

修复后的代码示例 #

调整游标追踪的键为节点地址 #

err := c.client.ForEachMaster(ctx, func(ctx context.Context, rc *redis.Client) error {
    mu.Lock()
    defer mu.Unlock() // 改用defer确保锁一定会释放

    // 用节点地址作为游标Map的键，确保同一主节点的键固定
    nodeAddr := rc.Options().Addr
    cursorVal, ok := cursorMap.Load(nodeAddr)
    
    var cursor uint64
    if !ok {
        cursor = 0
    } else {
        cursor = cursorVal.(uint64)
        if cursor == 0 {
            // 该节点已扫描完成，跳过
            return nil
        }
    }

    keys, retCur, err := rc.Scan(ctx, cursor, match, count).Result()
    switch {
    case err == redis.Nil:
        return ErrKeyNotFound
    case err != nil:
        return fmt.Errorf("scan failed: %w", err)
    }

    allKeys = append(allKeys, keys...)
    cursorMap.Store(nodeAddr, retCur)

    return nil
})

修复游标检查逻辑 #

// 每次循环前初始化标记，避免旧值干扰
allKeysNotRead := false
// 遍历所有节点的游标，不中途终止
cursorMap.Range(func(key, cursor any) bool {
    fmt.Println("cursor value received", key, cursor)
    if cursor.(uint64) != 0 {
        allKeysNotRead = true
    }
    // 返回true继续遍历所有节点
    return true
})

if allKeysNotRead {
    // 继续执行下一轮扫描
}

额外排查建议 #

1. 添加日志监控：在扫描每个节点时，记录节点地址、当前游标、读取的Key数量，方便定位哪个节点出现数据遗漏。
2. 验证主节点数量：确认ForEachMaster确实遍历了所有预期的主节点，避免因集群状态更新不及时导致节点遗漏。
3. 检查Scan返回值：确认每次Scan返回的retCur和keys数量符合预期，排查是否存在因Key分布导致的批量读取异常。

内容的提问来源于stack exchange，提问作者Priyadharshini Subramanian