未知二进制数据类型下OpenCL内核重放结果的数值接近度判定方法

一、前置优化：补全缓冲区数据类型元数据 #

当前无法确定二进制缓冲区的数据类型，最稳妥的方式是在捕获原内核执行信息阶段同步记录元数据：

• 给每个Buffer/Image添加数据类型标识（用枚举值区分：INT8、UINT8、INT16、UINT16、INT32、UINT32、INT64、UINT64、FP16、FP32、FP64）；
• 针对Image，额外记录通道格式（如RGBA8、RGBA32F），确保能正确解析每个像素的通道数据。

如果无法回溯补全元数据，再采用以下通用校验逻辑：

二、通用校验策略（无需预先知晓数据类型） #

1. 分阶段校验流程 #

• 快速哈希校验：先对原缓冲区和重放缓冲区计算哈希值，若完全一致直接判定结果合法，跳过后续步骤——这能高效覆盖无浮点误差的场景。
• 按字节长度分组试探校验：结合数据类型的字节长度范围，分情况处理：
  • 1字节数据（int8/uint8）：整数运算结果完全确定，若哈希不一致直接判定为错误（不存在浮点误差可能）。
  • 2字节数据（int16/uint16/fp16）：
    1. 先按整数类型解析，逐值对比，全相等则合法；
    2. 若不相等，转为fp16类型解析，用epsilon规则校验误差（推荐绝对epsilon设为1e-3）。
  • 4字节数据（int32/uint32/fp32）：
    1. 先按整数类型解析对比，全相等则合法；
    2. 若不相等，转为fp32类型解析，结合绝对误差（1e-6）和相对误差（1e-5）校验——极小值优先用绝对误差，避免相对误差因分母过小失效。
  • 8字节数据（int64/uint64/fp64）：
    1. 先按整数类型解析对比，全相等则合法；
    2. 若不相等，转为fp64类型解析，用绝对误差（1e-12）和相对误差（1e-10）校验。

2. 浮点误差判定逻辑 #

针对浮点类型，不能用单一epsilon，需结合绝对误差和相对误差双重判断，示例代码逻辑如下：

bool isFloatingPointEqual(double a, double b, double absEps, double relEps) {
    double diff = fabs(a - b);
    // 处理接近0的数值，用绝对误差判断
    if (diff <= absEps) return true;
    // 处理大数值，用相对误差判断
    double maxVal = fmax(fabs(a), fabs(b));
    return diff <= maxVal * relEps;
}

3. 统计辅助校验 #

• 允许极小比例（如0.1%以内）的数值超出epsilon，极端情况下个别运算可能出现累积误差；但如果超出比例过高，直接判定为内核执行错误。
• 观察误差分布：若误差随机分布且量级极小，大概率是浮点运算顺序导致的正常偏差；若误差集中在特定区域，可能是内核逻辑错误。

三、特殊场景处理 #

• Image数据：按像素通道逐个解析，每个通道遵循上述字节长度和类型试探逻辑；
• 混合类型缓冲区：若缓冲区包含结构体等混合类型数据，必须在捕获阶段记录结构体布局，否则按字节流试探极易误判，建议优先补全元数据。

内容的提问来源于stack exchange，提问作者Nigel Overmars