DXR中多几何结构下如何正确对索引缓冲区进行索引？

问题背景 #

开发基于DXR的简单光线追踪应用，采用单个顶点缓冲区和索引缓冲区存储多个几何结构，加速结构运行正常，已实现基础阴影效果。但在最近命中着色器（closest hit shader）中尝试访问顶点缓冲区的法线时，无法正确对顶点进行索引。

着色器绑定信息 #

当前着色器资源绑定如下：

• t0：加速结构（acceleration structure）
• t1：索引缓冲区（StructuredBuffer）
• t2：顶点缓冲区（StructuredBuffer）
• t3：实例缓冲区（StructuredBuffer）

已尝试的方法 #

• 使用InstanceID()索引索引缓冲区：该函数返回实例在实例缓冲区中的索引，与几何索引无关，无法生效。
• 直接使用PrimitiveIndex()：规范说明其为三角形索引，但返回数据完全错误。
• 通过实例缓冲区传递网格索引偏移量，计算index = index_b[PrimitiveIndex() + inst.index_offset]：未生效。
• 将PrimitiveIndex()乘以3作为索引缓冲区基准索引：能读取到缓冲区数据，但法线结果错误。

解决方案与说明 #

1. 纠正DXR内置ID的理解 #

首先明确几个关键内置函数的含义：

• InstanceID()：返回当前命中实例在实例缓冲区中的索引，用于获取该实例的自定义数据（比如网格的索引偏移量index_offset）。
• PrimitiveIndex()：返回当前命中三角形在所属BLAS（底层加速结构）中的本地三角形索引，不是全局索引。

2. 正确的索引计算步骤 #

假设单个索引缓冲区中每个网格的索引数据连续存储，每个实例的index_offset记录了该网格在索引缓冲区中的第一个索引的起始位置（每个三角形对应3个索引），正确流程如下：

// 在closest hit shader中
StructuredBuffer<InstanceData> instance_b : register(t3);
StructuredBuffer<uint> index_b : register(t1);
StructuredBuffer<VertexData> vertex_b : register(t2);

[shader("closesthit")]
void ClosestHit()
{
    // 1. 获取当前实例数据
    uint inst_idx = InstanceID();
    InstanceData inst = instance_b[inst_idx];
    
    // 2. 获取当前三角形的本地索引
    uint tri_local_idx = PrimitiveIndex();
    
    // 3. 计算该三角形在全局索引缓冲区的起始位置
    uint idx_base = inst.index_offset + tri_local_idx * 3;
    
    // 4. 读取三角形的三个顶点索引
    uint idx0 = index_b[idx_base];
    uint idx1 = index_b[idx_base + 1];
    uint idx2 = index_b[idx_base + 2];
    
    // 5. 读取三个顶点的法线
    float3 n0 = vertex_b[idx0].normal;
    float3 n1 = vertex_b[idx1].normal;
    float3 n2 = vertex_b[idx2].normal;
    
    // 6. 用重心坐标插值法线
    float2 barycentrics = GetTriangleBarycentrics();
    float3 interpolated_normal = n0 * barycentrics.x + n1 * barycentrics.y + n2 * barycentrics.z;
    interpolated_normal = normalize(interpolated_normal);
    
    // 后续使用插值后的法线...
}

3. 法线错误的可能原因 #

• 未使用重心坐标插值：直接使用单个顶点的法线会导致结果错误，必须通过重心坐标对三个顶点法线进行插值。
• index_offset设置错误：如果index_offset记录的是三角形的起始数量而非索引的起始位置，需要调整为inst.index_offset * 3来计算基准索引。
• 顶点缓冲区的法线存储格式错误：检查CPU端是否正确将法线数据写入顶点缓冲区，是否存在字节对齐或类型不匹配问题。

4. 单个VB/IB的合理性 #

使用单个顶点缓冲区和索引缓冲区存储多个几何结构完全合理，这是图形引擎中常见的资源合并优化手段，能减少资源绑定次数、提升内存访问效率，DXR对这种用法提供完全支持。

5. 多VB/IB的绑定方式 #

如果需要为不同网格绑定单独的VB和IB，需在创建BLAS时为每个网格指定独立的顶点缓冲区视图（VBV）和索引缓冲区视图（IBV），然后在实例化时引用对应的BLAS即可。但对于已采用合并缓冲区的场景，通过实例偏移量区分网格的方案更高效，无需额外绑定多个资源。

调试建议 #

• 在NVIDIA Nsight中为closest hit shader设置断点，查看InstanceID()、PrimitiveIndex()、inst.index_offset等变量的实际值，验证索引计算是否符合预期。
• 在CPU端打印每个网格的index_offset、三角形数量、索引总数，与着色器中的计算结果比对，排查偏移量是否正确。
• 用单个测试三角形（仅占3个索引）放在缓冲区开头，验证索引计算和法线插值的正确性，再逐步添加其他网格进行测试。

内容的提问来源于stack exchange，提问作者space_doctor