Metal片元着色器接收错误插值顶点Z值的问题排查

我实现了一个简单的Metal渲染管线，顶点着色器输出裁剪空间位置、颜色，片元着色器输出颜色，并使用自定义深度纹理开启深度测试。相关代码如下：

struct VertexOut {
  float4 v_vertex [[position]];
  float4 v_color;
  float4 vsVertex;
};

vertex VertexOut vertexShader(uint vertexID [[ vertex_id ]],
                             const device RigidFormatPos* vertices [[ buffer(0) ]],
                             const device StdVertexData* vertexData [[ buffer(1) ]],
                             constant SettingsUBO& sceneUniforms [[ buffer(2) ]],
                             constant MeshUBO& perMesh [[ buffer(3) ]]) {
         VertexOut out;

        out.v_vertex = sceneUniforms.cameras[0].projectFromWorld * perMesh.worldFromModel * float4(vertices[vertexID].pos.xyz, 1.0);
        out.v_color = float4(float3(vertexData[vertexID].color.rgb, 1.f));
        out.vsVertex = out.v_vertex;
        return out;
}

fragment half4 fragmentShader(VertexOut in [[stage_in]]) {
 return half4(half3(in.v_color.rgb), 1.f);
}

屏幕分辨率为800x600，调试发现片元着色器中in.v_vertex.z值约为857.3434，远超出预期的[0,1]范围；但手动用缓存的裁剪空间值vsVertex.z / vsVertex.w计算深度并写入缓冲区时，深度测试正常工作。当前渲染目标为CAMetalDrawable的颜色附件，深度纹理为自定义创建。

排查方向 #

1. 核对投影矩阵的输出范围是否匹配Metal裁剪空间 #

Metal的标准化设备坐标（NDC）z轴范围是**[-1, 1]**，而非OpenGL的[0, 1]。如果你的projectFromWorld矩阵是按OpenGL风格生成（输出z∈[0,1]），GPU会将其视为Metal的NDC进行后续深度转换，导致[[position]]的z值异常。而手动计算vsVertex.z/vsVertex.w得到的是OpenGL风格深度值，恰好匹配深度缓冲区的[0,1]要求，因此测试正常。需要检查投影矩阵生成逻辑，确保输出z值落在[-1,1]区间。

2. 检查深度纹理格式与管线深度配置 #

• 确认深度纹理格式是否正确：比如MTLDepthStencilFormat.depth32Float支持浮点深度值，depth16Unorm要求输入[0,1]的归一化值，格式不匹配会导致深度值存储或转换错误。
• 检查渲染管线状态（MTLRenderPipelineState）和深度模板状态（MTLDepthStencilState）的深度范围设置：Metal默认将NDC的[-1,1]转换为深度缓冲区的[0,1]，若手动修改了MTLRenderPassDescriptor的depthRange或管线的自定义配置，会破坏这一转换逻辑。

3. 确认顶点着色器输出的[[position]]是否被GPU修改 #

Metal会对[[position]]自动执行透视除法和屏幕空间转换，过程中可能根据深度配置调整z值。而你缓存的vsVertex是未经GPU后续处理的原始裁剪空间值，因此两者z值存在差异。需排查是否开启了特殊管线优化或配置，比如非默认的depthClipMode，导致[[position]]的z值在传递到片元着色器前被异常修改。

4. 验证深度附件与颜色附件的配置一致性 #

确保自定义深度纹理的尺寸、样本数与CAMetalDrawable的颜色附件完全匹配（即800x600），不匹配会导致深度值的采样或写入错位。同时检查MTLRenderPassDescriptor中深度附件的loadAction和storeAction，比如是否正确设置了清除动作和清除值。

5. 明确片元着色器中[[position]]的语义 #

在Metal片元着色器中，[[position]]表示的是屏幕空间坐标，而非裁剪空间坐标。屏幕空间的z值已经过透视除法和深度范围转换，应直接对应深度缓冲区的存储值（如Unorm格式下为[0,1]）。若你看到的in.v_vertex.z为857.3434，说明管线配置存在错误，导致[[position]]的语义未被正确解析。

内容的提问来源于stack exchange，提问作者varun