从MTLBuffer创建MTLTexture用于片段着色器显示的异常问题排查

我看你遇到的问题是把计算着色器输出的UInt16类型MTLBuffer转成纹理后，在片段着色器里显示的颜色不符合预期。咱们一步步拆解可能的问题，帮你搞定它：

1. 片段着色器里的clamp参数顺序完全搞反了！ #

这绝对是一个致命错误——Metal的clamp函数参数顺序是clamp(要限制的值, 最小值, 最大值)，而你写的clamp(0.0, luma, 1.0)是把0.0夹在luma和1.0之间，完全不是你想要的“把luma限制在0-1之间”的效果，这会直接导致颜色计算完全错误。

2. UInt16的数值范围转换错误 #

你说要把Buffer元素解读为0-255的强度，但UInt16的原生范围是0-65535。如果你的计算着色器输出的是0-65535的UInt16值，那除以255.0会得到0-256的数值，大部分值都会被错误地截断成1.0（白色）；如果输出确实是0-255的UInt16，那除法是对的，但得先确认计算着色器的逻辑。

3. 纹理创建时的行字节对齐问题 #

Metal对纹理的行字节数有严格的对齐要求（通常是16字节），如果你的bytesPerRow只是简单用bufferWidth*MemoryLayout<UInt16>.stride，当这个值不满足对齐要求时，纹理的数据会出现错位，导致显示混乱。

修正后的代码示例 #

纹理创建代码（修正对齐问题）

let elementSize = MemoryLayout<UInt16>.size
// 计算符合Metal 16字节对齐要求的行字节数
let alignedBytesPerRow = (bufferWidth * elementSize + 15) & ~15

let textureDescriptor = MTLTextureDescriptor()
textureDescriptor.textureType = .type2D
textureDescriptor.pixelFormat = .r16Uint
textureDescriptor.width = bufferWidth
textureDescriptor.height = 256
// 只需要片段着色器读取，不需要shaderWrite
textureDescriptor.usage = [.shaderRead]

guard let texture = buffer?.makeTexture(descriptor: textureDescriptor, offset: 0, bytesPerRow: alignedBytesPerRow) else {
    fatalError("Failed to create texture from buffer")
}

注意：如果你的计算着色器写入Buffer时已经用了对齐后的行字节数，直接用那个值就行，不用重新计算。

片段着色器代码（修正clamp和数值转换）

fragment half4 fragmentShaderDisplay (MappedVertex in [[ stage_in ]],
                                      texture2d<ushort, access::sample> lumaTexture [[ texture(0) ]] ) {
    constexpr sampler s(t_address::clamp_to_edge, r_address::clamp_to_edge,
                       min_filter::linear, mag_filter::linear);
    
    ushort rawLuma = lumaTexture.sample(s, in.textureCoordinate).r;
    // 根据计算着色器的输出范围选择分母：
    // 如果输出是0-65535，用65535.0；如果是0-255，用255.0
    float luma = float(rawLuma) / 65535.0;
    
    // 正确的clamp参数顺序：要限制的数值在前
    luma = clamp(luma, 0.0, 1.0);
    
    return half4(luma, luma, luma, 1.h);
}

额外检查点 #

• 确认计算着色器写入MTLBuffer时的行字节数和创建纹理时传入的bytesPerRow完全一致，否则纹理数据会错位。
• 如果你的纹理不需要写入，去掉.shaderWrite的usage，减少不必要的资源开销。

内容的提问来源于stack exchange，提问作者Deepak Sharma