Metal中makeComputeCommandEncoder断言失败问题排查

首先，这个崩溃的直接原因很明确：你在同一个MTLCommandBuffer上创建了一个编码器（这里是计算命令编码器），但没有结束它的编码状态，就尝试创建另一个编码器（比如后续用于MTKView渲染的渲染编码器）。Metal的命令缓冲区同一时间只能有一个活跃的编码器，必须先结束当前编码器的编码工作，才能创建新的。

看你提供的代码片段，computeKernel函数里创建了computeEncoder，但明显缺少了关键的一步：调用computeEncoder.endEncoding()来结束计算命令的编码。这会导致这个计算编码器一直处于"编码中"的状态，之后当你再用同一个commandBuffer去创建渲染编码器提交给MTKView时，就会触发这个断言错误。

修复步骤： #

• 在你的computeKernel函数中，完成计算命令的设置（比如设置管线、纹理参数、调度线程组）之后，必须调用computeEncoder.endEncoding()，把计算命令提交到命令缓冲区中，释放当前编码器的活跃状态。
• 另外要注意：同一个MTLCommandBuffer是完全支持把计算着色器的输出纹理传入渲染管线的，只要你确保计算和渲染的编码器是先后创建且各自正确结束编码的——先创建计算编码器，完成计算任务后结束编码，再创建渲染编码器，使用计算输出的纹理进行绘制，最后结束渲染编码器，提交整个命令缓冲区。

举个修复后的代码示例：

func computeKernel(_ texture: MTLTexture, commandBuffer: MTLCommandBuffer) {
    guard let computeEncoder = commandBuffer.makeComputeCommandEncoder() else {
        return
    }
    // 设置计算管线、绑定纹理等参数
    computeEncoder.setComputePipelineState(yourComputePSO)
    computeEncoder.setTexture(texture, index: 0)
    
    // 调度线程组
    let threadGroupSize = MTLSize(width: 16, height: 16, depth: 1)
    let threadGroups = MTLSize(width: (texture.width + threadGroupSize.width - 1)/threadGroupSize.width,
                               height: (texture.height + threadGroupSize.height - 1)/threadGroupSize.height,
                               depth: 1)
    computeEncoder.dispatchThreadgroups(threadGroups, threadsPerThreadgroup: threadGroupSize)
    
    // 关键：结束计算编码器的编码！
    computeEncoder.endEncoding()
}

之后你就可以在同一个commandBuffer里继续创建渲染编码器，用这个计算后的纹理去绘制，再结束渲染编码器，最后提交commandBuffer即可，不会再触发这个崩溃。

内容的提问来源于stack exchange，提问作者Deepak Sharma