Metal中大量blit与缩放命令的正确编码方式及性能优化问题

核心结论：采用动态调整批次大小的分批执行方案，同时对现有流程做几处关键优化，即可兼顾内存占用、GPU利用率和执行效率，适配所有macOS 11+支持的硬件。

现有三个方案的问题拆解 #

• 方案1（一次性全部执行）：核心问题是所有IOSurface关联的临时纹理会同时驻留内存，超出GPU显存阈值后会触发内存分页/置换，同时大量拷贝命令堆叠会导致命令缓冲区过大，GPU调度开销上升，这也是Xcode GPU工具报警告的原因。
• 方案2（固定10个一批）：方向正确但固定批次值无法适配不同硬件，比如高端独显能承载更大批次，核显则需要更小批次，硬编码数值会导致高端设备性能浪费、低端设备卡顿。
• 方案3（单次执行）：频繁提交小命令缓冲区会增加CPU侧的命令提交开销，同时GPU会出现频繁的命令间隙，无法跑满带宽，最终整体吞吐量低于分批方案。

最优方案实现要点 #

1. 动态计算批次大小 #

不要硬编码批次数值，根据当前设备的GPU参数动态计算：

// 计算单批次最优数量
func optimalBatchSize(for device: MTLDevice) -> Int {
    // 取GPU推荐的最大工作集内存的1/4作为单批次总配额
    let maxBatchMemory = device.recommendedMaxWorkingSetSize / 4
    // 单张IOSurface纹理的内存占用 = 宽 * 高 * 每像素字节数（RGBA8格式为4）
    let perSurfaceMemory = surfaceWidth * surfaceHeight * 4
    // 批次大小限制在2~32区间，避免过大或过小
    return max(2, min(Int(maxBatchMemory / perSurfaceMemory), 32))
}

2. 移除不必要的waitUntilCompleted #

所有批次的blit命令不需要等待完成再提交下一批，也不需要等全部blit完成再编码渲染命令，利用Metal的命令缓冲区依赖自动调度：

// 优化后的分批执行伪代码
func optimizedRender() {
    let batchSize = optimalBatchSize(for: device)
    var lastBlitCommandBuffer: MTLCommandBuffer?
    
    for group in visibleSurfaces.groupsOf(batchSize) {
        let commandBuffer = commandQueue.makeCommandBuffer()
        // 批次完成后自动释放该批次关联的临时surface纹理
        commandBuffer.addCompletedHandler { _ in
            releaseTempTexturesForGroup(group)
        }
        guard let blitEncoder = commandBuffer.makeBlitCommandEncoder() else { continue }
        
        for surface in group {
            // 优先复用纹理池中的空闲纹理，减少创建开销
            let surfaceTexture = textureCache.getReusableTexture() ?? makeTextureFromSurface(surface)
            if surfaceTexture.size == destinationSliceSize {
                blitEncoder.copy(surfaceTexture, to: destinationTexture, slice: ...)
            } else {
                // MPS缩放命令直接编码到当前命令缓冲区即可
                let scaleFilter = MPSImageScale(device: device)
                scaleFilter.encode(
                    commandBuffer: commandBuffer,
                    sourceTexture: surfaceTexture,
                    destinationTexture: destinationTexture,
                    slice: ...
                )
            }
        }
        
        blitEncoder.endEncoding()
        commandBuffer.commit()
        lastBlitCommandBuffer = commandBuffer
    }
    
    // 渲染编码器只需要等待最后一个blit命令缓冲区完成即可，不需要逐个等待
    guard let renderEncoder = commandBuffer.makeRenderCommandEncoder(descriptor: renderPassDescriptor),
          let blitFence = lastBlitCommandBuffer?.fence else { return }
    renderEncoder.waitForFence(blitFence, after: .stageBlit)
    // 后续编码绘制命令
    renderEncoder.draw(...)
}

3. 额外优化点 #

• 临时surface纹理复用：建立大小匹配的纹理池，不需要每次拷贝都新建纹理，减少创建开销
• 混合编码：相同尺寸的拷贝用blit命令，需要缩放的用MPS命令，全部编码到同一个命令缓冲区即可，不需要拆分编码器
• 内存标记：IOSurface和临时纹理都标记为storageModeManaged（macOS默认），减少CPU/GPU同步开销

验证方式 #

可以用Xcode GPU计数器查看「GPU带宽利用率」和「显存占用」两个指标：

• 如果带宽利用率长期低于80%，可以适当调大批次大小
• 如果显存占用超过设备显存的70%，适当调小批次大小

内容的提问来源于stack exchange，提问作者kennyc