如何正确结合使用mmap()与newBufferWithBytesNoCopy？GPU错误排查

问题现象 #

通过newBufferWithBytesNoCopy将mmap()创建的MTLBuffer生成纹理时，若mmap的len参数请求的页数超过文件实际页数：

• mmap()调用成功，newBufferWithBytesNoCopy也未返回nil或错误
• 但将缓冲区传给GPU复制到MTLTexture时，控制台打印错误，且所有GPU命令失效：

Execution of the command buffer was aborted due to an error during execution. Internal Error (IOAF code -536870211)

假设页大小为4096，当Content文件大小小于4097字节时会触发该问题。

复现代码 #

static id<MTLDevice> Device;
static id<MTLCommandQueue> Queue;
static id<MTLTexture> BlockTexture[3];
#define TEX_LEN_1 1 // These are all made 1 in this question for simplicity
#define TEX_LEN_2 1
#define TEX_LEN_4 1
#define TEX_SIZE ((TEX_LEN_1<<10)+(TEX_LEN_2<<11)+(TEX_LEN_4<<12))
#define PAGE_ALIGN(S) ((S)+PAGE_SIZE-1&~(PAGE_SIZE-1))
int main(void) {
    if (!(Queue = [Device = MTLCreateSystemDefaultDevice() newCommandQueue]))
        return EXIT_FAILURE;
    @autoreleasepool {
        const id<MTLBuffer> data = ({
            void *const map = ({
                NSFileHandle *const file = [NSFileHandle fileHandleForReadingAtPath:[NSBundle.mainBundle pathForResource:@"Content" ofType:nil]];
                if (!file)
                    return EXIT_FAILURE;
                mmap(NULL, TEX_SIZE, PROT_READ, MAP_SHARED, file.fileDescriptor, 0);
            });
            if (map == MAP_FAILED)
                return errno;
            [Device newBufferWithBytesNoCopy:map length:PAGE_ALIGN(TEX_SIZE) options:MTLResourceStorageModeShared deallocator:^(void *const ptr, const NSUInteger len){
                munmap(ptr, len);
            }];
        });
        if (!data)
            return EXIT_FAILURE;
        const id<MTLCommandBuffer> buffer = [Queue commandBuffer];
        const id<MTLBlitCommandEncoder> encoder = [buffer blitCommandEncoder];
        if (!encoder)
            return EXIT_FAILURE;
        {
            MTLTextureDescriptor *const descriptor = [MTLTextureDescriptor new];
            descriptor.width = descriptor.height = 32;
            descriptor.mipmapLevelCount = 6;
            descriptor.textureType = MTLTextureType2DArray;
            descriptor.storageMode = MTLStorageModePrivate;
            const enum MTLPixelFormat format[] = {MTLPixelFormatR8Unorm, MTLPixelFormatRG8Unorm, MTLPixelFormatRGBA8Unorm};
            const NSUInteger len[] = {TEX_LEN_1, TEX_LEN_2, TEX_LEN_4};
            for (NSUInteger i = 3, off = 0; i--;) {
                descriptor.pixelFormat = format[i];
                const NSUInteger l = descriptor.arrayLength = len[i];
                const id<MTLTexture> texture = [Device newTextureWithDescriptor:descriptor];
                if (!texture)
                    return EXIT_FAILURE;
                const NSUInteger br = 32<<i, bi = 1024<<i;
                for (NSUInteger j = 0; j < l; off += bi)
                    [encoder copyFromBuffer:data sourceOffset:off sourceBytesPerRow:br sourceBytesPerImage:bi sourceSize:(const MTLSize){32, 32, 1} toTexture:texture destinationSlice:j++ destinationLevel:0 destinationOrigin:(const MTLOrigin){0}];
                [encoder generateMipmapsForTexture:BlockTexture[i] = texture];
            }
        }
        [encoder endEncoding];
        [buffer commit];
    }
    // Rest of code to initialize application (omitted)
}

核心疑问与解答 #

1. 为什么mmap超出文件的空间不是合法的0内存？ #

在MAP_SHARED模式下，mmap请求的长度超过文件实际大小的部分，属于未分配的内存“空洞”：

• CPU访问这部分内存会触发SIGBUS信号（POSIX标准定义的未定义行为）
• GPU无法处理这种内存访问错误，直接导致命令缓冲区执行失败
  只有当使用MAP_ANONYMOUS，或者通过写入操作触发文件扩展时，超出部分才会被填充为零页；只读的MAP_SHARED访问超文件页本身就是非法操作。

2. 除手动检查文件大小外，如何优雅检测GPU执行错误或无效缓冲区？ #

• 监听命令缓冲区完成回调：通过addCompletedHandler:为命令缓冲区添加回调，在回调中获取error属性，能精准捕获GPU执行失败的原因，而不是仅依赖控制台日志：

  [buffer addCompletedHandler:^(id<MTLCommandBuffer> cb) {
      if (cb.error) {
          NSLog(@"GPU命令执行失败: %@", cb.error);
          // 处理错误逻辑
      }
  }];
  

• CPU预校验内存合法性：可以尝试在CPU层面遍历缓冲区的所有字节（或用mincore等工具预检查页是否可访问），提前触发错误，但这种方式会带来额外性能开销，不如提前校验文件大小可靠。

3. 这是系统bug还是函数使用不当？ #

这属于函数使用不当：

• mmap的MAP_SHARED模式下访问超出文件长度的页是POSIX标准定义的未定义行为
• newBufferWithBytesNoCopy仅负责将用户提供的内存包装为Metal缓冲区，不会校验内存区域的合法性，这部分责任由调用者承担
  Metal只是将底层的内存访问错误以GPU命令失败的形式暴露出来，并非系统bug。

内容的提问来源于stack exchange，提问作者CPlus