Vulkan计算着色器输出缓冲区数据异常原因排查

问题描述 #

学习Vulkan Compute Shader时编写了如下着色器代码：

#version 450 core

layout(std140, binding = 0) readonly buffer InputSSBO {
    int InputBuffer[256];
};

layout(std140, binding = 1) buffer OutputSSBO {
    int OutputBuffer[256];
};

layout(local_size_x = 256, local_size_y = 1, local_size_z = 1) in;

void main()
{
    uint index = gl_GlobalInvocationID.x;

    OutputBuffer[index] = int(index);
}

通过vkCmdDispatch(commandBuffer, 1, 1, 1)调度着色器后，读取输出缓冲区得到的数据为：

0, 0, 0, 0, 1, 0, 0, 0, 2, ... 62, 0, 0, 0, 63, 0, 0, 0

尝试在C++侧将所有缓冲区大小乘以4（未修改着色器），输出形式类似，但数据能到255，询问异常原因。

问题原因与解决方法 #

核心原因 #

CPU侧与GPU侧的缓冲区数据处理格式不匹配：

• GLSL中int是4字节标量，着色器里的OutputBuffer[256]总大小为256 * 4 = 1024字节，每个索引对应4字节的连续内存。
• 最初C++侧存在两个可能的错误：
  1. 创建缓冲区时，直接用元素个数（256）作为VkBufferCreateInfo的size参数（应为字节数），导致缓冲区实际大小只有256字节，GPU写入时越界，数据被截断或覆盖。
  2. 读取缓冲区数据时，错误地以1字节类型（如uint8_t）解析，把每个4字节的int拆成了4个单字节值——由于索引值小于256，仅占据int的低字节，所以看到每4个位置里第一个是索引值，其余三个是0。
• 当你把缓冲区大小乘以4后，缓冲区实际大小变为1024字节（刚好匹配着色器需求），但读取时仍用1字节解析，因此能看到0到255的完整索引序列，每个值间隔4个位置。

解决步骤 #

1. 修正缓冲区大小计算：创建缓冲区时，size参数必须是字节数，即256 * sizeof(int)（对应1024字节）。
2. 正确解析缓冲区数据：映射或读取缓冲区时，使用int*类型访问数据，例如：

   int* pOutputData = static_cast<int*>(mappedMemory);
   for (int i = 0; i < 256; ++i) {
       // 读取pOutputData[i]即可得到正确的索引值
   }
   

3. 检查内存对齐与布局：确认std140布局的对齐要求被满足（此处int数组为连续布局，每个元素4字节，无需额外调整）。

内容的提问来源于stack exchange，提问作者bquack-l