GLSL片段着色器条件赋值out_color异常：闪烁与显示问题咨询

问题背景 #

尝试通过片段着色器条件赋值实现颜色混合效果，GLSL代码如下：

#version 450
#pragma shader_stage(fragment)

layout(binding = 1) uniform sampler2D texture_sampler;

layout(location = 0) in vec2 tex_coord;
layout(location = 1) in vec4 _rgba;
layout(location = 0) out vec4 out_color;

void main() {
    vec4 oc = textureLod(texture_sampler, tex_coord, 0);

    if (oc.r > _rgba.r)
        oc.r = _rgba.r;
    
    if (oc.g > _rgba.g)
        oc.g = _rgba.g;
    
    if (oc.b > _rgba.b)
        oc.b = _rgba.b;

    if (oc.a > _rgba.a)
        oc.a = _rgba.a;

    float threshhold = .5;

    if (oc.a > threshhold)
        out_color = oc;
}

遇到的问题：

• 运行时画面闪烁
• 注释最后一段条件判断后，渲染正常但背景为黑色
• 完全移除out_color赋值，文本消失

原因分析 #

1. 未赋值的输出变量引发未定义行为
   Vulkan强制要求片段着色器的每个输出变量必须被明确赋值。当不满足oc.a > threshhold条件时，out_color无赋值，GPU会输出随机垃圾数据，这就是画面闪烁的直接原因。

2. 未开启混合导致背景覆盖
   注释条件判断后，所有像素都被赋值为oc，但文本外的背景像素oc alpha值通常极低，而管线默认未开启混合，新像素直接覆盖帧缓冲原有颜色，因此背景显示黑色。

3. 完全无赋值导致输出无效
   所有像素的out_color处于未定义状态，GPU无法输出有效颜色，文本自然消失。

解决方案 #

1. 确保所有像素明确赋值输出 #

修改片段着色器，为不满足条件的像素输出完全透明颜色，配合混合保留原有帧缓冲内容：

#version 450
#pragma shader_stage(fragment)

layout(binding = 1) uniform sampler2D texture_sampler;

layout(location = 0) in vec2 tex_coord;
layout(location = 1) in vec4 _rgba;
layout(location = 0) out vec4 out_color;

void main() {
    vec4 oc = textureLod(texture_sampler, tex_coord, 0);
    // 用min函数简化通道最小值判断，替代四个if分支
    oc = min(oc, _rgba);

    float threshhold = .5;
    if (oc.a > threshhold)
        out_color = oc;
    else
        // 输出完全透明，混合后保留原有帧缓冲颜色
        out_color = vec4(0.0, 0.0, 0.0, 0.0);
}

2. 开启Vulkan管线混合功能 #

创建管线时配置颜色混合状态，让透明像素与原有帧缓冲颜色混合：

// 配置混合附件状态
VkPipelineColorBlendAttachmentState blendAttachment{};
blendAttachment.blendEnable = VK_TRUE;
// 颜色通道混合规则：源alpha*源颜色 + (1-源alpha)*目标颜色
blendAttachment.srcColorBlendFactor = VK_BLEND_FACTOR_SRC_ALPHA;
blendAttachment.dstColorBlendFactor = VK_BLEND_FACTOR_ONE_MINUS_SRC_ALPHA;
blendAttachment.colorBlendOp = VK_BLEND_OP_ADD;
// alpha通道混合规则与颜色通道一致
blendAttachment.srcAlphaBlendFactor = VK_BLEND_FACTOR_SRC_ALPHA;
blendAttachment.dstAlphaBlendFactor = VK_BLEND_FACTOR_ONE_MINUS_SRC_ALPHA;
blendAttachment.alphaBlendOp = VK_BLEND_OP_ADD;
// 允许写入所有颜色通道
blendAttachment.colorWriteMask = VK_COLOR_COMPONENT_R_BIT | VK_COLOR_COMPONENT_G_BIT | VK_COLOR_COMPONENT_B_BIT | VK_COLOR_COMPONENT_A_BIT;

// 配置颜色混合状态
VkPipelineColorBlendStateCreateInfo colorBlendInfo{};
colorBlendInfo.sType = VK_STRUCTURE_TYPE_PIPELINE_COLOR_BLEND_STATE_CREATE_INFO;
colorBlendInfo.logicOpEnable = VK_FALSE;
colorBlendInfo.attachmentCount = 1;
colorBlendInfo.pAttachments = &blendAttachment;

3. 直接读取帧缓冲原有颜色（可选） #

若需要直接保留原有像素而非通过混合，可将帧缓冲作为输入附件绑定，在片段着色器中读取原有颜色后再决定输出：

• 管线配置时添加输入附件描述
• 片段着色器中声明输入附件：

  layout(input_attachment_index = 0, set = 0, binding = 2) uniform subpassInput framebuffer_input;
  

• 在main函数中读取并选择输出：

  vec4 original_color = subpassLoad(framebuffer_input);
  out_color = (oc.a > threshhold) ? oc : original_color;
  

内容的提问来源于stack exchange，提问作者David Carpenter