为何添加instanceID后OpenGL会优化掉proj矩阵Uniform？

原本运行正常的着色器代码，在顶点着色器添加输出instanceID、片段着色器添加对应输入后，OpenGL提示找不到活动Uniformproj的位置，且无GLSL编译错误。

原正常代码 #

顶点着色器 #

// 顶点着色器
#version 460 core
layout (location = 0) in vec2 inPos;
layout (location = 1) in vec2 inNorm;

uniform mat3 proj;

layout(binding = 0, std430) readonly buffer transformSSBO {
  mat4 transforms[];
};

void main()
{
  vec3 outPos = proj * mat3(transforms[gl_InstanceID]) * vec3(inPos, 1.0);
  gl_Position = vec4(outPos.x, outPos.y, 0.0, 1.0);
}

片段着色器 #

// 片段着色器
layout(binding = 1, std430) readonly buffer teamSSBO {
  uint team[];
};

out vec4 FragColor;

void main()
{
   int instanceID = 0;
   uint teamVal = team[instanceID];
   FragColor = vec4(float(teamVal) * 1.0f, 0.0f, float(1 - teamVal) * 1.0f, 1.0f);
}

修改后出问题的代码 #

顶点着色器 #

// 顶点着色器
#version 460 core
layout (location = 0) in vec2 inPos;
layout (location = 1) in vec2 inNorm;

uniform mat3 proj;

layout(binding = 0, std430) readonly buffer transformSSBO {
  mat4 transforms[];
};

out int instanceID;

void main()
{
  vec3 outPos = proj * mat3(transforms[gl_InstanceID]) * vec3(inPos, 1.0);
  gl_Position = vec4(outPos.x, outPos.y, 0.0, 1.0);

  instanceID = gl_InstanceID;
}

片段着色器 #

// 片段着色器
#version 460 core
in int instanceID;

layout(binding = 1, std430) readonly buffer teamSSBO {
  uint team[];
};

out vec4 FragColor;

void main()
{
   uint teamVal = team[instanceID];
   FragColor = vec4(float(teamVal) * 1.0f, 0.0f, float(1 - teamVal) * 1.0f, 1.0f);
}

核心原因 #

这是GLSL编译器的死代码优化导致的：

• 修改后的片段着色器中，FragColor的计算完全依赖team[instanceID]，而gl_Position的结果并没有影响片段着色器的输出——片段着色器既没有使用任何顶点着色器传递的位置相关插值变量，也没有基于位置的丢弃/分支逻辑。
• 编译器会推断出：gl_Position的计算结果不影响最终的帧缓冲输出，因此会将整个gl_Position的计算逻辑标记为死代码，连带依赖的proj uniform一起被优化剔除，导致proj不再是活动Uniform。

解决方案 #

可以通过以下几种方式阻止编译器优化掉proj：

• 强制保留gl_Position的关联影响：在片段着色器中加入依赖gl_FragCoord的无意义计算（gl_FragCoord由gl_Position转换而来），让编译器无法判定gl_Position为无用代码：

  // 片段着色器中修改main函数
  void main()
  {
     // 加入该行，让编译器认为gl_Position影响输出
     FragColor.w += gl_FragCoord.x * 0.0;
     
     uint teamVal = team[instanceID];
     FragColor = vec4(float(teamVal) * 1.0f, 0.0f, float(1 - teamVal) * 1.0f, 1.0f);
  }
  

• 显式指定顶点输出布局+强制关闭优化：给顶点着色器的instanceID加上位置布局，同时添加编译器指令强制关闭死代码优化（部分GLSL编译器支持）：

  // 顶点着色器中修改
  #pragma optimize(off)
  layout(location = 2) out int instanceID;
  

• 调整渲染管线逻辑：开启深度测试（若未开启），这样gl_Position的z值会影响片段是否被丢弃，编译器就不会优化掉相关计算逻辑。

内容的提问来源于stack exchange，提问作者Cascades