OpenGL着色器常量填充正常但颜色插值失效的调试方法咨询

已实现可基本运行的地图多边形填充代码，目前存在凸包绘制、部分区域错误填充问题，后续计划接入曲面细分处理修复。

现象对比 #

• 正常表现：着色器接收三角扇绘制指令，使用硬编码黄色绘制时功能完全正常
  
• 异常表现：尝试基于传入数值做颜色插值渲染时，输出结果全黑，功能失效
  

当前配置与代码 #

传入的顶点属性val取值范围为0.0~1.0，uniform参数配置如下：

• minVal = 0.0
• maxVal = 1.0
• minColor = (0,0,1)（蓝色）
• maxColor = (1,0,0)（红色）

当前使用的片段着色器代码：

#version 330 core
out vec4 FragColor;

//in vec2 TexCoord;
in float val;
//uniform sampler2D ourTexture;
uniform vec3 minColor;
uniform vec3 maxColor;
uniform float minVal;
uniform float maxVal;

void main()
{
    float f = (val - minVal)/ (maxVal-minVal);
    //FragColor = vec4(1,1,0,1);//texture(ourTexture, f);
    FragColor = vec4(minColor*(1.0-f) + maxColor * f,1.0);
}

硬编码黄色可正常绘制，说明顶点提交、光栅化、帧缓冲输出全流程无问题，故障出在颜色插值相关的变量传递或计算环节，按出现概率从高到低排查：

1. 顶点属性val传递异常
   最常见问题是顶点着色器中未正确声明out float val并赋值，或者客户端代码中未通过glEnableVertexAttribArray开启val对应的顶点属性数组、glVertexAttribPointer绑定的类型/偏移/步长错误，导致片段着色器中读取到的val是未初始化的垃圾值（比如负数、超大浮点数、NaN），计算出的颜色分量为负，最终被驱动截断为0输出全黑。
2. Uniform变量传值失败
   如果未通过glGetUniformLocation获取正确的uniform位置就调用传值接口，着色器中读到的uniform会是默认值：vec3类型默认值为(0,0,0)，float类型默认值为0，此时maxVal - minVal分母为0，计算出的f为NaN，NaN参与颜色运算最终结果就是全黑。
3. 浮点插值越界
   即使val传入范围是0~1，三角形光栅化的重心插值在边界处可能产生超出[0,1]范围的浮点误差，导致计算出的颜色分量为负，截断后变黑。

修复方案 #

先给插值结果加边界截断，使用内置插值函数避免手写计算出错：

void main()
{
    float f = (val - minVal) / (maxVal - minVal);
    f = clamp(f, 0.0, 1.0); // 截断所有超出[0,1]范围的异常值
    FragColor = vec4(mix(minColor, maxColor, f), 1.0); // 用内置mix函数做线性插值
}

如果修改后仍然全黑，按照后续调试方法逐个排查变量传递问题。

不需要依赖Nsight，以下方案可覆盖所有调试需求：

• 零依赖色值调试法（工业界最常用，效率最高）
  不需要任何外部工具，直接把要观测的变量映射为灰度/彩色值输出到屏幕，即可直观判断变量取值：
  1. 先排查val取值，临时修改片段着色器为：

     void main() {
         // val正常范围0~1，输出应该是从黑到白的平滑渐变
         FragColor = vec4(vec3(clamp(val, 0.0, 1.0)), 1.0);
     }
     

     • 全黑说明val恒为0或负数
     • 全白说明val恒大于等于1
     • 出现大块纯色块说明顶点属性绑定类型/位置错误
  2. 确认val正常后，用同样方法输出f、minColor、maxColor的取值，10分钟内即可定位到具体哪个变量传输出错。
• 原生Linux抓帧调试工具
  • 通用方案：使用RenderDoc，全平台免费开源，支持AMD/NVIDIA/Intel显卡，可抓帧查看所有顶点属性、uniform的实际传入值，支持单步执行着色器查看每个变量的运行时数值，功能与Nsight完全一致。
  • NVIDIA显卡方案：可使用5xx版本以上驱动适配的新版Nsight Graphics Linux版，或用apitrace抓帧重放，查看所有OpenGL调用参数与着色器状态。
• 编译链接错误排查
  必须在代码中调用glGetShaderiv、glGetProgramiv检查着色器编译、程序链接的日志，很多varying变量不匹配、类型错误只会触发警告不会阻止链接，但会直接导致变量传递异常。

内容的提问来源于stack exchange，提问作者Dov