texelFetch读取像素数据异常，如何正确获取像素值？

问题描述 #

我通过以下Python代码生成了一张PNG图像，其中(1,1)位置像素的红色通道值为1：

from PIL import Image

image_data = [
    [0, 1, 0, 0, 0],
    [0, 1, 0, 0, 0],
    [0, 0, 0, 0, 0],
    [0, 0, 0, 0, 0],
    [0, 0, 0, 0, 0],
]

width = len(image_data[0])
height = len(image_data)

image = Image.new('RGB', (width, height), (0, 0, 0))

for row in range(height):
    for col in range(width):
        image.putpixel((col, row), (image_data[row][col], 0, 0))

image.save('abc.png', 'png')

随后使用如下GLSL着色器代码读取该图像：

uniform isampler2D map;

void main()
{
    ivec4 d = texelFetch(map, ivec2(1, 1), 0);
    gl_FragColor = vec4(vec3(float(d.r)), 1.0);
}

发现读取到的d.r并非预期的1，而是一个极大值（输出颜色为白色）；仅当将d.r除以一个超大数值（如10000000000.0）时，输出才变为灰色。

原因分析 #

• PNG存储的是8位无符号整数格式的颜色数据，每个通道值范围为0-255。但使用isampler2D（有符号整数采样器）读取时，若纹理创建未指定整数格式，OpenGL会默认将8位无符号数据转换为规范化浮点值（0.0对应0，1.0对应255），再将该浮点值转换为有符号整数时，1.0会被映射到32位有符号整数的最大值2^31-1，这就是你看到的极大值。
• 采样器类型与纹理内部格式不匹配，导致数值转换逻辑出错。

解决方法 #

要正确读取整数像素值，需保证纹理格式、采样器类型、数据转换逻辑三者一致：

1. 纹理加载时指定整数内部格式 #

在OpenGL加载纹理的代码中，必须明确设置纹理的内部格式为整数类型，以匹配PNG的无符号8位数据：

// 绑定纹理后设置参数
glTexImage2D(GL_TEXTURE_2D, 0, GL_RGB8UI, width, height, 0, GL_RGB_INTEGER, GL_UNSIGNED_BYTE, image_data);

关键要点：

• 内部格式用GL_RGB8UI（8位无符号整数RGB格式）
• 格式参数必须用GL_RGB_INTEGER（而非普通的GL_RGB）
• 数据类型匹配GL_UNSIGNED_BYTE，对应PNG的8位无符号数据

2. 着色器中使用匹配的采样器 #

由于PNG数据是无符号整数，着色器应使用usampler2D（无符号整数采样器），而非isampler2D：

uniform usampler2D map;

void main()
{
    uvec4 d = texelFetch(map, ivec2(1, 1), 0);
    // 将无符号整数转为0-1范围的浮点值用于输出
    gl_FragColor = vec4(vec3(float(d.r) / 255.0), 1.0);
}

如果确实需要处理有符号整数数据，才使用isampler2D，但本场景下usampler2D更贴合PNG的存储格式。

3. 设置正确的纹理过滤参数 #

整数纹理不支持线性过滤，必须设置为GL_NEAREST以避免数值错误：

glTexParameteri(GL_TEXTURE_2D, GL_TEXTURE_MIN_FILTER, GL_NEAREST);
glTexParameteri(GL_TEXTURE_2D, GL_TEXTURE_MAG_FILTER, GL_NEAREST);

内容的提问来源于stack exchange，提问作者楚狂人