OpenGL GLSL几何着色器：gl_Position转gl_FragCoord及坐标判断问题

核心问题：坐标转换逻辑错误 #

你当前的gl_Position转gl_FragCoord逻辑缺失了透视除法和坐标空间映射两个关键步骤，导致计算出的顶点屏幕坐标（v1/v2/v3）和实际gl_FragCoord不匹配，这是画面红色闪烁的根本原因。

正确的转换流程 #

gl_Position是裁剪空间齐次坐标，要转换为gl_FragCoord（屏幕空间像素坐标），必须经过以下三步：

1. 透视除法：将裁剪空间坐标除以w分量，得到NDC（标准化设备坐标），范围为x∈[-1,1]、y∈[-1,1]（OpenGL中y轴向上）。
2. 范围映射：将NDC从[-1,1]缩放到[0,1]的UV范围。
3. 屏幕适配与Y轴翻转：将UV缩放至屏幕像素尺寸，同时翻转Y轴（因为gl_FragCoord的Y轴向下，原点在左下角）。

修正后的几何着色器 #

#version 330 core

layout (triangles) in;
layout (triangle_strip, max_vertices = 3) out;

out vec3 color;
out vec2 v1;
out vec2 v2;
out vec2 v3;

in DATA
{
    vec3 color;
    vec2 screenSize;
    mat4 projection;
} data_in[];

// 裁剪空间坐标转gl_FragCoord的正确实现
vec2 ClipToFragCoord(vec4 clipPos, vec2 screenSize)
{
    // 1. 透视除法得到NDC
    vec2 ndc = clipPos.xy / clipPos.w;
    // 2. NDC转[0,1]范围UV
    vec2 uv = (ndc + 1.0) * 0.5;
    // 3. 缩放至屏幕尺寸并翻转Y轴
    return vec2(screenSize.x * uv.x, screenSize.y * (1.0 - uv.y));
}

void main()
{
    vec2 screenSize = data_in[0].screenSize;

    // 计算三个顶点对应的屏幕坐标
    v1 = ClipToFragCoord(data_in[0].projection * gl_in[0].gl_Position, screenSize);
    v2 = ClipToFragCoord(data_in[1].projection * gl_in[1].gl_Position, screenSize);
    v3 = ClipToFragCoord(data_in[2].projection * gl_in[2].gl_Position, screenSize);

    // 保持原有顶点发射逻辑
    gl_Position = data_in[0].projection * gl_in[0].gl_Position;
    color = data_in[0].color;
    EmitVertex();

    gl_Position = data_in[1].projection * gl_in[1].gl_Position;
    color = data_in[1].color;
    EmitVertex();

    gl_Position = data_in[2].projection * gl_in[2].gl_Position;
    color = data_in[2].color;
    EmitVertex();

    EndPrimitive();
}

片元着色器的稳定性优化 #

你当前用距离相加判断点是否在线段附近的方式精度低、易闪烁，改用叉积+点积的方式可以大幅提升稳定性：

#version 330 core

in vec3 color;
in vec2 v1;
in vec2 v2;
in vec2 v3;

// 判断点是否在线段附近的高效实现
bool IsNearSegment(vec2 p, vec2 a, vec2 b, float threshold)
{
    vec2 ab = b - a;
    vec2 ap = p - a;
    // 叉积绝对值判断垂直距离是否小于阈值
    float crossDist = abs(ab.x * ap.y - ab.y * ap.x);
    // 点积判断点是否在线段的投影范围内
    float dotProduct = dot(ap, ab);
    
    return crossDist <= threshold * length(ab) && dotProduct >= 0.0 && dotProduct <= dot(ab, ab);
}

void main()
{
    // 阈值可根据需求调整，1.0对应1像素宽度的线段
    if(IsNearSegment(gl_FragCoord.xy, v1, v2, 1.0)
    || IsNearSegment(gl_FragCoord.xy, v2, v3, 1.0))
    {
        gl_FragColor = vec4(1.0, 0.0, 0.0, 1.0);
    }
    else
    {
        gl_FragColor = vec4(1.0, 1.0, 1.0, 1.0);
    }
}

额外注意事项 #

• 确保传入的screenSize是窗口实际像素尺寸（如1920x1080），不能是缩放后的比例值。
• 几何着色器中所有顶点使用同一个screenSize即可，窗口尺寸全局一致无需重复获取。

内容的提问来源于stack exchange，提问作者Sebastien Lachapelle