保守光栅化下如何跳过两三角形共享边生成的片段？

当启用保守光栅化时，相邻三角形的共享边会生成重复片段，以下是几种实用的解决思路：

1. 边标记+片元阶段剔除 #

给每个三角形的边添加标记属性（比如在顶点数据中加入布尔值或枚举值），明确标记哪些边是与其他三角形共享的。在片元着色器中，检查当前片段所属的边是否为共享边，若是则直接丢弃该片段：

// 从顶点着色器传入的共享边标记（需确保每个边的标记在两个共享三角形中都正确设置）
in bool isSharedEdge;

void main() {
    if (isSharedEdge) {
        discard;
    }
    // 后续正常的片元渲染逻辑
}

这种方法需要在建模或几何处理阶段提前标记共享边，适合静态场景或可控的拓扑结构。

2. 深度/模板缓冲遮挡剔除 #

利用深度测试自动剔除已被绘制的共享边片段：

• 绘制第一个三角形时，正常写入深度缓冲；
• 绘制第二个共享边的三角形时，启用深度测试（如GL_LEQUAL模式），确保共享边区域的片段因已存在深度值而被剔除。
  需注意保守光栅化下深度计算的一致性，避免因深度精度问题导致的误剔除或漏剔除。

3. 几何着色器中过滤共享边 #

在几何着色器阶段，通过顶点索引或拓扑信息判断当前三角形的边是否为共享边，若为共享边则调整光栅化范围或直接不生成对应片段。例如：

layout(triangles) in;
layout(triangle_strip, max_vertices=3) out;

void main() {
    // 假设已通过顶点索引判断出第0条边是共享边
    bool isEdge0Shared = checkSharedEdge(gl_in[0].gl_Position, gl_in[1].gl_Position);
    
    // 生成顶点时，调整共享边的光栅化范围（或跳过该边相关的片段生成逻辑）
    for (int i = 0; i < 3; i++) {
        gl_Position = gl_in[i].gl_Position;
        // 传递共享边标记到片元着色器，或直接在几何阶段处理
        EmitVertex();
    }
    EndPrimitive();
}

这种方法对GPU性能有一定开销，适合动态拓扑场景。

4. 利用硬件保守光栅化扩展 #

部分GPU的保守光栅化扩展（如NVIDIA的GL_NV_conservative_raster）提供了自动处理共享边的选项，例如启用GL_CONSERVATIVE_RASTER_DUPLICATE_TRIANGLE_EDGES_NV参数，让硬件自动剔除重复的共享边片段，无需手动编写额外逻辑。

内容的提问来源于stack exchange，提问作者carnot