如何在Shader中检测边缘像素？几何与三角形边缘识别问询

当然可以实现，不管是你需要的几何体轮廓边缘（对应下图效果）：

还是单个三角形的边缘（对应下图效果）：

都能在Shader里完成，而且ddx()/ddy()确实是实现这类检测的核心工具之一，下面分两种场景说明：

一、判断几何体轮廓边缘 #

几何体的轮廓边缘，本质是相邻像素的表面属性（比如法线、深度、世界空间位置）出现剧烈变化的区域——毕竟不同几何体（或同一几何体的不同面）相邻时，这些属性会产生突变。

利用ddx()/ddy()计算属性的屏幕空间梯度，就能捕捉这种突变：

// 示例：基于法线梯度检测几何体边缘
float3 normalWS = /* 从顶点着色器传递或计算得到的世界空间法线 */;
// 计算法线在X、Y方向的差分（梯度）
float3 normalGradX = ddx(normalWS);
float3 normalGradY = ddy(normalWS);
// 梯度的长度之和代表变化剧烈程度
float edgeIntensity = length(normalGradX) + length(normalGradY);
// 根据阈值判断是否为边缘（阈值可根据实际效果调整）
bool isGeometryEdge = edgeIntensity > 0.1;

你也可以用深度值替代法线来计算，原理完全一致——深度突变的区域就是几何体的轮廓，适合那些没有法线信息的场景。

二、判断三角形边缘 #

三角形边缘是光栅化后单个三角形的边界，这类检测可以通过重心坐标（Barycentric Coordinates）结合ddx()/ddy()来实现：

// 示例：基于重心坐标梯度检测三角形边缘
float3 barycentric = /* 从顶点着色器传递的重心坐标 */;
// 计算重心坐标的屏幕空间梯度
float3 baryGradX = ddx(barycentric);
float3 baryGradY = ddy(barycentric);
// 通过重心坐标与梯度的差值判断边缘
float3 edgeValues = abs(barycentric) - abs(baryGradX) - abs(baryGradY);
float triangleEdgeFactor = max(max(edgeValues.x, edgeValues.y), edgeValues.z);
bool isTriangleEdge = triangleEdgeFactor < 0.0;

如果不需要抗锯齿，也可以直接判断重心坐标的某个分量是否接近0（比如abs(barycentric.x) < 0.01），但结合ddx()/ddy()能让边缘检测的结果更平滑，减少锯齿。

关于ddx()/ddy()的作用 #

这两个函数的核心是计算像素属性在屏幕空间X、Y方向的差分（梯度）——简单说就是当前像素和相邻像素的属性差值。边缘区域的属性梯度会远大于非边缘区域，所以我们能通过检测梯度的大小来识别边缘，这是Shader中边缘检测类效果的通用思路。

内容的提问来源于stack exchange，提问作者Anaph