CS50 PSET4 Sobel边缘检测函数边角红像素计算异常排查

你的代码核心bug是存储Sobel中间计算结果的数组类型选错了。
你用来存Gx、Gy值的gx、gy数组是RGBTRIPLE类型，这个结构体的三个颜色通道都是8位无符号字符（BYTE/unsigned char），只能存储0~255范围的值。但Sobel算子计算出来的单通道梯度值最大可以达到(1+2+1)*255 = 1020，远超过255的上限，你直接把计算得到的大于255的浮点梯度值赋值给8位无符号变量时，会发生整数截断，只保留值的低8位，导致中间数据损坏。

至于为什么只有边缘、角落的红通道出错、蓝绿正常：

• 图像中间区域的像素3x3邻域完整，梯度值很多时候会对称抵消，很少超过255，所以计算结果看起来正常
• 边缘、角落像素邻域有缺失（不存在的像素按0处理），梯度值很容易超过255触发截断
• 你测试用的图片在边缘位置的蓝、绿通道梯度值刚好没超过255，没有触发截断，所以结果暂时正常，红通道梯度值更高触发了截断，才会表现为只有红通道结果不对。如果换一张边缘蓝绿值更高的图，蓝绿通道一样会出错。

不要用RGBTRIPLE存储Gx、Gy的中间结果，自定义一个支持浮点存储的三通道结构体即可：

1. 首先定义浮点型三通道结构体：

typedef struct
{
    float rgbtBlue;
    float rgbtGreen;
    float rgbtRed;
} FloatTriple;

2. 把原来edges函数里gx、gy数组的类型从RGBTRIPLE改成FloatTriple，顺手修复原来的小问题：

// Detect edges
void edges(int height, int width, RGBTRIPLE image[height][width])
{
    // 替换为FloatTriple类型存储中间梯度值
    FloatTriple(*gx)[width] = calloc(height, width * sizeof(FloatTriple));
    if (gx == NULL)
    {
        printf("Not enough memory to store gx values.\n");
        return;
    }

    FloatTriple(*gy)[width] = calloc(height, width * sizeof(FloatTriple));
    if (gy == NULL)
    {
        printf("Not enough memory to store gy values.\n");
        free(gx); // 分配失败时释放已申请的内存，避免泄漏
        return;
    }

    for (int row = 0; row < height; row++)
    {
        for (int col = 0; col < width; col++)
        {
            Gx(row, col, height, width, image, gx);
            Gy(row, col, height, width, image, gy);
        }
    }

    for (int row = 0; row < height; row++)
    {
        for (int col = 0; col < width; col++)
        {
            image[row][col].rgbtBlue = r_sqrt_sum(gx[row][col].rgbtBlue, gy[row][col].rgbtBlue);
            image[row][col].rgbtGreen = r_sqrt_sum(gx[row][col].rgbtGreen, gy[row][col].rgbtGreen);
            image[row][col].rgbtRed = r_sqrt_sum(gx[row][col].rgbtRed, gy[row][col].rgbtRed);
        }
    }

    free(gx);
    free(gy);
    return;
}

3. 同步修改Gx、Gy函数的形参类型，把new_matrix的类型从RGBTRIPLE改成FloatTriple即可，函数内部的计算逻辑不需要改动，原来的Sobel核权重、边界判断逻辑都是正确的。

改完之后中间梯度值会被完整存储，不会再出现截断错误，边缘、角落的红通道计算就会恢复正常。

内容的提问来源于stack exchange，提问作者nishkant