GCC新版本下UDP校验和计算失效问题排查与修复咨询

问题现象 #

升级GCC新版本后，开启-O2及以上优化级别时，UDP报文的校验和计算出现错误。经定位，代码中pseudoHeader->protocol = IPPROTO_UDP;这一行的赋值指令被编译器优化消除，导致校验和计算时该字段值为0，最终校验和错误。

已发现三个临时规避方案：

• 将pseudoHeader->protocol = IPPROTO_UDP;移至两次inet_pton调用之前
• 删除校验和计算后的memset(ipHeader, 0, sizeof(struct ip))调用
• 将ip_checksum()改为外部函数（移出当前编译单元）

根本原因：违反C语言严格别名规则 #

这是典型的严格别名违规（strict aliasing violation）问题，属于C标准中定义的未定义行为。

C标准规定：除非是char*类型，否则不同类型的指针不能指向同一块内存区域（即不能"别名"）。编译器会基于这个规则进行优化，默认假设不同类型的指针不会访问同一块内存，因此可能会对代码执行顺序重排、消除"无用"赋值等操作。

回到代码中，pseudoHeader（UDPPseudoHeader*类型）和ipHeader（struct ip*类型）指向的内存区域存在重叠：

struct ip* ipHeader = (struct ip*)(buffer);
UDPPseudoHeader* pseudoHeader = (UDPPseudoHeader*)(buffer + sizeof(struct ip) - sizeof(UDPPseudoHeader));

pseudoHeader的起始地址是buffer + sizeof(struct ip) - sizeof(UDPPseudoHeader)，意味着它的内存范围与ipHeader的尾部完全重叠。

编译器基于严格别名规则，认为UDPPseudoHeader*和struct ip*不会指向同一块内存，因此做出了错误优化：它认为对pseudoHeader->protocol的赋值会被后续的memset(ipHeader, 0, sizeof(struct ip))覆盖（或认为该赋值没有被后续读取），从而消除了这条赋值指令。

临时方案能生效的原因：

1. 调整赋值顺序后，编译器无法判断该赋值会被覆盖，保留了指令
2. 删除memset后，没有了覆盖操作，编译器保留赋值
3. 将ip_checksum改为外部函数后，编译器无法内联并分析内存依赖，只能保留赋值指令

正确修复方案 #

解决问题的核心是消除严格别名违规，以下是两种可靠的修复方式：

方案1：使用独立缓冲区存放伪头部 #

彻底避免内存重叠，将伪头部放在独立的内存区域中，计算校验和时拼接伪头部、UDP头部和负载：

void sendBroadcastPacket(uint16_t destPort, char* packet) {
    unsigned char buffer[REPLY_PAYLOAD_SIZE + sizeof(struct ip) + sizeof(struct udphdr)];
    int bufferLen = REPLY_PAYLOAD_SIZE + sizeof(struct ip) + sizeof(struct udphdr);

    /* initialize header pointers */
    struct udphdr* udpHeader = (struct udphdr*)(buffer + sizeof(struct ip));
    struct ip* ipHeader = (struct ip*)(buffer);

    memset(buffer, 0, bufferLen);

    /* copy user data */
    memcpy(buffer + sizeof(struct ip) + sizeof(struct udphdr), packet, REPLY_PAYLOAD_SIZE);

    /* fill in UDP header */
    udpHeader->source = htons(UDP_PORT);
    udpHeader->dest = htons(destPort);
    udpHeader->len = htons(sizeof(struct udphdr) + REPLY_PAYLOAD_SIZE);
    udpHeader->check = 0;

    /* create UDP pseudo header for checksum calculation (独立缓冲区) */
    UDPPseudoHeader pseudoHeader;
    memset(&pseudoHeader, 0, sizeof(pseudoHeader));
    inet_pton(AF_INET, "0.0.0.0", &pseudoHeader.source_ip);
    inet_pton(AF_INET, "255.255.255.255", &pseudoHeader.dest_ip);
    pseudoHeader.protocol = IPPROTO_UDP;
    pseudoHeader.udp_length = htons(sizeof(struct udphdr) + REPLY_PAYLOAD_SIZE);

    // 拼接伪头部、UDP头部、负载到临时缓冲区
    unsigned char checksumBuf[sizeof(UDPPseudoHeader) + sizeof(struct udphdr) + REPLY_PAYLOAD_SIZE];
    memcpy(checksumBuf, &pseudoHeader, sizeof(UDPPseudoHeader));
    memcpy(checksumBuf + sizeof(UDPPseudoHeader), udpHeader, sizeof(struct udphdr));
    memcpy(checksumBuf + sizeof(UDPPseudoHeader) + sizeof(struct udphdr), 
           buffer + sizeof(struct ip) + sizeof(struct udphdr), 
           REPLY_PAYLOAD_SIZE);

    /* calculate UDP checksum */
    udpHeader->check = ip_checksum((unsigned short*)checksumBuf, sizeof(checksumBuf));

    /* fill in IP header */
    memset(ipHeader, 0, sizeof(struct ip));
    ipHeader->ip_v = 4;
    ipHeader->ip_hl = 5;
    ipHeader->ip_tos = IPTOS_LOWDELAY;
    ipHeader->ip_len = htons(bufferLen);
    ipHeader->ip_off = htons(IP_DF);
    ipHeader->ip_id = 0;
    ipHeader->ip_ttl = 16;
    ipHeader->ip_p = IPPROTO_UDP;
    inet_pton(AF_INET, "0.0.0.0", &ipHeader->ip_src);
    inet_pton(AF_INET, "255.255.255.255", &ipHeader->ip_dst);
    ipHeader->ip_sum = 0;

    /* calculate IP checksum */
    ipHeader->ip_sum = ip_checksum((unsigned short*) ipHeader, ipHeader->ip_hl * 4);

    sendPacket(buffer, bufferLen);
}

方案2：使用Union允许类型别名 #

如果必须在原buffer中重叠放置头部，可以用C标准允许的Union来声明内存区域，明确告诉编译器不同类型的指针可以访问同一块内存：

// 定义包含IP头部和UDP伪头部的Union
typedef union {
    struct ip ip_hdr;
    UDPPseudoHeader pseudo_hdr;
} HeaderUnion;

void sendBroadcastPacket(uint16_t destPort, char* packet) {
    unsigned char buffer[REPLY_PAYLOAD_SIZE + sizeof(struct ip) + sizeof(struct udphdr)];
    int bufferLen = REPLY_PAYLOAD_SIZE + sizeof(struct ip) + sizeof(struct udphdr);

    /* 使用Union指针访问重叠区域 */
    HeaderUnion* headerUnion = (HeaderUnion*)buffer;
    struct udphdr* udpHeader = (struct udphdr*)(buffer + sizeof(struct ip));

    memset(buffer, 0, bufferLen);

    /* copy user data */
    memcpy(buffer + sizeof(struct ip) + sizeof(struct udphdr), packet, REPLY_PAYLOAD_SIZE);

    /* fill in UDP header */
    udpHeader->source = htons(UDP_PORT);
    udpHeader->dest = htons(destPort);
    udpHeader->len = htons(sizeof(struct udphdr) + REPLY_PAYLOAD_SIZE);
    udpHeader->check = 0;

    /* create UDP pseudo header for checksum calculation */
    // 通过Union访问伪头部，避免别名违规
    inet_pton(AF_INET, "0.0.0.0", &headerUnion->pseudo_hdr.source_ip);
    inet_pton(AF_INET, "255.255.255.255", &headerUnion->pseudo_hdr.dest_ip);
    headerUnion->pseudo_hdr.reserved = 0;
    headerUnion->pseudo_hdr.protocol = IPPROTO_UDP;
    headerUnion->pseudo_hdr.udp_length = htons(sizeof(struct udphdr) + REPLY_PAYLOAD_SIZE);

    /* calculate UDP checksum */
    udpHeader->check = ip_checksum((unsigned short*)&headerUnion->pseudo_hdr, 
                                  bufferLen - sizeof(struct ip) + sizeof(UDPPseudoHeader));

    /* fill in IP header */
    memset(&headerUnion->ip_hdr, 0, sizeof(struct ip));
    headerUnion->ip_hdr.ip_v = 4;
    headerUnion->ip_hdr.ip_hl = 5;
    headerUnion->ip_hdr.ip_tos = IPTOS_LOWDELAY;
    headerUnion->ip_hdr.ip_len = htons(bufferLen);
    headerUnion->ip_hdr.ip_off = htons(IP_DF);
    headerUnion->ip_hdr.ip_id = 0;
    headerUnion->ip_hdr.ip_ttl = 16;
    headerUnion->ip_hdr.ip_p = IPPROTO_UDP;
    inet_pton(AF_INET, "0.0.0.0", &headerUnion->ip_hdr.ip_src);
    inet_pton(AF_INET, "255.255.255.255", &headerUnion->ip_hdr.ip_dst);
    headerUnion->ip_hdr.ip_sum = 0;

    /* calculate IP checksum */
    headerUnion->ip_hdr.ip_sum = ip_checksum((unsigned short*)&headerUnion->ip_hdr, 
                                            headerUnion->ip_hdr.ip_hl * 4);

    sendPacket(buffer, bufferLen);
}

不推荐的方案：禁用严格别名优化 #

可以通过编译选项-fno-strict-aliasing关闭严格别名优化，但这会降低编译器的优化能力，且属于绕过标准的治标方法，不建议长期使用。

内容的提问来源于stack exchange，提问作者Christoph Freundl