为何该C代码存在未定义行为？编译优化为何引发行为差异？

问题背景 #

这段C代码在无优化编译（gcc example.c -o example -pthread）时，主线程会在while(counter == 0);处等待，直到counter被线程或信号处理函数修改为非零后退出循环；但用-O3优化编译后，主线程会一直卡在循环里，即使线程和信号处理函数不断修改counter也无法退出。下面针对两个核心疑问做详细分析：

代码示例 #

#include <stdio.h>
#include <signal.h>
#include <unistd.h>
#include <pthread.h>

unsigned int counter = 0;

void *thread0_func(void *arg)
{
    unsigned int i = 0;
    printf("Thread 0\n");
    while(1)
    {
        sleep(3);
        counter++;
    }

    return NULL;
}

void action_handler(int sig_no)
{
    printf("SigINT Generated: %d\n",counter);
    counter += 1;
}

int main(int argc, char **argv)
{
    pthread_t thread_id[2];

    struct sigaction sa;

    sa.sa_handler = action_handler;

    if(sigaction(SIGINT, &sa, NULL))
        perror("Cannot Install Sig handler");


    if(pthread_create(&thread_id[0], NULL, thread0_func, NULL))
    {
        perror("Error Creating Thread 0");
    }
    else
    {

    }
    while(counter == 0);
    printf("Counter: %d\n", counter);

//  pthread_join(thread_id[0], NULL);
    
    return (0);
}

优化编译后的运行示例 #

$ ./example 
Thread 0
^CSigINT Generated: 4
^CSigINT Generated: 6
^CSigINT Generated: 8
^CSigINT Generated: 9
^CSigINT Generated: 11
^CSigINT Generated: 12

一、为何代码存在未定义行为？ #

根本原因在于数据竞争：

• C标准明确规定，当多个执行流（包括线程、信号处理函数这类异步执行流）同时访问同一个非原子对象，且至少有一个执行流是写入操作时，就会触发数据竞争，而数据竞争直接导致程序行为未定义。
• 这段代码里的counter是普通全局变量，不属于原子类型：
  • 子线程thread0_func会周期性对counter执行写入操作；
  • 信号处理函数action_handler也会写入counter；
  • 主线程则持续读取counter的值。
• 这三个执行流对counter的访问没有任何同步机制（比如互斥锁、原子操作），完全符合数据竞争的触发条件，因此程序行为属于未定义范畴。
• 额外补充：信号处理函数中调用printf也不规范——printf不是异步信号安全函数，在信号处理函数中调用可能导致输出混乱、死锁等不可预料的问题，这也是未定义行为的一个来源。

二、为何不同编译优化条件下程序行为不同？ #

差异的核心是编译器优化对内存访问的调整：

1. 无优化（-O0）编译时：
   编译器会严格按照代码字面逻辑生成指令，主线程的while(counter == 0);循环每次都会从内存中读取counter的最新值。所以当子线程或信号处理函数修改了内存中的counter后，主线程能立刻感知到变化，从而退出循环。

2. -O3优化编译时：
   编译器会进行激进的优化，其中就包括寄存器缓存优化。编译器分析主线程代码后，发现主线程本身不会修改counter，于是会把counter的初始值（0）加载到CPU寄存器中，循环时只检查寄存器里的值，不再去内存中重新读取。
   哪怕子线程或信号处理函数把内存中的counter改得再高，主线程也不会去读取这个更新后的值，自然就会一直卡在循环里。

修复建议 #

要解决这些问题，核心是消除数据竞争并保证内存可见性：

• 将counter声明为atomic_uint（C11及以上标准支持），用原子操作进行读写，确保操作的原子性和内存可见性；
• 或者使用互斥锁（pthread_mutex_t），在所有访问counter的地方（子线程、信号处理函数、主线程）加锁解锁；
• 信号处理函数中替换printf为异步信号安全的函数（比如write），避免调用非安全函数引发额外问题。

内容的提问来源于stack exchange，提问作者Gaurav Pathak