为何gcc -O1优化会破坏Game Boy Advance ROM中修改VRAM的循环代码？

我在开发一款简单的Game Boy Advance（GBA）ROM时遇到了如下问题：以下代码在gcc -O0选项下可正常运行，但使用-O1及以上优化级别时会导致模拟器白屏崩溃。

代码示例 #

int main () {
    // 设置显示模式3并启用背景层2
    *(unsigned int*)0x04000000 = 0x0403;

    int x;
    for(x = 0; x < 1; x++){
        // 在VRAM的(120, 80)位置绘制一个红色像素
        ((unsigned short*)0x06000000)[120+80*240] = 0x001F;
    };

    while(1);

    return 0;
}

关键现象 #

• 上述循环无实际业务作用，仅用于复现崩溃：移除循环后，无论优化级别如何代码都能正常运行；
• 添加循环后，-O1及以上优化级别会触发崩溃，且无论循环体是否使用变量x都会出现此问题。

相关环境信息 #

• 开发工具链：devkitpro/devkitarm
• 模拟器：NanoBoyAdvance
• 运行系统：Ubuntu
• 完整编译命令：

arm-none-eabi-gcc -MMD -MP -MF /path/to/myfile.d  -g -Wall -O1 -mcpu=arm7tdmi -mtune=arm7tdmi -mthumb -mthumb-interwork -iquote /path/to/include -I/opt/devkitpro/libgba/include -I/path/to/build -c /path/to/source/myfile.c -o myfile.o

问题原因分析 #

核心问题：缺少volatile限定符 #

GBA的0x04000000是显示控制寄存器，0x06000000是VRAM，二者均为内存映射的硬件地址。默认情况下，编译器会认为这些内存地址的访问是普通内存操作，在-O1及以上优化级别时，会触发以下优化行为：

1. 指令重排：编译器可能调整显示模式设置和VRAM写入的执行顺序，导致VRAM写入时显示模式尚未初始化完成；
2. 冗余操作消除：当存在循环时，编译器可能误判硬件寄存器的写入操作是无意义的冗余代码，直接将其优化删除，导致显示初始化失败。

循环的存在会触发编译器更激进的优化逻辑，从而暴露这个问题；而去掉循环后，代码逻辑简单，优化器未触发破坏硬件访问顺序的操作，因此能正常运行。

触发崩溃的优化类型 #

导致崩溃的是-O1及以上开启的指令重排和死代码消除类优化，这类优化会对未标记为volatile的硬件内存访问进行不合理的调整。

修复方案 #

对所有硬件映射地址的指针添加volatile限定符，告诉编译器这些内存的访问具有副作用，必须严格按照代码顺序执行，不能被优化删除或重排。修改后的代码如下：

int main () {
    // 给显示控制寄存器指针添加volatile限定
    *(volatile unsigned int*)0x04000000 = 0x0403;

    int x;
    for(x = 0; x < 1; x++){
        // 给VRAM指针添加volatile限定
        ((volatile unsigned short*)0x06000000)[120+80*240] = 0x001F;
    };

    while(1);

    return 0;
}

也可以将指针定义为volatile变量，提升代码可读性：

int main () {
    volatile unsigned int* display_ctrl = (volatile unsigned int*)0x04000000;
    volatile unsigned short* vram = (volatile unsigned short*)0x06000000;

    *display_ctrl = 0x0403;

    int x;
    for(x = 0; x < 1; x++){
        vram[120 + 80*240] = 0x001F;
    };

    while(1);

    return 0;
}

总结 #

你的写法存在的核心问题是未对内存映射的硬件地址使用volatile限定，导致编译器优化时破坏了硬件访问的正确性。添加volatile后，无论使用哪种优化级别，代码都能正常运行。

内容的提问来源于stack exchange，提问作者Auberon López