64位GCC无优化下，含bool变量的函数为何无需sub rsp分配空间？

我调试了一个简单的C++函数：

bool magic()
{
    bool j = false;
    return j;
}

使用x86 GCC 11.4无优化编译后，得到的汇编代码如下：

magic():
        push    rbp
        mov     rbp, rsp
        mov     BYTE PTR [rbp-1], 0
        movzx   eax, BYTE PTR [rbp-1]
        pop     rbp
        ret

疑问：为何没有sub rsp, 1指令为变量分配空间？而添加-m32编译选项生成32位代码时，会出现sub esp, 16指令。请问64位模式存在什么特殊机制？

解答：x86-64的红区机制与栈对齐规则差异 #

1. 64位模式的红区（Red Zone）特性 #

GCC默认遵循x86-64 System V ABI规范，该规范定义了红区：栈指针（rsp）下方128字节的区域，函数可以直接使用这个区域存储局部变量，无需通过sub rsp调整栈指针来分配空间。

你的代码中，bool j仅占1字节，完全落在rbp-1到rbp-128的红区范围内，因此编译器不需要生成sub rsp, 1，直接通过rbp偏移寻址即可访问变量。

2. 32位模式无红区，且强制栈对齐 #

32位x86的ABI没有红区设计，所有局部变量必须通过调整esp来显式分配栈空间。同时，32位GCC默认要求栈保持16字节对齐，即使变量仅占1字节，也会分配16字节的栈空间（即sub esp, 16），多余的空间会被闲置以满足对齐要求。

3. 红区容量限制的验证 #

如果局部变量总大小超过128字节，64位GCC就会生成sub rsp, xxx指令来分配额外空间。例如：

bool magic() {
    char buf[130] = {0};
    return buf[0];
}

无优化编译后会出现sub rsp, 136（额外的6字节是为了满足栈16字节对齐的要求）。

内容的提问来源于stack exchange，提问作者Tyler