GCC 8.2及以上版本x86架构函数调用前栈未对齐问题咨询

当前Linux版SysV i386 ABI要求函数调用前栈需要对齐到16字节边界：

输入参数区域的末端需要对齐到16字节边界（如果栈上传递__m256类型则为32字节）。换言之，当控制权转移到函数入口点时，(%esp + 4)的值始终是16（或32）的倍数。

在GCC 8.1版本中，代码在调用callee前会将栈对齐到16字节边界：

而在GCC 8.2及所有后续版本中，调用前仅将栈对齐到4字节边界：

可通过减少或增加callee所需参数数量的方式轻松复现。
调整编译参数-mprefered-stack-boundary只会修改sub指令的操作数，并不会改变实际栈对齐效果。

请问该现象的成因是什么，有何解决方案？

成因说明 #

这是GCC 8.2版本引入的i386架构栈对齐计算回归Bug，根源是当时开发团队在优化32位x86平台栈空间分配逻辑时，错误修改了函数调用前的栈对齐规则：

• GCC 8.1及更早版本的逻辑会在压入所有调用参数后，额外计算栈偏移保证对齐到指定边界
• 8.2版本的错误修改漏掉了压入参数对应的栈空间占用计算，仅对齐了函数栈帧的基址，没有考虑后续参数压入带来的栈偏移，最终导致调用入口处的栈对齐不符合ABI要求

你观察到的-mprefered-stack-boundary参数不生效也是该Bug的附带表现：该参数仅会影响函数栈帧预留的空间大小，但对齐计算的逻辑错误没有修复，所以修改参数也无法得到符合要求的对齐结果。

解决方案 #

目前有三类可行方案：

• 版本升级：直接升级到GCC 12及以上版本，该Bug已经在GCC 12开发周期中被正式修复，默认编译即可得到符合ABI要求的16字节栈对齐
• 编译参数修补：如果必须使用GCC 8.2~GCC 11之间的版本，可以添加编译参数-mstackrealign强制GCC在函数入口处额外执行栈对齐操作，虽然会带来极微小的性能开销，但可以保证ABI兼容性
• 代码层面手动对齐：如果不允许修改编译参数，可以在需要调用对齐敏感函数（比如使用SIMD指令的函数）的外层函数中，手动插入内联汇编调整esp寄存器到目标对齐边界，调用完成后再恢复栈指针即可。

内容的提问来源于stack exchange，提问作者nickelpro