x86-64汇编中从_start外调用dlsym引发程序崩溃的问题
崩溃根本原因
核心问题是违反了x86-64 System V ABI的栈对齐规则,和代码业务逻辑无关。
规则前置说明
x86-64 Linux下调用外部共享库函数有强制的栈对齐要求:
- 执行
call指令的瞬间,栈指针rsp必须严格为16字节的整数倍 - 这是因为
call指令会自动压入8字节的返回地址,进入被调用函数入口时,栈会自然变为16n -8的状态——这是所有libc、动态库函数编译时默认假设的合法入口状态。绝大多数库函数内部会使用movaps这类SSE指令存取栈上的浮点寄存器,这类指令强制要求操作的内存地址必须16字节对齐,一旦栈状态错位,就会触发通用保护异常,直接段错误崩溃。
可正常运行版本的栈状态验证
- 内核加载程序时,进入
_start的初始rsp值严格满足16字节对齐(即rsp %16 ==0) - 调用
dlopen时,call前栈保持16对齐状态,完全符合要求;dlopen返回后会自动平衡栈,把rsp恢复到call之前的16对齐值 - 准备参数后直接调用
dlsym,此时rsp依然是16对齐状态,call压栈进入dlsym时的栈状态完全符合库函数的预期,不会触发异常。
崩溃版本的栈状态错位
抽出loadX11Functions子程序后,执行流的栈状态发生了偏移:
- 进入
_start、调用dlopen的流程和原版本完全一致,dlopen返回后rsp依然是16对齐状态 - 新增的
call loadX11Functions步骤:- call指令执行时压入8字节返回地址,进入
loadX11Functions入口时,rsp值变为16n -8 - 但
loadX11Functions没有做任何栈对齐调整,准备完dlsym的参数后直接发起call dlsym时,rsp依然是16n -8的状态,完全不满足call前栈16对齐的要求 - 执行
call dlsym时再次压入8字节返回地址,进入dlsym入口时的rsp就变成了16n -16 =16*(n-1),完全是16字节对齐的状态,和dlsym内部假设的16n-8入口状态错位了整整16字节。当dlsym内部执行movaps存取栈上的xmm寄存器时,就会因为内存地址不对齐触发崩溃。
- call指令执行时压入8字节返回地址,进入
常见排查误区
很多人会误以为是代码执行流跑偏到后面的字符串区域被当作指令执行,这个判断不成立:
- 两个版本的字符串都放在exit系统调用的代码之后,而exit syscall执行后会直接终止当前进程,后续的字符串字节根本不会被当作指令执行,不存在执行流跑偏的问题。
修复方案
只要调整loadX11Functions的栈状态,保证调用dlsym前栈回到16对齐即可,修改后的子程序代码:
loadX11Functions: sub rsp, 8 ; 入口时rsp为16n-8,减8后回到16n的16对齐状态 mov rdi, [ptr_libX11so] mov rsi, fstr_XOpenDisplay call dlsym wrt ..plt mov [fptr_XOpenDisplay], rax add rsp, 8 ; 恢复入口rsp状态,保证ret返回正确 ret
修复后栈状态完全符合ABI要求,程序即可正常运行。
内容的提问来源于stack exchange,提问作者tuket
相关产品推荐
相关产品推荐

