自定义64位汇编程序中movdqa指令段错误原因排查

算力阿峰

2026-9-1

问题原因

你的段错误核心原因是错误依赖了进程入口_start处的栈对齐状态，没有主动保证SSE指令访问的内存地址满足16字节对齐要求，具体细节如下：

x86_64 System V ABI虽然规定进程刚进入_start时，(%rsp + 8)是16字节对齐（即rsp % 16 == 8），但这个规则在不同编译/链接环境、不同加载器实现下可能存在偏差，你不能完全依赖这个隐式的初始状态编写需要严格对齐的SSE/AVX代码。
你代码中前面的mov QWORD [rsp-XX], rax是通用寄存器的8字节内存访问，x86-64架构完全支持非对齐的普通整数访问，所以即使地址没对齐，这些指令也不会报错，会让你误以为内存访问没问题。直到执行movdqa这种强制要求16字节对齐的SSE指令时，硬件会直接触发#GP异常，表现为段错误。
你调试时看到的“地址对齐”大概率是计算误差：要么是断点时机不对（比如查看了未执行前的rsp值但没算对偏移的模16结果），要么是误将普通整数访问的可执行状态等同于地址满足SSE对齐要求。
另外你直接向rsp以下的地址写数据，虽然x86-64用户态有128字节的red zone允许这种操作，但这种写法没有主动预留栈空间，存在访问未映射栈页的潜在风险。

修复方案

在_start开头主动调整栈指针，强制对齐到16字节，预留足够的栈空间，不要依赖初始栈的隐式状态，修改后的代码示例：

section .text
    global _start

_start:
    ; 主动调整栈：预留128字节空间，强制16字节对齐
    sub rsp, 128
    and rsp, -16  ; 低4位清零，无论初始rsp是什么值，都保证16字节对齐

    ; 把原来的负偏移改成相对于对齐后rsp的正偏移，保证所有128位访问地址16字节对齐
    mov  rax, 8589934593
    mov     QWORD [rsp], rax
    mov  rax, 17179869187
    mov     QWORD [rsp+8], rax
    mov  rax, 25769803781
    mov     QWORD [rsp+16], rax
    mov  rax, 34359738375
    mov     QWORD [rsp+24], rax
    mov  rax, 85899345930
    mov     QWORD [rsp+32], rax
    mov  rax, 171798691870
    mov     QWORD [rsp+40], rax
    mov  rax, 257698037810
    mov     QWORD [rsp+48], rax
    mov  rax, 343597383750
    mov     QWORD [rsp+56], rax

    ; 此时所有128位内存操作数的地址都是16字节对齐的
    movdqa  xmm1, [rsp]
    movdqa  xmm0, [rsp+48]
    pmulld  xmm1, [rsp+32]
    pmulld  xmm0, [rsp+16]
    paddd   xmm0, xmm1
    movdqa  xmm1, xmm0
    psrldq  xmm1, 8
    paddd   xmm0, xmm1
    movdqa  xmm1, xmm0
    psrldq  xmm1, 4
    paddd   xmm0, xmm1
    movd    eax, xmm0

    ; 更稳妥的退出方式：直接用Linux系统调用，不需要链接libc，也不用考虑call的栈对齐
    mov edi, eax
    mov eax, 60
    syscall

对应的构建命令可以简化为（不需要依赖libc）：
nasm -f elf64 dot_product.asm && ld -o dot_product dot_product.o

调试提示

如果要验证SSE指令的内存操作数是否对齐，不要手动计算地址，直接在gdb中对应指令处打断点，执行p/x 操作数地址（比如p/x $rsp-72），只要地址的最后1位十六进制数不是0，就说明不满足16字节对齐要求，movdqa一定会触发段错误。

内容的提问来源于stack exchange，提问作者Ferdinand Mom