数组长度大于2时触发Segment Fault的原因排查求助

你遇到的段错误主要是由汇编代码违反x86-64 System V调用约定以及潜在的C++名字修饰问题导致的，下面一步步拆解原因并给出修复方案：

核心问题1：未正确保存非易失性寄存器rbx #

在x86-64的System V调用规范中，rbx属于被调用者保存寄存器——也就是说，任何函数如果要使用rbx，必须先将它的原值压栈保存，使用完毕后再恢复，否则会破坏调用者的上下文数据。

你的genRandom64函数直接用pop rbx覆盖了寄存器值，没有保存原值：

# 错误的genRandom64片段
call rand@PLT
push rax
call rand@PLT
shl rax,32
pop rbx  ; 直接覆盖rbx，未保存原值
or rax,rbx
ret

当fillArrayWithRandom64或者C++代码调用genRandom64时，调用者可能正在使用rbx存储关键数据（比如数组指针），被覆盖后就会导致后续访问非法内存，触发段错误。

核心问题2：汇编循环使用了错误的比较指令 #

你的fillArrayWithRandom64循环中用了jl（有符号小于）来比较无符号整数rcx（计数器）和length：

cmp rcx,[rbp-8]
jl _fillArrayWithRandom64L1

jl是针对有符号数的比较指令，虽然小数值下不会出错，但如果length超过INT_MAX，会导致循环逻辑错误，甚至越界访问数组。无符号数比较应该用jb（低于）指令。

核心问题3：C++代码未正确声明汇编函数 #

C++编译器会对函数名进行名字修饰（比如把genRandom64改成_Z12genRandom64v），而你的汇编代码使用的是C风格的未修饰名字，导致链接时无法找到正确的函数入口，调用无效地址引发段错误。

修复方案 #

1. 修正genRandom64汇编代码 #

添加rbx的保存与恢复：

# 返回64位随机数
genRandom64:
    push rbx                ; 保存rbx原值到栈
    call rand@PLT
    push rax
    call rand@PLT
    shl rax,32
    pop rbx
    or rax,rbx
    pop rbx                 ; 恢复rbx原值
    ret

2. 修正fillArrayWithRandom64汇编代码 #

保存rbx，并将jl替换为jb：

# rdi = 数组长度（uint64_t）
# 返回数组指针
fillArrayWithRandom64:
    cmp rdi,0
    jle _fillArrayWithRandom64Bad
    push rbp
    mov rbp,rsp
    push rbx                ; 保存调用者的rbx值
    push rdi                ; 栈位置-8：存储长度
    imul rdi,8
    call malloc@PLT
    push rax                ; 栈位置-16：存储数组指针
    pushq 0                 ; 栈位置-24：计数器初始值0

_fillArrayWithRandom64L1:
    call genRandom64
    mov rbx,[rbp-16]        ; 加载数组指针
    mov rcx,[rbp-24]        ; 加载计数器
    mov [rbx+rcx*8],rax     ; 写入随机数到数组
    inc rcx
    mov [rbp-24],rcx
    cmp rcx,[rbp-8]
    jb _fillArrayWithRandom64L1 ; 无符号数比较，小于则继续循环

    mov rax,[rbp-16]        ; 设置返回值为数组指针
    add rsp,24              ; 清理栈上的计数器、指针、长度
    pop rbx                 ; 恢复rbx原值
    mov rsp,rbp
    pop rbp
    ret

_fillArrayWithRandom64Bad:
    mov rax,0
    ret

3. 修正C++代码 #

用extern "C"声明汇编函数，避免名字修饰问题，同时增加malloc失败检查：

#include <iostream>
#include <cstdlib>
#include <cstdint>

// 声明为C风格函数，避免C++名字修饰
extern "C" uint64_t genRandom64();
// 如果要调用汇编的fillArrayWithRandom64，也需要同样声明：
// extern "C" uint64_t* fillArrayWithRandom64(uint64_t length);

int main(){
    uint64_t length=4;
    uint64_t* arr=(uint64_t*)std::malloc(8*length);
    
    // 检查malloc是否成功
    if(arr == nullptr){
        std::cerr << "malloc failed: insufficient memory" << std::endl;
        return 1;
    }

    for(uint64_t i=0;i<length;i++){
        arr[i] = genRandom64();
        std::cout << "Value at " << i << ":" << arr[i] << std::endl;
    }

    std::free(arr);
    return 0;
}

额外建议 #

• 永远检查malloc的返回值，避免空指针访问；
• 汇编代码中严格遵守调用约定，尤其是非易失性寄存器的保存规则；
• 如果只是学习目的，也可以尝试用GDB调试汇编代码，查看寄存器值的变化，更容易定位问题。

内容的提问来源于stack exchange，提问作者BackSpace7777777