如何用GDB调试x86_64汇编实现的malloc在ls中的段错误？

核心问题方向 #

• 启动阶段的初始化缺失：程序进入main前，动态链接器、全局变量初始化等逻辑会提前调用malloc。如果你的内存管理池、锁这类核心结构还没完成初始化，第一次malloc调用时直接操作未初始化指针，必然触发段错误。
• 汇编ABI合规性问题：x86_64下必须严格遵守System V AMD64调用规范：
  • 栈必须保持16字节对齐，函数入口要正确调整rsp；
  • rbp、rbx、r12-r15这类非易失性寄存器，修改后必须在函数退出前恢复；
  • syscall调用后的返回值处理要正确（比如mmap失败返回MAP_FAILED，需转成NULL返回）。
• malloc规范遗漏点：
  • 没处理malloc(0)的情况：标准要求返回可free的非空指针或NULL，忽略的话可能触发非法内存访问；
  • 线程安全缺失：启动阶段可能存在隐式线程操作，你的malloc如果没加锁，会导致内存结构被并发破坏；
  • 递归调用风险：比如calloc调用libc的memset，而某些libc实现的memset会调用malloc，形成递归栈溢出。

具体调试步骤 #

1. 添加库初始化函数：用__attribute__((constructor))标记初始化逻辑，确保第一次malloc前核心结构就绪：

   __attribute__((constructor)) void my_malloc_init() {
       // 初始化内存池、同步锁等
       // 可以加打印，验证启动时是否执行到这里
   }
   

   将此C函数和汇编代码一起编译进动态库，观察启动日志。

2. GDB追踪首次malloc调用：

   • 启动GDB：gdb ls
   • 设置预加载：set environment LD_PRELOAD ./libmy_malloc.so
   • 断点到你的malloc入口：break malloc（如果汇编符号是my_malloc就用这个）
   • 运行后用bt查看调用栈，确认是谁在main前触发了malloc，同时检查此时你的内存结构状态。

3. 简化实现逐步排查：

   • 先保留最基础的malloc实现（比如直接调用mmap分配固定大小内存），注释掉free/calloc/realloc，看是否还会段错误；
   • 写一个极简测试程序（比如全局变量用malloc初始化），用LD_PRELOAD注入，缩小问题范围。

4. 关闭ASLR稳定调试：
   在GDB中执行set disable-randomization on，关闭地址空间随机化，方便稳定复现和查看内存结构。

内容的提问来源于stack exchange，提问作者pl0xxxy