Linux x86-64下使用GDB反向调试遇到问题求助

问题场景 #

尝试使用reverse-step等反向调试命令，通过gcc -g main.c编译以下C程序：

#include <stdio.h>
int main(int argc, char *argv[]) { 
    puts("Hello");
    puts("a");
    puts("b");
    puts("c");
    puts("d");
    puts("Hello 2");
}

在GDB中操作时出现报错：

(gdb) record
Process record: the program is not being run.
(gdb) b main
Breakpoint 1 at 0x1148: file main.c, line 3.
(gdb) r
Starting program: /tmp/a.out 
[Thread debugging using libthread_db enabled]
Using host libthread_db library "/usr/lib/libthread_db.so.1".

Breakpoint 1, main (argc=1, argv=0x7fffffffe7b8) at main.c:3
3       puts("Hello");
(gdb) record
(gdb) br 6
Breakpoint 2 at 0x555555555175: file main.c, line 6.
(gdb) step
Process record does not support instruction 0xc5 at address 0x7ffff7f1dfc9.
Process record: failed to record execution log.

Program stopped.
0x00007ffff7f1dfc9 in ?? () from /usr/lib/libc.so.6
(gdb) 

未开启record时执行反向命令会报错multi-thread does not support this command.，需排查问题原因并寻找替代方案。

问题根源 #

1. 指令集支持缺陷：报错中的0xc5是AVX指令前缀，GDB原生record功能对AVX等现代CPU扩展指令的兼容度不足，调试进入libc的puts函数时触发该错误。
2. 多线程环境误判：即使程序本身是单线程，GDB默认启用线程调试机制，加载libc时的线程初始化逻辑会让GDB认为程序处于多线程模式，而反向调试命令不支持多线程场景。

解决方案 #

1. 强制单线程调试模式 #

启动程序前执行以下命令锁定调度器，避免多线程干扰：

(gdb) set scheduler-locking on
(gdb) r

也可以在启动GDB时直接禁用线程调试库：

gdb -ex "set libthread-db-search-path no" ./a.out

2. 修复record指令兼容问题 #

改用record full命令替代原生record，它对现代指令集的支持更完善：

(gdb) record full

如果仍有问题，编译时禁用AVX指令集，让程序和依赖库使用兼容指令：

gcc -g -mno-avx main.c

3. 反向调试替代方案 #

若反向调试功能无法正常使用，可通过以下方式模拟：

• 在关键代码行设置多个断点，重启程序分段调试
• 使用watch命令监控变量/内存变化，回溯执行流程
• 使用bt命令查看调用栈历史，辅助定位代码执行路径

内容的提问来源于stack exchange，提问作者Andrew Spar