x86_64平台下C语言捕获SIGTRAP不终止程序的问题排查

问题根源 #

1. 上下文覆盖问题：信号处理器里调用setTrapFlag()设置的TF位，会在处理器执行完毕后被内核恢复的原上下文覆盖，无法持续生效。
2. 信号掩码限制：默认情况下，信号处理器执行时会屏蔽当前信号（SIGTRAP），后续单步陷阱无法触发，直接导致进程终止。
3. 系统调用清除TF位：printf这类函数会触发系统调用，Linux内核处理系统调用时会自动清除TF位，且返回用户态时不会恢复，中断单步执行流程。
4. 执行时机错误：第一次设置TF位后，下一条指令执行完就会触发SIGTRAP，代码根本没机会走到printf("Set trap flag!\n")。

修复方案 #

核心修改点 #

• 直接修改信号上下文的EFLAGS寄存器，确保内核恢复上下文时TF位保持有效。
• 添加SA_NODEFER标志，允许信号处理器执行期间接收同信号。
• 区分单步陷阱的触发类型，避免误处理其他SIGTRAP场景。

修复后的完整代码 #

#include <assert.h>
#include <signal.h>
#include <stdio.h>
#include <sys/types.h>
#include <unistd.h>
#include <ucontext.h>

// 在上下文中设置TF位
void setTF(ucontext_t *uc) {
    uc->uc_mcontext.gregs[REG_EFL] |= 0x100;
}

// 在上下文中清除TF位
void clearTF(ucontext_t *uc) {
    uc->uc_mcontext.gregs[REG_EFL] &= ~0x100;
}

void trapHandler(int signo, siginfo_t *info, void *context) {
    ucontext_t *uc = (ucontext_t *)context;
    
    // 仅处理TF位触发的单步陷阱
    if (info->si_code == TRAP_TRACE) {
        // 这里可添加自定义处理逻辑
        
        // 保持TF位，让下一条指令执行后继续触发单步陷阱
        setTF(uc);
    }
}

int main ()
{
    struct sigaction trapSa;
    
    // 清空信号掩码，避免屏蔽SIGTRAP
    sigemptyset(&trapSa.sa_mask);
    // SA_NODEFER：处理信号期间不屏蔽当前信号；SA_SIGINFO：传递上下文信息
    trapSa.sa_flags = SA_SIGINFO | SA_NODEFER;
    trapSa.sa_sigaction = trapHandler;
    int ret = sigaction(SIGTRAP, &trapSa, NULL);
    assert(ret == 0);

    printf("Starting execution...\n");
    
    // 获取当前上下文，设置TF位后开启单步执行
    ucontext_t uc;
    getcontext(&uc);
    setTF(&uc);
    setcontext(&uc);
    
    printf("Set trap flag!\n");
    
    // 获取上下文，清除TF位后停止单步执行
    getcontext(&uc);
    clearTF(&uc);
    setcontext(&uc);
    
    printf("UnSet trap flag!\n");

    printf ("all done\n");
    return 0;
}

说明 #

• SA_NODEFER：确保处理SIGTRAP时不会屏蔽该信号，保证后续单步陷阱能正常触发。
• 上下文操作：通过getcontext和setcontext直接修改CPU上下文的EFLAGS寄存器，让内核恢复上下文时保留TF位设置，持续单步执行直到主动清除。
• 陷阱类型判断：用info->si_code == TRAP_TRACE过滤出TF触发的单步陷阱，避免处理断点等其他类型的SIGTRAP。

内容的提问来源于stack exchange，提问作者tim0s42