自定义Shell实现中setpgid与终端控制的异常问题排查

核心问题定位 #

你遇到的Shell无法恢复终端控制权的问题，主要由以下几个代码缺陷导致：

1. Pipe文件描述符越界访问：当执行单条命令时，fd数组长度为0，子进程中close(fd[i][0])会访问非法内存，引发未定义行为。
2. 进程组设置的竞争条件：父进程与子进程的setpgid调用存在竞争，可能导致子进程未完成进程组设置时，父进程就切换终端控制权，引发终端归属混乱。
3. waitpid循环逻辑缺陷：for循环依赖固定次数等待，无法可靠处理子进程异常退出的场景。
4. 缺失终端信号处理：Shell在后台状态下尝试读写终端时，会触发SIGTTIN/SIGTTOU信号，默认行为是暂停进程，导致Shell无法恢复。

分步修复代码 #

1. 修复Pipe越界访问问题 #

修改子进程中关闭Pipe描述符的逻辑，仅在创建了Pipe时才关闭对应描述符：

if (pid == 0) {
    // ... 进程组设置代码 ...

    // 仅当当前不是最后一个命令时，才关闭Pipe的读端
    if (i < params.cnt_prog - 1) {
        close(fd[i][0]);
    }

    // ... 重定向与exec代码 ...
}

2. 解决进程组竞争问题 #

父进程在fork后主动为子进程设置进程组，同时子进程保留setpgid调用并添加错误检查：

pid = fork();
if (pid == 0) {
    if (gid == -1) {
        if (setpgid(0, 0) == -1) {
            perror("setpgid");
            exit(1);
        }
    } else {
        if (setpgid(0, gid) == -1) {
            perror("setpgid");
            exit(1);
        }
    }
    // ... 其他子进程代码 ...
} else {
    if (gid == -1) {
        gid = pid;
        // 父进程主动设置第一个子进程的进程组，避免竞争
        if (setpgid(pid, gid) == -1) {
            perror("setpgid parent");
        }
    } else {
        // 父进程将后续子进程加入进程组
        if (setpgid(pid, gid) == -1) {
            perror("setpgid parent");
        }
    }
    // ... 父进程关闭Pipe描述符代码 ...
}

3. 优化waitpid循环逻辑 #

用while循环替代for循环，确保等待进程组内所有子进程退出：

if (!params.bg) {
    // 检查tcsetpgrp调用是否成功
    if (tcsetpgrp(STDIN_FILENO, gid) == -1) {
        perror("tcsetpgrp to child group");
    }
    // 等待进程组内所有子进程退出
    while (waitpid(-gid, NULL, 0) > 0);
    // 切换回Shell的进程组
    if (tcsetpgrp(STDIN_FILENO, getpgrp()) == -1) {
        perror("tcsetpgrp to shell group");
    }
}

4. 添加终端信号处理 #

在Shell初始化函数（比如main函数开头）添加信号忽略逻辑：

// 忽略SIGTTIN和SIGTTOU，防止Shell在后台时被暂停
signal(SIGTTIN, SIG_IGN);
signal(SIGTTOU, SIG_IGN);

关键说明 #

• 父进程主动调用setpgid可以避免子进程因execvp执行过快，导致setpgid未被调用的问题。
• 忽略SIGTTIN/SIGTTOU信号后，Shell在后台状态下仍能正常运行，直到通过tcsetpgrp切换回前台。
• 所有系统调用添加错误检查，便于快速定位问题。

内容的提问来源于stack exchange，提问作者MwahMallah