GDB调试Apache时执行open系统调用返回-1失败问题咨询

• 参数传递错误（最高概率）
  open系统调用的标准原型为int open(const char *pathname, int flags, mode_t mode)，第二个参数必须指定文件访问模式（如O_RDONLY/O_WRONLY/O_RDWR，对应值为0/1/2），0600属于文件权限位，是第三个参数mode的合法取值，放在第二个参数flags的位置属于非法传参，内核会直接拒绝调用返回-1。
  如果要以读写权限打开已存在的fifo，正确写法应为：

  call open("/tmp/fifo", O_RDWR)
  

  如果是要创建新文件（fifo已预先创建的场景不需要加创建参数），才需要传递第三个权限参数：

  call open("/tmp/test_file", O_RDWR | O_CREAT, 0600)
  

• 命名管道（FIFO）的访问规则限制
  FIFO是半双工通信介质，默认情况下：
  1. 以只读模式打开FIFO时，内核会阻塞直到有进程打开该FIFO的写端
  2. 以只写模式打开FIFO时，内核会阻塞直到有进程打开该FIFO的读端
     如果GDB调用时没有设置非阻塞标记O_NONBLOCK，且对应另一端没有进程打开，可能会因为GDB的调用超时或者上下文限制返回错误。
• 系统安全模块拦截
  多数Linux发行版会默认开启SELinux或AppArmor，对Apache这类对外服务的进程做强制访问控制，哪怕/tmp/fifo权限是777，安全规则禁止Apache进程读写/tmp下的自定义管道文件的话，调用也会被拦截返回失败。
• /tmp目录的特殊挂载规则限制
  部分系统会给Apache服务配置私有/tmp命名空间（systemd服务的PrivateTmp=true配置项），Apache进程看到的/tmp目录和系统全局的/tmp目录不是同一个路径，你在全局路径下创建的/tmp/fifoApache进程根本看不到，自然打开失败。

快速排查方法 #

• 调用open失败后，立刻在GDB中执行call strerror(errno)，可以直接拿到具体的错误描述，快速定位问题。
• 检查Apache的systemd服务配置，确认是否开启了PrivateTmp。
• 临时关闭SELinux/AppArmor验证是否为安全模块拦截。

内容的提问来源于stack exchange，提问作者Aaa Bbb