iOS下libc的open函数与内核syscall返回值不一致问题咨询

在iOS设备上尝试打开不存在的文件时，标准libc库的open函数与直接调用内核open系统调用（系统调用号5）会出现返回值不一致的情况：

• libc的open函数按POSIX标准预期返回-1，同时将对应错误码写入errno变量
• 直接调用内核syscall的open却返回2，而非预期的错误标识

这种差异的核心原因是Darwin内核（iOS基于Darwin）与libc对系统调用错误的处理逻辑不同：

• 内核层面，系统调用失败时会直接返回正的错误码（比如文件不存在对应的ENOENT错误码值为2）
• libc的open封装函数会将内核返回的错误码转换为-1，同时把原始错误码存入errno，以此符合POSIX标准的错误返回约定

复现用汇编代码片段 #

#if defined(__arm64__)

#define __asm_syscall(...) do { \
asm volatile ("svc 0x80" : "=r"(x0) : __VA_ARGS__ : "memory", "cc"); \
return x0; \
} while (0)

__attribute__((always_inline))
static inline long asm_open(const void* __path, int __flags, int __mode) {
    register long x16 __asm__("x16") = 5; // 5为open系统调用号
    register long x0 __asm__("x0") = (long)__path;
    register long x1 __asm__("x1") = (long)__flags;
    register long x2 __asm__("x2") = (long)__mode;
    __asm_syscall("r"(x16), "0"(x0), "r"(x1), "r"(x2));
}

#endif

函数调用示例 #

char file_path[1024];
int fd = 0;

// 设置路径为Documents下的不存在文件
strcpy(file_path, getenv("HOME"));
strcat(file_path, "/Documents/non-existent.txt");

// 直接调用内核open系统调用
fd = (int)asm_open(file_path, (O_RDWR | O_CREAT), 0666); // 返回2，与libc open的-1不同
LOGI("[INFO] : Open %d", fd); // 输出内容：[INFO] : Open 2

如果需要让直接调用系统调用的行为与libc保持一致，需自行处理返回值：判断内核返回的是否为错误码，将其存入errno后返回-1。

内容的提问来源于stack exchange，提问作者Bao HQ