MacOS下检测Socket监听状态：SO_ACCEPTCONN调用异常分析

问题现象 #

使用GoogleTest编写测试用例，通过SO_ACCEPTCONN选项判断TCP Socket是否调用过listen()：

• Linux环境：未监听的Socket调用getsockopt(sockfd, SOL_SOCKET, SO_ACCEPTCONN, ...)返回值为0，测试通过。
• macOS环境：
  1. 使用SOL_SOCKET作为层级参数时，getsockopt报错"Protocol not available"，测试失败；
  2. 改用TCP协议号6作为层级参数时，调用成功但返回值为1024（非0），错误判定Socket处于监听状态，测试仍失败。

测试代码如下：

TEST(SocketTestSuite, check_listen) {
    int sockfd = socket(AF_INET6, SOCK_STREAM, 0);
    ASSERT_NE(sockfd, INVALID_SOCKET);

    int so_option = 987654321;
    socklen_t optlen{sizeof(so_option)};
    int ret = getsockopt(sockfd, SOL_SOCKET, SO_ACCEPTCONN, &so_option, &optlen);

    if (ret != 0) {
        perror("Error getsockopt");
    }
    EXPECT_EQ(so_option, 0);
}

差异原因 #

Linux与macOS对SO_ACCEPTCONN选项的实现逻辑完全不同：

1. Linux平台：

   • SO_ACCEPTCONN属于SOL_SOCKET层级，是一个布尔型选项；
   • 返回值为0表示Socket未进入监听状态，1表示已调用listen()。

2. macOS平台：

   • SO_ACCEPTCONN不属于SOL_SOCKET层级，因此使用该层级调用会返回"Protocol not available"错误；
   • 该选项实际归属IPPROTO_TCP（协议号6）层级，但它的返回值不是布尔值，而是Socket的监听队列大小；
   • 未调用listen()时，系统会使用默认的监听队列大小（通常为1024），因此返回值始终非0，无法用来判断是否监听。

跨平台解决方案 #

要实现跨平台判断Socket是否处于监听状态，需要针对不同系统做适配：

• Linux继续使用SO_ACCEPTCONN的布尔值判断；
• macOS改用**非阻塞模式下调用accept()**的方式：未监听的Socket调用accept()会返回EINVAL或ENOTLISTEN错误，已监听的Socket则会返回EAGAIN/EWOULDBLOCK（因为是非阻塞且无连接）。

修改后的测试代码：

#include <fcntl.h>
#include <errno.h>

TEST(SocketTestSuite, check_listen) {
    int sockfd = socket(AF_INET6, SOCK_STREAM, 0);
    ASSERT_NE(sockfd, INVALID_SOCKET);

    bool is_listening = false;

#ifdef __linux__
    int so_option = 0;
    socklen_t optlen = sizeof(so_option);
    int ret = getsockopt(sockfd, SOL_SOCKET, SO_ACCEPTCONN, &so_option, &optlen);
    ASSERT_EQ(ret, 0);
    is_listening = (so_option != 0);
#elif __APPLE__
    // 保存原Socket状态，设置为非阻塞
    int flags = fcntl(sockfd, F_GETFL, 0);
    ASSERT_NE(flags, -1);
    ASSERT_EQ(fcntl(sockfd, F_SETFL, flags | O_NONBLOCK), 0);

    struct sockaddr_in6 addr;
    socklen_t addrlen = sizeof(addr);
    int client_fd = accept(sockfd, (struct sockaddr*)&addr, &addrlen);
    
    if (client_fd == -1) {
        // 未监听的Socket调用accept会返回EINVAL或ENOTLISTEN
        is_listening = !(errno == EINVAL || errno == ENOTLISTEN);
    } else {
        close(client_fd);
        is_listening = true;
    }

    // 恢复原Socket状态
    ASSERT_EQ(fcntl(sockfd, F_SETFL, flags), 0);
#endif

    EXPECT_EQ(is_listening, false);
    close(sockfd);
}

测试验证 #

修改后的代码在Linux和macOS平台均可正常运行：

• Linux平台仍通过SO_ACCEPTCONN返回值判断，测试通过；
• macOS平台通过accept()的错误码判断未监听状态，测试通过。

内容的提问来源于stack exchange，提问作者Ingo