匿名命名空间搭配swscanf引发段错误的异常行为排查

核心问题是**swscanf格式符与参数类型不匹配导致栈内存越界**，结合Release模式的编译器优化，最终引发段错误。

1. 格式符与参数类型不匹配的致命问题 #

swscanf的%x格式符要求传入**int*类型指针**，用于存储解析出的4字节十六进制整数。但代码中传入的是uint8_t*（本质是1字节的unsigned char*），这会导致：

• swscanf尝试将4字节的int值写入仅1字节的内存空间，直接造成栈内存越界写入，破坏了栈上相邻的其他数据（比如wstr的内部指针、函数返回地址等）。

2. 匿名命名空间为何只在Release下触发崩溃 #

在Release模式下，GCC对匿名命名空间内的函数会进行更激进的优化（比如强制内联）：

• str2MxfKey被内联到someExperiments函数后，两个函数的栈帧合并，越界写入直接破坏了wstr的内存结构（比如存储字符串的指针或长度字段），后续执行std::wcout << wstr时，程序访问非法内存触发段错误。
• 当把函数移出匿名命名空间或给命名空间指定名称时，编译器的内联策略会变化（不会强制内联），栈帧布局改变，越界写入的影响暂时没直接触发崩溃，但这只是未定义行为的侥幸表现，代码本身的问题依然存在。

修复方案 #

方案一：临时兼容C风格解析 #

用int临时变量接收解析结果，再转换为uint8_t：

namespace {
    mxfKey str2MxfKey(const std::wstring &str) {
        mxfKey k;
        int tmp[16];
        int rc = swscanf(str.c_str(),
                         L"%02x%02x%02x%02x%02x%02x%02x%02x%02x%02x%02x%02x%02x%02x%02x%02x",
                         &tmp[0], &tmp[1], &tmp[2], &tmp[3],
                         &tmp[4], &tmp[5], &tmp[6], &tmp[7],
                         &tmp[8], &tmp[9], &tmp[10], &tmp[11],
                         &tmp[12], &tmp[13], &tmp[14], &tmp[15]);
        if (rc != 16) {
            throw std::runtime_error("Error in str2MxfKey");
        }
        // 转换为uint8_t，自动截断超出8位的部分
        k.octet0 = static_cast<uint8_t>(tmp[0]);
        k.octet1 = static_cast<uint8_t>(tmp[1]);
        k.octet2 = static_cast<uint8_t>(tmp[2]);
        k.octet3 = static_cast<uint8_t>(tmp[3]);
        k.octet4 = static_cast<uint8_t>(tmp[4]);
        k.octet5 = static_cast<uint8_t>(tmp[5]);
        k.octet6 = static_cast<uint8_t>(tmp[6]);
        k.octet7 = static_cast<uint8_t>(tmp[7]);
        k.octet8 = static_cast<uint8_t>(tmp[8]);
        k.octet9 = static_cast<uint8_t>(tmp[9]);
        k.octet10 = static_cast<uint8_t>(tmp[10]);
        k.octet11 = static_cast<uint8_t>(tmp[11]);
        k.octet12 = static_cast<uint8_t>(tmp[12]);
        k.octet13 = static_cast<uint8_t>(tmp[13]);
        k.octet14 = static_cast<uint8_t>(tmp[14]);
        k.octet15 = static_cast<uint8_t>(tmp[15]);
        return k;
    }
}

方案二：更安全的C++风格解析 #

避免使用不安全的C风格函数，改用std::stoi结合字符串截取：

namespace {
    mxfKey str2MxfKey(const std::wstring &str) {
        if (str.size() != 32) {
            throw std::runtime_error("Invalid mxfKey string length");
        }
        mxfKey k;
        auto parseOctet = [](const std::wstring& s) {
            return static_cast<uint8_t>(std::stoi(s, nullptr, 16));
        };
        k.octet0 = parseOctet(str.substr(0, 2));
        k.octet1 = parseOctet(str.substr(2, 2));
        k.octet2 = parseOctet(str.substr(4, 2));
        k.octet3 = parseOctet(str.substr(6, 2));
        k.octet4 = parseOctet(str.substr(8, 2));
        k.octet5 = parseOctet(str.substr(10, 2));
        k.octet6 = parseOctet(str.substr(12, 2));
        k.octet7 = parseOctet(str.substr(14, 2));
        k.octet8 = parseOctet(str.substr(16, 2));
        k.octet9 = parseOctet(str.substr(18, 2));
        k.octet10 = parseOctet(str.substr(20, 2));
        k.octet11 = parseOctet(str.substr(22, 2));
        k.octet12 = parseOctet(str.substr(24, 2));
        k.octet13 = parseOctet(str.substr(26, 2));
        k.octet14 = parseOctet(str.substr(28, 2));
        k.octet15 = parseOctet(str.substr(30, 2));
        return k;
    }
}

内容的提问来源于stack exchange，提问作者Валентин Никин