C语言返回WCHAR数组MinGW编译输出NULL、VS正常的原因及解决方法

问题原因 #

你遇到的现象本质是C语言未定义行为在不同编译器、不同优化等级下的表现差异，和MinGW本身没有直接关系：

• test函数中定义的WCHAR var[256]是栈上分配的局部变量，它的生命周期仅在test函数执行期间有效。当test函数执行结束返回后，对应的栈帧会被操作系统回收，返回的var指针就属于野指针，指向的内存区域内容是不可预测的。
• Visual Studio默认编译时优化等级极低，函数返回后栈上的旧数据暂时没有被新内容覆盖，因此你碰巧能读到之前写入的C:\Windows内容，这只是巧合，完全不代表代码逻辑正确。
• 你用MinGW编译时开启了-O3 -Os高优化等级，编译器识别到你返回了栈局部变量的无效指针，要么直接将返回值优化为NULL，要么函数返回后栈内存被立即复用覆盖，因此main函数中打印出来的就是(null)。

另外你原有代码里GetEnvironmentVariableW(L"SystemRoot", &var, nSize);的传参写法不规范，var本身就是数组首地址，不需要额外取地址，只是因为数组取地址的值和数组首地址值碰巧一致才没有提前报错。

修复方案 #

方案1：将局部变量改为静态存储（简单但不支持多线程/重入） #

把var声明为static，静态变量存储在全局数据区，生命周期和程序一致，不会随函数返回销毁：

WCHAR* test(){
    static WCHAR var[256]; // 加static修饰
    int nSize = GetEnvironmentVariableW(L"SystemRoot", NULL, 0);
    if(nSize > 256) { // 增加边界判断避免缓冲区溢出
        return NULL;
    }
    GetEnvironmentVariableW(L"SystemRoot", var, nSize);
    wprintf(L"%s\n", var);
    return var;
}

注意：该方案返回的缓冲区是全局共享的，多线程同时调用或者多次调用test函数会覆盖之前的内容，不适合复杂场景。

方案2：堆上分配缓冲区（灵活，需要手动释放内存） #

用malloc在堆上申请内存，堆内存的生命周期由开发者控制，直到手动free才会释放：

WCHAR* test(){
    int nSize = GetEnvironmentVariableW(L"SystemRoot", NULL, 0);
    WCHAR* var = (WCHAR*)malloc(nSize * sizeof(WCHAR));
    if(var == NULL) {
        return NULL;
    }
    GetEnvironmentVariableW(L"SystemRoot", var, nSize);
    wprintf(L"%s\n", var);
    return var;
}

int main() {
    WCHAR* var = test();
    if(var != NULL) {
        wprintf(L"%s\n", var);
        free(var); // 用完手动释放，避免内存泄漏
    }
    return 0;
}

方案3：调用方传入缓冲区（最安全，无内存泄漏风险，支持多线程） #

由上层调用方提前分配缓冲区，把缓冲区指针和长度传入test函数使用：

// 函数改为返回获取到的字符串长度，出错返回负数
int test(WCHAR* buf, int bufSize){
    int nSize = GetEnvironmentVariableW(L"SystemRoot", NULL, 0);
    if(nSize > bufSize) {
        return -1;
    }
    GetEnvironmentVariableW(L"SystemRoot", buf, nSize);
    wprintf(L"%s\n", buf);
    return nSize;
}

int main() {
    WCHAR var[256];
    if(test(var, 256) >=0 ) {
        wprintf(L"%s\n", var);
    }
    return 0;
}

内容的提问来源于stack exchange，提问作者MasiaDunajski