Windows下如何检测stdout/stderr的I/O重定向？解决Unicode输出重定向无内容问题

你的问题核心在于**WriteConsoleW仅能作用于控制台窗口句柄**，当输出被重定向到文件、管道或其他非控制台目标时，该函数会调用失败，导致没有内容写入目标。要解决这个问题，我们需要先检测当前输出/错误句柄是否指向控制台，再根据检测结果选择合适的输出方式。

如何检测I/O重定向？ #

Windows提供了GetConsoleMode函数来判断一个句柄是否为控制台句柄：

• 如果句柄是控制台窗口的标准输出/错误流，GetConsoleMode会成功获取到控制台模式；
• 如果句柄已被重定向（比如指向文件），GetConsoleMode会返回FALSE，此时调用GetLastError()会得到ERROR_INVALID_HANDLE或ERROR_NOT_CONSOLE。

我们可以封装一个简单的检测函数：

bool isConsoleHandle(HANDLE hHandle) {
    DWORD mode;
    return GetConsoleMode(hHandle, &mode) != FALSE;
}

修改你的输出函数以支持重定向 #

现在我们可以基于这个检测，修改你的writeOutput函数：当句柄是控制台时继续用WriteConsoleW保证Unicode显示；当检测到重定向时，将宽字符串转换为UTF-8（这是重定向场景下最通用的编码选择），然后用WriteFile写入目标。

修改后的完整函数如下：

#include <mutex>
#include <sstream>
#include <windows.h>
#include <string>

bool isConsoleHandle(HANDLE hHandle) {
    DWORD mode;
    return GetConsoleMode(hHandle, &mode) != FALSE;
}

void writeOutput(wchar_t const* str, bool err) {
    static std::mutex mtx;
    std::lock_guard<std::mutex> lock(mtx);

    // 拼接换行符
    std::wstring strFmt = str;
    strFmt += L"\n";

    HANDLE hHandle = GetStdHandle(err ? STD_ERROR_HANDLE : STD_OUTPUT_HANDLE);
    if (isConsoleHandle(hHandle)) {
        // 控制台场景：用WriteConsoleW直接输出宽字符
        DWORD dwWritten;
        WriteConsoleW(hHandle, strFmt.c_str(), static_cast<DWORD>(strFmt.size()), &dwWritten, nullptr);
    } else {
        // 重定向场景：转换为UTF-8后用WriteFile输出
        int utf8Len = WideCharToMultiByte(CP_UTF8, 0, strFmt.c_str(), static_cast<int>(strFmt.size()), nullptr, 0, nullptr, nullptr);
        if (utf8Len <= 0) return;

        std::string utf8Str(utf8Len, 0);
        WideCharToMultiByte(CP_UTF8, 0, strFmt.c_str(), static_cast<int>(strFmt.size()), utf8Str.data(), utf8Len, nullptr, nullptr);

        DWORD dwWritten;
        WriteFile(hHandle, utf8Str.data(), static_cast<DWORD>(utf8Str.size()), &dwWritten, nullptr);
    }
}

关键细节说明 #

1. 编码转换：选择UTF-8作为重定向输出的编码，因为它是跨平台通用的Unicode编码，能保证重定向到文件后内容可以被大多数文本编辑器正确识别。
2. 线程安全：保留了你原有的std::mutex和std::lock_guard，确保多线程环境下输出不会错乱。
3. 句柄检测：每次输出前都检测句柄状态，这样即使程序运行过程中句柄被动态重定向（虽然这种场景很少见），也能正确处理。

这样修改后，你的程序既能在控制台窗口正确显示Unicode字符，也能在执行program > outfile这类重定向操作时，将内容以UTF-8编码写入文件。

内容的提问来源于stack exchange，提问作者Bonita Montero