C++中ANSI转义码在外部cmd/PowerShell彩色输出异常排查

• 传统Windows命令提示符（CMD）、旧版PowerShell默认关闭ANSI/VT100转义序列处理能力，必须显式给控制台输出句柄添加ENABLE_VIRTUAL_TERMINAL_PROCESSING模式标志，ANSI彩色转义码才会被正确解析；VS Code集成终端默认开启了该开关，因此始终能正常显示彩色。
• 不同执行分支表现不一致的核心原因：密码校验通过的执行路径中，包含修改控制台属性的逻辑（比如输入密码时关闭明文回显的操作会调用Windows原生控制台API），这类操作会隐式更新控制台配置，顺带开启VT转义处理；而参数非法、密码错误的分支要么完全没走到控制台API调用逻辑，要么在VT模式开启前就输出了带转义码的文本，转义码被当成普通字符打印，就会出现带乱码字符的异常输出。
• 调用system()后转义码生效的本质：system()会启动一个依附于当前控制台的命令行子进程，Windows命令行程序初始化时会主动配置控制台、开启VT处理，该模式修改会作用于整个当前控制台会话，因此后续输出的转义码可以被正常解析。这属于未文档化的副作用，不是稳定兼容的解决方案。

触发问题的核心代码逻辑如下，参数错误分支完全不会执行任何控制台配置操作，直接输出转义码就退出，在默认配置的外部终端必然出现显示异常：

#define RESET   "\033[0m"
#define RED  "\x1B[31m"
#define GREEN  "\x1B[32m"

int main(int argc, char** argv){
    if(argc != 1){
        // 该分支无任何控制台配置操作，直接输出ANSI转义码
        std::cout << RED ">> Invalid Arguments!" RESET;
    }else{
        if(verify_password()){
            // 该路径下密码输入逻辑调用控制台API修改配置，隐式开启VT支持
            // ...业务逻辑
        }else{
            // 密码校验失败时，若VT模式未完成配置就输出错误文本，同样会显示异常
            std::cout <<  "\n>> " RED "Invalid Password!" RESET;
        }
    }
    return 0;
}

运行效果对比：

不要依赖system()的隐式副作用，在程序启动阶段主动为控制台开启VT转义处理支持即可，兼容所有Windows 10及以上版本的终端，示例实现：

#include <windows.h>

// 程序初始化时调用一次即可全局生效
void enable_vt_console_mode() {
    HANDLE output_handle = GetStdHandle(STD_OUTPUT_HANDLE);
    DWORD console_mode = 0;
    GetConsoleMode(output_handle, &console_mode);
    console_mode |= ENABLE_VIRTUAL_TERMINAL_PROCESSING;
    SetConsoleMode(output_handle, console_mode);
}

在main函数最开始调用enable_vt_console_mode()，所有分支的彩色输出就都能在外部终端正常显示，稳定性远高于临时调用system()的取巧方案。

内容的提问来源于stack exchange，提问作者Ashutosh Aswal