VS Code终端重定向std::out到文件时的编码异常问题

问题详情 #

将以下C++代码保存为ray_tracer.cpp，编译后执行命令ray_tracer.exe > image.ppm时出现不一致的行为：

#include <iostream>

int main() {
    // Image
    int image_width = 256;
    int image_height = 256;

    // Render
    std::cout << "P3\n" << image_width << ' ' << image_height << "\n255\n";

    for (int j = 0; j < image_height; j++) {
        for (int i = 0; i < image_width; i++) {
            auto r = double(i) / (image_width-1);
            auto g = double(j) / (image_height-1);
            auto b = 0.0;

            int ir = int(255.999 * r);
            int ig = int(255.999 * g);
            int ib = int(255.999 * b);

            std::cout << ir << ' ' << ig << ' ' << ib << '\n';
        }
    }
}

• 命令提示符（CMD）运行结果：生成的PPM文件符合预期，内容示例：

P3
256 256
255
0 0 0
1 0 0
2 0 0
3 0 0

• VS Code终端运行结果：生成的文件大小翻倍，格式/编码异常。VS Code内打开显示与CMD生成的文件一致，但用File Viewer Plus打开时内容异常（截图如下）：
  

询问：这是已知问题吗？有没有VS Code设置可以让终端重定向的行为和CMD一致？

这是VS Code默认终端（通常是PowerShell）的编码特性导致的：PowerShell重定向输出时默认使用UTF-16LE编码（带BOM），而CMD默认使用单字节的ANSI/ASCII编码，PPM格式要求纯ASCII文本，因此UTF-16的双字节编码会被解析器识别为无效内容，导致文件异常。

以下是几种可行的解决方法：

方法1：切换VS Code终端为CMD #

1. 打开VS Code终端面板，点击右上角的下拉箭头，选择Select Default Profile
2. 在弹出的选项中选择Command Prompt作为默认终端
3. 重启终端后执行ray_tracer.exe > image.ppm，生成的文件将与CMD下的结果完全一致

方法2：修改代码强制二进制输出 #

在C++代码中添加代码，强制标准输出以二进制模式输出，避免终端的编码转换干扰：

#include <iostream>
#ifdef _WIN32
#include <fcntl.h>
#include <io.h>
#endif

int main() {
    // 强制标准输出为二进制模式
#ifdef _WIN32
    _setmode(_fileno(stdout), _O_BINARY);
#endif

    // Image
    int image_width = 256;
    int image_height = 256;

    // Render
    std::cout << "P3\n" << image_width << ' ' << image_height << "\n255\n";

    for (int j = 0; j < image_height; j++) {
        for (int i = 0; i < image_width; i++) {
            auto r = double(i) / (image_width-1);
            auto g = double(j) / (image_height-1);
            auto b = 0.0;

            int ir = int(255.999 * r);
            int ig = int(255.999 * g);
            int ib = int(255.999 * b);

            std::cout << ir << ' ' << ig << ' ' << ib << '\n';
        }
    }
}

修改后无论在哪个终端运行，输出的字节流都是纯ASCII格式，不会出现编码异常。

方法3：在PowerShell中指定编码重定向 #

如果不想切换终端，可以在PowerShell中执行命令时强制指定输出编码为ASCII：

ray_tracer.exe | Out-File -FilePath image.ppm -Encoding ASCII

或者直接调用CMD执行重定向命令：

cmd /c "ray_tracer.exe > image.ppm"

内容的提问来源于stack exchange，提问作者janovak