排查Windows Console API中ReadConsoleInput错误233（ERROR_PIPE_NOT_CONNECTED）

使用Windows Console API开发C语言文本编辑器，升级Windows 11后出现错误233（ERROR_PIPE_NOT_CONNECTED），最初发生在CreateConsoleScreenBuffer()，删除该函数后错误转移到ReadConsoleInput()。网上相关信息多与SQL/.NET相关，无法解决问题。

代码中的关键错误 #

1. PCONSOLE_SCREEN_BUFFER_INFO的错误声明与使用 #

结构体USER_CONSOLE_CONFIG中lpConsoleScreenBufferInfo被定义为指针类型，但GetConsoleScreenBufferInfo需要的是指向CONSOLE_SCREEN_BUFFER_INFO结构体的指针，而非指向指针的指针。调用时直接传&U.lpConsoleScreenBufferInfo会导致非法内存写入，破坏控制台内部状态，最终引发管道连接错误。

2. originalConsoleOutputMode未初始化 #

DisableRawMode中尝试恢复控制台输出模式，但InitializeConsole里从未调用GetConsoleMode获取初始输出模式，该变量值为0。调用SetConsoleMode时会失败，可能间接干扰输入句柄的正常连接。

3. GetStdHandle后的错误检查逻辑错误 #

当GetStdHandle成功返回有效句柄时，GetLastError()的值是未定义的，此时调用GetLastError() != NO_ERROR会误触发错误退出。正确逻辑是仅当返回INVALID_HANDLE_VALUE时才检查错误码。

4. 未启用输出端虚拟终端处理模式 #

使用printf输出虚拟终端序列（如清屏、光标移动）时，未开启ENABLE_VIRTUAL_TERMINAL_PROCESSING输出模式，Windows 11下控制台对未正确配置的VT序列处理可能引发内部状态异常，影响输入管道。

修复方案 #

1. 修正结构体定义与GetConsoleScreenBufferInfo调用 #

将指针类型改为结构体类型：

struct USER_CONSOLE_CONFIG
{
    HANDLE hConsoleInput;
    HANDLE hConsoleOutput;

    DWORD originalConsoleInputMode;
    DWORD originalConsoleOutputMode;

    CONSOLE_SCREEN_BUFFER_INFO consoleScreenBufferInfo; // 替换指针为结构体实例
};

在InitializeConsole中修正调用：

if(!GetConsoleScreenBufferInfo(U.hConsoleOutput, &U.consoleScreenBufferInfo))
{
    ErrorExit(TEXT("GetConsoleScreenBufferInfo"));
}

2. 初始化输出模式 #

在InitializeConsole中添加获取初始输出模式的代码：

// 获取初始输出模式
if(!GetConsoleMode(U.hConsoleOutput, &U.originalConsoleOutputMode))
{
    ErrorExit(TEXT("GetConsoleMode"));
}

3. 修正GetStdHandle错误检查 #

修改为仅在返回无效句柄时检查错误：

U.hConsoleInput = GetStdHandle(STD_INPUT_HANDLE);
if(U.hConsoleInput == INVALID_HANDLE_VALUE)
{
    ErrorExit(TEXT("GetStdHandle"));
}

U.hConsoleOutput = GetStdHandle(STD_OUTPUT_HANDLE);
if(U.hConsoleOutput == INVALID_HANDLE_VALUE)
{
    ErrorExit(TEXT("GetStdHandle"));
}

4. 启用输出虚拟终端模式 #

在EnableRawMode中添加输出模式配置：

void EnableRawMode()
{
    DWORD currentInputMode = U.originalConsoleInputMode;
    currentInputMode &= ~(ENABLE_ECHO_INPUT | ENABLE_LINE_INPUT | ENABLE_PROCESSED_INPUT | ENABLE_EXTENDED_FLAGS);
    currentInputMode |= ENABLE_VIRTUAL_TERMINAL_INPUT ;
    if (!SetConsoleMode(U.hConsoleInput, currentInputMode))
    {
        ErrorExit(TEXT("SetConsoleMode"));
    }

    // 启用输出虚拟终端处理
    DWORD currentOutputMode = U.originalConsoleOutputMode;
    currentOutputMode |= ENABLE_VIRTUAL_TERMINAL_PROCESSING | DISABLE_NEWLINE_AUTO_RETURN;
    if (!SetConsoleMode(U.hConsoleOutput, currentOutputMode))
    {
        ErrorExit(TEXT("SetConsoleMode"));
    }
}

5. 恢复CreateConsoleScreenBuffer的正确使用（可选但推荐） #

文本编辑器需要双缓冲避免闪烁，正确创建并切换屏幕缓冲区的代码示例：

// 在USER_CONSOLE_CONFIG中添加
HANDLE hAlternateBuffer;

// InitializeConsole中创建交替缓冲区
U.hAlternateBuffer = CreateConsoleScreenBuffer(
    GENERIC_READ | GENERIC_WRITE,
    FILE_SHARE_READ | FILE_SHARE_WRITE,
    NULL,
    CONSOLE_TEXTMODE_BUFFER,
    NULL
);
if(U.hAlternateBuffer == INVALID_HANDLE_VALUE)
{
    ErrorExit(TEXT("CreateConsoleScreenBuffer"));
}

// 切换到交替缓冲区
SetConsoleActiveScreenBuffer(U.hAlternateBuffer);

// 新增清理函数替换原atexit调用
void CleanupConsole()
{
    SetConsoleActiveScreenBuffer(U.hConsoleOutput);
    CloseHandle(U.hAlternateBuffer);
    DisableRawMode();
}
atexit(CleanupConsole);

额外建议 #

• 调用Windows API后，仅在函数返回失败时调用GetLastError()，成功时错误码无意义，避免误判。
• Windows 11控制台对虚拟终端模式的兼容性更好，但需确保输入输出模式都正确配置，避免状态冲突。
• 调试时可以在ReadConsoleInput失败后，直接打印错误码和信息，而非弹出MessageBox，更便于捕获上下文。

内容的提问来源于stack exchange，提问作者aloyssss