如何判断所持Windows HANDLE类型及检测标准输入输出是否被重定向

1. 检测标准流是否重定向/判断HANDLE类型的方法 #

有两种成熟的方案可以实现需求：

• 调用GetFileTypeAPI直接判断句柄类型
  这是最直接的官方方案，用于识别内核句柄的所属类型，使用示例如下：

  HANDLE hStdout = GetStdHandle(STD_OUTPUT_HANDLE);
  if (hStdout == INVALID_HANDLE_VALUE) {
      // 真实句柄获取错误，向上抛出
      throw ...;
  }
  DWORD handleType = GetFileType(hStdout);
  

  不同返回值对应的场景：
  • 返回FILE_TYPE_CHAR：当前句柄指向字符设备，也就是控制台窗口，属于未被重定向的正常场景
  • 返回FILE_TYPE_DISK：句柄指向磁盘文件，说明标准流被重定向到文件
  • 返回FILE_TYPE_PIPE：句柄指向命名管道或匿名管道，说明标准流被重定向到其他进程的管道
• 直接调用GetConsoleMode通过错误码判断
  如果不想额外调用GetFileType，也可以直接调用GetConsoleMode，当调用失败且GetLastError()返回ERROR_INVALID_HANDLE时，即可判定当前句柄不是控制台句柄，属于重定向场景。

2. 推荐的错误处理逻辑 #

不需要直接忽略所有同类错误，也不需要不分场景全部向上抛出，可按照如下逻辑处理：

• 第一步：校验GetStdHandle的返回值，如果为INVALID_HANDLE_VALUE，属于真实的系统调用错误，直接向上抛出
• 第二步：通过上述两种方法判断句柄是否为控制台类型：
  • 如果是控制台类型：正常执行GetConsoleMode/SetConsoleMode逻辑，如果此时仍然调用失败，属于真实的编程异常或内部错误，向上抛出即可
  • 如果不是控制台类型：说明标准流被重定向，这类场景下控制台模式配置本身就没有意义，直接跳过所有控制台相关操作即可，不需要抛出错误，做功能降级处理即可

3. 特殊场景说明 #

如果你的应用必须要求控制台交互才能运行，在检测到重定向时可以主动抛出明确的提示错误，而不是直接返回系统的「无效句柄」错误，方便用户排查问题。

内容的提问来源于stack exchange，提问作者Harry Wagstaff