为何System.console()返回java.io.ProxyingConsole而非预期null？

问题背景 #

原本通过判断System.console() == null检测程序是否关联真实控制台，进而启动新命令行窗口运行jar包，但实际运行时System.console()返回java.io.ProxyingConsole实例而非null，导致逻辑失效，双击jar无反应。

解决方案 #

1. 直接检测ProxyingConsole实例 #

利用类名判断是否为代理控制台（ProxyingConsole是JDK内部实现的代理类，代表无真实交互控制台）：

public static void main(String[] args) {
    Console console = System.console();
    // 检查是否为ProxyingConsole或null
    if (console == null || console.getClass().getName().equals("java.io.ProxyingConsole")) {
        try {
            // 获取当前jar包路径并处理URL前缀
            String jarLocation = Main.class.getProtectionDomain().getCodeSource().getLocation().toString();
            String jarPath = jarLocation.startsWith("file:") ? jarLocation.substring(5) : jarLocation;
            // Windows路径转义处理
            if (System.getProperty("os.name").toLowerCase().contains("win")) {
                jarPath = jarPath.replace("/", "\\").replace("%20", " ");
            }
            // 启动新命令行窗口运行当前jar
            Runtime.getRuntime().exec(new String[]{
                "cmd", "/c", "start", "cmd", "/k", "java", "-jar", "\"" + jarPath + "\""
            });
            System.exit(0);
        } catch (Exception e) {
            e.printStackTrace();
        }
    }
    // 程序核心逻辑
}

注意：ProxyingConsole是JDK内部类，不同版本可能存在命名变化，需测试适配。

2. 结合启动参数避免无限循环 #

添加--attached参数标记已关联控制台的实例，防止重复启动：

public static void main(String[] args) {
    boolean isAttached = false;
    for (String arg : args) {
        if (arg.equals("--attached")) {
            isAttached = true;
            break;
        }
    }

    if (!isAttached) {
        Console console = System.console();
        if (console == null || console.getClass().getName().equals("java.io.ProxyingConsole")) {
            try {
                String jarPath = Main.class.getProtectionDomain().getCodeSource().getLocation().toURI().getPath();
                if (System.getProperty("os.name").toLowerCase().contains("win")) {
                    jarPath = jarPath.replace("/", "\\").substring(1);
                }
                // 传递--attached参数给新实例
                Runtime.getRuntime().exec(new String[]{
                    "cmd", "/c", "start", "cmd", "/k", "java", "-jar", "\"" + jarPath + "\"", "--attached"
                });
                System.exit(0);
            } catch (Exception e) {
                e.printStackTrace();
            }
        }
    }
    // 程序核心逻辑
}

3. 替代检测方式：验证标准流是否为真实终端 #

通过检查System.in和System.out是否连接到真实终端，替代System.console()判断：

private static boolean hasRealConsole() {
    try {
        if (System.getProperty("os.name").toLowerCase().contains("win")) {
            // Windows下通过JNA获取控制台窗口句柄（需引入jna-platform依赖）
            com.sun.jna.platform.win32.Kernel32 kernel32 = com.sun.jna.platform.win32.Kernel32.INSTANCE;
            return kernel32.GetConsoleWindow() != null;
        } else {
            // Unix/Linux下检查是否为终端
            return System.in instanceof java.io.FileInputStream &&
                ((java.io.FileInputStream) System.in).getFD().valid() &&
                System.console() != null;
        }
    } catch (Exception e) {
        return false;
    }
}

若不想引入JNA依赖，Windows下可尝试执行cmd /c echo %CONSOLE%，通过退出码判断是否存在控制台。

4. 打包为Windows可执行文件（推荐） #

使用Launch4j、WinRun4J等工具将jar包打包为exe，设置为控制台应用程序，双击exe时会自动打开命令行窗口，无需手动检测启动。

内容的提问来源于stack exchange，提问作者127548935906