Java 17.0.12/21.0.4在Windows RDP断开时触发Headless异常求助

从Java 17.0.12和21.0.4版本开始，在Windows RDP环境下运行全GUI应用时，若RDP会话断开，只要程序执行创建模态进度条等GUI操作，即便系统环境并非无头模式，仍会触发HeadlessException，导致Java GUI应用崩溃。此时远程桌面可重新连接，非Java应用UI能正常运行，但崩溃的Java应用无法恢复。该问题关联JDK-8340992和JDK-8336862，官方暂未提供运行时解决方案。

现有临时方案存在明显缺陷：

• 改用其他语言重写：成本极高
• 降级JDK至21.0.3：无法获取后续安全补丁
• RDP断开后重启程序：已引发生产问题

应用基于JFrames、JTextComponents、ProgressMonitor及自托管JediTerm构建，环境为域内物理Windows 10/11机器，降级至21.0.3后问题消失。

1. 捕获Headless异常并延迟GUI操作 #

在所有触发GUI组件创建/更新的代码块外层添加异常捕获，将失败的GUI操作放入延迟队列，直到检测到RDP会话恢复后再执行。

• 检测RDP会话状态可通过JNA调用Windows系统API WTSQuerySessionInformation实现，判断当前会话是否处于连接状态。
• 示例代码：

import java.awt.HeadlessException;
import javax.swing.ProgressMonitor;

// 简易延迟任务队列
class GuiTaskQueue {
    private static final java.util.Queue<Runnable> QUEUE = new java.util.LinkedList<>();
    private static volatile boolean isSessionConnected = true;

    public static void enqueue(Runnable task) {
        synchronized (QUEUE) {
            QUEUE.add(task);
        }
        flushQueueIfConnected();
    }

    public static void setSessionConnected(boolean connected) {
        isSessionConnected = connected;
        flushQueueIfConnected();
    }

    private static void flushQueueIfConnected() {
        if (!isSessionConnected) return;
        synchronized (QUEUE) {
            while (!QUEUE.isEmpty()) {
                QUEUE.poll().run();
            }
        }
    }
}

// 业务代码中使用
try {
    ProgressMonitor monitor = new ProgressMonitor(null, "Processing...", "", 0, 100);
    // 后续UI操作
} catch (HeadlessException e) {
    GuiTaskQueue.enqueue(() -> {
        ProgressMonitor monitor = new ProgressMonitor(null, "Processing...", "", 0, 100);
        // 后续UI操作
    });
}

2. 反射绕过Headless状态检测 #

通过反射修改AWT内部的headless状态标记，强制Java认为当前环境非无头。该方法属于hack手段，依赖JDK内部实现，需针对目标版本充分测试：

import java.awt.GraphicsEnvironment;

public class HeadlessFix {
    public static void forceNonHeadless() {
        try {
            // 修改Toolkit的headless静态字段
            Class<?> toolkitClass = Class.forName("java.awt.Toolkit");
            java.lang.reflect.Field headlessField = toolkitClass.getDeclaredField("headless");
            headlessField.setAccessible(true);
            headlessField.set(null, false);

            // 同步GraphicsEnvironment的状态
            Class<?> geClass = Class.forName("java.awt.GraphicsEnvironment");
            java.lang.reflect.Field headlessGEField = geClass.getDeclaredField("headlessEnvironment");
            headlessGEField.setAccessible(true);
            headlessGEField.set(null, false);
        } catch (Exception e) {
            // 反射失败时输出日志，不影响主流程
            e.printStackTrace();
        }
    }
}

// 应用启动时调用
public static void main(String[] args) {
    HeadlessFix.forceNonHeadless();
    // 初始化GUI
}

3. 部署虚拟显示驱动 #

在Windows机器上安装虚拟显示驱动（如Virtual Display Driver、DisplayFusion虚拟显示器），启用后即使RDP断开，系统仍会保留虚拟显示设备，Java不会判定环境为无头模式。此方案无需修改代码，适合无法进行代码改造的场景。

4. 解耦后台任务与UI操作 #

重构代码将耗时任务与GUI更新逻辑分离，使用SwingWorker或线程池执行后台任务，仅在确认当前环境非无头时才更新UI：

import javax.swing.SwingWorker;
import java.util.List;

public class BackgroundTask extends SwingWorker<Void, Integer> {
    @Override
    protected Void doInBackground() throws Exception {
        // 后台处理逻辑，不涉及UI操作
        for (int i = 0; i < 100; i++) {
            Thread.sleep(100);
            publish(i);
        }
        return null;
    }

    @Override
    protected void process(List<Integer> chunks) {
        // 仅在非无头环境更新UI
        if (!GraphicsEnvironment.isHeadless()) {
            int progress = chunks.get(chunks.size() - 1);
            // 更新ProgressMonitor或其他UI组件
        }
    }
}

// 启动任务
new BackgroundTask().execute();

内容的提问来源于stack exchange，提问作者Michael Conrad