如何在Swing应用的热加载类中重新初始化JavaFX

问题场景 #

开发Burp Suite的Markdown笔记扩展，使用flexmark-java解析Markdown、RichTextFX作为编辑器、JavaFX WebView实现预览功能。首次加载扩展时功能正常，但卸载后重新加载会抛出UnsatisfiedLinkError：

java.lang.UnsatisfiedLinkError: Native Library ...\.openjfx\cache\21+31\amd64\prism_sw.dll already loaded in another classloader

根因分析 #

1. Burp Suite基于Swing架构，每次加载扩展时会使用独立的类加载器。
2. 首次初始化JavaFX时，通过Platform.startup()触发com.sun.javafx.tk.Toolkit实例创建，内部调用loadMSWindowsLibraries()，通过com.sun.glass.utils.NativeLibLoader加载JNI DLL。
3. NativeLibLoader的loaded列表是类加载器级别的缓存：卸载扩展时，原扩展类加载器被销毁，缓存随之清空；重新加载时，新类加载器的缓存为空，但系统层面DLL已被加载，导致重复加载冲突。

已尝试方案的问题 #

尝试使用自定义类加载器加载自身类、NativeLibLoader和Toolkit类，虽能暂时规避DLL冲突，但卸载扩展时自定义类加载器被JNI全局引用标记为GC根，无法被垃圾回收，导致内存泄漏。即使调用了container.getChildren().clear()、getScene().getWindow().hide()和Platform.exit()，也无法彻底销毁JavaFX上下文。

可行解决思路 #

1. 复用JavaFX上下文，避免重复加载DLL #

核心思路是让JavaFX核心类（Toolkit、NativeLibLoader等）加载到Burp的主类加载器或共享类加载器中，确保卸载扩展时不销毁这些类的加载上下文：

• 初始化前检查是否已存在JavaFX Toolkit实例，若存在则直接复用，跳过Platform.startup()：

SwingUtilities.invokeLater(() -> {
    boolean toolkitInitialized = false;
    try {
        Class<?> toolkitClass = Class.forName("com.sun.javafx.tk.Toolkit");
        Method getToolkitMethod = toolkitClass.getDeclaredMethod("getToolkit");
        getToolkitMethod.setAccessible(true);
        Object toolkit = getToolkitMethod.invoke(null);
        toolkitInitialized = (toolkit != null);
    } catch (Exception ignore) {}

    if (toolkitInitialized) {
        // 复用已有JavaFX上下文创建UI
        burpNotesTab = new JFXPanel();
        customNotesTab = new CustomNotesTab();
        burpNotesTab.setScene(new Scene(customNotesTab));
        api.userInterface().registerSuiteTab("Notes++", burpNotesTab);
    } else {
        // 首次初始化JavaFX
        Platform.startup(() -> {
            burpNotesTab = new JFXPanel();
            customNotesTab = new CustomNotesTab();
            burpNotesTab.setScene(new Scene(customNotesTab));
            api.userInterface().registerSuiteTab("Notes++", burpNotesTab);
        });
    }
});

2. 强制清理JavaFX内部资源（风险较高） #

通过反射调用JavaFX内部API，尝试销毁Toolkit实例并释放JNI引用，注意此方法依赖JavaFX内部实现，版本变更可能失效：

// 卸载扩展时执行的清理逻辑
SwingUtilities.invokeLater(() -> {
    Platform.runLater(() -> {
        // 清空UI组件
        if (burpNotesTab != null) {
            Scene scene = burpNotesTab.getScene();
            if (scene != null) {
                scene.setRoot(new Pane());
                Window window = scene.getWindow();
                if (window != null) window.hide();
            }
            burpNotesTab.removeAll();
        }

        // 反射调用Toolkit shutdown方法
        try {
            Class<?> toolkitClass = Class.forName("com.sun.javafx.tk.Toolkit");
            Method shutdownMethod = toolkitClass.getDeclaredMethod("shutdown");
            shutdownMethod.setAccessible(true);
            shutdownMethod.invoke(null);
        } catch (Exception e) {
            e.printStackTrace();
        }
    });
});

3. 替代方案：切换纯Swing组件 #

如果JavaFX的类加载器问题难以解决，可考虑用纯Swing的Markdown组件替代：

• 使用flexmark-java生成HTML，搭配Swing的JEditorPane或JTextPane实现预览；
• 选择Swing原生的Markdown编辑器（如markdown-editor-swing），彻底避开JavaFX的类加载和DLL依赖问题。

内容的提问来源于stack exchange，提问作者staticFlow