GraalVM编译SWT应用触发段错误，求错误分析方法

问题背景 #

已成功用GraalVM编译包含SWT组件与JNA调用的纯Java应用，但启动后点击UI元素触发段错误，出错线程栈追踪如下：

Stacktrace for the failing thread 0x000002778121f100 (A=AOT compiled, J=JIT compiled, D=deoptimized, i=inlined):
  A  SP 0x000000c6917fe110 IP 0x00007ff6c2f88281 size=64    com.oracle.svm.core.jni.JNIGeneratedMethodSupport.setPrimitiveArrayRegion(JNIGeneratedMethodSupport.java)
  A  SP 0x000000c6917fe150 IP 0x00007ff6c2fc58d5 size=448   com.oracle.svm.core.jni.functions.JNIFunctions.SetCharArrayRegion(JNIFunctions.java:0)
  A  SP 0x000000c6917fe480 IP 0x00007ff6c515a1d8 size=112   org.eclipse.swt.internal.win32.OS.MoveMemory(Native Method)
  A  SP 0x000000c6917fe4f0 IP 0x00007ff6c51c1415 size=96    org.eclipse.swt.widgets.Composite.wmNotify(Composite.java:1912)
  A  SP 0x000000c6917fe550 IP 0x00007ff6c5269a7a size=144   org.eclipse.swt.widgets.Table.wmNotifyToolTip(Table.java:7161)
  A  SP 0x000000c6917fe5e0 IP 0x00007ff6c5261ff5 size=48    org.eclipse.swt.widgets.Table.wmNotify(Table.java:6505)
  A  SP 0x000000c6917fe610 IP 0x00007ff6c51c978b size=64    org.eclipse.swt.widgets.Control.WM_NOTIFY(Control.java:5366)
  A  SP 0x000000c6917fe650 IP 0x00007ff6c51d9c3f size=80    org.eclipse.swt.widgets.Control.windowProc(Control.java:4800)
  A  SP 0x000000c6917fe6a0 IP 0x00007ff6c52611fc size=176   org.eclipse.swt.widgets.Table.windowProc(Table.java:5815)
  A  SP 0x000000c6917fe750 IP 0x00007ff6c520dbbe size=80    org.eclipse.swt.widgets.Display.windowProc(Display.java:5040)
  A  SP 0x000000c6917fe7a0 IP 0x00007ff6c2fa3ab5 size=64    com.oracle.svm.core.jni.JNIJavaCallWrapperHolder.invoke_JJJJ_J(JNIJavaCallWrapperHolder.java:0)
  A  SP 0x000000c6917fe7e0 IP 0x00007ff6c2f97014 size=480   com.oracle.svm.core.jni.JNIJavaCallVariantWrapperHolder.invokeJJIJJJJ_J_VA_LIST(JNIJavaCallVariantWrapperHolder.java:0)
  A  SP 0x000000c6917ff600 IP 0x00007ff6c514da8b size=96    org.eclipse.swt.internal.win32.OS.DispatchMessage(Native Method)
  A  SP 0x000000c6917ff660 IP 0x00007ff6c5207b4f size=32    org.eclipse.swt.widgets.Display.readAndDispatch(Display.java:3658)

错误分析 #

从栈追踪可见，段错误根源在GraalVM的JNI数组处理逻辑setPrimitiveArrayRegion，触发路径是SWT Table控件的tooltip通知（wmNotifyToolTip）调用OS.MoveMemory时，尝试通过JNI操作字符数组导致内存访问无效。核心原因大概率是GraalVM AOT编译时未正确识别SWT的JNI依赖或内存引用，导致数组内存被错误回收或地址无效。

处理步骤 #

• 版本兼容性检查
  确保使用最新稳定版GraalVM，同时SWT版本需匹配当前平台（Windows）的GraalVM/JDK版本，避免native库与AOT编译环境不兼容。
• 补充GraalVM JNI配置
  1. 在native-image编译命令中添加--enable-all-security-services，放宽JNI调用限制；
  2. 生成并完善GraalVM的配置文件：通过native-image-agent运行应用，自动生成reflect-config.json、jni-config.json，确保org.eclipse.swt.internal.win32.OS下的所有native方法被纳入配置，避免AOT编译时被裁剪；
• 定位特定控件问题
  临时禁用Table控件的tooltip功能，验证段错误是否消失，确认问题是否与tooltip的内存交互逻辑强相关；
• 调试验证
  1. 用native-image -g生成带调试信息的可执行文件，通过WinDbg等工具attach进程，捕捉段错误时的内存地址与状态，定位无效内存来源；
  2. 在普通JVM上运行应用，确认点击UI元素无异常，排除应用代码本身的逻辑问题。

SWT相关通用问题 #

SWT依赖大量系统native控件与JNI调用，在GraalVM AOT编译场景下存在已知适配问题：

• SWT的部分native方法通过动态注册或反射调用，GraalVM的静态分析无法完全识别，导致AOT编译后JNI调用失效；
• SWT控件的事件回调（如tooltip、通知消息）涉及Java与native层的内存交互，GraalVM的内存管理模型与普通JVM不同，容易出现内存引用未被追踪、提前回收的情况。

内容的提问来源于stack exchange，提问作者Tony