Java C2编译内存占用过高时生成Compiler_replay_data文件方法

针对你遇到的C2编译线程内存占用过高、随机触发编译失败（提示COMPILE SKIPPED: unsupported calling sequence (retry at different tier)）的场景，可通过以下步骤生成Compiler_replay_data文件，用于复现和分析编译阶段的JVM状态：

核心JVM参数配置 #

要生成重放文件，需启用JVM诊断选项并配置编译日志相关参数：

• 解锁诊断参数：-XX:+UnlockDiagnosticVMOptions
• 开启编译日志与重放数据生成：-XX:+LogCompilation -XX:+GenerateCompilerReplay
• 指定重放文件路径（可选，默认生成在当前目录）：-XX:CompilerReplayFile=./compiler_replay.dat

针对内存过高与编译失败场景的优化参数 #

为更精准定位问题，可补充以下参数：

• 打印编译失败详情：-XX:+PrintCompilationFailure，配合重放文件定位具体触发失败的方法
• 保持Native内存追踪（你已在使用）：-XX:+NativeMemoryTracking=detail，可追加-XX:NativeMemoryTrackingSummaryInterval=5，每隔5秒输出NMT摘要，关联编译时内存暴涨的时间点
• 限制C2编译线程数：-XX:CICompilerCount=2，减少并发编译的内存竞争，更容易定位单个编译线程的内存异常
• 降低编译触发阈值（可选）：-XX:CompileThreshold=1000，让方法更快进入C2编译阶段，缩短触发随机问题的等待时间

触发问题与验证文件生成 #

1. 因问题随机重现，建议长时间运行应用，或配合压力测试工具模拟生产流量，触发C2编译场景
2. 当出现编译失败提示或内存暴涨后，检查指定路径下是否生成compiler_replay.dat文件
3. 验证文件有效性：使用同版本JDK执行jcmd <pid> Compiler.replay <path-to-replay-file>，尝试重放编译流程，确认是否能复现问题

注意事项 #

• 诊断参数会带来一定性能开销，仅在测试/排查环境使用，禁止直接用于生产
• 若生成文件过大，可通过-XX:CompilerReplayFileLimit=100m限制文件大小（支持k/m/g单位）
• 重放问题时必须使用与生成文件完全相同的JDK版本，否则可能无法正常复现

内容的提问来源于stack exchange，提问作者vkm