使用Nessie+Iceberg REST Catalog+ADLS时元数据文件被删的问题求助

针对你遇到的Flink+Iceberg+Nessie+Azure Blob环境下元数据文件莫名丢失、作业无法恢复的问题，结合类似场景的排查经验，以下是可能的原因和对应的修复方案：

可能原因1：Nessie或Iceberg的自动清理策略误删活跃元数据 #

Nessie的垃圾回收（GC）机制或Iceberg的元数据自动删除配置，可能会清理掉仍被Flink作业状态引用的元数据文件：

• Iceberg默认会在提交后删除旧元数据文件，若Flink作业的Checkpoint/Savepoint中仍持有旧元数据的引用，就会导致后续找不到文件
• Nessie的GC会删除无分支/标签引用的元数据，但Flink作业状态中的引用不在Nessie的追踪范围内，容易被误判为垃圾

修复措施： #

• 临时禁用Iceberg的元数据自动删除：在Flink SQL客户端或作业配置中添加SET iceberg.write.metadata.delete-after-commit.enabled=false;，同时设置iceberg.write.metadata.previous-versions-max=100保留足够多的旧版本元数据
• 调整Nessie的GC配置：若启用了GC，设置nessie.gc.retention-hours=72（至少覆盖作业可能的最大停机时长），并在执行GC前用nessie gc dry-run命令预检查要删除的文件，确认无活跃作业依赖的元数据；必要时可暂时禁用GC（nessie.gc.enabled=false）排查问题

可能原因2：Azure Blob生命周期规则误清理元数据 #

若为Azure Blob容器设置了错误的生命周期规则（比如对所有文件设置短期过期），可能会误删Iceberg元数据目录（metadata/下的文件）。

修复措施： #

• 登录Azure门户，检查目标Blob容器的生命周期规则，排除Iceberg元数据路径（例如/metadata/**），禁止该路径下的文件被自动删除
• 若已设置过期规则，调整为仅清理临时文件或明确非元数据的路径

可能原因3：Flink状态与Iceberg元数据版本不一致 #

当Flink作业从旧的Checkpoint/Savepoint恢复时，状态中记录的Iceberg元数据版本已被清理，即使恢复Blob文件，Nessie Catalog中的元数据索引已更新，无法匹配旧的引用。

修复措施： #

• 恢复作业时，先将Nessie分支重置到元数据丢失前的提交版本：使用命令nessie branch reset <branch-name> <commit-hash>，确保Catalog的元数据索引与恢复的Blob文件一致，再重启Flink作业
• 配置Flink作业启动时指定固定的Nessie提交哈希：添加SET iceberg.catalog.nessie.ref=<commit-hash>;，避免作业自动使用最新分支头导致元数据版本不匹配
• 调整Flink Checkpoint配置：设置execution.checkpointing.externalized-checkpoint-retention=RETAIN_ON_CANCELLATION，确保Checkpoint不会被意外删除，同时定期备份Checkpoint

关于恢复后作业仍无法运行的说明 #

仅恢复Azure Blob中的元数据文件无效，是因为Nessie Catalog的元数据索引（分支提交记录）已被更新或删除，需要同时恢复Nessie分支到对应的历史提交版本，才能让Flink作业重新找到元数据的引用关系。

内容的提问来源于stack exchange，提问作者Shyam