Java/Spring Boot跨多服务器JVM获取NAS挂载文件锁的问题

问题根源 #

你用到的FileSystemPersistentAcceptOnceFileListFilter默认依赖本地持久化存储（比如本地文件或内存中的SimpleMetadataStore），多个JVM之间无法共享文件处理状态，导致第一个处理文件的JVM会把目录下所有文件标记为已处理，其他JVM读取时会认为这些文件都已经被处理过，从而无法读取。

可行解决方案 #

1. 利用NAS本身的文件系统锁（Java FileLock） #

Java的FileLock可以基于文件系统提供进程级锁，只要NAS支持POSIX兼容的文件锁机制（大部分主流NAS都支持），就能实现跨服务器JVM的文件独占访问，且不会影响目录下其他文件的读取。

示例代码：

public void processFileWithLock(File file) throws IOException {
    try (RandomAccessFile raf = new RandomAccessFile(file, "rw");
         FileLock lock = raf.getChannel().lock()) {
        // 执行文件读取/处理逻辑，此时其他JVM无法获取该文件的独占锁
        System.out.println("Processing file: " + file.getName());
    }
    // 锁会在try-with-resources结束后自动释放
}

• 注意：部分小众NAS可能存在锁兼容性问题，需要提前测试验证。

2. 替换为分布式持久化的FileListFilter #

如果使用Spring Integration，可以将FileSystemPersistentAcceptOnceFileListFilter的持久化存储替换为分布式共享存储（比如Redis、ZooKeeper），让多个JVM共享文件处理状态，确保单个文件仅被一个JVM处理，其他文件仍能被正常读取。

Redis示例配置（Spring Integration）

@Bean
public RedisConnectionFactory redisConnectionFactory() {
    return new LettuceConnectionFactory("redis-host", 6379);
}

@Bean
public MetadataStore redisMetadataStore(RedisConnectionFactory connectionFactory) {
    return new RedisMetadataStore(connectionFactory);
}

@Bean
public FileListFilter<File> distributedFileFilter(MetadataStore metadataStore) {
    RedisPersistentAcceptOnceFileListFilter filter = 
        new RedisPersistentAcceptOnceFileListFilter(metadataStore, "nas-file-filter");
    filter.setFlushOnUpdate(true); // 确保状态实时同步到Redis
    return filter;
}

3. 基于分布式协调组件实现文件锁 #

使用ZooKeeper（或Curator框架）、etcd等分布式协调工具，为每个文件创建独占锁节点，确保同一时间只有一个JVM能处理该文件，可靠性更高，还能自动处理锁超时、节点崩溃释放等场景。

Curator InterProcessMutex示例

public void processFileWithZkLock(File file, CuratorFramework client) throws Exception {
    String lockPath = "/nas-file-locks/" + file.getName();
    InterProcessMutex lock = new InterProcessMutex(client, lockPath);
    
    try {
        if (lock.acquire(10, TimeUnit.SECONDS)) {
            // 处理文件逻辑
            System.out.println("Processing file with ZK lock: " + file.getName());
        }
    } finally {
        lock.release();
    }
}

关键注意事项 #

• 锁粒度：确保锁的粒度是单个文件，而非整个目录，避免影响其他文件的并发处理。
• 异常处理：必须处理锁获取超时、进程崩溃等场景，避免死锁或文件长期无法被处理。
• 存储选型：根据自身技术栈选择分布式存储（Redis适合轻量场景，ZooKeeper适合高可靠场景）。

内容的提问来源于stack exchange，提问作者Wonder