Spring Boot集成Vertex AI Gemini API时，每次请求创建VertexAI实例是否合理？

嘿，我来帮你捋捋这个问题～

先看你这段代码，每次处理文件请求时都在try-with-resources里新建一个VertexAI实例，这么做其实不太合理，主要有这几个问题：

• 不必要的资源开销：每次创建VertexAI实例都会建立新的网络连接、初始化客户端相关资源，请求结束后又销毁这些资源，频繁的创建销毁会增加系统性能损耗，尤其是请求量高的时候，这种开销会被明显放大。
• 浪费客户端复用优势：Google的Vertex AI客户端（包括VertexAI类）本身是线程安全的，设计初衷就是支持多线程复用，它内部会维护连接池等优化机制，复用同一个实例能大幅提升请求效率。

那正确的做法应该是把VertexAI实例做成全局可复用的单例，在Spring Boot里可以用Bean来统一管理，比如这样：

@Configuration
public class VertexAIConfig {

    @Bean
    public VertexAI vertexAI() {
        return new VertexAI("my-project", "asia-northeast3");
    }
}

然后在你的服务类里注入这个VertexAI实例，不用每次请求都新建：

@Service
public class AIPredictionService {

    private final VertexAI vertexAi;

    // 构造函数注入VertexAI实例
    public AIPredictionService(VertexAI vertexAi) {
        this.vertexAi = vertexAi;
    }

    public PredictedResult prediction(MultipartFile file) {
        String inferSpeciesPrompt = "my prompt";
        GenerationConfig generationConfig =
                GenerationConfig.newBuilder()
                        .setMaxOutputTokens(2048)
                        .setTemperature(0.1F)
                        .setTopK(15)
                        .setTopP(0.7F)
                        .build();
        GenerativeModel model = new GenerativeModel("gemini-pro-vision", generationConfig, vertexAi);
        List<SafetySetting> safetySettings = Arrays.asList(
                SafetySetting.newBuilder()
                        .setCategory(HarmCategory.HARM_CATEGORY_HATE_SPEECH)
                        .setThreshold(SafetySetting.HarmBlockThreshold.BLOCK_MEDIUM_AND_ABOVE)
                        .build(),
                SafetySetting.newBuilder()
                        .setCategory(HarmCategory.HARM_CATEGORY_DANGEROUS_CONTENT)
                        .setThreshold(SafetySetting.HarmBlockThreshold.BLOCK_MEDIUM_AND_ABOVE)
                        .build()
                // 其他安全设置可以继续补充
        );

        // 后续的文件处理、推理调用逻辑...
        return ...;
    }
}

这样调整后，整个应用生命周期里只会创建一个VertexAI实例，所有请求都复用它，既能提升性能，也能减少资源浪费。

另外要注意，VertexAI实例不需要每次请求都关闭，它是长生命周期的客户端，Spring容器关闭时会自动管理它的销毁；如果需要手动处理销毁逻辑，可以实现DisposableBean接口或者用@PreDestroy注解来关闭实例。

备注：内容来源于stack exchange，提问作者koo9