已设置BLOCK_NONE仍触发Google Gemini API安全拦截问题求助

你的代码只针对单个未指定类别的安全规则设置了BLOCK_NONE，但Gemini模型包含多个危害类别（仇恨言论、性暗示内容、暴力内容等），未明确配置的类别会使用默认拦截阈值，这就导致部分场景下依然触发安全拦截。

修复方案 #

需要为所有HarmCategory枚举值都配置BLOCK_NONE阈值，确保覆盖所有安全检查维度：

import com.google.cloud.vertexai.api.SafetySetting;
import com.google.cloud.vertexai.generativeai.GenerativeModel;
import com.google.cloud.vertexai.generativeai.VertexAI;
import com.google.cloud.vertexai.generativeai.preview.GenerationConfig;
import com.google.cloud.vertexai.generativeai.preview.ResponseHandler;
import java.util.ArrayList;
import java.util.List;

public static String simpleQuestion(String projectId, String location, String modelName) throws Exception {
    try (VertexAI vertexAI = new VertexAI(projectId, location)) {
        GenerativeModel model = new GenerativeModel(modelName, vertexAI);
        
        // 遍历所有危害类别，统一设置BLOCK_NONE阈值
        List<SafetySetting> safetySettings = new ArrayList<>();
        for (SafetySetting.HarmCategory category : SafetySetting.HarmCategory.values()) {
            safetySettings.add(
                SafetySetting.newBuilder()
                    .setCategory(category)
                    .setThreshold(SafetySetting.HarmBlockThreshold.BLOCK_NONE)
                    .build()
            );
        }
        
        model.setSafetySettings(safetySettings);
        model.setGenerationConfig(GenerationConfig.newBuilder().build());
        
        var response = model.generateContent("What can you tell me about Pythagorean theorem");
        return ResponseHandler.getText(response);
    }
}

额外检查项 #

1. 确认使用的Vertex AI Java客户端是最新版本，旧版本可能存在安全配置不生效的兼容性问题。
2. 若问题仍存在，排查请求内容是否触发了Google云端的全局安全策略——部分极端内容即使设置BLOCK_NONE也会被平台级规则拦截。

内容的提问来源于stack exchange，提问作者Nunyet Calçada