Flutter文本脏话检测方案：Cloud Natural Language API与Vertex AI问题排查

方案可行性分析 #

1. Cloud Natural Language API #

该API可以实现脏话检测，虽然没有官方Flutter专属SDK，但可通过两种方式在Flutter中使用：

• 直接发送HTTP请求调用API接口；
• 使用pub.dev上第三方封装的Dart包。
  它的内容分类、情感分析功能可识别包含脏话的有害文本，只需在请求中配置对应的检测参数即可。

2. Vertex AI（搭配Gemini模型） #

可以实现脏话检测，但你遇到的response.text报错是因为安全过滤机制触发，导致模型未返回有效文本。解决方法是调整模型的安全设置，降低脏话类别的拦截阈值：

final model = vertexai.FirebaseVertexAI.instance.generativeModel(
  model: 'gemini-1.5-flash',
  safetySettings: [
    vertexai.SafetySetting(
      category: vertexai.HarmCategory.harmCategoryProfanity,
      threshold: vertexai.HarmBlockThreshold.blockNone,
    ),
    // 可根据需求调整其他有害内容类别的阈值
  ],
);

调整后模型会返回正常的Yes/No结果，不过这种方式依赖大模型的语义判断，准确率略低于专门的内容审核API。

替代方案 #

如果上述方案不符合需求，Flutter还有以下可选方案：

• 本地词库检测：使用pub.dev上的profanity_filter等包，通过预定义词库匹配脏话，无需联网，响应快，但对变体脏话识别能力有限。
• Firebase ML Kit内容审核：提供Flutter SDK，专门针对文本、图像的有害内容检测，集成简单，适合移动端场景。
• 第三方审核API：如OpenAI Moderation API，通过HTTP请求调用，可识别多种有害内容类别，准确率较高。

内容的提问来源于stack exchange，提问作者foseja