幻觉检测用于识别大模型回答中与事实、上下文或引用资料不一致的内容，帮助企业在知识问答、智能客服、业务助手等场景中及时发现错误回答，降低误导用户、输出虚假信息和业务决策偏差的风险。当企业已经为大模型接入知识库、业务资料或标准答案时，仅依赖模型生成并不一定足够安全。通过在大模型应用防火墙中配置幻觉检测规则，您可以把高风险回答及时记录、审计，或在必要时直接拦截，从而让模型输出更可信、更可控。 ## 场景说明在 RAG（检索增强生成）场景中，幻觉检测的重点，是判断模型回答是否忠于参考资料，而不是只看回答本身是否流畅。也就是说，系统会综合对比： * 用户的问题 * 参考知识内容 * 模型最终输出如果模型回答与提供的参考内容明显不一致，就可能被识别为一致性幻觉。 ## 输入要求使用本功能时，请重点关注以下限制： * **参考内容字段长度上限为 4096 字符** * **仅支持文本格式检测** * **检测结果依赖输入质量，** 如果参考资料（召回内容）本身不完整、无关或噪声较多，可能影响检测效果。 ## 操作步骤 1. 登录[大模型应用防火墙控制台](https://console.volcengine.com/omni-shield/llm-shield/)。 2. 在顶栏选择实例所属地域。 3. 在左侧导航选择**防护\>大模型防护\>** **幻觉内容防护**。 4. 启用策略。开启此开关以激活幻觉内容防护功能，否则后续添加的规则将不会生效。 ![图片](https://p9-arcosite.byteimg.com/obj/tos-cn-i-goo7wpa0wc/0c65f23249754230b602751b070514eb) 5. 单击**添加规则**，配置相关参数。 |参数 |说明 | |---|---| |规则名称 |输入防护策略的名称。

说明

以中文、字母、数字开头。

允许字母、数字、中文、点“.”、下划线“_”和中划线“\-”。

长度为1\-128个字符。

| |资产 |选择需要匹配的资产或路径。勾选资产后，则该资产下配置的全部路径都会纳入匹配范围。

说明

SDK 方式接入的防护资产，暂不支持匹配到路径。