大模型应用防火墙提供针对大语言模型推理服务的安全防护服务，确保模型输入和输出内容安全、可用和可信。产品嵌入 AI 大模型服务业务流程中，实时监控模型的输入和输出内容，保护模型业务不受 OWASP LLM Top10 攻击，提供包括算力消耗防护、提示词攻击检测、模型滥用行为分析和敏感数据风险识别等防护功能。

产品架构

• 基建层：为产品提供底层能力和数据支持，包括实现检测和推理能力的底层引擎和动态配置能力，为大模型提供样本的样本数据库、记录产品输入输出的日志表。
• 能力层：提供提示词检查和生成能力、敏感信息判断能力、风险推理能力、威胁行为预测能力、端安全扫描能力和攻击意图识别等能力。
• 应用层：提供产品所需的实际应用功能，包括提供的安全功能和用量计费。
• 接入层：实现用户接口及 Web 交互页面，提供鉴权、API、测试页面等能力。

防护能力

算力消耗攻击防护

算力消耗攻击通过构造并发送能引发模型算力剧烈消耗的特殊提示词，可能导致服务响应缓慢甚至瘫痪。
大模型应用防火墙能够精准识别此类高 GPU 资源消耗的恶意请求，并根据预设策略进行实时记录或拦截，从而保障核心业务的稳定性。

提示词攻击防护

针对日益复杂的提示词攻击，如提示词注入和越权攻击，大模型应用防火墙能够自动检测并识别其中的恶意指令与潜在风险。通过实时的监控与拦截机制，确保模型的行为和输出始终符合预设的安全标准。

模型滥用防护

大模型应用防火墙通过持续分析模型的输入与输出数据流，能够主动发现角色配置异常、内容立场偏离等模型被滥用的迹象。这种前瞻性的监控机制有助于维护模型的正常功能，防止其被用于非预期的恶意目的。

敏感信息防护

产品集成了先进的文本风险检测技术与隐私信息识别算法，可有效识别并过滤模型交互内容中的各类敏感信息，如个人身份信息（PII）、财务数据、内部业务资料等，帮助企业满足数据安全与合规要求。

通用话题控制

针对特定业务场景，大模型应用防火墙可以根据您提供的话题样本和规则，对输入内容进行合规检测。这能帮助您管控模型的输出，防止泄露不当信息或引发舆论风险。例如，您可以阻止模型回应关于内部财报或企业负面新闻的提问，从而避免不正当竞争或损害企业形象。

自定义防护

为了满足多样化的业务安全需求，大模型应用防火墙提供自定义模型防护功能。您可以基于业务场景相关的正、负样本数据，快速定义并构建具有针对性的安全屏障。这一功能赋予您灵活定制安全策略的能力，可实现对特定场景风险的定向防御与精细化配置。

产品优势

便捷部署

大模型应用防火墙提供 SDK 集成、流量接入和模型服务接入等多种接入方式，您可以根据自身技术架构，轻松地将防护服务集成至现有的大模型应用中。整个部署过程无需对现有系统进行大规模改造，具备高度的灵活性和便捷性。

多维度防护

• 实时威胁阻断：精准识别并阻断各类提示词攻击，有效抵御 AI 冒充、指令劫持和反向诱导等高级威胁。
• 内容与行为分析：全面分析模型的使用情况，严格控制其角色定位，防止生成不当、偏颇或有害的内容。
• 数据安全保障：精准识别并防止个人信息、核心业务数据等敏感内容在模型交互过程中意外泄露。

智能优化与修复

产品内置先进的算法模型，在识别并拦截风险内容的同时，能够智能生成安全合规的替代性回复。这不仅降低了因直接阻断而带来的用户体验中断，还为业务提供了一套可靠、低风险的解决方案。

精准适配业务场景

您可以针对特定的细分业务场景，通过上传样本快速训练出更懂业务语境的专用防护模型。这种深度定制的能力，使得安全检测逻辑能够更加契合您的实际业务规则与流程，在保障业务流畅运行的同时，提供更精准高效的安全防护。