You need to enable JavaScript to run this app.
导航
在业务 SDK 中集成大模型应用防火墙
最近更新时间:2025.09.25 21:28:57首次发布时间:2025.06.10 17:45:27
复制全文
我的收藏
有用
有用
无用
无用

您可以通过 SDK 方式,在不改变大模型应用部署结构的情况下,将服务快速集成到应用中,实现内容校验、优化代答等功能。本文介绍将大模型应用防火墙服务集成到您的业务 SDK 中,实现模型安全防护的操作步骤。

接入后的请求过程

SDK 接入方式灵活简便,无需对业务部署结构进行改造,接入后,您的业务流量仍然从客户端直接访问源站。您可以在业务系统中直接调用 SDK 接口,获取大模型防护策略的检测或代答结果,再根据业务需要进行相应处理。例如对匹配到提示词攻击防护策略的内容进行拦截,或参考代答结果响应用户。
Image

适用场景

  • 实时检测用户输入的提示词内容,识别其中可能存在的攻击风险或违规敏感信息。
  • 审核大模型的回答内容,及时发现并拦截违规敏感信息,防止模型被滥用或敏感信息外泄。
  • 优化存在风险的模型响应内容,确保输出结果合法合规。

前提条件

您已创建防护实例,相关操作可参考创建大模型应用防火墙实例

注意事项

服务端调用 SDK 前,您需要在控制台获取资产的 AppID 并完成相关策略配置。大模型会基于 AppID 和配置的策略内容,返回对应的检测结果。

步骤一 创建应用

您需要在大模型应用防火墙控制台填入应用基本信息,便于区分不同的应用资产。

  1. 登录大模型应用防火墙控制台
  2. 在顶栏选择实例所属地域。
  3. 在左侧导航选择资产管理,然后单击添加资产
  4. 选择接入方式为SDK接入,填写应用基本信息,包括应用名称和描述。
    Image

步骤二 配置防护策略

填写完应用基本信息后,您可以直接为当前资产应用设置防护策略。平台会展示防护策略的默认配置,且配置为开启状态。

  • 如无需修改,您可以直接提交当前配置,完成控制台部分的接入操作。
  • 如需修改,可直接在当前页面调整相关配置。修改并确认后的结果将作为下一次接入的默认配置。

对应策略的详细介绍和配置说明可参见防护策略介绍
Image

步骤三 下载并集成 SDK

将 SDK 集成到您的大模型应用上,并根据 SDK 的说明文档,调用服务接口,获取对应内容的检测结果。

  1. 参考SDK 列表中的下载地址下载对应语言的 SDK 文件。
  2. 参考SDK 列表中的说明文档,将 SDK 集成到大模型应用上。
  3. 调用 SDK,获取对应接口的返回结果。相关接口的详细说明请参见:

后续操作

  • 查看防护数据:您可以在首页查看安全防护数据,包括请求次数、防护次数,以及对应的请求趋势曲线图和攻击分布占比图。详情请参见查看安全概览信息
  • 分析攻击事件:如果有命中防护规则的请求或响应,大模型应用防火墙会在攻击详情列表生成对应的日志记录,便于您追溯和分析攻击事件。您可以根据攻击事件详情和防护数据,调整或新增防护规则使大模型应用防火墙的检测结果更符合您的业务场景。例如,对匹配非高危检测分类的请求内容仅做观察处理,而不直接拦截,以避免误报。详情请参见查看攻击事件详情