配置算力消耗攻击策略后,大模型应用防火墙会自动识别针对大模型服务的恶意算力消耗行为,并执行对应防护动作,以帮助提升服务的稳定性。本文介绍如何配置算力消耗攻击策略。
提示词看似无法产生危害和攻击,但可能会大量消耗大模型算力,导致您的服务异常。例如,非法用户向大模型输入过多内容、或要求其输出过多内容,或者让大模型长时间高频高速运行某个任务。这些场景下,您的大模型服务可能会无法响应正常请求,而大模型应用防火墙可以识别这些潜在的恶意消耗行为,并对这些请求进行记录或拦截。
您已将需要防护的网站接入大模型应用防火墙。接入相关操作,请参见资产接入说明。
登录大模型应用防火墙控制台。
在顶栏选择实例所属地域。
在左侧导航选择防护>大模型防护>算力消耗防护。
启用策略。
单击添加规则,配置规则信息。
参数 | 说明 | 示例值 |
|---|---|---|
基本信息 | ||
规则名称 | 输入防护策略的名称。 说明
| 算力消耗防护1 |
规则条件 | ||
访问路径 | 选择需要匹配的域名或路径。勾选域名后,则该域名下配置的全部路径都会纳入匹配范围。 说明 SDK 方式接入的防护域名,暂不支持匹配到路径。 | www.volcwaf001.com |
消耗量 | 大模型的算力消耗量,分为高、中、低三个档位。 | 高 |
执行动作 | 识别到算力消耗量达到档位时,执行的处置动作。
说明 所有触发防护策略的请求都会被记录于攻击详情中。 | 观察 |
生效配置 | ||
规则开关 | 开启或关闭当前规则。 | 开启 |
单击确定。
配置完成后,算力消耗防护规则列表会生成对应规则,规则 ID 可用于日志检索和攻击详情判断。
假设您为资产配置了一条算力消耗攻击防护规则,信息如下:
参数 | 值 |
|---|---|
规则 ID |
|
算力消耗量 |
|
执行动作 |
|
当用户向大模型发起请求时,如果大模型应用防火墙检测到用户提示词存在算力消耗风险,系统将自动拦截该请求。您可以随时在攻击详情页面中,通过输入规则 ID 查看相关攻击信息。