配置算力消耗攻击策略后,大模型应用防火墙会自动识别针对大模型服务的恶意算力消耗行为,并执行对应防护动作,以帮助提升服务的稳定性。本文介绍如何配置算力消耗攻击策略。
提示词看似无法产生危害和攻击,但可能会大量消耗大模型算力,导致您的服务异常。例如,非法用户向大模型输入过多内容、或要求其输出过多内容,或者让大模型长时间高频高速运行某个任务。这些场景下,您的大模型服务可能会无法响应正常请求,而大模型应用防火墙可以识别这些潜在的恶意消耗行为,并对这些请求进行记录或拦截。
您已将需要防护的网站接入大模型应用防火墙。接入相关操作,请参见资产接入说明。
登录大模型应用防火墙控制台。
在顶栏选择实例所属地域。
在左侧导航选择防护>大模型防护>算力消耗防护。
启用策略。
单击添加规则,配置规则信息。
参数 | 说明 | 示例值 |
|---|---|---|
规则名称 | 输入防护策略的名称。 说明
| 算力消耗防护1 |
资产 | 选择需要匹配的域名或路径。勾选域名后,则该域名下配置的全部路径都会纳入匹配范围。 说明 SDK 方式接入的防护域名,暂不支持匹配到路径。 | www.volcwaf001.com |
触发阈值 | 支持配置模型输入输出的字符限制。您可以结合防护日志优化阈值配置,从而更精准地检测和防范算力消耗攻击。
| 模型输入 2000 或模型输出 10000 字符数 |
执行动作 | 识别到算力消耗量达到档位时,执行的处置动作。
说明 所有触发防护策略的请求都会被记录于攻击详情中。 | 拦截 |
防护等级 | 大模型应用防火墙根据不同的防护等级实施不同宽松程度的检测。
| 正常 |
规则开关 | 开启或关闭当前规则。 | 开启 |
单击确定。
假设您为资产配置了一条算力消耗攻击防护规则,信息如下:
参数 | 值 |
|---|---|
规则 ID | rule-d34ecr68pa51a3t7**** |
触发阈值 | 模型输入阈值为 |
防护等级 | 正常 |
执行动作 | 拦截 |