本文列举您在使用大模型应用防火墙过程中可能会遇到的问题及对应的解决方案。
服务名称 | 策略名称 | 说明 |
|---|---|---|
访问控制(IAM) | IAMFullAccess | 访问控制管理员权限,该策略允许管理全部 IAM 用户的密钥。 |
AccessKeyReadOnlyAccess | API 密钥读取权限,查询全部 IAM 用户的密钥。 | |
AccessKeySelfManageAccess | API 密钥自管理权限,允许 IAM 用户管理自身的 API 密钥。 | |
大模型应用防火墙 | LLMShieldFullAccess | 大模型应用防火墙控制台全读写权限,包括在控制台添加资产、配置防护策略等操作。 |
LLMShieldReadOnlyAccess | 大模型应用防火墙控制台只读权限。 | |
TLSReadOnlyAccess | 大模型应用防火墙控制台日志查看权限。 | |
LLMShieldProtectSdkAccess | 大模型应用防火墙 SDK 调用权限。 |
注意
若您需要通过子账号调用大模型应用防火墙 SDK,遵循权限最小化原则,建议为该子账号至少授予以下权限策略:AccessKeySelfManageAccess 和 LLMShieldProtectSdkAccess。
如果您的大模型服务没有使用火山引擎服务器资源,可以通过 CNAME 方式或 SDK 方式接入大模型应用防火墙服务。接入详情可参见配置流量接入参数和配置 SDK 接入参数。
接入域名时,大模型应用防火墙会在配置参数提交完成后显示对应的回源 IP 地址,您也可以在资产管理页面单击对应域名,查看回源 IP 地址段,详情请参见放行回源 IP 地址。
您可以参考以下步骤验证 CNAME 转发是否生效,如需了解更多详细内容,可参考验证转发配置。
修改本地 host 文件。
在本地 host 文件最后一行添加大模型应用防火墙 IP 地址和防护域,使本地对防护源站的请求经过 CNAME 地址。
验证修改是否成功。
使用终端命令 ping 防护域名,如果解析 IP 为 hosts 文件中绑定的大模型应用防火墙 IP,则修改成功。
验证接入配置是否生效。
验证网站接入配置是否生效,在本地直接访问被防护的域名,如果正常访问则说明配置成功。
ping <复制的 CNAME 值>。大模型应用防火墙对正常业务请求不会触发拦截动作,如果担心开启防护会影响正常业务,可以选择先开启“观察”模式,该模式下会记录所有命中检测规则的攻击日志,并上报到日志管理页面。您可以在该页面确认“观察”类型的事件日志,如果持续一段时间内都没有出现误报,则可以将“观察”模式切换为“拦截”模式,开启拦截后,所有命中检测规则的攻击流量都会被拦截。
如果所有防护功能都没有开启,则仅进行流量转发,不会拦截或者记录上报攻击行为,因此不会有日志生成。
访问控制策略对通过 SDK 方式接入的域名暂不生效。因此您在配置访问管控策略时,无法选择对应域名。
可能是因为您的词库规则开关为关闭状态,请前往防护 > 大模型防护 > 自定义词库列表,确保对应词库的规则开关为开启状态。
自定义词库的测试状态可帮助您测试词库相关内容是否符合预期。
您可以在大模型应用防火墙控制台配置提示词防护策略,然后在服务器上通过 SDK 调用方式获取检测结果和优化后的问答。
通过 SDK 检查提示词或响应内容是否合规时,返回的 Action 指请求命中的执行动作,其说明如下:
Action | 策略动作 | 请求是否通过 | 请求是否存在风险 | 说明 |
|---|---|---|---|---|
-1 | 无 | ✅ | 无风险 | 没有命中任何策略 |
0 | 观察 | ✅ | ⚠️有风险⚠️ |
|
1 | 拦截 | ❌ | ⚠️有风险⚠️ |
|
8 | 答案优化 | ❌ | ⚠️有风险⚠️ |
|
9 | 放行 | ✅ | 无风险 |
|
Win+R,输入regedit打开注册表编辑器。\HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Control\FileSystem 路径下的变量LongPathsEnabled为1即可。https://<大模型应用防火墙接入点域名>/api/v3/chat/completions,而正确的路径为https://<大模型应用防火墙接入点域名>/api/v3/。