火山引擎方舟平台提供模型数据、精调、推理、评测等端到端功能,全方位保障您的 AI 应用开发落地。如果您的业务部署在方舟平台,大模型应用防火墙可以根据方舟应用 API Key 访问您的业务,并将业务流量牵引至防护接入点进行检测防护。
您的业务已经接入方舟平台,相关操作请参见方舟平台快速入门。
API Key 是您请求火山方舟大模型服务的凭证,因此您需要先获取方舟服务的 API Key,再将其提供给大模型应用防火墙服务,实现业务与大模型应用防火墙的交互。
获取方舟 API Key 后,您只需要简单配置,就可以将业务接入大模型应用防火墙服务进行防护了。
登录大模型应用防火墙控制台。
在顶栏选择实例所属地域。
在左侧导航选择资产管理,然后单击添加域名。
选择接入方式为方舟平台与机器学习平台,配置相关参数。
参数 | 说明 |
|---|---|
网站配置 | |
平台类型 | 选择方舟平台。 |
方舟应用 API Key | 填写步骤一 获取方舟应用 API Key获取的 API Key,用于授权大模型应用防火墙访问方舟平台服务。 |
方舟域名 | 方舟平台对外提供服务的统一域名。 |
防护域名 | 平台自动生成接入点域名,业务请求将被牵引至该域名下进行检测,检测后的数据会被转发至方舟平台处理。 |
日志采集 | 选择当前域名的日志服务的启用状态。
说明 如果需要开启日志服务,需要先完成大模型应用防火墙访问日志服务的跨服务授权,让大模型应用防火墙服务获取日志采集和存储权限。 |
DDoS 原生防护 | 如您需要对实例开启 DDoS 原生防护,可启用该功能,并选择相关 DDoS 原生防护实例。 说明 请确保您已购买对应的 DDoS 原生防护实例。购买说明请参考购买 DDoS 原生防护实例(企业版)和DDoS 原生防护实例(高级版)。 注意 如果您之前为大模型应用防火墙的 EIP 配置了云防火墙策略,当您启用 DDoS 原生防护(企业版)时,大模型应用防火墙的 EIP 将被替换为 DDoS 企业版关联的增强型防护 EIP。原有的云防火墙策略将不再生效。如需对新的 EIP 应用云防火墙防护,请重新配置相关策略。 |
接入能力 | |
请求 Body 最大值 | 可接收客户端请求正文的最大值。默认为 60 MB,支持配置 1~10240 MB。 |
源站配置 说明 以下源站配置参数用于控制大模型应用防火墙与后端方舟平台之间的连接行为,通常情况下保持默认值即可满足需求。 | |
建连超时时间 | 大模型应用防火墙和后端服务器的建连超时时间,建议大于健康检查超时时间。默认为 4 秒,支持配置 4~120 秒。 |
写连接超时时间 | 大模型应用防火墙将请求传输给后端服务器的超时时间。默认为 60 秒,支持配置 30~3600 秒。 |
读连接超时时间 | 大模型应用防火墙从后端服务器读取响应的超时时间。默认为 60 秒,支持配置 30~3600 秒。 |
回源长连接 | 大模型应用防火墙回源时,长连接可复用的个数。默认为 100 个,支持配置 60~1000 个。 |
回源重试 | 大模型应用防火墙回源失败后,可重试的次数。默认为 3 次,支持配置 1~10 次。 |
空闲长连接超时时间 | 大模型应用防火墙与后端服务器建立请求的长连接空闲时间。默认为 15 秒,支持配置 1~60 秒。 |
单击提交。
站点添加成功后,页面会返回防护域名的大模型防护策略默认配置选项。你可以在此处快速配置,或者直接前往策略配置页面进行详细配置。策略配置详情请参见防护策略介绍。
单击生效并返回网站列表,可查看添加的防护网站信息。
base_url参数)替换为大模型应用防火墙生成的接入点域名,调用方舟 SDK 时就可以将流量转发至大模型应用防火墙进行防护。替换操作详情请参见步骤四 替换方舟 SDK 初始化配置中的访问域名。