如果您已经在火山引擎机器学习平台上部署在线服务,可以将服务的公网访问地址直接添加到大模型应用防火墙,实现业务安全防护。
您的服务已经部署在机器学习平台且开启公网访问,相关操作请参见将模型部署成服务。
服务域名是您在机器学习平台部署的服务的公网访问地址,公网环境下,您可以通过该访问地址调用服务。
获取机器学习平台的公网访问地址后,您只需要简单配置,就可以将业务接入大模型应用防火墙服务进行防护了。
登录大模型应用防火墙控制台。
在顶栏选择实例所属地域。
在左侧导航选择资产管理,然后单击添加域名。
选择接入方式为方舟平台与机器学习平台,配置相关参数。
参数 | 说明 |
|---|---|
网站配置 | |
平台类型 | 选择机器学习平台。 |
模型服务域名 | 您需要防护的业务域名,填写步骤一 获取机器学习平台服务域名获取的公网访问地址。 注意 例如获取到的访问地址为 |
防护域名 | 平台自动生成接入点域名,业务请求将被牵引至该域名下进行检测,检测后的数据会被转发至机器学习平台处理。 |
自定义防护路径 | 设置防护路径及需要检测的大模型提示词所处位置。不配置则平台默认根据公网访问地址自动生成。
说明 最多支持设置 10 个路径。 |
日志采集 | 选择当前域名的日志服务的启用状态。
说明 如果需要开启日志服务,需要先完成大模型应用防火墙访问日志服务的跨服务授权,让大模型应用防火墙服务获取日志采集和存储权限。 |
DDoS 原生防护 | 如您需要对实例开启 DDoS 原生防护,可启用该功能,并选择相关 DDoS 原生防护实例。 说明 请确保您已购买对应的 DDoS 原生防护实例。购买说明请参考购买 DDoS 原生防护实例(企业版)和DDoS 原生防护实例(高级版)。 注意 如果您之前为大模型应用防火墙的 EIP 配置了云防火墙策略,当您启用 DDoS 原生防护(企业版)时,大模型应用防火墙的 EIP 将被替换为 DDoS 企业版关联的增强型防护 EIP。原有的云防火墙策略将不再生效。如需对新的 EIP 应用云防火墙防护,请重新配置相关策略。 |
接入能力 | |
请求 Body 最大值 | 可接收客户端请求正文的最大值。默认为 60 MB,支持配置 1~10240 MB。 |
源站配置 说明 以下源站配置参数用于控制大模型应用防火墙与后端机器学习平台之间的连接行为,通常情况下保持默认值即可满足需求。 | |
建连超时时间 | 大模型应用防火墙和后端服务器的建连超时时间,建议大于健康检查超时时间。默认为 4 秒,支持配置 4~120 秒。 |
写连接超时时间 | 大模型应用防火墙将请求传输给后端服务器的超时时间。默认为 60 秒,支持配置 30~3600 秒。 |
读连接超时时间 | 大模型应用防火墙从后端服务器读取响应的超时时间。默认为 60 秒,支持配置 30~3600 秒。 |
回源长连接 | 大模型应用防火墙回源时,长连接可复用的个数。默认为 100 个,支持配置 60~1000 个。 |
回源重试 | 大模型应用防火墙回源失败后,可重试的次数。默认为 3 次,支持配置 1~10 次。 |
空闲长连接超时时间 | 大模型应用防火墙与后端服务器建立请求的长连接空闲时间。默认为 15 秒,支持配置 1~60 秒。 |
单击提交。
站点添加成功后,页面会返回防护域名的大模型防护策略默认配置选项。你可以在此处快速配置,或者直接前往策略配置页面进行详细配置。策略配置详情请参见防护策略介绍。
单击生效并返回网站列表,可查看添加的防护网站信息。