火山引擎机器学习平台是面向机器学习开发者的一站式开发平台,在平台上用户能够便捷、高效地完成数据准备、代码开发、模型训练、模型部署的机器学习全流程。如果您已经在火山引擎机器学习平台上部署在线服务,可以将服务的公网访问地址直接添加到大模型应用防火墙,实现业务安全防护。本文介绍如何将火山引擎机器学习平台上的在线服务接入大模型应用防火墙。
接入后的请求过程
接入大模型应用防火墙后,业务流量的处理流程如下:
- 请求阶段:客户端发起的业务请求首先会经过大模型应用防火墙的安全检测,检测通过后才会转发至机器学习平台的服务端进行处理。
- 响应阶段:服务端生成的响应内容同样需要经过大模型应用防火墙防火墙的安全检测,检测完成后才会返回给客户端。
完整的请求响应流程如下图所示:

前提条件
您的服务已经部署在机器学习平台且开启公网访问,相关操作请参见将模型部署成服务。
步骤一 获取机器学习平台公网访问地址
服务域名是您在机器学习平台部署的服务的公网访问地址,公网环境下,您可以通过该访问地址调用服务。
- 登录机器学习平台控制台。
- 在顶栏选择实例所属地域。
- 在左侧导航栏,选择训练 & 推理 > 在线服务。
- 在服务列表选择已经部署好的服务,单击服务调用。

- 复制公网访问地址。
该访问地址将在步骤二 配置接入参数使用,以实现业务与大模型应用防火墙的交互。

步骤二 配置接入参数
获取机器学习平台的公网访问地址后,您只需要简单配置,就可以将业务接入大模型应用防火墙服务进行防护了。
- 登录大模型应用防火墙控制台。
- 在顶栏选择实例所属地域。
- 在左侧导航选择资产管理,然后单击添加域名。
- 选择接入方式为方舟平台与机器学习平台,配置相关参数。
- 设置平台类型为
机器学习平台。 - 从步骤一中获取的机器学习平台公网访问地址中摘取模型服务域名信息。
注意
例如获取到的访问地址为https://scv8****.apigateway-cn-shanghai.volceapi.com/mlp/s-20250311190045-rbjcf/,则取scv8****.apigateway-cn-shanghai.volceapi.com/mlp/s-20250311190045-rbjcf/为模型服务域名。
- 其他参数若无特殊需要可保持默认配置,详细的参数配置说明可参见通过机器学习平台接入。

- 单击提交,平台返回生成的大模型应用防火墙接入点域名。
该域名将用于替代机器学习平台的访问域名,用户通过该域名调用机器学习平台服务。

步骤三 配置防护策略
平台将在配置完成后的返回页面展示防护策略的默认配置,且配置为开启状态。
- 如无需修改,您可以直接提交当前配置,完成控制台部分的接入操作。
- 如需修改,可直接在当前页面调整相关配置。修改并确认后的结果将作为下一次接入的默认配置。
对应策略的详细介绍和配置说明可参见防护策略介绍。

步骤四 替换机器平台访问路径
完成配置后,您在机器学习平台服务时,将原有访问域名替换为步骤二 配置接入参数中获取的接入点域名。
大模型应用防火墙将根据您设置的防护策略,对机器学习平台上部署的线上服务进行实时检测和防护。您可以参考如何调用在线服务了解服务调用方法。防火墙会自动对所有请求和响应内容进行安全检查,并执行相应的防护措施。
后续操作
- 查看防护数据:您可以在首页查看安全防护数据,包括请求次数、防护次数,以及对应的请求趋势曲线图和攻击分布占比图。详情请参见查看安全概览信息。
- 分析攻击事件:如果有命中防护规则的请求或响应,大模型应用防火墙会在攻击详情列表生成对应的日志记录,便于您追溯和分析攻击事件。您可以根据攻击事件详情和防护数据,调整或新增防护规则使大模型应用防火墙的检测结果更符合您的业务场景。例如,对匹配非高危检测分类的请求内容仅做观察处理,而不直接拦截,以避免误报。详情请参见查看攻击事件详情。