You need to enable JavaScript to run this app.
导航
通过机器学习平台接入
最近更新时间:2025.09.25 21:57:18首次发布时间:2025.09.16 23:14:49
复制全文
我的收藏
有用
有用
无用
无用

如果您已经在火山引擎机器学习平台上部署在线服务,可以将服务的公网访问地址直接添加到大模型应用防火墙,实现业务安全防护。

前提条件

您的服务已经部署在机器学习平台且开启公网访问,相关操作请参见将模型部署成服务

步骤一 获取机器学习平台服务域名

服务域名是您在机器学习平台部署的服务的公网访问地址,公网环境下,您可以通过该访问地址调用服务。

  1. 登录机器学习平台控制台
  2. 在顶栏选择实例所属地域。
  3. 在左侧导航栏,选择训练 & 推理 > 在线服务
  4. 在服务列表选择已经部署好的服务,单击服务调用
    Image
  5. 复制公网访问地址。
    Image

步骤二 将服务域名接入大模型应用防火墙

获取机器学习平台的公网访问地址后,您只需要简单配置,就可以将业务接入大模型应用防火墙服务进行防护了。

  1. 登录大模型应用防火墙控制台

  2. 在顶栏选择实例所属地域。

  3. 在左侧导航选择资产管理,然后单击添加域名

  4. 选择接入方式为方舟平台与机器学习平台,配置相关参数。
    Image

    参数

    说明

    网站配置

    平台类型

    选择机器学习平台。

    模型服务域名

    您需要防护的业务域名,填写步骤一 获取机器学习平台服务域名获取的公网访问地址。

    注意

    例如获取到的访问地址为https://scv8****.apigateway-cn-shanghai.volceapi.com/mlp/s-20250311190045-rbjcf/,则取scv8****.apigateway-cn-shanghai.volceapi.com/mlp/s-20250311190045-rbjcf/为模型服务域名。

    防护域名

    平台自动生成接入点域名,业务请求将被牵引至该域名下进行检测,检测后的数据会被转发至机器学习平台处理。

    自定义防护路径

    设置防护路径及需要检测的大模型提示词所处位置。不配置则平台默认根据公网访问地址自动生成

    • 路径:指受大模型应用防火墙防护的网站的文件路径或目录结构,用于组织和存储网站的各种资源,例如 HTML 文件、图像、脚本文件等。配置的路径信息用于监控和过滤对网站的请求,以防止恶意攻击和安全漏洞的利用。例如/about-us.html
    • 提示词位置:指需要检测的大模型提示词内容在页面请求内容中所处位置。目前仅支持 JSON 格式,且参数层级之间用.连接,例如User.Address.Country

    说明

    最多支持设置 10 个路径。

    日志采集

    选择当前域名的日志服务的启用状态。

    • 开启:域名规则创建完成后开始采集该域名产生的日志数据。
    • 关闭:域名规则创建完成后不会采集该域名产生的日志数据。

    说明

    如果需要开启日志服务,需要先完成大模型应用防火墙访问日志服务的跨服务授权,让大模型应用防火墙服务获取日志采集和存储权限。

    DDoS 原生防护

    如您需要对实例开启 DDoS 原生防护,可启用该功能,并选择相关 DDoS 原生防护实例。

    说明

    请确保您已购买对应的 DDoS 原生防护实例。购买说明请参考购买 DDoS 原生防护实例(企业版)DDoS 原生防护实例(高级版)

    注意

    如果您之前为大模型应用防火墙的 EIP 配置了云防火墙策略,当您启用 DDoS 原生防护(企业版)时,大模型应用防火墙的 EIP 将被替换为 DDoS 企业版关联的增强型防护 EIP。原有的云防火墙策略将不再生效。如需对新的 EIP 应用云防火墙防护,请重新配置相关策略。

    接入能力

    请求 Body 最大值

    可接收客户端请求正文的最大值。默认为 60 MB,支持配置 1~10240 MB。

    源站配置

    说明

    以下源站配置参数用于控制大模型应用防火墙与后端机器学习平台之间的连接行为,通常情况下保持默认值即可满足需求。

    建连超时时间

    大模型应用防火墙和后端服务器的建连超时时间,建议大于健康检查超时时间。默认为 4 秒,支持配置 4~120 秒。

    写连接超时时间

    大模型应用防火墙将请求传输给后端服务器的超时时间。默认为 60 秒,支持配置 30~3600 秒。

    读连接超时时间

    大模型应用防火墙从后端服务器读取响应的超时时间。默认为 60 秒,支持配置 30~3600 秒。

    回源长连接

    大模型应用防火墙回源时,长连接可复用的个数。默认为 100 个,支持配置 60~1000 个。

    回源重试

    大模型应用防火墙回源失败后,可重试的次数。默认为 3 次,支持配置 1~10 次。

    空闲长连接超时时间

    大模型应用防火墙与后端服务器建立请求的长连接空闲时间。默认为 15 秒,支持配置 1~60 秒。

  5. 单击提交
    站点添加成功后,页面会返回防护域名的大模型防护策略默认配置选项。你可以在此处快速配置,或者直接前往策略配置页面进行详细配置。策略配置详情请参见防护策略介绍
    Image

  6. 单击生效并返回网站列表,可查看添加的防护网站信息。
    Image

后续操作

  • 查看防护数据:您可以在首页查看安全防护数据,包括请求次数、防护次数,以及对应的请求趋势曲线图和攻击分布占比图。详情请参见查看安全概览信息
  • 分析攻击事件:如果有命中防护规则的请求或响应,大模型应用防火墙会在攻击详情列表生成对应的日志记录,便于您追溯和分析攻击事件。您可以根据攻击事件详情和防护数据,调整或新增防护规则使大模型应用防火墙的检测结果更符合您的业务场景。例如,对匹配非高危检测分类的请求内容仅做观察处理,而不直接拦截,以避免误报。详情请参见查看攻击事件详情