You need to enable JavaScript to run this app.
导航
将火山引擎方舟业务接入大模型应用防火墙
最近更新时间:2025.09.25 21:57:18首次发布时间:2025.09.16 23:14:51
复制全文
我的收藏
有用
有用
无用
无用

火山引擎方舟平台提供模型数据、精调、推理、评测等端到端功能,全方位保障您的 AI 应用开发落地。如果您的业务部署在方舟平台,大模型应用防火墙可以根据方舟应用 API Key 访问您的业务,并将业务流量牵引至防护接入点进行检测防护,解决大模型应用面临的恶意攻击、敏感数据泄露、算力滥用等问题,保障业务安全稳定运行。
本文介绍将火山引擎方舟业务接入大模型应用防火墙的具体操作步骤。

接入后的请求过程

接入大模型应用防火墙后,业务流量的处理流程如下:

  • 请求阶段:客户端发起的业务请求首先会经过大模型应用防火墙的安全检测,检测通过后才会转发至方舟平台的服务端进行处理。
  • 响应阶段:服务端生成的响应内容同样需要经过大模型应用防火墙的安全检测,检测完成后才会返回给客户端。

完整的请求响应流程如下图所示:
Image

前提条件

您的业务已经接入方舟平台,相关操作请参见方舟平台快速入门

步骤一 获取方舟应用 API Key

API Key 是您请求火山方舟大模型服务的凭证,因此您需要先获取方舟服务的 API Key,再将其提供给大模型应用防火墙服务,实现业务与大模型应用防火墙的交互。

  1. 登录方舟平台控制台
  2. 在顶栏选择实例所属地域。
  3. 在左侧导航栏,选择系统管理 > API Key 管理
  4. 在 API Key 列表中选择具备权限的 API Key,单击 API Key 右侧的查看图标。
    Image
  5. 复制 API Key。
    该 API Key 将在步骤二 配置接入参数使用,以实现业务与大模型应用防火墙的交互。

步骤二 配置接入参数

获取方舟 API Key 后,您只需要简单配置,就可以将业务接入大模型应用防火墙服务进行防护了。

  1. 登录大模型应用防火墙控制台
  2. 在顶栏选择实例所属地域。
  3. 在左侧导航选择资产管理,然后单击添加域名
  4. 选择接入方式为方舟平台与机器学习平台,配置相关参数。
    1. 设置平台类型为方舟平台
    2. 输入步骤一中获取的方舟应用 API Key。
    3. 其他参数若无特殊需要可保持默认配置,详细的参数配置说明可参见通过方舟平台接入
      Image
  5. 单击提交,平台返回生成的大模型应用防火墙接入点域名。
    该域名将用于替代方舟应用的访问域名,用户通过该域名访问方舟应用。
    Image

步骤三 配置防护策略

平台将在配置完成后的返回页面展示防护策略的默认配置,且配置为开启状态。

  • 如无需修改,您可以直接提交当前配置,完成控制台部分的接入操作。
  • 如需修改,可直接在当前页面调整相关配置。修改并确认后的结果将作为下一次接入的默认配置。

对应策略的详细介绍和配置说明可参见防护策略介绍
Image

步骤四 替换方舟访问路径

将方舟 SDK 初始化配置中的访问路径替换为步骤二 配置接入参数中获取的接入点域名,调用 SDK 时就可以将流量转发至大模型应用防火墙实现防护。
以方舟 Python SDK 为例,将以下初始化配置中的base_url设置为<大模型应用防火墙接入点域名>/api/v3

import os
from volcenginesdkarkruntime import Ark
client = Ark(
    api_key=os.environ.get("ARK_API_KEY"), # 方舟的 API Key,例如:5b25f2d5-466d-4017-a864-304d99cf****
    base_url="a00d4f9ab2dbc92d564ed6644cdb****.access.omni-shield.volces.com/api/v3"  # 将方舟访问路径设置为<大模型应用防火墙接入点域名>/api/v3

替换完成后,部署于方舟的应用将自动受大模型应用防火墙保护。大模型应用防火墙会依据已配置的策略,对所有相关请求进行实时检测并返回结果。

后续操作

  • 查看防护数据:您可以在首页查看安全防护数据,包括请求次数、防护次数,以及对应的请求趋势曲线图和攻击分布占比图。详情请参见查看安全概览信息
  • 分析攻击事件:如果有命中防护规则的请求或响应,大模型应用防火墙会在攻击详情列表生成对应的日志记录,便于您追溯和分析攻击事件。您可以根据攻击事件详情和防护数据,调整或新增防护规则使大模型应用防火墙的检测结果更符合您的业务场景。例如,对匹配非高危检测分类的请求内容仅做观察处理,而不直接拦截,以避免误报。详情请参见查看攻击事件详情