You need to enable JavaScript to run this app.
导航
加速基于函数服务的Serverless AI应用
最近更新时间:2025.10.21 20:29:36首次发布时间:2025.10.21 20:29:36
复制全文
我的收藏
有用
有用
无用
无用

方案概述

火山引擎函数服务提供一系列应用模板方便您快速搭建 Serverless AI 应用。针对这一使用场景,全站加速提供了快速部署的加速方案,方便为这一类 Serverless 应用开启加速,降低用户访问应用时的网络延时。
该解决方案具有以下优势:

  • 您无需专门购买、配置域名。该解决方案为您提供系统默认的域名可以直接使用。
  • 您无需为 HTTPS 服务配置 SSL 证书。该解决方案为您自动配置好与域名相兼容的 SSL 证书。
  • 利用全站加速对 SSE(Server-Sent Events)协议和 WebSocket 协议的支持,您可以为流式响应方式的 API 进行加速。
  • 您无需支付函数服务的公网 IP 出流量费用。

说明

您的加速域名直接与函数服务通过内网对接,您无需支付 API 网关的费用。

Demo 场景介绍

本文中后续操作将围绕以下场景:

  • 您使用函数服务快速创建了一个 Browser Use Agent 应用。
  • 您希望用户通过全站加速的加速域名访问该应用,享用更好的传输性能。

前置条件

您已开通火山引擎函数服务,以及 Serverless AI 应用所依赖的服务,例如:API 网关、火山方舟。

操作步骤

步骤一:创建 Serverless AI 应用

  1. 登录火山引擎函数服务控制台

  2. 在顶部导航栏,选择目标地域为 华北2(北京)

  3. 在左侧导航栏,点击 应用 > 应用广场

  4. AI 云原生 分类下,找到 Browser Use Agent 模板,然后点击模板中的 创建应用

  5. 创建应用 页面,配置应用参数。

    基础信息:

    配置项说明
    名称您可以直接使用系统自动生成的应用名称或指定名称。

    IAM 角色

    应用中心提供了系统默认角色 ServerlessApplicationRole,该角色包含了应用中心需要访问的部分云资源权限。

    • 如果您的用户角色未包含此角色,将会自动添加该角色。

    • 如果您的用户角色已包含此角色,系统会自动检测该角色是否已包含当前应用需要的所有策略。当缺少相关策略时,控制台会提示需要添加的策略名称,请单击 添加策略 进行添加。

    注意

    • IAM 用户需确保已授权 IAMReadOnlyAccess 策略,否则无权限获取 ServerlessApplicationRole 角色信息。

    • IAM 用户如需进一步为 ServerlessApplicationRole 角色添加策略,需确保已授权 IAMFullAccess 策略。

    • 更多 IAM 用户的角色相关操作,请参见 IAM 文档

    资源配置:

    配置组配置项说明

    大模型配置

    模型资源 API Key

    用于代码生成服务的资源 API Key。支持从当前账号下已有的 API Key 列表中选择,也可以自定义输入 API Key。有关如何获取 API Key,请参见 API Key 管理
    模型资源 API Key 对应的环境变量 Key(Env key)为:ARK_API_KEY。创建完应用后,您可以通过 ARK_API_KEY 查看或修改模型资源 API Key。

    驱动检索模型

    火山方舟大模型的模型 ID,如 doubao-seed-1-6-flash-250828。有关如何获取模型 ID,请参见 获取 Model ID
    驱动检索模型 对应的 Env key 为:ARK_MODEL_ID。创建完应用后,您可以通过 ARK_MODEL_ID 查看或修改 驱动检索模型

    抽取内容模型

    用于抽取浏览器内容的火山方舟大模型的接入点 ID。根据实际需求选择 预置推理接入点自定义推理接入点。更多说明,请参见 通过 Endpoint ID 调用模型
    抽取内容模型 对应的 Env key 为:ARK_EXTRACT_MODEL_ID。创建完应用后,您可以通过 ARK_EXTRACT_MODEL_ID 查看或修改 抽取内容模型

    Agent 配置函数名称您可以直接使用系统自动生成的函数名称或指定名称。
    访问配置网关实例系统默认选择该地域的 Serverless 实例,您无需更改。

  6. 勾选复选框确认知晓相关风险,然后点击 确定。开始创建和部署应用。

  7. 系统将自动跳转至 应用详情 页面并开始应用部署,等待应用状态变为 部署成功

  8. 关联云资源 板块,您点击 函数 标签页,可以发现系统自动创建了两个函数,分别用于实现前端、后端。

步骤二:为 Serverless AI 应用添加加速域名

  1. 登录全站加速控制台
  2. 在左侧导航栏中,点击 域名管理
  3. 点击 添加域名
  4. 添加域名 页面,选择 AI 场景加速
  5. 按您实际客户端所在的区域,设置 加速区域。配置加速域名的其他基础配置,然后点击 下一步
  6. 源站地址 选项中,选择 AI 应用,然后选择 Serverless AI 应用
  7. 加速域名 选项中,设置自定义域名前缀。系统已为您提供固定的根域名 speedifyvolcai.com,并且自动生成了一个随机字符串和您的自定义域名前缀合在一起成为加速域名的子域名。该前缀只能包含字母、数字和连字符-,且不能以连字符-开头或结尾。允许长度 1~49 字符。例如:browseruseagent
  8. 区域 列表中,选择函数所在的区域,然后点击 添加 Serverless AI 实例
  9. 然后在 函数实例 列,选择您在“步骤一”中创建的Serverless AI应用所对应的函数,然后点击 下一步

    说明

    函数服务会为您的 Serverless AI 应用创建两个函数。如您希望直接访问应用的前端页面,则选择名称以 -web 结尾的函数。

  10. 系统默认会开启 WebSocket 协议和 HTTPS 服务,并且不能取消选择。点击 完成配置
  11. 等待加速域名配置完成后,您可以直接用该域名访问您的函数。例如:browseruseagentXXXXXXXXX.speedifyvolcai.com

步骤三:测试通过加速域名访问 Serverless AI 应用

  1. 在浏览器地址栏直接输入加速域名,访问该地址。
  2. 当应用页面打开后,在对话框中尝试输入任务提示词,例如: