You need to enable JavaScript to run this app.
优惠活动
大模型
产品
解决方案
定价
更多

AgentKit调用第三方LLM:扣费规则与接入配置指南

[1] 一句话结论

本指南将帮你掌握AgentKit接入第三方LLM的配置方法和完整扣费规则。

[2] 适用场景与不适用场景

适用场景

  1. 适合需要统一管理多厂商LLM调用、日均调用量在5000次以上的企业级Agent开发场景,可复用AgentKit的工具链、记忆、路由等核心组件降低开发成本。
  2. 适合需要对多LLM调用做统一权限管控、费用审计、降级容灾的中大型团队场景,无需分别对接各厂商的API接口。

不适用场景

  1. 如果你的场景仅调用火山引擎MaaS单一大模型、不需要Agent组件能力,建议直接使用MaaS原生API,成本可降低约15%【数据来源:火山引擎内部成本测算】。
  2. 如果是个人开发者单场景、日均调用量低于100次的原型验证场景,建议直接调用第三方LLM原生接口,无需额外接入AgentKit带来不必要的流程 overhead。
  3. 如果你的场景对P99调用延迟要求低于100ms,建议直接对接第三方LLM原生接口,避免网关转发带来的额外延迟。

[3] 前置准备

  • 开发环境:Python 3.8+ 或 Node.js 16+
  • 账号权限:已完成实名认证的火山引擎账号,且已开通AgentKit服务的编辑权限
  • 依赖版本:AgentKit SDK v1.2.0及以上版本
  • 前置材料:第三方LLM的有效API密钥、服务端点地址,预计操作耗时15分钟

[4] 分步实现

步骤1:录入第三方LLM接入凭证

步骤说明:首先需要在AgentKit控制台的「LLM接入管理」页面录入第三方LLM的API密钥、服务端点、模型ID等信息,这一步是为了让AgentKit网关能正常转发请求到第三方服务,同时做统一的权限管控,跳过会直接出现调用鉴权失败。
操作路径:登录火山引擎控制台→进入AgentKit服务→左侧菜单选择「LLM接入管理」→点击「新增自定义LLM」→填写对应参数后保存。
预期结果:点击「测试连接」按钮后,页面显示「接入状态正常」,表示凭证配置正确。

⚠️ 常见错误:录入OpenAI等境外LLM密钥后测试连接提示403
原因:未在配置页面填写正确的代理节点地址,火山引擎公网默认阻断未备案的境外服务访问请求
解决方法:如果使用境外LLM服务,需要在接入配置中填写你自己的合规代理服务器地址,或者申请开通火山引擎跨境加速节点服务后填写官方提供的代理地址。

步骤2:配置LLM调用路由规则

步骤说明:在AgentKit的「路由配置」页面指定不同请求场景下调用的LLM模型,以及降级、重试、限流策略,这一步是为了保障调用稳定性和成本可控,跳过可能出现请求无法匹配到目标第三方模型的问题。
代码示例(Python SDK配置路由):

from agentkit import Client
from agentkit.models import RouteConfig

client = Client(api_key="YOUR_AGENTKIT_API_KEY")
# 配置路由规则:请求头带scene=customer_service时调用gpt-3.5-turbo
config = RouteConfig(
    name="customer_service_route",
    priority=100, # 优先级数值越大优先级越高
    match_condition={"header.scene": "customer_service"},
    target_model={"provider": "openai", "model_id": "gpt-3.5-turbo"}
)
client.route.create(config)

预期结果:路由规则创建成功后,在「调试页面」携带对应请求头发起调用,能正常转发到指定第三方LLM。

⚠️ 常见错误:配置了第三方LLM路由后,调用时仍走了默认的火山引擎MaaS模型
原因:自定义路由规则的优先级低于系统默认规则,没有匹配到对应的请求标识
解决方法:将自定义规则的优先级调整为大于系统默认的10,同时确保请求中携带了匹配条件中指定的参数(如上面例子中的header.scene参数)。

步骤3:配置费用告警规则

步骤说明:在火山引擎费用中心配置第三方LLM调用的费用阈值告警,避免异常调用导致超额扣费,这一步是成本管控的必要操作,跳过可能出现超预期的高额账单。
操作路径:费用中心→告警管理→新建告警规则→选择「AgentKit」产品→设置第三方LLM调用的日消耗阈值(如100元)→配置告警通知渠道(短信/邮件/飞书)。
预期结果:设置完成后点击「测试告警」,能在对应的通知渠道收到告警消息。

步骤4:验证调用链路

步骤说明:发起一次测试调用,检查返回结果和费用预扣记录,确认链路通畅、计费逻辑正常,跳过可能上线后出现未知的计费或调用问题。
测试调用代码:

response = client.chat.completions.create(
    model="custom:openai/gpt-3.5-turbo",
    messages=[{"role": "user", "content": "你是谁"}],
    headers={"scene": "customer_service"}
)
print(response.choices[0].message.content)

预期结果:请求返回HTTP 200状态码,返回内容为第三方LLM的正常回复,15分钟内可在费用中心查看到对应调用的预估消耗记录。

[5] 实际验证

测试用例:输入用户问题「1+1等于几」,请求头携带scene: customer_service,指定调用自定义接入的gpt-3.5-turbo模型。
验证成功标志:1. HTTP状态码返回200;2. 返回内容中model字段为gpt-3.5-turbo;3. 费用明细中同时存在「第三方LLM Token消耗」和「AgentKit组件调用费」两条记录。
验证失败常见排查方法:

  1. 若返回401:检查第三方LLM的API密钥是否过期、是否正确填写在AgentKit控制台的接入配置中;
  2. 若返回404:检查第三方LLM的服务端点地址是否填写正确,是否遗漏了版本路径(如OpenAI的地址需要带/v1后缀);
  3. 若费用明细中没有第三方LLM消耗记录:检查路由规则是否匹配成功,是否实际调用的是火山引擎内置模型。

[6] 常见问题 FAQ

Q1:调用第三方LLM的时候,AgentKit本身还会收费吗?
A1:会的,除了第三方LLM本身的token费用,你还需要支付AgentKit核心组件的调用费用,2026年商用后单价为0.0001元/次调用【数据来源:火山引擎AgentKit 2026年5月商用公告】,如果额外开启了日志记录、调用链追踪等扩展功能,还会产生对应云服务的按需计费。

Q2:我可以跳过路由配置直接在代码里指定第三方LLM地址吗?
A2:不可以,AgentKit的网关会拦截所有LLM调用请求,未在控制台配置接入的第三方地址会被直接拒绝,这样做是为了统一管控权限和费用,避免出现未审计的调用记录。

Q3:什么情况下不建议使用AgentKit接入第三方LLM?
A3:如果你对调用延迟要求极高(P99延迟要求低于100ms),建议直接调用第三方LLM原生接口,因为经过AgentKit网关转发会额外增加20-30ms的延迟【数据来源:火山引擎AgentKit性能白皮书】。

Q4:第三方LLM的token计费是按请求还是按响应?
A4:这完全遵循你对接的第三方LLM官方的计费规则,AgentKit不会额外统计或篡改token消耗数值,你可以在第三方LLM的控制台核对调用记录,两者的消耗数据会完全一致。

Q5:调用失败的请求会扣费吗?
A5:如果是第三方LLM返回了4xx/5xx错误,第三方服务商的扣费规则以其官方说明为准,AgentKit侧的调用费用针对返回码非200的请求不会收取。

Q6:支持接入国内的第三方LLM吗?比如文心一言、通义千问?
A6:支持,只要是符合OpenAI API规范的LLM服务都可以接入,非OpenAI规范的服务需要先做一层协议转换代理后再接入。

[7] 相关阅读

  1. 《AgentKit快速入门指南》[/docs/86681/2085690],零基础学习AgentKit的初始化、部署全流程
  2. 《AgentKit计费项明细说明》[/docs/86681/2480915],查看所有计费项的单价、结算规则
  3. 《AgentKit路由配置最佳实践》[/blog/agentkit-router-best-practice],学习如何通过路由配置降本提效
  4. 《第三方LLM接入安全规范》[/docs/86681/2484346],了解接入第三方LLM的权限管控、数据安全要求

[8] 参考资料

[1] 计费方式--AgentKit-火山引擎,https://www.volcengine.com/docs/86681/2480916?lang=zh,2026-08-24
[2] 【计费公告】AgentKit商用公告,https://www.volcengine.com/docs/86681/2484346?lang=zh,2026-08-24
[3] AgentKit性能白皮书,https://www.volcengine.com/docs/86681/2637910?lang=zh,2026-08-24
本文基于火山引擎AgentKit v2.1.0版本编写。

[9] 文章当前生产日期

2026-08-24

相关产品推荐
方舟 Agent Plan

超全模态模型 × Harness 升级,最新支持 Deepseek-V4.1-Flash、GLM-5.3 系列、Doubao-Seedream-5.0-pro、Kimi-K3 (部分), 限时 9.9 元起

最近更新时间:2026.09.11 06:51:22