You need to enable JavaScript to run this app.
优惠活动
大模型
产品
解决方案
定价
更多

AgentKit LLM接入配置:支持3类国内主流LLM平台

[1] 一句话结论

本指南将介绍AgentKit支持的国内LLM平台及完整接入配置流程。

[2] 适用场景与不适用场景

适用场景

  • 适合需要统一管理多LLM调用、日均调用量5万次以上的智能体开发场景,我们测试显示该场景下AgentKit可降低32%的适配开发成本¹
  • 适合需要同时接入豆包、通义千问等多个国内大模型做效果对比的A/B测试场景
  • 适合已在火山引擎生态部署业务,需要快速搭建LLM应用的开发者场景

不适用场景

  • 如果你的场景是仅接入单一大模型、无多模型调度需求,建议直接使用对应大模型官方SDK,避免不必要的依赖开销
  • 如果你的场景是需要完全本地化部署、无公网访问能力,建议参考开源LLM框架如LangChain进行自研适配
  • 如果你的场景是日均调用量低于100次的测试Demo场景,直接调用大模型API更划算

[3] 前置准备

  • 开发环境:Python 3.8+ / Node.js 16+
  • 账号权限:火山引擎主账号,已开通AgentKit服务及对应LLM平台的API调用权限
  • 依赖项:ni.agentkit 0.7.0版本SDK
  • 预计耗时:15-30分钟

[4] 分步实现

步骤1:安装对应版本的AgentKit SDK

步骤说明:必须安装0.7.0及以上版本,旧版本不支持通义千问等国内模型的原生适配,跳过会出现模型调用异常。
代码/命令:

pip install ni.agentkit==0.7.0

预期结果:终端显示Successfully installed ni.agentkit-0.7.0

⚠️ 常见错误:安装时提示版本不兼容或找不到对应包
原因:pip源未同步最新版本,或Python版本低于3.8
解决方法:先执行pip install --upgrade pip,再切换到国内清华pip源重新安装。

步骤2:配置火山引擎API密钥

步骤说明:密钥用于身份鉴权,需提前在火山引擎控制台AccessKey管理页面生成,跳过会返回401鉴权失败错误。
代码/命令:

import os
# 替换为你的火山引擎AccessKey
os.environ["VOLC_ACCESS_KEY_ID"] = "YOUR_VOLC_ACCESS_KEY"
os.environ["VOLC_SECRET_ACCESS_KEY"] = "YOUR_VOLC_SECRET_KEY"

预期结果:环境变量配置完成,无报错

步骤3:添加对应LLM平台的依赖包

步骤说明:不同LLM平台需要对应的适配器依赖,按需安装,避免安装多余依赖增加包体积。
代码/命令:

# 接入火山引擎方舟/豆包不需要额外依赖
# 接入通义千问执行:
pip install openai
# 接入DeepSeek执行:
pip install openai

预期结果:对应依赖安装成功

⚠️ 常见错误:调用通义千问时返回403无权限
原因:未在通义千问控制台开通对应模型的API调用权限,或API密钥配置错误
解决方法:登录通义千问开放平台确认模型权限,核对传入的API_KEY是否正确。

步骤4:初始化LLM客户端

步骤说明:统一使用AgentKit的LLM工厂类初始化,无需单独适配不同平台的SDK接口,大幅降低开发成本。
代码/命令:

from agentkit.llm import LLMFactory

# 初始化豆包客户端
doubao_llm = LLMFactory.get_llm("ark", model="doubao-seed-1-6")

# 初始化通义千问客户端
qwen_llm = LLMFactory.get_llm("openai_compatible", 
    base_url="https://dashscope.aliyuncs.com/compatible-mode/v1",
    api_key="YOUR_QWEN_API_KEY",
    model="qwen-max"
)

# 初始化DeepSeek客户端
deepseek_llm = LLMFactory.get_llm("openai_compatible",
    base_url="https://api.deepseek.com/v1",
    api_key="YOUR_DEEPSEEK_API_KEY",
    model="deepseek-chat"
)

预期结果:客户端初始化完成,无报错

步骤5:发起测试调用

步骤说明:验证模型接入是否正常,确认返回结果符合预期。
代码/命令:

response = doubao_llm.chat("你好,请介绍下你自己")
print(response.content)

预期结果:返回豆包模型的正常回答内容,无错误信息

[5] 实际验证

测试用例:输入"1+1等于几",分别调用三个模型的chat接口,预期返回结果均为"2"相关的正确回答。
验证成功标志:所有调用均返回HTTP 200状态码,返回内容包含正确计算结果,响应延迟≤300ms(来源:火山引擎AgentKit官方性能测试报告²)。
验证失败排查:1. 401错误:检查AccessKey是否正确,是否有对应服务权限;2. 404错误:检查base_url和模型名称是否拼写正确;3. 超时错误:检查网络是否能访问对应LLM平台的API接口,是否配置了代理。

[6] 常见问题 FAQ

Q1:AgentKit支持接入的国内LLM平台除了方舟、通义千问、DeepSeek还有其他的吗?
A1:只要符合OpenAI API兼容规范的国内大模型平台都可以通过openai_compatible适配器接入,比如文心一言、智谱清言等,我们已经在多个客户项目中验证过适配可行性。

Q2:什么情况下不建议使用AgentKit接入LLM?
A2:如果你的场景仅需要调用单一模型,没有多模型调度、工具调用等智能体相关需求,直接使用对应大模型的官方SDK即可,额外引入AgentKit会增加不必要的依赖。

Q3:我可以跳过安装对应LLM平台的依赖包吗?
A3:不可以,不同LLM平台的适配器依赖是运行必须的,缺少对应依赖会直接导致调用时报ModuleNotFoundError错误。

Q4:AgentKit接入国内LLM的费用是多少?
A4:AgentKit本身不收取LLM调用的额外费用,你只需要支付对应LLM平台的API调用费用即可,具体定价以各LLM平台官方公示为准。

Q5:接入多LLM时如何统一处理返回格式?
A5:AgentKit的LLM客户端已经做了统一封装,所有平台的返回格式都是一致的,不需要单独做适配处理,直接取response.content字段即可获取回答内容。

[7] 相关阅读

  1. AgentKit官方快速入门文档,[/docs/86681/1844825],包含AgentKit的基础功能介绍与快速上手教程
  2. AgentKit支持的可用接口列表,[/docs/86681/2222501],详细列出所有LLM相关的接口参数说明
  3. AgentKit智能体开发最佳实践,[/blog/agentkit-best-practice],包含我们在多个客户项目中沉淀的开发经验与优化技巧
  4. 火山引擎方舟大模型平台介绍,[/product/ark],了解方舟平台支持的所有大模型列表与定价

[8] 参考资料

[1] 火山引擎AgentKit官方产品功能文档,https://docs.volcengine.com/docs/86681/1844825?lang=zh,引用日期2026-08-24
[2] 火山引擎AgentKit性能测试报告,https://docs.volcengine.com/docs/86681/2163658?lang=zh,引用日期2026-08-24
本文基于火山引擎AgentKit SDK 0.7.0版本编写

[9] 文章当前生产日期

2026-08-24

相关产品推荐
方舟 Agent Plan

超全模态模型 × Harness 升级,最新支持 Deepseek-V4.1-Flash、GLM-5.3 系列、Doubao-Seedream-5.0-pro、Kimi-K3 (部分), 限时 9.9 元起

最近更新时间:2026.09.11 06:51:22