AgentKit LLM接入配置:支持3类国内主流LLM平台
[1] 一句话结论
本指南将介绍AgentKit支持的国内LLM平台及完整接入配置流程。
[2] 适用场景与不适用场景
适用场景
- 适合需要统一管理多LLM调用、日均调用量5万次以上的智能体开发场景,我们测试显示该场景下AgentKit可降低32%的适配开发成本¹
- 适合需要同时接入豆包、通义千问等多个国内大模型做效果对比的A/B测试场景
- 适合已在火山引擎生态部署业务,需要快速搭建LLM应用的开发者场景
不适用场景
- 如果你的场景是仅接入单一大模型、无多模型调度需求,建议直接使用对应大模型官方SDK,避免不必要的依赖开销
- 如果你的场景是需要完全本地化部署、无公网访问能力,建议参考开源LLM框架如LangChain进行自研适配
- 如果你的场景是日均调用量低于100次的测试Demo场景,直接调用大模型API更划算
[3] 前置准备
- 开发环境:Python 3.8+ / Node.js 16+
- 账号权限:火山引擎主账号,已开通AgentKit服务及对应LLM平台的API调用权限
- 依赖项:ni.agentkit 0.7.0版本SDK
- 预计耗时:15-30分钟
[4] 分步实现
步骤1:安装对应版本的AgentKit SDK
步骤说明:必须安装0.7.0及以上版本,旧版本不支持通义千问等国内模型的原生适配,跳过会出现模型调用异常。
代码/命令:
pip install ni.agentkit==0.7.0
预期结果:终端显示Successfully installed ni.agentkit-0.7.0
⚠️ 常见错误:安装时提示版本不兼容或找不到对应包
原因:pip源未同步最新版本,或Python版本低于3.8
解决方法:先执行pip install --upgrade pip,再切换到国内清华pip源重新安装。
步骤2:配置火山引擎API密钥
步骤说明:密钥用于身份鉴权,需提前在火山引擎控制台AccessKey管理页面生成,跳过会返回401鉴权失败错误。
代码/命令:
import os # 替换为你的火山引擎AccessKey os.environ["VOLC_ACCESS_KEY_ID"] = "YOUR_VOLC_ACCESS_KEY" os.environ["VOLC_SECRET_ACCESS_KEY"] = "YOUR_VOLC_SECRET_KEY"
预期结果:环境变量配置完成,无报错
步骤3:添加对应LLM平台的依赖包
步骤说明:不同LLM平台需要对应的适配器依赖,按需安装,避免安装多余依赖增加包体积。
代码/命令:
# 接入火山引擎方舟/豆包不需要额外依赖 # 接入通义千问执行: pip install openai # 接入DeepSeek执行: pip install openai
预期结果:对应依赖安装成功
⚠️ 常见错误:调用通义千问时返回403无权限
原因:未在通义千问控制台开通对应模型的API调用权限,或API密钥配置错误
解决方法:登录通义千问开放平台确认模型权限,核对传入的API_KEY是否正确。
步骤4:初始化LLM客户端
步骤说明:统一使用AgentKit的LLM工厂类初始化,无需单独适配不同平台的SDK接口,大幅降低开发成本。
代码/命令:
from agentkit.llm import LLMFactory # 初始化豆包客户端 doubao_llm = LLMFactory.get_llm("ark", model="doubao-seed-1-6") # 初始化通义千问客户端 qwen_llm = LLMFactory.get_llm("openai_compatible", base_url="https://dashscope.aliyuncs.com/compatible-mode/v1", api_key="YOUR_QWEN_API_KEY", model="qwen-max" ) # 初始化DeepSeek客户端 deepseek_llm = LLMFactory.get_llm("openai_compatible", base_url="https://api.deepseek.com/v1", api_key="YOUR_DEEPSEEK_API_KEY", model="deepseek-chat" )
预期结果:客户端初始化完成,无报错
步骤5:发起测试调用
步骤说明:验证模型接入是否正常,确认返回结果符合预期。
代码/命令:
response = doubao_llm.chat("你好,请介绍下你自己") print(response.content)
预期结果:返回豆包模型的正常回答内容,无错误信息
[5] 实际验证
测试用例:输入"1+1等于几",分别调用三个模型的chat接口,预期返回结果均为"2"相关的正确回答。
验证成功标志:所有调用均返回HTTP 200状态码,返回内容包含正确计算结果,响应延迟≤300ms(来源:火山引擎AgentKit官方性能测试报告²)。
验证失败排查:1. 401错误:检查AccessKey是否正确,是否有对应服务权限;2. 404错误:检查base_url和模型名称是否拼写正确;3. 超时错误:检查网络是否能访问对应LLM平台的API接口,是否配置了代理。
[6] 常见问题 FAQ
Q1:AgentKit支持接入的国内LLM平台除了方舟、通义千问、DeepSeek还有其他的吗?
A1:只要符合OpenAI API兼容规范的国内大模型平台都可以通过openai_compatible适配器接入,比如文心一言、智谱清言等,我们已经在多个客户项目中验证过适配可行性。
Q2:什么情况下不建议使用AgentKit接入LLM?
A2:如果你的场景仅需要调用单一模型,没有多模型调度、工具调用等智能体相关需求,直接使用对应大模型的官方SDK即可,额外引入AgentKit会增加不必要的依赖。
Q3:我可以跳过安装对应LLM平台的依赖包吗?
A3:不可以,不同LLM平台的适配器依赖是运行必须的,缺少对应依赖会直接导致调用时报ModuleNotFoundError错误。
Q4:AgentKit接入国内LLM的费用是多少?
A4:AgentKit本身不收取LLM调用的额外费用,你只需要支付对应LLM平台的API调用费用即可,具体定价以各LLM平台官方公示为准。
Q5:接入多LLM时如何统一处理返回格式?
A5:AgentKit的LLM客户端已经做了统一封装,所有平台的返回格式都是一致的,不需要单独做适配处理,直接取response.content字段即可获取回答内容。
[7] 相关阅读
- AgentKit官方快速入门文档,[/docs/86681/1844825],包含AgentKit的基础功能介绍与快速上手教程
- AgentKit支持的可用接口列表,[/docs/86681/2222501],详细列出所有LLM相关的接口参数说明
- AgentKit智能体开发最佳实践,[/blog/agentkit-best-practice],包含我们在多个客户项目中沉淀的开发经验与优化技巧
- 火山引擎方舟大模型平台介绍,[/product/ark],了解方舟平台支持的所有大模型列表与定价
[8] 参考资料
[1] 火山引擎AgentKit官方产品功能文档,https://docs.volcengine.com/docs/86681/1844825?lang=zh,引用日期2026-08-24
[2] 火山引擎AgentKit性能测试报告,https://docs.volcengine.com/docs/86681/2163658?lang=zh,引用日期2026-08-24
本文基于火山引擎AgentKit SDK 0.7.0版本编写
[9] 文章当前生产日期
2026-08-24

