在实时对话式 AI 场景中，你需要配置大模型（LLM）能力，解析用户输入，生成智能回复，管理上下文等。RTC 提供一站式接入方案，只需在 StartVoiceChat接口配置 LLMConfig 即可完成大模型接入。本文将详细介绍不同平台的配置参数、注意事项及适用场景，帮助你根据需求选择合适的大模型方案。

火山引擎提供三种大模型接入平台，分别适用于不同场景：

• 火山方舟平台：适用于需要调用火山引擎官方基础模型（如 Doubao、DeepSeek 等）或使用应用实验室功能（零代码组合插件）的场景，支持视觉理解、Function Calling 等高级能力。
• Coze 平台：适用于快速搭建零代码/低代码 AI 应用的场景。
• 第三方大模型：适用于需要集成自有大模型或特定第三方服务（如开源大模型、垂直领域专用模型）的定制化场景。

火山方舟平台

火山方舟平台是火山引擎提供的大模型服务平台，支持直接调用多种火山引擎部署的基础模型（如 Doubao、DeepSeek 等）或应用实验室功能（如零代码组合插件调用大模型）。该平台模型除支持基本文字处理能力外，还支持视觉理解能力和 Function Calling 功能。

核心配置参数

使用火山方舟平台时，StartVoiceChat.LLMConfig 结构核心配置参数如下：

完整参数及说明可参看 StartVoiceChat 接口。

请求示例代码

你可参看以下示例，使用火山方舟平台通过自定义推理接入点进行大模型调用：

{
    "LLMConfig": {
        "Mode": "ArkV3",
        "EndPointId": "epid****212",
        "MaxTokens": 1024,
        "Temperature": 0.1,
        "TopP": 0.3,
        "SystemMessages": [
            "你是小宁，性格幽默又善解人意。你在表达时需简明扼要，有自己的观点。"
        ],
        "UserPrompts": [
            {
                "Role": "user",
                "Content": "你好"
            },
            {
                "Role": "assistant",
                "Content": "有什么可以帮到你的？"
            }
        ],
        "HistoryLength": 3,
        "Tools": [
            {
                "Type": "function",
                "function": {
                    "name": "get_current_weather",
                    "description": "获取给定地点的天气",
                    "parameters": {
                        "type": "object",
                        "properties": {
                            "location": {
                                "type": "string",
                                "description": "地理位置，比如北京市"
                            },
                            "unit": {
                                "type": "string",
                                "description": "",
                                "enum": [
                                    "摄氏度",
                                    "华氏度"
                                ]
                            }
                        },
                        "required": [
                            "location"
                        ]
                    }
                }
            }
        ]
    }
            "FunctionCallingConfig": {
                "ServerMessageUrl": "https://example-domain.com/vertc/fc",
                "ServerMessageSignature": "b46a****8ad6a",
    }
}

注意事项

EndPointId 与 BotId 区别

EndPointId 与 BotId 使用场景不同：
EndPointId：在需要使用模型推理功能（如直接调用部署的基础模型）时，填入 EndPointId。且仅支持自定义推理接入点，不支持预置推理接入点。
BotId：在需要使用应用实验室功能（如零代码组合插件调用大模型）时，填入 BotId。且创建应用时仅支持使用自定义推理接入点，不支持预置推理接入点。

对话上下文管理

使用火山方舟平台时，模型对话上下文生成逻辑由系统提示词（SystemMessages）、用户提示词（UserPrompts 和 UserMessages）和
历史问题轮数（HistoryLength）共同控制。具体参看火山方舟上下文管理机制。

Function Calling 功能

使用 Function Calling 功能允许大模型识别用户对话中的特定需求，智能调用外部函数、API 等工具来执行它自身无法独立完成的任务，如处理实时数据检索、文件处理、数据库查询等。该功能不支持与联网插件、知识库插件同时开启。该功能详细说明参看Function Calling 功能说明文档。
推荐使用 doubao-1.5 代系模型或 DeepSeek 模型，可更快收到返回结果。

视觉理解能力

仅在使用 EndPointId 调用 Doubao 大模型时支持使用视觉理解能力，且创建自定义推理接入点时需选择 vision 系列模型，如 Doubao-vision-pro-32k。该功能详细说明参看视觉理解能力说明文档。

Coze 平台

Coze 平台是 AI Agent 开发平台。支持零代码/低代码快速搭建基于大模型的各类 AI 应用。

核心配置参数

使用 Coze 平台时，StartVoiceChat.LLMConfig 结构核心配置参数如下：

完整参数及说明可参看 StartVoiceChat 接口。

请求示例代码

你可参看以下示例，使用Coze 平台进行大模型调用：

{
    "LLMConfig": {
        "Mode": "CozeBot",
        "CozeBotConfig": {
            "Url": "https://api.coze.cn",
            "BotId": "73****68",
            "APIKey": "czu_UEE2mJn6****MHxLCVv9uQ7H",
            "UserId": "123",
            "HistoryLength": 3,
            "Prefill": false,
            "EnableConversation": false
        }
    }
}

注意事项

智能体发布

在使用 BotId 调用 Coze 智能体前，该智能体必须发布为 API。发布操作可参看发布智能体为 API 服务。

访问密钥

你可以生成个人访问令牌以供测试。线上环境注意替换为 OAuth 访问密钥。你可根据不同的使用场景，选择不同的 OAuth 授权方式，详情参考 OAuth 应用管理。

上下文管理

你可选择将上下文管理交由 Coze 平台管理，或由 RTC 管理。

• RTC 管理：
  EnableConversation 为 false 时，上下文由 RTC 管理，默认配置。
• Coze 平台管理：
  EnableConversation 为 true 时，上下文由 Coze 管理。此时你可以使用 Coze 平台上下文管理相关功能，如将指定内容添加到会话中。

不同平台管理上下文时控制参数不同，具体参看 Coze 平台上下文管理机制。

能力限制

以下 Coze 能力， RTC 对话式 AI 场景下暂不支持：

• 视觉理解能力
• Function Calling 功能
• 端插件能力
• 动态变量能力

如需使用以上能力，可使用 Coze 服务端 + RTC SDK 方案。

降低请求时延

在输入请求地址时，可使用 https://bot-open-api.bytedance.net内网域名，时延更小更稳定。

第三方大模型/Agent

火山引擎支持接入第三方大模型或 Agent，以满足需要集成自有大模型或特定第三方服务的场景。