具备深度思考能力的模型可高效处理复杂任务。模型在输出回答前，先对输入问题进行系统性分析和逻辑拆解，再基于拆解结果生成回答，确保内容全面且有深度。 :::tip 方舟平台的新用户？获取 API Key 及开通模型等准备工作，请参见 [快速入门](/docs/82379/1399008)。 ::: ## 支持模型 250615及之后版本的大语言模型，如无特殊说明，默认支持 Responses API，具体请参见[深度思考能力](/docs/82379/1330310#898d064d)。 ## API文档 [Responses API](https://www.volcengine.com/docs/82379/1569618) ## 流式输出深度思考模型在回复前需进行思考，在非流式输出场景中容易因超时导致任务失败，推荐使用流式输出。 :::tip 若应用是非流式输出场景，建议先以流式输出方式获取完整内容后再输出，这样既能避免任务超时失败，又能满足应用的输出需求。 ::: ```mixin-react return ( \{ if (event instanceof ReasoningSummaryTextDeltaEvent) \{ System.out.print(((ReasoningSummaryTextDeltaEvent) event).getDelta()); \} if (event instanceof OutputItemAddedEvent) \{ System.out.println("OutputItem " + (((OutputItemAddedEvent) event).getItem().getType()) + " Start: "); \} if (event instanceof OutputTextDeltaEvent) \{ System.out.print(((OutputTextDeltaEvent) event).getDelta()); \} if (event instanceof OutputTextDoneEvent) \{ System.out.println("OutputText End."); \} if (event instanceof OutputItemDoneEvent) \{ System.out.println("OutputItem " + ((OutputItemDoneEvent) event).getItem().getType() + " End."); \} if (event instanceof FunctionCallArgumentsDoneEvent) \{ System.out.println("FunctionCall Arguments: " + ((FunctionCallArgumentsDoneEvent) event).getArguments()); \} if (event instanceof ResponseCompletedEvent) \{ System.out.println("Response Completed. Usage = " + ((ResponseCompletedEvent) event).getResponse().getUsage()); \} \}); arkService.shutdownExecutor(); \} \} \`\`\` 输出示例： \`\`\`JSON OutputItem reasoning Start: 用户问常见的十字花科植物有哪些，首先我得回忆一下十字花科的主要特征，比如十字形花冠、四强雄蕊这些，但用户可能不需要特征，直接要例子。首先想到的是蔬菜类，因为很多日常吃的蔬菜都是十字花科的。 ... OutputItem message Start: 十字花科植物种类丰富，其中很多是日常常见的蔬菜、观赏植物或野菜，以下是一些典型例子： ... 这些植物在饮食、农业或景观中都很常见，你平时吃的蔬菜里大概率就有它们的身影！ 🌱🥦🥬OutputText End. OutputItem message End. Response Completed. Usage = Usage\{inputTokens=42, outputTokens=759, totalTokens=801, inputTokensDetails=InputTokensDetails\{cachedTokens=0\}, outputTokensDetails=com.volcengine.ark.runtime.model.responses.usage.OutputTokensDetails@73d983ea, toolUsage=null, toolUsageDetails=null\} \`\`\` `}> ); ``` ## 控制深度思考通过 **thinking** 字段控制是否关闭深度思考能力。 * `enabled`：强制开启，强制开启深度思考能力。 * `disabled`：强制关闭深度思考能力。 * `auto`：模型自行判断是否进行深度思考。支持Responses API 中 **thinking** 字段来控制深度思考的模型如下： * doubao\-seed\-2\-0\-lite\-260428：支持 `enabled`（默认）、`disabled`。 * doubao\-seed\-2\-0\-mini\-260428：支持 `enabled`（默认）、`disabled`。 * doubao\-seed\-2\-0\-pro\-260215：支持 `enabled`（默认）、`disabled`。 * doubao\-seed\-2\-0\-lite\-260215：支持 `enabled`（默认）、`disabled`。 * doubao\-seed\-2\-0\-mini\-260215：支持 `enabled`（默认）、`disabled`。 * doubao\-seed\-2\-0\-code\-preview\-260215：支持 `enabled`（默认）、`disabled`。 * doubao\-seed\-1\-8\-251228：支持 `enabled`（默认）、`disabled`。 * glm\-4\-7\-251222：支持`enabled`（默认）、`disabled`。 * deepseek\-v3\-2\-251201：支持 `enabled`、`disabled`（默认）。 * doubao\-seed\-code\-preview\-251028：支持 `enabled`（默认）、`disabled`。 * doubao\-seed\-1\-6\-vision\-250815：支持 `enabled`（默认）、`disabled`。 * doubao\-seed\-1\-6\-lite\-251015：支持 `enabled`（默认）、`disabled`。 * doubao\-seed\-1\-6\-250615：支持 `enabled`（默认）、`disabled`、`auto`。 * doubao\-seed\-1\-6\-251015：支持 `enabled`（默认）、`disabled`。 * doubao\-seed\-1\-6\-flash\-250828：支持 `enabled`（默认）、`disabled`。 * doubao\-seed\-1\-6\-flash\-250615：支持 `enabled`（默认）、`disabled`。 * deepseek\-v3\-1\-terminus：支持 `enabled`、`disabled`（默认）。 ```mixin-react return ( ); ``` ## 输出思考内容摘要 ### 支持模型 * doubao\-seed\-2\-0\-lite\-260428 ### 使用说明默认会开启 thinking summary 能力，不会输出模型原始的思考内容，会返回模型思考内容摘要。 :::tip 默认开启 thinking summary 能力后，可能会有较高的包间延迟，请调大请求超时时间（**timeout**），并做好兼容适配。 ::: 字段说明： * **reasoning.effort**：仅作用于模型的原始思考内容，不适用于思考摘要。 * **usage.output_tokens_details.reasoning_tokens**：为原始思考内容的 tokens，计费仍然按原始思考内容 token 计算。 ### 输出思考内容加密原文开启深度思考后，支持输出思考内容加密原文字段 **encrypted_content**：需要在 **include** 参数中指定 `reasoning.encrypted_content` 时，才会在生成响应时返回该字段。示例如下： ```Bash curl https://ark.cn-beijing.volces.com/api/v3/responses \ -H "Authorization: Bearer $ARK_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "", "input": "推理模型与非推理模型区别。", "thinking":{"type": "enabled"}, "include":["reasoning.encrypted_content"] }' ``` ### 回传思考内容在工具调用场景，需要回传思考内容，支持的回传方式如下。回传思考内容示例参见[回传思考内容加密原文](/docs/82379/1449737#8cfd447b)。 * **previous_responses_id**（推荐）：自动获取原始思考内容并回传给模型参与推理。 * 手动回传 **encrypted_content**：按接收到的完整格式回传思考内容，被篡改后则无法还原思考内容。 ## 调节思考长度通过**reasoning.effort**调节思考长度，支持`minimal`、`low`、`medium`（默认值）、`high`四种模式，平衡不同场景对效果、时延、成本的需求。 * `minimal`：关闭思考，直接回答。 * `low`：轻量思考，侧重快速响应。 * `medium`（默认值）：均衡模式，兼顾速度与深度。 * `high`：深度分析，处理复杂问题。关于**thinking.type**、**reasoning.effort**的使用说明如下： * **thinking.type**取值为`enabled`：支持配置**reasoning.effort**。当**reasoning.effort**取值为`minimal`时，则关闭思考，直接回答。 * **thinking.type**取值为`disabled`：**reasoning.effort**仅支持取值`minimal`。当**reasoning.effort**取值为`low`、`medium`、`high`时会报错。支持模型： * doubao\-seed\-2\-0\-lite\-260428 * doubao\-seed\-2\-0\-mini\-260428 * doubao\-seed\-2\-0\-pro\-260215 * doubao\-seed\-2\-0\-lite\-260215 * doubao\-seed\-2\-0\-mini\-260215 * doubao\-seed\-2\-0\-code\-preview\-260215 * doubao\-seed\-1\-8\-251228 * doubao\-seed\-1\-6\-lite\-251015 * doubao\-seed\-1\-6\-251015 ```mixin-react return ( ); ``` ## 设置最大输出长度模型输出长度 = 思维链长度（如果有） + 回答长度通过设置 **max_output_tokens** 字段调整模型输出长度，达到控制成本或输出指定篇幅的目的。 ```mixin-react return ( ); ``` ## 工作原理 * 多轮对话场景 |流程图 |说明 | |---|---| |

|* 在每一轮对话过程中，深度思考模型会输出思维链内容（COT）和最终回答（Answer）。|\ | |* 在下一轮对话中，之前输出的思维链内容不会被拼接到上下文中。|\ | |> 思维链内容展现的是模型处理问题的过程，包括将问题拆分为多个问题进行处理，生成多种回复综合得出更好回答等过程。 | * 工具调用场景（doubao\-seed\-1.8 及后续模型）工具调用场景中开启深度思考后，为给出更详尽准确的回答，将不会直接丢弃思维链内容，历史轮次的思维链内容按需（模型自主判断）参与推理。在整个请求过程中，用户回传完整上下文即可，由服务端自行判断，是否保留思维链内容。未输入给模型的思维链内容，不会计算 token 用量。代码示例参见[工具调用](/docs/82379/1449737#3e8661f7)。 |流程图 |说明 | |---|---| |

|* 回答问题 1 时（请求 1.1 \- 1.2），模型进行多次思考 + 工具调用后给出答案，方舟会输入完整上下文包括思维链内容给模型处理。|\ | |* 开始回答问题2时（请求 2.1），方舟会自行判断并删除之前上下文中的思维链，输入给模型。 | ## QPS 限流 Responses API QPS 限流如下。如果需要提升限流值，请提交[工单](https://console.volcengine.com/workorder/create?step=2&SubProductID=P00001166)。 |接口名称 |账号维度的 QPS 限流 | |---|---| |创建模型响应 |无 | |查询模型响应 |20 | |列出输入项 |20 | |删除模型响应 |20 |

火山方舟