Azure OpenAI批量作业配置tools未生效,能否使用该工具?
Azure OpenAI批量作业使用
tools参数的问题解答 目前Azure OpenAI的Batch jobs功能暂不支持tools及相关工具调用参数,这就是你提交的配置中tools被忽略的原因。
替代方案
如果你需要批量处理带工具调用的任务,可以采用以下方式:
- 编写自定义脚本,循环调用常规的Chat Completion API(携带
tools、tool_choice等参数),自行实现批量执行、并发控制和重试逻辑。 - 借助Azure Functions或Logic Apps来编排批量API调用,利用平台能力简化任务调度和错误处理。
后续关注
可以留意Azure OpenAI的官方更新,后续版本可能会扩展Batch jobs对工具调用功能的支持。
内容的提问来源于stack exchange,提问作者SultanOrazbayev
相关产品推荐
相关产品推荐

