Azure OpenAI GlobalBatch GPT-4o是否支持json_schema类型结构化输出？

结论：当前Azure OpenAI的GlobalBatch GPT-4o部署暂不支持response_format="json_schema"的自定义结构化输出，属于功能支持范围差异，而非bug。

关键分析 #

• 部署类型功能差异：GlobalStandard系列的GPT-4o已适配json_schema格式的严格结构化输出，但面向批量处理优化的GlobalBatch部署，目前在Azure平台上仅支持response_format="json_object"基础JSON格式，不支持自定义Schema的结构化输出配置。
• 场景验证匹配：移除response_format参数或改用json_object时请求可正常返回结果，同区域的GlobalStandard模型能正常使用json_schema，这完全符合两类部署的功能支持边界。

临时解决方案 #

1. 改用基础JSON格式：保留批量部署，将response_format设置为{"type": "json_object"}，同时在system prompt中明确要求输出符合目标Schema的JSON结构，通过prompt约束实现近似的结构化输出效果。
2. 切换部署类型：如果必须使用json_schema严格结构化输出，可临时切换到GlobalStandard部署执行批量请求（注意两类部署的批量处理限额、成本存在差异，需提前评估）。

后续建议 #

可通过Azure OpenAI官方文档或提交Azure技术支持工单，追踪GlobalBatch部署对json_schema结构化输出的功能更新计划，该特性大概率会在后续版本中逐步覆盖批量场景。

问题中的请求示例 #

{"custom_id": "request-1", "method": "POST", "url": "/chat/completions", "body": {"model": "gpt-4o-batch", "messages": [{"role": "system", "content": "You are a helpful math tutor. Guide the user through the solution step by step."}, {"role": "user", "content": "how can I solve 8x + 7 = -23"}], "max_tokens": 4096, "response_format": {"type": "json_schema", "json_schema": {"name": "math_response", "schema": {"type": "object", "properties": {"steps": {"type": "array", "items": {"type": "object", "properties": {"explanation": {"type": "string"}, "output": {"type": "string"}}, "required": ["explanation", "output"], "additionalProperties": false}}, "final_answer": {"type": "string"}}, "required": ["steps", "final_answer"], "additionalProperties": false}, "strict": true}}}}

内容的提问来源于stack exchange，提问作者Oleg