本文主要描述 AI 云原生推理套件中通过 **应用中心** \> **应用模板** 部署的推理模型最佳实践相关地域信息、模型信息以及文档列表。 ## 支持的地域 AI 云原生推理套件支持的地域（Region）如下所示： * 华北 2（北京）：cn\-beijing * 华东 2（上海）：cn\-shanghai * 亚太东南（柔佛）：ap\-southeast\-1 ## Deepseek 推理服务实践 |推理服务模版（Chart 名称） |模型名称 |推理引擎 |并行策略 |量化技术 |支持能力 |帮助文档 | |---|---|---|---|---|---|---| |deepseek\-r1\-sglang |DeepSeek\-R1\-671B |SGLang |非 PD 分离 |\- |* GDKV|[快速部署基于 SGLang 的 DeepSeek-R1 满血版](https://www.volcengine.com/docs/6460/1584331) |\ | | | | | |* EIC| |\ | | | | | |* APMPlus| |\ | | | | | |* VMP| |\ | | | | | |* APIG | | |deepseek\-r1\-sglang\-pd |DeepSeek\-R1\-671B |SGLang |* PD 分离|\- |* APMPlus|[快速部署基于 SGLang 的 DeepSeek-R1 满血版（PD 分离）](https://www.volcengine.com/docs/6460/1584332) |\ | | | |* DP+TP+EP | |* VMP| |\ | | | | | |* APIG | | |deepseek\-v3\-xllm\-pd |DeepSeek\-V3\-671B |xLLM |* PD 分离|\- |* VMP|[快速部署基于 xLLM 的 DeepSeek-V3/R1 满血版（PD 分离）](https://www.volcengine.com/docs/6460/1584334) |\ | | | |* DP+TP+EP | |* APIG | | |deepseek\-r1\-xllm\-pd |DeepSeek\-R1\-671B |xLLM |* PD 分离|\- |* VMP|[快速部署基于 xLLM 的 DeepSeek-V3/R1 满血版（PD 分离）](https://www.volcengine.com/docs/6460/1584334) |\ | | | |* DP+TP+EP | |* APIG | | |deepseek\-r1\-w4afp8\-tensorrt\-llm |DeepSeek\-R1\-W4AFP8 |TensorRT\-LLM |TP+EP |W4A8 |APIG |[快速部署基于 TensorRT-LLM 的 DeepSeek-R1 满血版](https://www.volcengine.com/docs/6460/1584336) | |deepseek\-r1\-0528\-sglang |DeepSeek\-R1\-0528 |SGLang |非 PD 分离 |\- |* GDKV|[快速部署基于 SGLang 的 DeepSeek-R1-0528 满血版](https://www.volcengine.com/docs/6460/1669959) |\ | | | | | |* EIC| |\ | | | | | |* APMPlus| |\ | | | | | |* VMP| |\ | | | | | |* APIG | | |deepseek\-r1\-0528\-sglang\-pd |DeepSeek\-R1\-0528\-671B |SGLang |* PD 分离|\- |* APMPlus|[快速部署基于 SGLang 的 DeepSeek-R1-0528/V3-0424 满血版（PD 分离）](https://www.volcengine.com/docs/6460/1698952) |\ | | | |* DP+TP+EP | |* VMP| |\ | | | | | |* APIG | | |deepseek\-v3\-0324\-sglang\-pd |DeepSeek\-V3\-0324 |SGLang |* PD 分离|\- |* APMPlus|[快速部署基于 SGLang 的 DeepSeek-R1-0528/V3-0424 满血版（PD 分离）](https://www.volcengine.com/docs/6460/1698952) |\ | | | |* DP+TP+EP | |* VMP| |\ | | | | | |* APIG | | |deepseek\-r1\-w4afp8\-sglang |DeepSeek\-R1\-W4AFP8 |SGLang |TP+EP |\- |* APMPlus|[快速部署基于SGLang 的 DeepSeek-R1 量化版](https://www.volcengine.com/docs/6460/1756924) |\ | | | | | |* VMP| |\ | | | | | |* APIG | | |deepseek\-v3.1\-sglang |DeepSeek\-V3.1 |SGLang |非 PD 分离 |\- |* VMP|[快速部署基于 SGLang 的 DeepSeek-V3.1](https://www.volcengine.com/docs/6460/1801344) |\ | | | | | |* APIG | | ## Qwen 推理服务实践 |推理服务模版（Chart 名称） |模型名称 |推理引擎 |并行策略 |量化技术 |支持能力 |帮助文档 | |---|---|---|---|---|---|---| |qwen3\-dynamo\-vllm\-pd |Qwen3\-235B\-A22B |* Dynamo|PD 分离 |\- |* GDKV|[快速部署基于 Dynamo 和 vLLM 的 Qwen3-235B （PD 分离）](https://www.volcengine.com/docs/6460/1584335) |\ | | |* vLLM | | |* EIC| |\ | | | | | |* APMPlus| |\ | | | | | |* VMP| |\ | | | | | |* APIG | | |qwen3\-32b\-fp8\-sglang |Qwen3\-32B\-FP8 |SGLang |TP |\- |* APMPlus|[快速部署基于 SGlang 的 Qwen3-32B-FP8](https://www.volcengine.com/docs/6460/1610148) |\ | | | | | |* VMP| |\ | | | | | |* APIG | | |qwen3\-235b\-a22b\-fp8\-sglang |Qwen3\-235B\-A22B\-FP8 |SGLang |TP |\- |* EIC|[快速部署基于 SGLang 的 Qwen3-235B-A22B-FP8](https://www.volcengine.com/docs/6460/1610149) |\ | | | | | |* APMPlus| |\ | | | | | |* VMP| |\ | | | | | |* APIG | | |qwen3\-30b\-a3b\-fp8\-sglang |Qwen3\-30B\-A3B\-FP8 |SGLang |TP |\- |* APMPlus|[快速部署基于 SGlang 的 Qwen3-30B-A3B-FP8](https://www.volcengine.com/docs/6460/1610150) |\ | | | | | |* VMP| |\ | | | | | |* APIG | | ## Kimi 推理服务实践 |推理服务模版（Chart 名称） |模型名称 |推理引擎 |并行策略 |量化技术 |支持能力 |帮助文档 | |---|---|---|---|---|---|---| |kimi\-k2\-instruct\-sglang |Kimi\-K2\-Instruct |SGLang |TP |\- |* VMP|[快速部署基于 SGLang 的 Kimi-K2-Instruct](https://www.volcengine.com/docs/6460/1756937) |\ | | | | | |* APIG | | ## GPT 推理服务实践 |推理服务模版（Chart 名称） |模型名称 |推理引擎 |并行策略 |量化技术 |支持能力 |帮助文档 | |---|---|---|---|---|---|---| |gpt\-oss\-120b\-vllm |gpt\-oss\-120b |vLLM（开源） |TP |\- |* VMP|[快速部署基于 vLLM 的 gpt-oss-120b 推理服务](https://www.volcengine.com/docs/6460/1783677) |\ | | | | | |* APIG | | ## Seed 推理服务实践 |推理服务模版（Chart 名称） |模型名称 |推理引擎 |并行策略 |量化技术 |支持能力 |帮助文档 | |---|---|---|---|---|---|---| |seed\-oss\-36b\-instruct\-vllm |Seed\-OSS\-36B\-Instruct |vLLM（开源） |TP |\- |* VMP|[快速部署基于 vLLM 的 Seed-OSS-36B-Instruct](https://www.volcengine.com/docs/6460/1802720) |\ | | | | | |* APIG | |

容器服务