关于Azure上Command R+模型输出响应最大token限制的问询

• Command R+模型在Azure平台上的最大输出token限制为16384（即16K）
• 需注意：模型总上下文长度（输入prompt的token数 + 输出响应的token数）不可超过128K，设置max_tokens参数时，要保证输入token数 + max_tokens ≤ 128000，防止触发上下文超限错误

内容的提问来源于stack exchange，提问作者Sanjeevani