Mistral对话是否需要使用[INST]与[/INST]特殊标记?
Mistral模型标记与适用场景解析
- [INST]/[/INST]标记的核心作用
这是Mistral指令微调模型(如Mistral 7B Instruct)的专属输入格式标记,用来明确区分用户指令和模型回复的边界。模型微调阶段就采用了固定格式:
<s>[INST] 指令内容 [/INST] 模型回答</s>[INST] 后续指令 [/INST]
通过这种格式微调后,模型能精准识别何时进入“指令遵循”模式,输出符合要求的内容。
RAG指南未用标记的原因
RAG场景中不手动添加这些标记,是因为通常调用的是官方封装好的API或工具,这些工具内部已经自动完成了格式的适配与填充,无需用户手动输入标记。本质上用到的还是指令微调后的模型,并没有专门的“对话专属模型”。指令模型的对话能力
Mistral的指令微调模型本身就支持对话场景。官方公开信息显示:Mistral 7B Instruct基于公开指令数据集微调,未使用任何专有数据或特殊技巧,最终在MT-Bench上的性能超过所有同量级7B模型,甚至能媲美13B级别的对话模型,完全适配多轮对话需求。
内容的提问来源于stack exchange,提问作者BPDev
相关产品推荐
相关产品推荐

