You need to enable JavaScript to run this app.
优惠活动
大模型
产品
解决方案
定价
更多

Mistral对话是否需要使用[INST]与[/INST]特殊标记?

Mistral模型标记与适用场景解析
  • [INST]/[/INST]标记的核心作用
    这是Mistral指令微调模型(如Mistral 7B Instruct)的专属输入格式标记,用来明确区分用户指令和模型回复的边界。模型微调阶段就采用了固定格式:
<s>[INST] 指令内容 [/INST] 模型回答</s>[INST] 后续指令 [/INST]

通过这种格式微调后,模型能精准识别何时进入“指令遵循”模式,输出符合要求的内容。

  • RAG指南未用标记的原因
    RAG场景中不手动添加这些标记,是因为通常调用的是官方封装好的API或工具,这些工具内部已经自动完成了格式的适配与填充,无需用户手动输入标记。本质上用到的还是指令微调后的模型,并没有专门的“对话专属模型”。

  • 指令模型的对话能力
    Mistral的指令微调模型本身就支持对话场景。官方公开信息显示:Mistral 7B Instruct基于公开指令数据集微调,未使用任何专有数据或特殊技巧,最终在MT-Bench上的性能超过所有同量级7B模型,甚至能媲美13B级别的对话模型,完全适配多轮对话需求。

内容的提问来源于stack exchange,提问作者BPDev

相关产品推荐
方舟 Agent Plan

超全模态模型 × Harness 升级,最新支持 Deepseek-V4.1-Flash、GLM-5.3 系列、Doubao-Seedream-5.0-pro、Kimi-K3 (部分), 限时 9.9 元起

最近更新时间:2026.06.30 09:43:13