Mistral-Nemo-Instruct-2407分词器模型的精确词汇量究竟是多少?
Mistral-Nemo-Instruct-2407分词器精确词汇量
- 文档里标注的
2**17 ~= 128k是近似表述,该分词器的精确词汇量为131072,也就是2的17次方的准确数值。
内容的提问来源于stack exchange,提问作者alvas
相关产品推荐
相关产品推荐
2**17 ~= 128k是近似表述,该分词器的精确词汇量为131072,也就是2的17次方的准确数值。内容的提问来源于stack exchange,提问作者alvas