HuggingFace SentenceTransformers如何获取模型输入输出形状？.NET/ONNX适配

sentence-transformers的Python包不是通过API调用获取参数，它是直接读取模型仓库里的本地配置文件来自动识别这些信息的。以下是具体逻辑和C#中的复现方法：

一、Python包的参数获取逻辑 #

sentence-transformers启动时会加载模型仓库中的几个关键配置文件：

• tokenizer_config.json：存储分词器核心配置，包括max_length（这就是all-MiniLM-L6-v2实际用512而非文档标注256的原因——文档是模型初始设计值，分词器配置里的才是运行时生效值）。如果这个文件没有max_length，会 fallback 到模型config中的max_position_embeddings字段。
• config.json：存储模型结构参数，其中hidden_size字段对应输出嵌入维度（all-MiniLM-L6-v2的hidden_size就是384）。部分模型还有sentence_bert_config.json，里面的embedding_dim也可作为输出维度参考。
• vocab.txt（或对应分词器的词表文件）：供分词器完成文本转token的工作。

这些文件都是模型仓库的一部分，Python包会自动读取解析，不需要调用外部API。

二、C#中的复现步骤 #

1. 下载模型配置文件 #

从HuggingFace模型仓库拉取以下关键文件（无需下载整个ONNX模型，先拿配置文件即可）：

• tokenizer_config.json
• config.json
• vocab.txt
• （如果存在）sentence_bert_config.json

2. 解析配置文件获取参数 #

• 获取input_ids最大长度：
  读取tokenizer_config.json，提取max_length字段；如果没有这个字段，就读取config.json中的max_position_embeddings字段（all-MiniLM-L6-v2的该值为512，和Python包行为一致）。
• 获取输出尺寸：
  读取config.json中的hidden_size字段（all-MiniLM-L6-v2为384）；如果有sentence_bert_config.json，也可用里面的embedding_dim字段做验证。

3. 匹配对应的分词器 #

根据tokenizer_config.json里的tokenizer_class字段确定分词器类型（比如all-MiniLM-L6-v2对应BertTokenizer），在C#中可选择：

• Microsoft.ML.Tokenizers：官方分词库，支持BERT类分词器，直接加载vocab.txt和tokenizer_config.json即可初始化。
• HuggingFace Transformers .NET库：更完整的HuggingFace生态支持，可直接加载分词器配置。

4. 处理ONNX模型的动态形状 #

ONNX模型里的-1表示动态维度，在C#中创建ONNX Runtime会话时，需手动指定输入的实际形状：

• 比如将input_ids的形状设为new long[] { batch_size, max_length }，attention_mask同理（batch_size根据实际批量大小设置，单条输入则设为1）。

内容的提问来源于stack exchange，提问作者UnionP