如何获取HuggingFace模型的嵌入向量维度？以BAAI/bge-small-en-v1.5为例

BAAI/bge-small-en-v1.5的嵌入维度 #

BAAI/bge-small-en-v1.5的输出嵌入向量维度是384。

获取Transformer模型嵌入维度的简便方法 #

不需要必须运行模型才能获取，有几种高效方式：

• 查看模型官方说明：在模型托管平台的详情页，通常会在描述、配置板块明确标注嵌入维度。
• 读取模型配置文件：无需加载完整模型权重，仅加载配置类即可获取。示例代码：

from transformers import AutoConfig

config = AutoConfig.from_pretrained("BAAI/bge-small-en-v1.5")
print(config.hidden_size)  # 输出即为嵌入维度

• 参考架构参数规则：多数Transformer嵌入模型的嵌入维度对应hidden_size参数，开源模型基本遵循这一命名逻辑。

内容的提问来源于stack exchange，提问作者Alexander Borochkin