如何在DeepPavlov的build_model中传入from_tf=True加载ruBERT？

你遇到的报错是因为本地ruBERT模型存的是TensorFlow格式权重，但DeepPavlov默认尝试加载PyTorch格式的pytorch_model.bin，所以需要明确指定用TensorFlow权重加载。build_model本身不直接接收from_tf参数，要把这个参数添加到配置里实际加载BERT模型的组件中，具体操作如下：

步骤1：定位配置中的BERT相关组件 #

在config_path["chainer"]["pipe"]里，找到涉及加载预训练ruBERT的组件（比如bert_preprocessor、bert_classifier或bert_encoder等），给这些组件添加from_tf=True参数。

修改后的完整配置示例 #

config_path = {
   "chainer": {
      "in": ["x"],
      "in_y": ["y"],
      "out": ["y_pred_labels", "y_pred_probas"],
      "pipe": [
          # 预处理组件，添加from_tf=True
          {
              "class_name": "bert_preprocessor",
              "vocab_file": "ruBERT_hFace2/vocab.txt",
              "do_lower_case": False,
              "max_seq_length": 512,
              "from_tf": True
          },
          # 分类器组件，添加from_tf=True
          {
              "class_name": "bert_classifier",
              "pretrained_bert": "ruBERT_hFace2",
              "n_classes": 2,
              "from_tf": True
          }
          # 其他必要组件（如标签映射等）...
      ]
   }
}

model = build_model(config_path, download=False)

关键说明 #

• 所有直接加载预训练BERT模型的组件都需要添加from_tf=True，因为DeepPavlov底层调用Hugging Face Transformers库，这个参数会被传递给AutoModel.from_pretrained()方法
• 确认本地ruBERT_hFace2目录下存在TensorFlow格式的权重文件（如tf_model.h5或model.ckpt系列文件）

内容的提问来源于stack exchange，提问作者senek