无法从transformers.pytorch_utils导入is_torch_greater_or_equal_than_1_13的解决方法

问题场景 #

执行以下代码时触发RuntimeError：

from transformers import Trainer
trainer = Trainer(model_init = model_init,
              args = training_args,
              data_collator = data_collator,
              compute_metrics = compute_metrics,
              train_dataset = panx_de_encoded["train"],
              eval_dataset = panx_de_encoded["validation"],
              tokenizer = xlmr_tokenizer)
trainer.train()

错误提示：

Failed to import transformers.trainer because of the following error (look up to see its traceback):
cannot import name 'is_torch_greater_or_equal_than_1_13' from 'transformers.pytorch_utils' (/usr/local/lib/python3.10/dist-packages/transformers/pytorch_utils.py)

用户已尝试升级torch，但问题未解决。

解决办法 #

• 升级transformers到兼容版本
  这个错误源于transformers版本与torch版本不匹配，或transformers自身版本缺失该检查函数。执行升级命令：

pip install --upgrade transformers

若最新版仍有问题，可指定稳定兼容版本（如4.28.x系列）：

pip install transformers==4.28.1

• 匹配torch与transformers版本
  确认两者版本兼容：

  • 若torch为1.13.x及以上，transformers需至少4.21.x版本；
  • 若torch低于1.13，选择对应兼容的transformers版本，避免使用依赖高版本torch检查的transformers版本。可通过pip show transformers查看当前版本，再调整对应torch版本。

• 彻底重装transformers
  缓存或残留文件可能导致异常，先卸载再重装：

pip uninstall -y transformers
pip install transformers --no-cache-dir

• 排查环境依赖冲突
  检查是否存在多Python环境混淆问题，用which pip确认当前pip路径，确保包安装在当前运行环境中。

内容的提问来源于stack exchange，提问作者solmaz panahi