TensorFlow 2.10中导入Transformer组件出现ImportError求助

你混淆了两个完全独立的组件：

• 你用pip install Transformers安装的是Hugging Face Transformers库，它的作用是加载各类预训练Transformer模型（比如BERT、GPT等），和TensorFlow内置的Transformer层没有关联。
• 你尝试导入的是TensorFlow Keras自带的Transformer基础层，这是TensorFlow本身的组件，不需要额外安装Hugging Face的库。

分两种场景解决： #

场景一：想用TensorFlow Keras自带的Transformer层 #

TF2.10版本中，Transformer层已经从experimental模块迁移到正式的keras.layers下，正常使用以下导入语句即可：

from tensorflow.keras.layers import Transformer

如果仍报错，大概率是你的TensorFlow安装不完整或损坏，执行以下命令重装：

pip uninstall tensorflow -y
pip install tensorflow==2.10

场景二：想用Hugging Face Transformers库中的预训练模型 #

导入方式和你之前的写法完全不同，举个基础示例（加载BERT模型）：

# 导入分词器和预训练模型
from transformers import BertTokenizer, BertModel

# 加载预训练的分词器与模型
tokenizer = BertTokenizer.from_pretrained('bert-base-uncased')
model = BertModel.from_pretrained('bert-base-uncased')

如果需要和TensorFlow Keras兼容的模型，可使用TFAutoModel：

from transformers import TFAutoModel

model = TFAutoModel.from_pretrained('bert-base-uncased')

内容的提问来源于stack exchange，提问作者A_B_Y