Hugging Face Pipeline报IndexError：tensor维度2索引过多的问题咨询

错误原因 #

• 模型任务类型不匹配：AutoModelForSequenceClassification是专为序列分类任务设计的模型，它的输出是2维张量（形状为(batch_size, num_labels)）；而fill-mask任务需要的是掩码语言模型（如AutoModelForMaskedLM），这类模型的输出是3维张量（形状为(batch_size, sequence_length, vocab_size)）。当你把分类模型传入fill-mask pipeline时，pipeline会尝试对2维张量执行3维度的索引操作，因此触发IndexError: too many indices for tensor of dimension 2。
• 直接通过pipeline加载bert-base-cased时，pipeline会自动识别任务类型，加载适配fill-mask的AutoModelForMaskedLM模型，所以能正常运行。

解决办法 #

方案一：直接使用pipeline加载模型（推荐） #

from transformers import pipeline

unmasker = pipeline('fill-mask', model="bert-base-cased")
unmasker("Hello I drive a red [MASK].")

方案二：手动加载正确的模型类型 #

from transformers import AutoModelForMaskedLM
from transformers import AutoTokenizer
from transformers import pipeline

modeltemp = AutoModelForMaskedLM.from_pretrained("bert-base-cased")
tokenizer = AutoTokenizer.from_pretrained("bert-base-cased")

unmasker = pipeline('fill-mask', model=modeltemp, tokenizer=tokenizer)
unmasker("Hello I drive a red [MASK].")

内容的提问来源于stack exchange，提问作者JobHunter69