TFGPT2LMHeadModel报AttributeError：无device属性，请求修复（附代码）

问题原因 #

TFGPT2LMHeadModel是Hugging Face提供的TensorFlow版本模型，model.device是PyTorch模型特有的属性，TensorFlow模型没有该属性，因此调用时触发AttributeError。

解决方案 #

分两种场景处理：

场景1：可以统一使用PyTorch模型

如果项目中不需要强制使用TensorFlow版本，直接替换为PyTorch版GPT2模型即可解决问题：

# 替换导入语句
from transformers import GPT2LMHeadModel  # 而非TFGPT2LMHeadModel

替换后原代码中的model.device可以正常使用。

场景2：必须使用TensorFlow版本模型

TensorFlow模型的设备信息需要通过底层变量获取，同时要适配TF的张量处理逻辑，修改代码如下：

1. 获取模型所在设备：

# 从模型可训练变量中提取设备信息
device = next(model.trainable_variables).device

2. 适配TensorFlow的张量与推理逻辑：
   原代码中使用了PyTorch的torch.no_grad()和张量操作，需要替换为TF对应写法。

修正后的完整代码 #

import tensorflow as tf
from transformers import TFGPT2LMHeadModel, GPT2Tokenizer

def generate_desc(model, tokenizer, photo, max_length):
    in_text = 'start'
    for i in range(max_length):
        input_ids = tokenizer.encode(in_text, return_tensors="pt")
        # 将PyTorch张量转为TensorFlow张量
        input_ids = tf.convert_to_tensor(input_ids.numpy())
        # 获取模型所在设备并指定运行环境
        device = next(model.trainable_variables).device
        with tf.device(device):
            outputs = model(input_ids, inputs_embeds=photo)
            logits = outputs.logits
        # 使用TF的argmax获取预测token
        predicted_token_id = tf.argmax(logits[:, -1, :]).numpy().item()
        predicted_word = tokenizer.decode(predicted_token_id)
        # 拼接文本，避免无限生成重复内容
        in_text += ' ' + predicted_word

内容的提问来源于stack exchange，提问作者Light Yagami45