PyTorch中shape '[700, -1]'适配输入尺寸4020失败问题求助

错误原因分析 #

报错RuntimeError: shape '[700, -1]' is invalid for input of size 4020的核心问题是：你尝试将总元素数为4020的tensor重塑为[700, -1]的形状，但4020无法被700整除（4020 ÷ 700 ≈ 5.74），PyTorch无法推断出合法的第二维度值，因此抛出错误。

这里的700来自你代码中seq_len * batch_size的计算（根据数值推测seq_len=35、batch_size=20），但模型输出的prediction_vector实际总元素数和这个计算值不匹配。

排查与修复步骤 #

1. 先确认prediction_vector的真实形状 #

在training函数的model(data, hidden)之后添加打印语句，查看输出的tensor维度：

hidden, prediction_vector = model(data, hidden)
print("Prediction vector shape:", prediction_vector.shape)  # 新增打印
prediction_vector = prediction_vector.view(seq_len * batch_size, -1)

运行后你会看到prediction_vector的实际维度，这能帮你定位维度不匹配的根源。

2. 检查维度顺序与模型输出 #

EncoderDecoder模型的输出维度顺序可能和你预期的不一致：

• 如果模型输出是[seq_len, batch_size, hidden_dim]，总元素数应为seq_len * batch_size * hidden_dim，你需要确保这个值等于4020，或者调整view的参数匹配实际维度。
• 如果维度顺序是[batch_size, seq_len, hidden_dim]，可以先转置再重塑：

  # 先转置维度，确保batch和seq_len在前，再合并
  prediction_vector = prediction_vector.transpose(0, 1).contiguous()
  prediction_vector = prediction_vector.view(batch_size * seq_len, -1)
  

3. 验证seq_len和batch_size的一致性 #

• 确认循环中使用的seq_len和get_batch函数内部使用的seq_len是同一个变量，避免出现循环步长和批量序列长度不一致的情况。
• 检查get_batch返回的data形状是否符合[seq_len, batch_size]或[batch_size, seq_len]的预期，模型输入维度不匹配也会导致输出维度异常。

4. 修正模型输出维度 #

如果模型的最后一层输出维度设置错误（比如分类头的维度不对），也会导致总元素数和预期不符。检查EncoderDecoder的输出层，确保其输出的特征维度和你后续计算需要的维度一致。

示例修复代码 #

假设打印后发现prediction_vector的形状是[20, 201]（batch_size=20，总元素数20*201=4020），那你需要调整view的参数为：

prediction_vector = prediction_vector.view(-1, 201)

内容的提问来源于stack exchange，提问作者Rudra Singh