构建LSTM文本分类模型时遇Keras ValueError错误的求助

这个错误的核心原因很明确：你输入的文本序列长度不一致，导致无法转换成形状统一的numpy数组。one_hot函数会为每个文本生成一个整数序列，但不同文本的长度是不一样的，当你用np.array(X)转换时，numpy无法创建不规则形状的数组，就会抛出这个错误。另外你的模型结构也有可以优化的地方，我一步步给你解决：

1. 统一输入序列长度（必做） #

Keras的Embedding层虽然支持变长序列，但在训练时传入的输入必须是形状统一的张量。你需要用pad_sequences把所有序列填充到相同长度：

• 首先导入工具：

  from tensorflow.keras.preprocessing.sequence import pad_sequences
  

• 修改你的train函数中编码后的处理步骤：

  def train(X, y, X_t, y_t):
      X = encoded(X)
      X_t = encoded(X_t)
      
      # 统一所有序列的长度，可以选最长序列的长度，或者固定一个合理值
      max_sequence_length = max(len(seq) for seq in X)
      # 填充/截断序列到指定长度，padding='post'表示在序列末尾填充，truncating='post'表示截断末尾
      X = pad_sequences(X, maxlen=max_sequence_length, padding='post', truncating='post')
      X_t = pad_sequences(X_t, maxlen=max_sequence_length, padding='post', truncating='post')
      
      # 后续模型构建代码不变...
  

这样处理后，X和X_t就会变成形状为(样本数, max_sequence_length)的numpy数组，符合模型输入要求。

2. 调整模型结构适配文本分类（重要） #

你当前的模型用了TimeDistributed(Dense(1))，这会给每个时间步输出一个分类结果，但文本分类通常需要整个文本对应一个最终分类结果，这个结构会导致输出形状和标签不匹配，后续也会报错。建议调整为两种方式之一：

方式一：关闭LSTM的return_sequences #

model = Sequential()
model.add(Embedding(100000, 100))
model.add(Bidirectional(LSTM(20)))  # 去掉return_sequences=True，只返回最后一个时间步的输出
model.add(Dense(1, activation='sigmoid'))  # 直接输出二分类结果

方式二：用全局池化层聚合序列特征 #

如果你想保留LSTM的所有时间步输出，可以加一个全局池化层：

model = Sequential()
model.add(Embedding(100000, 100))
model.add(Bidirectional(LSTM(20, return_sequences=True), merge_mode='ave'))
model.add(GlobalAveragePooling1D())  # 对所有时间步的特征做平均，得到全局特征
model.add(Dense(1, activation='sigmoid'))

3. 额外优化建议 #

• 词汇表大小调整：你设置的100000太大了，如果你的文本语料不大，会导致Embedding层参数过多，训练效率低下。建议用Tokenizer统计实际的词汇量：

  from tensorflow.keras.preprocessing.text import Tokenizer
  # 初始化Tokenizer，指定过滤字符
  tokenizer = Tokenizer(filters='!"#$%&()*+,-./:;<=>?@[\]^_`{|}~')
  tokenizer.fit_on_texts(X)  # 基于训练文本统计词汇
  vocab_size = len(tokenizer.word_index) + 1  # 词汇表大小，+1是因为索引从1开始
  
  # 把文本转成序列
  X = tokenizer.texts_to_sequences(X)
  X_t = tokenizer.texts_to_sequences(X_t)
  

  然后把Embedding层的输入维度改成vocab_size即可。
• 标签格式检查：确保y和y_t是一维数组（比如形状为(样本数,)），如果是二维数组（比如(样本数,1)），可以用y = np.squeeze(y)转换一下。

内容的提问来源于stack exchange，提问作者AnhNg