Keras字符级LSTM构建词性标注模型遇ValueError问题求助

你遇到的ValueError核心原因是CRF层期望的目标张量形状和你输入的标签形状不匹配：

• CRF层（无论是keras-crf还是tf_addons的实现）默认要求目标是三维张量：(batch_size, sequence_length, num_tags)，对应每个位置的标签是one-hot编码的向量。
• 而你的train_labels是二维张量：(4, 34)，也就是每个样本是一个标签ID的序列，每个位置是单个整数，维度少了一维。

根据你使用的CRF库，有两种常见的修复方式：

方法1：将标签转换为one-hot编码 #

把二维的整数标签ID转换成三维的one-hot数组，匹配CRF层的输入要求：

import tensorflow as tf

# 假设num_tags是你的词性标签总数
train_labels_onehot = tf.keras.utils.to_categorical(train_labels, num_classes=num_tags)
# 转换后形状为 (batch_size, seq_len, num_tags)，符合CRF的要求

然后训练时直接喂这个one-hot后的标签即可。

方法2：配置CRF层接受稀疏标签 #

如果你不想做one-hot转换，可以在初始化CRF层时开启sparse_target=True（仅适用于keras-crf库）：

from keras_crf import CRF

# 初始化CRF层时设置sparse_target=True
crf_layer = CRF(num_tags, sparse_target=True)
# 后续模型构建正常进行，训练时直接喂二维的train_labels即可

额外注意事项 #

1. 模型输出形状检查：确保词级神经网络的最后一层输出是(batch_size, seq_len, num_tags)，比如先接Dense(num_tags)层，再传入CRF层，保证输出维度正确。
2. padding与序列长度：如果你的句子做了padding处理，记得向CRF损失函数传递每个样本的实际序列长度（避免计算padding部分的损失），尤其是使用tf_addons的CRF时：

   import tensorflow_addons as tfa
   
   # sequence_lengths是每个样本的实际词数，形状为(batch_size,)
   loss = tfa.text.crf_loss(train_labels, model_output_logits, sequence_lengths)
   model.compile(optimizer='adam', loss=loss)
   

内容的提问来源于stack exchange，提问作者L.Berlanda