Hey there! Let's break down your questions step by step with practical code examples—this stuff can feel a bit shape-focused at first, but it clicks once you see how the tensors flow.

First, when you have two padded sentences, they’ll typically be tensors with the shape [batch_size, sequence_length, embedding_dim] (batch size = number of samples, sequence length = padded sentence length, embedding dim = vector size per word).

To concatenate them into a single sequence (so you can feed it into Conv1D), you’ll use tf.concat and specify the sequence length axis (axis=1)—this sticks the two sentences end-to-end. If you concatenated along axis=2 instead, you’d be merging their embedding features, which is a different use case.

Here’s a concrete example:

import tensorflow as tf

# 模拟两个填充后的句子张量（32个样本，每个句子20个词，128维嵌入）
sentence1 = tf.random.normal((32, 20, 128))
sentence2 = tf.random.normal((32, 20, 128))

# 在序列长度维度拼接（axis=1）
concatenated = tf.concat([sentence1, sentence2], axis=1)
# 结果形状：(32, 40, 128) → 每个样本包含40个词

# 将拼接后的张量输入Conv1D层
conv_layer = tf.keras.layers.Conv1D(filters=64, kernel_size=3, activation='relu')
conv_result = conv_layer(concatenated)
# 默认padding='valid'时，输出形状为(32, 38, 64)（40 - 3 + 1 = 38）

Let’s split this into two clear parts:

tf.nn.conv1d的维度规则 #

tf.nn.conv1d（底层API）对张量形状有严格要求：

• 输入张量：必须是3维，格式为 [batch_size, input_sequence_length, in_channels]
  • in_channels = 每个时间步的特征数（比如你的词嵌入维度）
• 卷积核（filters）：同样是3维，格式为 [filter_sequence_length, in_channels, out_channels]
  • filter_sequence_length = 卷积核覆盖的连续元素数量（比如3代表3个词的窗口）
  • in_channels 必须和输入张量的in_channels一致
  • out_channels = 卷积核的数量（即输出特征数）
• 其他关键参数：stride（整数，卷积核滑动的步长）、padding（'VALID'=无填充，'SAME'=填充以保持输出长度与输入一致）

tf.nn.conv1d的使用示例 #

# 使用前面拼接好的张量（形状：32, 40, 128）
input_tensor = concatenated

# 定义一个3词窗口的卷积核，将128维输入映射为64维输出
filters = tf.random.normal((3, 128, 64))

# 执行卷积操作
conv_output = tf.nn.conv1d(
    input=input_tensor,
    filters=filters,
    stride=1,
    padding='VALID'
)
# 输出形状：(32, 38, 64)（40 - 3 + 1 = 38）

卷积后的最大池化操作 #

对于最大池化，你可以使用tf.nn.max_pool1d（底层API）或tf.keras.layers.MaxPool1D（高层API，更适合构建模型）。核心要求是池化输入的形状要和卷积输出匹配（[batch_size, sequence_length, channels]）。

tf.nn.max_pool1d的使用示例 #

# 应用窗口大小为2、步长为2的最大池化
pool_output = tf.nn.max_pool1d(
    input=conv_output,
    ksize=2,  # 池化窗口长度
    strides=2,  # 窗口滑动步长
    padding='VALID'
)
# 输出形状：(32, 19, 64)（38 // 2 = 19）

更简洁的Keras层写法 #

如果你在构建模型，用Keras层会更省心——不需要手动定义卷积核：

model = tf.keras.Sequential([
    tf.keras.layers.Conv1D(64, 3, strides=1, padding='VALID', activation='relu'),
    tf.keras.layers.MaxPool1D(pool_size=2, strides=2, padding='VALID')
])
final_output = model(concatenated)

内容的提问来源于stack exchange，提问作者a.kh