如何用Python训练适配变长二维数组样本的DL模型？

1. 样本维度的归一化处理 #

必须做归一化。这类变长序列/表格数据的特征分布差异会严重影响模型收敛速度和最终性能，尤其是基于梯度的深度学习模型对特征尺度敏感。

具体操作分两种场景：

• 全局归一化：适用于跨样本特征分布一致的任务。计算整个训练集所有样本中每个特征列的全局均值和标准差，用这组统计量对所有样本（包括测试集）做标准化，避免数据泄露。
• 样本内归一化：如果不同样本的特征分布存在固有场景差异（比如不同样本来自不同测量环境），可以对单个样本内的特征列单独做归一化。但这种方式仅适合样本间独立的任务，跨样本预测任务优先选全局归一化。

全局归一化的Python实现示例：

import numpy as np

# train_samples是列表，每个元素为(n_rows, n_features)的二维数组
all_train_features = np.concatenate(train_samples, axis=0)
feature_means = np.mean(all_train_features, axis=0)
feature_stds = np.std(all_train_features, axis=0)
# 避免标准差为0导致除以0
feature_stds[feature_stds < 1e-8] = 1e-8

# 归一化训练集
normalized_train = [(sample - feature_means) / feature_stds for sample in train_samples]
# 测试集复用训练集的统计量
normalized_test = [(sample - feature_means) / feature_stds for sample in test_samples]

2. 支持变长输入的深度学习模型 #

有多种适配这类变长二维输入的模型，选择需结合任务类型：

• LSTM/GRU循环神经网络：天然支持变长序列，只需对批次内样本做填充统一长度，通过mask机制忽略填充部分的影响。如果是单输出任务（分类、回归），无需Seq2Seq的解码部分，直接对LSTM输出做全局平均/最大池化得到固定长度特征，再接全连接层输出结果。
• Transformer编码器：通过自注意力捕捉长序列依赖，同样支持padding和mask。适合长序列任务，但计算量比LSTM大。
• 1D卷积神经网络：通过滑动窗口提取局部特征，最后用全局池化输出固定维度特征，计算效率高，适合捕捉局部模式。
• Seq2Seq编解码模型：仅适合序列到序列的任务（比如输入变长序列，输出同结构变长序列）。如果是单输出任务，用编码器+池化的结构更简洁。

Keras中用LSTM处理变长输入做二分类的示例：

from tensorflow.keras.models import Model
from tensorflow.keras.layers import Input, LSTM, GlobalAveragePooling1D, Dense, Masking

n_features = 10  # 每个样本的特征列数
# None表示接受任意长度的序列输入
input_layer = Input(shape=(None, n_features))
# 屏蔽填充值（假设填充用0.0）
mask_layer = Masking(mask_value=0.0)(input_layer)
# return_sequences=True保留所有时间步的输出，用于后续池化
lstm_layer = LSTM(64, return_sequences=True)(mask_layer)
# 全局平均池化得到固定长度特征
pool_layer = GlobalAveragePooling1D()(lstm_layer)
output_layer = Dense(1, activation='sigmoid')(pool_layer)

model = Model(inputs=input_layer, outputs=output_layer)
model.compile(optimizer='adam', loss='binary_crossentropy', metrics=['accuracy'])

内容的提问来源于stack exchange，提问作者Ramin Raver