基于LSTM的面板数据多维度明信片邮寄量预测方案咨询

核心需求 #

需要预测本市各邮局每日不同类型明信片的邮寄量（Amount），现有面板数据包含以下信息：

Post Offices = [001, 002, 003]
Postcards Types = [A, B, C]
Prediction target = 'Amount'

数据样例：

+----------------------+-------------+---------------+--------+--------------------+
| Date                 | Post office | Postcard type | Amount | Other vairables... |
+----------------------+-------------+---------------+--------+--------------------+
| 2023-01-01           | 001         | A             | 23     |                    |
+----------------------+-------------+---------------+--------+--------------------+
| 2023-01-01           | 001         | B             | 1      |                    |
+----------------------+-------------+---------------+--------+--------------------+
| 2023-01-01           | 001         | C             | 15     |                    |
+----------------------+-------------+---------------+--------+--------------------+
| 2023-01-01           | 002         | A             | 44     |                    |
+----------------------+-------------+---------------+--------+--------------------+
| 2023-01-01           | 002         | B             | 6      |                    |
+----------------------+-------------+---------------+--------+--------------------+
| 2023-01-01           | 002         | C             | 29     |                    |
+----------------------+-------------+---------------+--------+--------------------+
| 2023-01-01           | 003         | A             | 15     |                    |
+----------------------+-------------+---------------+--------+--------------------+
| 2023-01-01           | 003         | B             | 1      |                    |
+----------------------+-------------+---------------+--------+--------------------+
| 2023-01-01           | 003         | C             | 10     |                    |
+----------------------+-------------+---------------+--------+--------------------+
| 2023-01-02           | 001         | A             | 25     |                    |
+----------------------+-------------+---------------+--------+--------------------+
| 2023-01-02           | 001         | B             | 3      |                    |
+----------------------+-------------+---------------+--------+--------------------+
| Rest of reigsters... |             |               |        |                    |
+----------------------+-------------+---------------+--------+--------------------+

已尝试使用LSTM网络，但不清楚如何构建统一模型区分不同邮局的流量差异（如002邮局流量远高于001），同时按邮局和类型分类预测邮寄量。

额外问题 #

若新增分类变量Delivery success（取值为["Delivery OK", "Delivery failure"]），需按日期、邮局、明信片类型、投递状态分组预测，如何让模型自动适配这类新增分类变量？

一、针对原面板数据的LSTM模型构建 #

要让LSTM区分不同邮局和明信片类型的差异，核心是把分类特征转化为模型可理解的向量，同时保留时间序列特性，具体步骤如下：

1. 特征编码

   • 对Post office和Postcard type做嵌入（Embedding）处理：比独热编码更高效，每个分类值会被映射到低维向量，模型能学习到不同邮局/类型的潜在差异（比如002邮局的高流量特性）。
   • 对Date提取时间特征：比如年、月、日、星期几、是否节假日等，转化为数值特征输入模型。
   • 其他数值特征直接归一化后输入。

2. 模型结构设计
   采用混合输入的LSTM模型，结构分为三个部分：

   • 时间序列分支：处理历史Amount、时间特征等序列数据，输入LSTM层捕捉时间依赖。
   • 分类嵌入分支：分别对邮局、明信片类型做嵌入处理，输入全连接层学习类别差异。
   • 合并分支：将两个分支的输出合并，通过全连接层得到最终的Amount预测值。

   示例代码框架（Keras）：

   import tensorflow as tf
   from tensorflow.keras.layers import Input, Embedding, LSTM, Dense, Concatenate, Flatten
   from tensorflow.keras.models import Model
   
   # 分类特征参数
   num_post_offices = 3
   num_card_types = 3
   embedding_dim = 4
   
   # 输入层定义
   ts_input = Input(shape=(7, 2), name='time_series_input')  # 过去7天的序列，含Amount和时间特征
   post_office_input = Input(shape=(1,), name='post_office_input')
   card_type_input = Input(shape=(1,), name='card_type_input')
   
   # 嵌入层处理分类特征
   post_office_emb = Embedding(num_post_offices, embedding_dim)(post_office_input)
   post_office_emb = Flatten()(post_office_emb)
   card_type_emb = Embedding(num_card_types, embedding_dim)(card_type_input)
   card_type_emb = Flatten()(card_type_emb)
   
   # LSTM层处理时间序列
   lstm_out = LSTM(32)(ts_input)
   
   # 合并所有特征并输出
   concat = Concatenate()([lstm_out, post_office_emb, card_type_emb])
   output = Dense(1, name='amount_output')(concat)
   
   # 构建并编译模型
   model = Model(inputs=[ts_input, post_office_input, card_type_input], outputs=output)
   model.compile(optimizer='adam', loss='mse')
   

3. 数据预处理注意事项

   • 按Post office+Postcard type分组，生成每个组的时间序列样本，确保模型能学习到每个组的时间规律和类别特性。
   • 每个样本需包含对应组的历史序列数据，以及当前的分类特征（邮局、类型）。

二、新增分类变量的适配方法 #

当新增Delivery success这类分类变量时，只需在原有模型基础上扩展嵌入分支即可，无需大幅修改模型结构，步骤如下：

1. 特征编码扩展

   • 新增Delivery success的嵌入层：和邮局、明信片类型一样，将其映射为低维嵌入向量。后续若有新分类变量，可重复此逻辑。

2. 模型结构扩展
   在原模型中添加新的输入层和嵌入层，再合并到总特征中。示例代码修改部分：

   # 新增投递状态分类参数
   num_delivery_status = 2
   
   # 新增输入层
   delivery_status_input = Input(shape=(1,), name='delivery_status_input')
   
   # 新增嵌入层
   delivery_status_emb = Embedding(num_delivery_status, embedding_dim)(delivery_status_input)
   delivery_status_emb = Flatten()(delivery_status_emb)
   
   # 修改合并层，加入新的嵌入特征
   concat = Concatenate()([lstm_out, post_office_emb, card_type_emb, delivery_status_emb])
   

3. 数据调整

   • 按Date+Post office+Postcard type+Delivery success分组生成时间序列样本。
   • 将新增分类变量编码为整数（比如Delivery OK=0，Delivery failure=1）后输入模型。

这种设计的优势在于模型具备扩展性，新增分类变量时只需添加对应的嵌入分支，无需重构整个模型，能自动学习新分类变量带来的差异。

内容的提问来源于stack exchange，提问作者Imanol