预训练神经网络剪枝：VGG网络神经元删除问题咨询

为什么你的当前操作无法删除神经元 #

你现在的代码只是把低于中位数的权重置为0，但并没有改变层的结构——比如卷积层的卷积核数量、全连接层的神经元总数都和原模型一致。模型摘要展示的是层的结构参数，所以不会有变化；而且这些"被置零"的神经元仍然存在于网络中，只是输出被权重归零，并非真正被删除。

是不是只能重新构建模型？ #

是的，在TensorFlow/Keras框架下，重新构建符合剪后结构的模型是实现真正删除神经元的唯一可行方案。因为预训练模型的层一旦创建，其结构（如输出维度、卷积核数量）是固定的，没有内置函数可以直接修改已存在层的神经元数量。

具体实现步骤 #

1. 确定每层要保留的单元 #

• 卷积层：计算每个卷积核的权重统计值（比如L1范数、平均绝对值），筛选出统计值超过阈值的卷积核索引。
• 全连接层：计算每个神经元对应权重向量的统计值，筛选出符合条件的神经元索引。

2. 重新构建剪枝后的模型 #

基于筛选出的索引，创建新的层，并将原模型中对应保留单元的权重、偏置赋值给新层，再按原VGG的结构串联所有层。

示例代码（以全连接层剪枝为例） #

import tensorflow as tf
import numpy as np

# 加载原VGG16
original_model = tf.keras.applications.VGG16(weights='imagenet', include_top=True)

# 定义剪枝阈值（这里用权重向量的L2范数阈值）
prune_threshold = 0.1

# 提取原fc1层的权重和偏置
fc1_weights, fc1_biases = original_model.get_layer('fc1').get_weights()
# 计算每个神经元权重向量的L2范数
neuron_norms = np.linalg.norm(fc1_weights, axis=0)
# 筛选保留的神经元索引
keep_indices = np.where(neuron_norms > prune_threshold)[0]

# 构建剪枝后的模型
input_layer = original_model.input
# 复制原模型的特征提取部分（conv层）
x = original_model.layers[1](input_layer)
for layer in original_model.layers[2:-3]:  # 跳过输入层和最后三个全连接层
    x = layer(x)

# 添加剪枝后的fc1层
pruned_fc1 = tf.keras.layers.Dense(len(keep_indices), activation='relu', name='pruned_fc1')(x)
# 赋值保留的权重和偏置
pruned_fc1.set_weights([fc1_weights[:, keep_indices], fc1_biases[keep_indices]])

# 添加后续层（fc2和predictions，这里可以选择是否也剪枝）
pruned_fc2 = tf.keras.layers.Dense(4096, activation='relu', name='pruned_fc2')(pruned_fc1)
pruned_fc2.set_weights(original_model.get_layer('fc2').get_weights())

pruned_predictions = tf.keras.layers.Dense(1000, activation='softmax', name='pruned_predictions')(pruned_fc2)
pruned_predictions.set_weights(original_model.get_layer('predictions').get_weights())

# 组装剪枝后的模型
pruned_model = tf.keras.Model(inputs=input_layer, outputs=pruned_predictions)
pruned_model.summary()

注意事项 #

• 剪枝后模型需要重新微调，因为删除神经元会破坏原有的特征映射关系，直接使用预训练权重可能导致性能下降。
• 卷积层剪枝时，要确保后续层的输入通道数与当前层的输出通道数（保留的卷积核数量）一致，否则会出现维度不匹配的错误。

内容的提问来源于stack exchange，提问作者Artemis Stefanidou