KerasRegressor音频分类模型调参无结果及效果差问题排查

我是机器学习新手，正在为基于4维MFCC数据的音频分类模型寻找最优CNN+MLP结构。目前遇到两个问题：

• 用随机搜索调参时，运行数小时毫无结果
• 用基础的2层CNN+1层MLP结构时，模型效果很差

已完成前置工作：用scikit-learn的StandardScaler对数据做了标准化。想问：调参方法是不是有问题？为什么调参耗时这么久还没结果？

以下是我使用的代码：

def build_model(n_hidden = 1,n_neurons = 30,n_cnn = 1, learning_rate = 3e-3, input_shape = (mfcc_train.shape[1],mfcc_train.shape[2],1)):
    model = keras.models.Sequential()
    for cnn in range(n_cnn):
        model.add(keras.layers.Conv2D(32, (3,3), activation='relu', input_shape=input_shape))
        model.add(keras.layers.MaxPooling2D((3,3), strides=(2,2), padding='same'))
        model.add(keras.layers.BatchNormalization())
    
    
    model.add(keras.layers.Flatten())            
    model.add(keras.layers.InputLayer())
    for layer in range(n_hidden):
        model.add(keras.layers.Dense(n_neurons,activation = "relu"))
    model.add(keras.layers.Dense(1,activation = "sigmoid"))
    optimizer = keras.optimizers.SGD(lr = learning_rate)
    model.compile(loss = tf.keras.losses.BinaryCrossentropy(from_logits=True),optimizer = optimizer)
    return model
def build_model(n_hidden = 1,n_neurons = 30,n_cnn = 1, learning_rate = 3e-3, input_shape = (mfcc_train.shape[1],mfcc_train.shape[2],1)):
    model = keras.models.Sequential()
    for cnn in range(n_cnn):
        model.add(keras.layers.Conv2D(32, (3,3), activation='relu', input_shape=input_shape))
        model.add(keras.layers.MaxPooling2D((3,3), strides=(2,2), padding='same'))
        model.add(keras.layers.BatchNormalization())
    
    
    model.add(keras.layers.Flatten())            
    model.add(keras.layers.InputLayer())
    for layer in range(n_hidden):
        model.add(keras.layers.Dense(n_neurons,activation = "relu"))
    model.add(keras.layers.Dense(1,activation = "sigmoid"))
    optimizer = keras.optimizers.SGD(lr = learning_rate)
    model.compile(loss = tf.keras.losses.BinaryCrossentropy(from_logits=True),optimizer = optimizer)
    return model

xxx = keras.wrappers.scikit_learn.KerasRegressor(build_model)


param_distribs = {
    "n_hidden":[1,2,3,4],
    "n_neurons": np.arange(1,200),
    "learning_rate": reciprocal(3e-3,3e-1),
    "n_cnn":[2,3,4],
}

rnd_search_cv = RandomizedSearchCV(xxx,param_distribs,n_iter = 20)
rnd_search_cv.fit(mfcc_train,y_train,epochs = 100,batch_size = 32,validation_data =[mfcc_valid,y_valid] ,callbacks = [keras.callbacks.EarlyStopping(patience = 10)])

我尝试过不同的近似参数，该函数在MLP中表现良好，但在当前场景下无法得到有效结果。

问题分析 #

1. 调参耗时久的核心原因 #

• 参数空间过大：n_neurons设置了1-199共199个候选值，结合其他参数的组合，即使随机搜索20次，每次训练最多跑100轮（带早停），CNN模型的计算量远大于纯MLP，自然耗时极长。
• 模型结构错误：代码重复定义了build_model函数，且在Flatten()后冗余添加了InputLayer()——InputLayer应该放在模型最开头，这个错误可能导致模型编译/训练时出现隐性卡顿或错误。
• 任务类型匹配错误：你做的是二分类任务，却用了KerasRegressor（回归任务包装器），这会导致评估逻辑混乱，搜索过程无法正确收敛。

2. 基础模型效果差的原因 #

• CNN层设计僵化：所有CNN层都用32个3x3卷积核，没有随着层数加深增加通道数，无法提取更复杂的音频特征。
• 损失函数与输出层不匹配：输出层用sigmoid激活，但损失函数设置了from_logits=True——这个参数是配合无激活的输出层使用的，会导致损失计算错误。
• 优化器选择不合理：SGD优化器收敛速度慢，不如Adam这类自适应优化器适合音频分类任务。

优化方案 #

1. 修正模型结构 #

删掉冗余的InputLayer()，统一模型定义，修正损失函数和任务包装器：

def build_model(n_hidden = 1,n_neurons = 30,n_cnn = 1, learning_rate = 3e-3, input_shape = (mfcc_train.shape[1],mfcc_train.shape[2],1)):
    model = keras.models.Sequential()
    # 第一个CNN层指定input_shape，后续层自动继承
    model.add(keras.layers.Conv2D(32, (3,3), activation='relu', input_shape=input_shape))
    model.add(keras.layers.MaxPooling2D((3,3), strides=(2,2), padding='same'))
    model.add(keras.layers.BatchNormalization())
    
    # 后续CNN层按比例增加通道数
    for cnn in range(1, n_cnn):
        model.add(keras.layers.Conv2D(32 * (2 ** cnn), (3,3), activation='relu'))
        model.add(keras.layers.MaxPooling2D((3,3), strides=(2,2), padding='same'))
        model.add(keras.layers.BatchNormalization())
    
    model.add(keras.layers.Flatten())            
    for layer in range(n_hidden):
        model.add(keras.layers.Dense(n_neurons, activation = "relu"))
        model.add(keras.layers.Dropout(0.3))  # 添加Dropout防止过拟合
    model.add(keras.layers.Dense(1, activation = "sigmoid"))
    
    # 改用Adam优化器，修正损失函数参数
    optimizer = keras.optimizers.Adam(learning_rate=learning_rate)
    model.compile(loss = tf.keras.losses.BinaryCrossentropy(), optimizer = optimizer, metrics=['accuracy'])
    return model

# 改用KerasClassifier适配二分类任务
xxx = keras.wrappers.scikit_learn.KerasClassifier(build_model)

2. 缩小参数搜索空间 #

大幅减少候选参数数量，提高调参效率：

param_distribs = {
    "n_hidden":[1,2],  # 先从简单结构试起
    "n_neurons": [32,64,128],  # 用离散的常用值，避免遍历1-199
    "learning_rate": reciprocal(1e-4, 1e-2),  # Adam适合更小的学习率范围
    "n_cnn":[2,3],  # 过多CNN层会丢失特征
}

3. 加速训练的其他技巧 #

• 降低epochs上限至50，早停patience设为5，减少单模型训练时间
• 增大batch_size至64或128，减少迭代次数
• 确保TensorFlow启用GPU加速，这能将训练速度提升数倍

内容的提问来源于stack exchange，提问作者Burak Demiröz