Keras-TF含Conv2D的模型调用model.fit时无响应求助

嘿，我之前在跑MNIST的CNN模型时也踩过一模一样的坑——全连接模型跑得顺顺的，一加上卷积层就卡在Epoch 1直接崩。大概率是下面这两个原因之一，咱们一步步排查：

1. 输入数据格式不匹配Conv2D要求 #

Conv2D层需要4维张量输入（形状为 (样本数, 图像高度, 图像宽度, 通道数)），但MNIST默认加载的数据是3维的(样本数,28,28)（单通道灰度图），如果直接喂给Conv2D，模型会默默卡住甚至崩溃（不同环境表现可能不一样）。

解决办法：把数据reshape成4维，同时做归一化（这步也很重要，不然训练效率极低甚至不收敛）：

(x_train, y_train), (x_test, y_test) = mnist.load_data()

# 转换为4D张量，归一化到0-1区间
x_train = x_train.reshape(x_train.shape[0], 28, 28, 1).astype('float32') / 255
x_test = x_test.reshape(x_test.shape[0], 28, 28, 1).astype('float32') / 255

# 标签做独热编码（和全连接模型一样的步骤）
y_train = np_utils.to_categorical(y_train, 10)
y_test = np_utils.to_categorical(y_test, 10)

2. 内存不足导致进程被系统杀死 #

卷积层的内存消耗比全连接层大得多，尤其是如果你的batch_size设得太大（比如默认32，或者更大），显存/内存不够用的时候，系统会直接终止进程，看起来就像“停滞然后结束”。

解决办法：

• 调小batch_size：比如从32改成16、8，甚至4，根据你的硬件情况来
• 减少卷积层的过滤器数量：比如把Conv2D(64, ...)改成Conv2D(32, ...)
• 如果用GPU训练，关闭其他占用显存的程序（比如浏览器、其他AI模型）

给你一个完整的可运行示例代码：

import keras
import numpy as np
from keras.models import Sequential
from keras.layers import Dense, Dropout, Activation, Flatten
from keras.utils import np_utils
from keras.layers import Conv2D, MaxPooling2D
from keras.datasets import mnist

def train_mnist_cnn():
    # 数据预处理
    (x_train, y_train), (x_test, y_test) = mnist.load_data()
    x_train = x_train.reshape(x_train.shape[0], 28, 28, 1).astype('float32') / 255
    x_test = x_test.reshape(x_test.shape[0], 28, 28, 1).astype('float32') / 255
    y_train = np_utils.to_categorical(y_train, 10)
    y_test = np_utils.to_categorical(y_test, 10)

    # 构建CNN模型
    model = Sequential()
    model.add(Conv2D(32, (3, 3), activation='relu', input_shape=(28, 28, 1)))
    model.add(MaxPooling2D(pool_size=(2, 2)))
    model.add(Conv2D(32, (3, 3), activation='relu'))
    model.add(MaxPooling2D(pool_size=(2, 2)))
    model.add(Flatten())
    model.add(Dense(128, activation='relu'))
    model.add(Dropout(0.5))
    model.add(Dense(10, activation='softmax'))

    # 编译模型
    model.compile(loss='categorical_crossentropy',
                  optimizer='adam',
                  metrics=['accuracy'])

    # 训练，调小batch_size避免内存问题
    model.fit(x_train, y_train, batch_size=16, epochs=5, validation_data=(x_test, y_test))

train_mnist_cnn()

先试试上面的代码，应该能正常跑起来。如果还是有问题，可以看看系统日志（比如Linux下的dmesg，Windows下的事件查看器），确认是不是内存不足导致的进程被终止。

内容的提问来源于stack exchange，提问作者alkaliexce