使用TensorFlow构建CNN时Jupyter内核崩溃求助

1. 排查资源占用问题 #

• 实时监控内存/显存：用nvidia-smi（GPU环境）或htop（CPU环境）查看资源使用情况，确认是否因内存/显存耗尽导致内核被强制终止。
• 调整模型参数：尝试减小训练的batch_size（例如从64改为16），降低单步计算的资源负载后重新测试。

2. 验证TensorFlow硬件配置 #

• 检查GPU识别状态：执行以下代码确认TensorFlow是否正确调用GPU：

  import tensorflow as tf
  print(tf.config.list_physical_devices('GPU'))
  print(tf.test.is_built_with_cuda())
  

• 匹配CUDA/cuDNN版本：TensorFlow 2.10.0要求CUDA 11.2、cuDNN 8.1，若版本不匹配会导致底层错误。
• 强制使用CPU测试：添加以下代码禁用GPU，验证是否是GPU驱动或配置问题：

  import os
  os.environ['CUDA_VISIBLE_DEVICES'] = '-1'
  

3. 逐步定位模型代码问题 #

• 先运行极简CNN模型，确认基础功能正常：

  import tensorflow as tf
  from tensorflow.keras import layers, models
  
  model = models.Sequential()
  model.add(layers.Conv2D(32, (3, 3), activation='relu', input_shape=(32, 32, 3)))
  model.add(layers.MaxPooling2D((2, 2)))
  model.summary()
  

• 若极简模型正常，再逐步添加原模型的后续层（如更多Conv2D、Flatten、Dense层），定位到导致崩溃的具体代码段。

4. 修复Jupyter内核与环境的匹配性 #

• 确认Jupyter使用的是目标Anaconda内核：打开笔记本后，检查右上角显示的内核名称是否为FreeCodeCampML（或新创建的测试环境）。
• 重新注册内核：激活目标环境后执行以下命令，重启Jupyter后选择对应内核：

  conda activate FreeCodeCampML
  pip install ipykernel
  python -m ipykernel install --user --name=FreeCodeCampML
  

5. 查看系统日志获取崩溃细节 #

• Linux系统查看/var/log/syslog或执行dmesg命令，Windows系统打开事件查看器的系统日志，搜索“out of memory”或“kernel termination”相关条目，获取内核崩溃的具体原因。

内容的提问来源于stack exchange，提问作者AdamB