相同代码与依赖库，新笔记本深度学习训练速度慢于旧设备且GPU未被调用

核心原因 #

GPU负载仅0-1%的核心本质是运算瓶颈不在GPU侧，上游环节无法向GPU输送足够的待运算数据，导致GPU长期空转，并非硬件性能差异导致的结果。

常见排查方向 #

• 数据加载与预处理瓶颈：14GB数据集如果采用单线程逐样本读取、单线程预处理逻辑，运算瓶颈会集中在硬盘IO和CPU预处理环节。可先查看训练时三台设备的CPU占用、硬盘读写速率，若新笔记本CPU占满、硬盘读写跑满即可确认该问题。部分旧环境默认开启了TensorFlow多线程数据加载配置，新环境未做对应配置也会出现该差异。

你提供的日志中明确提示Your CPU supports instructions that this TensorFlow binary was not compiled to use: AVX AVX2，说明当前安装的TensorFlow版本未适配新CPU的AVX2指令集，CPU运算效率远低于理论值，进一步放大了预处理环节的瓶颈。

• 批量大小（batch_size）配置不合理：如果batch_size设置过小，GPU单次并行运算的数据量极低，无法发挥算力优势，反而会因为CPU与GPU之间的数据传输额外开销，导致速度低于纯CPU运算。可逐步调大batch_size至占用6-7GB显存（避免显存溢出），观察GPU负载和训练速度变化。
• 代码强制指定CPU运算：部分历史Keras代码会手动添加全局CPU运算配置，例如os.environ["CUDA_VISIBLE_DEVICES"] = "-1"、训练逻辑外层套with tf.device('/cpu:0')等，即便TensorFlow能识别GPU也不会调用，可直接检索代码中是否存在相关配置。

验证方法 #

运行Keras官方MNIST分类基准测试代码，若测试过程中GPU负载可达到70%以上，即可确认GPU环境本身无问题，问题出在当前业务代码的配置或数据加载逻辑中。

内容的提问来源于stack exchange，提问作者WalkerC67