为何GPU训练AI比CPU慢？i7-4720HQ对比Nvidia 950m

1. 核心问题：强制指定CPU设备运行 #

你的代码中使用了with tf.device('/CPU:0'):上下文管理器，整个模型的构建、编译和训练过程都被强制限制在CPU上执行，GPU根本没有参与训练，这是GPU速度远慢于CPU的直接原因。

解决方法：
移除with tf.device('/CPU:0'):代码块，让TensorFlow自动选择最优设备（默认会优先使用可用的GPU），修改后的模型构建与训练代码如下：

Input = tf.keras.layers.Input(shape=(3,))
m = tf.keras.layers.Dense(32, activation='relu')(Input)
m = tf.keras.layers.Dense(16,  activation='relu')(m)
m = tf.keras.layers.Dense(8, activation='relu')(m)
m = tf.keras.layers.Dense(8, activation='relu')(m)
output = tf.keras.layers.Dense(1)(m)

model = tf.keras.models.Model(inputs=Input, outputs=output)

model.compile(optimizer=tf.keras.optimizers.Adam(learning_rate=0.001),
              loss='mse')

history = model.fit(train_dataset,
                    epochs=100,
                    validation_data=test_dataset)

2. 模型规模过小，GPU并行优势无法发挥 #

你的模型仅包含4层小规模全连接层，输入维度仅为3，整体计算量极小。GPU的核心优势是大规模并行计算，当计算量不足时，数据在CPU与GPU之间传输的开销会远超过GPU的计算收益，最终导致GPU效率不如CPU。

解决建议：

• 若业务场景允许，可适当增加模型复杂度（比如提升全连接层神经元数量、添加更多网络层），让GPU的并行计算能力得到充分利用；
• 若模型规模必须保持当前大小，这种场景下CPU确实是更高效的选择。

3. Batch Size设置过小 #

当前设置的batch size为32，对于GPU来说过小。小批量数据无法充分占用GPU的计算核心，同时频繁的小批量数据传输会额外增加开销，进一步降低GPU效率。

解决方法：
逐步增大batch size（比如尝试128、256、512），找到GPU能高效处理的最优值。如果出现显存不足（OOM）错误，再适当调小数值。

4. GPU硬件本身的性能限制 #

NVIDIA 950M是一款较老的移动端入门级GPU，显存容量通常为2GB，单精度计算性能远低于同期的桌面级i7-4720HQ CPU。对于这种小规模计算任务，该GPU的性能表现确实可能不如你的CPU。

验证方法：
运行以下代码确认TensorFlow是否正确识别GPU：

print(tf.config.list_physical_devices('GPU'))

如果输出为空，说明TensorFlow未正确配置GPU支持，需要检查CUDA、cuDNN版本与TensorFlow版本是否匹配。

内容的提问来源于stack exchange，提问作者Vio Octavio