Ubuntu 20.04下TensorFlow运行NFSP算法时GPU利用率低问题排查

一、TensorFlow是否在使用GPU？ #

结合你给出的测试结果（TensorFlow识别GPU、张量运算在GPU执行、nvidia-smi显示GPU内存占用），可以明确TensorFlow已经在使用GPU训练。GPU利用率低不代表没有GPU参与，核心问题是GPU承担的计算量占比过低，大部分时间处于等待CPU完成前置任务的状态。

二、GPU利用率低的核心原因 #

Kuhn Poker是超轻量博弈场景：

• 状态空间极小（仅约20种游戏状态），神经网络的输入输出维度极低，GPU的并行计算优势完全无法发挥
• NFSP算法本身包含大量环境交互、策略评估、经验采样等CPU密集型步骤，GPU仅负责小批量的神经网络参数更新，这部分计算量占整体流程的比例极低

三、训练速度优化方案 #

针对Kuhn Poker示例的优化 #

• 最大化批量大小：在GPU内存允许的范围内继续调大批次大小，让GPU单次处理更多数据，提升利用率
• 合并计算步骤：手动合并NFSP中价值网络与策略网络的前向/反向传播操作，减少CPU与GPU的交互次数
• 精简非核心流程：注释掉示例中频繁的策略评估、日志打印等代码，降低CPU额外开销

TensorFlow+GPU通用优化 #

• 开启XLA编译：在代码开头添加tf.config.optimizer.set_jit(True)，让TensorFlow自动编译计算图，提升GPU执行效率
• 启用混合精度训练：通过tf.keras.mixed_precision.set_global_policy('mixed_float16')开启半精度训练，减少内存占用并加速计算（需GPU支持Tensor Cores）
• 优化数据管道：将NFSP的经验回放池改为TensorFlow Dataset格式，利用prefetch和batch实现数据预加载，让CPU在GPU计算时提前准备数据
• 减少数据传输：尽量让所有张量操作在GPU上执行，避免频繁使用tf.convert_to_tensor或.numpy()进行CPU-GPU数据转换

场景迁移建议 #

Kuhn Poker本身不适合GPU加速，当你切换到自定义的大规模博弈领域（如德州扑克、复杂棋盘游戏）时，状态/动作空间增大，神经网络计算量占比提升，GPU利用率会自然上升，训练加速效果会显著体现。

内容的提问来源于stack exchange，提问作者David Čech