Docker镜像中GPU被Xwayland占用导致GAN训练失败求助

在使用Docker镜像训练生成对抗网络（GAN）时，运行脚本出现以下错误：

[2023-07-29 11:02:47 @__init__.py:80] Saving logging to file: neuralgym_logs/20230729110247859123.
# gpu         pid  type    sm    mem    enc    dec    command
# Idx           #   C/G     %      %      %      %    name
    0         20     G     -     -     -     -   /Xwayland      
    0         22     G     -     -     -     -   /Xwayland      
    0         31     G     -     -     -     -   /Xwayland      

Traceback (most recent call last):
  File "test.py", line 23, in <module>
    ng.get_gpus(1)
  File "/usr/local/lib/python3.5/dist-packages/neuralgym/utils/gpus.py", line 70, in get_gpus
    ' [(gpu id: num of processes)]: {}'.format(sorted_gpus))
SystemError: No enough gpus for dedicated usage. [(gpu id: num of processes)]: [(0, 3)]

使用nvidia-smi查看，发现有3个Xwayland进程占用GPU。

使用的Docker基础镜像为：

FROM tensorflow/tensorflow:1.7.0-gpu-py3

和

FROM nvcr.io/nvidia/tensorflow:18.03-py3

两个镜像均出现相同问题，疑问点：

• 是否需要在Dockerfile中设置变量？
• 未运行GUI应用，为何Xwayland会占用GPU？

关于Xwayland占用GPU的原因 #

Xwayland是X11服务器的Wayland兼容层，容器中出现该进程，大概率是因为启动容器时挂载了宿主系统的X11套接字（比如使用-v /tmp/.X11-unix:/tmp/.X11-unix参数）或设置了DISPLAY环境变量，触发容器内启动相关进程占用GPU资源。如果不需要在容器内运行GUI程序，完全可以移除这些配置。

具体解决步骤 #

1. 移除容器的X11相关配置

   • 启动容器时，删除-v /tmp/.X11-unix:/tmp/.X11-unix参数，同时不要设置DISPLAY环境变量；如果用docker-compose启动，检查配置文件中的对应挂载和环境变量设置并移除。
   • 此操作可直接阻止容器内启动Xwayland进程，释放GPU资源。

2. 调整neuralgym的GPU检测逻辑（临时 workaround）
   如果暂时无法移除X11配置，可修改neuralgym/utils/gpus.py的检测逻辑：

   • 在统计GPU进程数的代码段中，过滤掉命令名为/Xwayland的进程；
   • 或者直接在训练脚本开头强制指定GPU，跳过自动检测：

     import os
     os.environ['CUDA_VISIBLE_DEVICES'] = '0'
     

3. Dockerfile的环境变量设置
   无需额外特殊变量，但可在Dockerfile中明确限定容器可用GPU：

   ENV CUDA_VISIBLE_DEVICES=0
   

   此设置让容器仅能看到指定GPU，避免无关进程干扰。

内容的提问来源于stack exchange，提问作者Patschenkof