NVIDIA_VISIBLE_DEVICES与nvidia.com/gpu编号区别及后者用途问询

核心差异与用途 #

• NVIDIA_VISIBLE_DEVICES
  这是NVIDIA容器运行时的环境变量，作用是直接从宿主机的物理GPU列表中筛选要暴露给容器的卡，这里的编号0/1对应宿主机上物理GPU的实际序号。比如设置NVIDIA_VISIBLE_DEVICES=1，容器会直接拿到宿主机的第二块物理GPU，且容器内部看到的GPU序号会被重新映射为0。

• nvidia.com/gpu
  这是Kubernetes环境下的GPU资源请求字段，它的编号0/1不是物理GPU的序号，而是用于声明请求GPU的数量或逻辑标识。它的核心作用是向K8s调度器申请GPU资源，调度器会根据节点的GPU剩余资源情况，自动分配可用的物理GPU，而非直接绑定你指定编号的物理卡。

关于你遇到的问题 #

你修改nvidia.com/gpu:1无法访问第二块物理GPU，本质是误解了这个字段的用途——它不是用来指定具体物理卡序号的，只是声明需要使用1块GPU。如果要在K8s环境中绑定特定物理GPU，需要通过节点亲和性、GPU标签匹配或污点容忍等调度策略实现，而非直接修改这个编号。

内容的提问来源于stack exchange，提问作者Amiya