Docker只读模式下运行PyTorch共享内存报错排查

核心原因 #

在file_system共享策略下，PyTorch 1.8.1除了需要/dev/shm的读写权限，还会在系统临时目录（默认是/tmp）创建共享内存的元数据文件。只读Docker容器中默认/tmp是只读状态，无法创建这些文件，从而触发core.cpp:99的RuntimeError。

需要开放权限的目录 #

• /tmp目录：这是PyTorch默认存放共享内存元数据文件的位置（文件名通常带有torch_*前缀），必须设置为可写。
• 若通过环境变量TORCH_SHM_DIR自定义了元数据目录，则对应的自定义目录也需要赋予读写权限。

具体解决步骤 #

1. 调整Docker启动命令，给/tmp添加可写权限，推荐使用临时文件系统（tmpfs），更符合安全要求：

   docker run --read-only \
     --tmpfs /tmp \
     --tmpfs /dev/shm:rw,size=4g \  # 确保/dev/shm可写，可按需调整size
     your-pytorch-image
   

   也可以挂载宿主机目录替代tmpfs，但tmpfs更安全（容器销毁后文件自动清除）：

   docker run --read-only \
     -v /host/tmp:/tmp \
     -v /dev/shm:/dev/shm:rw \
     your-pytorch-image
   

2. 自定义元数据目录（可选）：如果不想开放整个/tmp，可以指定PyTorch使用自定义目录：

   • 在容器内的启动脚本中添加环境变量：

     export TORCH_SHM_DIR=/app/shm_metadata
     

   • 启动容器时给该目录添加可写权限：

     docker run --read-only \
       --tmpfs /app/shm_metadata \
       --tmpfs /dev/shm:rw,size=4g \
       your-pytorch-image
     

验证方法 #

启动容器后，手动在目标目录（比如/tmp）创建测试文件，确认权限正常：

touch /tmp/test_torch_shm && echo "Permission ok"

同时观察PyTorch启动时是否再出现之前的RuntimeError。

内容的提问来源于stack exchange，提问作者Tipok