Paramiko SSH连接服务器后无法进入Docker容器执行训练命令的解决方法

目标是编写API实现GPU服务器训练任务启动能力，将训练输出返回给客户端。因GPU服务器为多人共用环境，所有操作均在个人Docker容器内执行，避免环境冲突。
初始实现采用Paramiko库SSH连接宿主机，尝试依次完成「进入个人容器→激活容器内Anaconda环境→运行训练脚本」流程，测试代码如下：

import paramiko


host = "xxx.xx.x.xxx"       # actual host IP
username = "support"
password = "password"

client = paramiko.client.SSHClient()
client.set_missing_host_key_policy(paramiko.AutoAddPolicy())
client.connect(host, username=username, password=password)
_stdin, _stdout, _stderr = client.exec_command("pwd")
_stdin.close()
print(_stdout.read().decode())              # 输出宿主机目录 /home/support 
print(_stderr.read().decode())
_stdin, _stdout, _stderr = client.exec_command("docker exec -it <container id> /bin/bash; pwd")
_stdin.close()
print(_stdout.read().decode())              # 仍输出宿主机目录 /home/support，未进入容器
print(_stderr.read().decode())              
_stdin, _stdout, _stderr = client.exec_command("docker exec -it <container id> /bin/bash; conda activate <my conda env>; python train.py")       # 目标执行的命令序列
_stdin.close()
print(_stdout.read().decode())
print(_stderr.read().decode())              # 报错：
                                            # input device is not a TTY
                                            # bash: conda: command not found

client.close()

代码运行不符合预期，始终无法进入目标容器，执行时报input device is not a TTY、conda: command not found错误，尝试直接SSH连接容器也失败。

• docker exec的-it参数作用是分配交互式TTY终端，仅适用于手动登录操作的场景，Paramiko的非交互式命令调用默认不提供TTY，加该参数必然触发报错。
• 分号拼接命令的逻辑错误：分号代表在当前shell顺序执行命令，docker exec ... /bin/bash执行退出后，后续的pwd、conda activate等命令全部运行在宿主机shell中，根本没有进入容器环境。
• conda: command not found是因为容器内的非交互式shell不会自动加载Anaconda的环境变量配置，直接调用conda会找不到可执行文件路径。
• 直接SSH连接容器失败属于正常情况：默认容器不会启动SSH服务、也不会映射SSH端口，通过宿主机docker exec操作容器是标准用法，不需要额外给容器部署SSH服务。

1. 调整docker exec调用逻辑 #

去掉-it参数，把需要在容器内执行的完整命令直接作为docker exec的参数传入，不要通过分号拼接在/bin/bash后面。
基础命令格式：

docker exec <你的容器ID> <需要在容器内执行的命令>

2. 解决conda命令找不到的问题 #

最稳定的方式是不调用conda activate，直接使用conda环境内Python解释器的绝对路径执行脚本，不需要依赖shell加载环境配置。
可以先在宿主机手动执行以下命令，查找对应环境的Python路径：

docker exec <你的容器ID> find / -name python | grep envs

一般路径格式为/opt/conda/envs/<你的环境名>/bin/python或者/root/anaconda3/envs/<你的环境名>/bin/python。

如果一定要用conda activate的写法，需要显式加载conda初始化脚本，命令格式如下（注意替换成你容器内conda的实际安装路径）：

docker exec <你的容器ID> bash -c "source /opt/conda/etc/profile.d/conda.sh && conda activate <你的环境名> && python train.py"

3. 修正后的Paramiko代码 #

长耗时训练任务建议开启get_pty=True，同时逐行读取输出避免缓冲区阻塞，不要等命令完全执行完再一次性读取所有输出：

import paramiko

# 配置项替换为你的实际参数
host = "xxx.xx.x.xxx"
username = "support"
password = "password"
container_id = "替换为你的容器ID"
env_python_path = "/opt/conda/envs/你的环境名/bin/python"  # 替换为查到的conda环境python绝对路径
train_script_abs_path = "/容器内训练脚本的绝对路径/train.py"

client = paramiko.client.SSHClient()
client.set_missing_host_key_policy(paramiko.AutoAddPolicy())
client.connect(host, username=username, password=password)

# 验证容器连通性
_stdin, _stdout, _stderr = client.exec_command(f"docker exec {container_id} pwd")
print("容器内工作目录：", _stdout.read().decode().strip())
err = _stderr.read().decode()
if err:
    print("连通性检查错误：", err)

# 启动训练任务，逐行实时获取输出
train_cmd = f"docker exec {container_id} {env_python_path} {train_script_abs_path}"
_stdin, _stdout, _stderr = client.exec_command(train_cmd, get_pty=True)

# 逐行迭代读取输出，可替换为向客户端推送输出的逻辑
for line in iter(_stdout.readline, ""):
    print(line, end="")

# 读取执行结束后的错误输出
err = _stderr.read().decode()
if err:
    print("训练执行错误：", err)

client.close()

• 训练是长耗时任务时，必须用逐行读取的方式获取输出，否则输出缓冲区写满后会导致训练进程卡住。
• 不要给容器单独配置SSH暴露端口，既增加安全风险，也不符合容器的常规使用规范。
• 所有脚本路径建议用容器内的绝对路径，避免工作目录不匹配导致的文件找不到错误。

内容的提问来源于stack exchange，提问作者emretasar