将自定义代码接入Kubernetes标准Docker运行时镜像的最佳实践

我来帮你拆解这个问题，刚好我在做类似的Serverless式ML运行环境时踩过不少坑，分享点实用的方案和思路：

一、替代Persistent Volume的简便方案 #

PV挂载确实在动态运行外部代码时太繁琐，尤其是Serverless场景下按需启动容器的需求，推荐这几个更灵活的方案：

1. 直接用Docker Bind Mount（单节点/测试场景） #

如果只是单节点运行或者快速测试，直接在docker run时挂载本地代码目录到容器里，比PV简单太多：

docker run -v /path/to/your/local/code:/app your-tf1.7-image python /app/train.py

这个方式的好处是实时同步本地代码修改，适合开发调试，但如果是多节点集群或者需要隔离环境的生产场景，就不太适用了。

2. 代码包动态拉取（Serverless生产场景首选） #

把用户代码打包成tar.gz或zip，在容器启动时通过HTTP/对象存储拉取到容器内执行，完全不用挂载卷。具体步骤：

• 给你的TF1.7镜像加一个启动脚本（比如start.sh），内容如下：

#!/bin/bash
set -e

# 下载用户代码包
curl -o /tmp/code.tar.gz $CODE_URL
# 解压到工作目录
tar -xzf /tmp/code.tar.gz -C /app
# 安装依赖（如果用户提供了requirements.txt）
if [ -f /app/requirements.txt ]; then
    pip install -r /app/requirements.txt
fi
# 执行用户指定的入口脚本
python /app/$ENTRYPOINT

• 运行容器时传入代码包地址和入口脚本环境变量：

docker run -e CODE_URL=http://your-storage-server/user-code.tar.gz -e ENTRYPOINT=train.py your-tf1.7-image

这种方式完全动态，适合Serverless按需启动的场景，用户只需要把代码包上传到你的存储服务（比如MinIO、内部文件服务器）即可。

3. K8s Init Container拉取代码（集群场景） #

如果是在Kubernetes集群里运行，可以用Init Container先把代码拉到临时的EmptyDir卷里，主容器共享这个卷，不用预先创建PV/PVC：

apiVersion: v1
kind: Pod
metadata:
  name: tf-code-runner
spec:
  initContainers:
  - name: fetch-code
    image: curlimages/curl:latest
    command: ["bash", "-c", "curl -o /code/code.tar.gz $CODE_URL"]
    env:
    - name: CODE_URL
      value: "http://your-storage-server/user-code.tar.gz"
    volumeMounts:
    - name: code-volume
      mountPath: /code
  containers:
  - name: tf-runtime
    image: your-tf1.7-image
    command: ["bash", "-c", "tar -xzf /code/code.tar.gz -C /app && pip install -r /app/requirements.txt && python /app/train.py"]
    volumeMounts:
    - name: code-volume
      mountPath: /code
  volumes:
  - name: code-volume
    emptyDir: {}

每次启动Pod都会拉取最新的代码，用完就销毁，非常符合Serverless的无状态特性。

二、Google ML Engine（Vertex AI）和FloydHub的工作流程解析 #

你提到的这两个平台的核心思路都是把本地代码和预定义环境无缝结合，流程非常相似：

Google Vertex AI Training（原ML Engine） #

1. 本地准备：用户写好训练代码，附带requirements.txt声明依赖
2. CLI提交：用gcloud ai custom-jobs create命令，指定预训练镜像（或自定义镜像）、本地代码目录、入口命令
3. 后台处理：CLI自动把本地代码打包成tar.gz，上传到Google Cloud Storage（GCS）；后台启动指定镜像的容器，从GCS下载代码到容器内，安装依赖后执行训练脚本
4. 结果同步：训练日志、模型结果自动同步到GCS和Vertex AI控制台，用户可以通过CLI或网页查看

FloydHub（经典版本） #

1. 本地初始化：用户安装floyd CLI，登录后用floyd init初始化本地项目
2. 提交任务：用floyd run命令，指定环境（比如--env tensorflow-1.7）、入口命令，CLI自动打包本地代码并上传到FloydHub的存储
3. 环境运行：后台启动对应版本的TensorFlow容器，下载代码、安装依赖，执行用户命令
4. 结果管理：用户可以通过floyd logs查看日志，floyd download下载训练结果

三、如何自己实现类似的CLI工具 #

核心是让CLI帮用户完成代码打包→上传→启动容器的全流程，这里给个极简的Python CLI示例：

import os
import tarfile
import requests
import subprocess
import argparse

def package_code(source_dir, output_tar):
    """打包本地代码，排除无关文件"""
    with tarfile.open(output_tar, 'w:gz') as tar:
        for root, dirs, files in os.walk(source_dir):
            # 排除不需要的目录和文件
            dirs[:] = [d for d in dirs if d not in ['.git', '__pycache__', 'venv']]
            for file in files:
                if file not in ['.gitignore', 'Dockerfile', 'README.md']:
                    file_path = os.path.join(root, file)
                    tar.add(file_path, arcname=os.path.relpath(file_path, source_dir))

def upload_code(tar_path, storage_url):
    """上传代码包到存储服务"""
    with open(tar_path, 'rb') as f:
        resp = requests.put(storage_url, data=f)
    resp.raise_for_status()
    return storage_url

def run_job(image_name, code_url, entrypoint):
    """启动TF容器运行代码"""
    cmd = [
        'docker', 'run',
        '-e', f'CODE_URL={code_url}',
        '-e', f'ENTRYPOINT={entrypoint}',
        '--rm',  # 运行完自动销毁容器
        image_name
    ]
    subprocess.run(cmd, check=True)

if __name__ == '__main__':
    parser = argparse.ArgumentParser(description='Run code on TF 1.7 runtime')
    parser.add_argument('--code-dir', default='./', help='Local code directory')
    parser.add_argument('--entrypoint', required=True, help='Entry script (e.g., train.py)')
    parser.add_argument('--image', default='your-tf1.7-image', help='TF runtime image name')
    parser.add_argument('--storage-url', required=True, help='URL to upload code package')
    args = parser.parse_args()

    # 执行流程
    code_tar = 'code.tar.gz'
    package_code(args.code_dir, code_tar)
    upload_code(code_tar, args.storage_url)
    run_job(args.image, args.storage_url, args.entrypoint)

用户只需要运行类似这样的命令就能提交任务：

python your-cli.py --code-dir ./my-code --entrypoint train.py --storage-url http://your-storage/upload/code.tar.gz

总结 #

• 单节点测试用Docker Bind Mount最方便；
• 生产Serverless场景用代码包动态拉取+自定义CLI的组合，完全替代PV；
• 借鉴ML Engine/FloydHub的思路，核心是用CLI简化代码打包、上传、容器启动的流程，让用户只需要关注代码本身。

内容的提问来源于stack exchange，提问作者aisensiy