TorchServe是否支持为每个模型配置独立Python环境？多版本依赖咨询

可以实现，核心是利用模型级别的依赖隔离——你关注到的install_py_dep_per_model参数并非全局安装依赖，而是为每个模型创建独立的Python虚拟环境来安装专属依赖，刚好解决多版本冲突的问题。

具体操作方式： #

• 开启依赖隔离：在TorchServe的config.properties配置文件中添加install_py_dep_per_model=true，或者启动TorchServe时通过命令行参数--install-py-dep-per-model开启该功能。
• 单独声明模型依赖：为每个模型编写专属的requirements.txt文件，原有4个模型的文件中指定transformers==3.1.0，新模型的文件中指定transformers==4.25.1。
• 打包模型时包含依赖：将每个模型的requirements.txt与模型归档文件一起打包成.mar格式，TorchServe加载模型时会自动为该模型创建独立虚拟环境并安装对应版本的依赖。

注意要点： #

• 每个模型的独立虚拟环境会额外占用内存资源，需要根据服务器配置调整托管的模型数量。
• 如果你之前在Docker镜像中全局安装了transformers==3.1.0，开启该参数后，原有模型会优先使用自身虚拟环境内的依赖，不会与全局版本冲突，但仍建议为每个模型明确声明依赖，避免依赖链混乱。

内容的提问来源于stack exchange，提问作者sereneSentry