You need to enable JavaScript to run this app.
导航

GPU 函数管理

最近更新时间2024.04.12 10:30:58

首次发布时间2023.11.30 21:16:58

本文为您介绍 GPU 函数的基本操作,包括:创建 GPU 函数、更新配置信息、更新镜像、删除函数等操作。

创建 GPU 函数

函数服务支持基于容器镜像的方式创建 GPU 函数。本文为您介绍如何创建 GPU 函数。

说明

若使用自定义容器镜像部署,需参照 Native 函数开发指南,完成代码开发、镜像构建、镜像推送工作。

  1. 在 函数列表 页面,单击 创建函数,选择 创建「Serverless 应用托管」

    • 基础配置

      配置项说明
      函数名称自定义函数名称。同一账号下函数名称不可重复,函数名称创建成功后不支持修改。
      备注描述函数信息,可以为空。
    • 函数代码

      配置项说明
      运行时本场景仅支持 Native 运行时

      部署方式

      本场景选择 容器镜像

      • 镜像仓库:从您的火山引擎镜像仓库中选择具体要部署的镜像。支持通过实例、命名空间和仓库类型(公有/私有)进行筛选。
      • 公共镜像:函数服务预置的开箱即用的镜像。可直接使用,免去用户开发代码、构建打包镜像的烦恼。

      说明

      • 公共镜像由社区开发者贡献,函数服务不参与维护,如遇软件使用问题请前往社区反馈。
      • 当前仅提供 Stable Diffusion v1.5 WebUI 镜像,后续将提供更多公共镜像。
    • 高级配置

      仅介绍 GPU 相关参数,其他参数介绍请参见 创建函数

      配置项说明
      计算模式本场景选择 GPU 加速

      GPU 卡型

      当前支持以下卡型

      • NVIDIA A10 卡型:仅支持单卡,显存为 24 GB,内存规格为 112 GB。适用于深度学习的推理场景和小规模训练场景,支持 NVIDIA RTX™ 功能,提供高性能的 3D 图形虚拟化能力。
      • NVIDIA GPU 卡型:仅支持单卡,显存为 24 GB,内存规格为 60 GB。适用于大规模部署的生成式 AI 推理等场景,支持 NVIDIA RTX™ 功能,提供高性能的 3D 图形虚拟化能力。
  2. 单击 确定,创建完成 GPU 函数。 函数创建成功后,可在函数列表页面查看。

更新配置信息

支持对函数的执行超时、单实例并发、环境变量、VPC 网络、日志投递等信息进行修改。更新后,需重新发布函数才能生效。

  1. 在函数列表页面,单击目标函数名称,进入当前函数的基础信息页签。

  2. 根据需要对配置信息、VPC 网络、日志进行更新。

更新镜像

支持更新函数使用的容器镜像。更新后,需重新发布函数才能生效。

  1. 在函数列表页面,单击目标函数名称,进入当前函数的基础信息页签。
  2. 切换至代码页签,单击 镜像修改
  3. 在弹出的确认框中单击 确定
  4. 在镜像修改页面,从目标镜像仓库选择新的镜像版本。
  5. 单击 确定,镜像开始更新。
    系统将同步新的镜像,请耐心等待。

删除函数

警告

删除函数后,函数实例将被立即释放/销毁,操作不可恢复,请谨慎操作。

  1. 在函数列表页面,选择目标函数,单击 操作 列的 ... > 删除
  2. 在系统弹出的确认框中,核对函数信息,确认后单击 删除,删除函数。