You need to enable JavaScript to run this app.
E-MapReduce

E-MapReduce

复制全文
配置存储网络与vePFS
存储挂载概述
复制全文
存储挂载概述

EMR Serverless 提供多种存储挂载方案,支持以共享文件系统的形式挂载对应存储产品到 EMR Serverless 的计算组或作业中,挂载后,您可在尽量不修改代码的前提下,像操作本地文件一样地操作远端数据。

支持的存储产品与协议

当前支持挂载的存储产品包括:TOS、NAS、vePFS,对比详情如下。
Image

支持的存储产品

存储挂载协议类型

挂载要点

vePFS

  • FSX
  • 您需要自行创建FSX 协议服务并创建接入点。
  • Native
  • 支持独占队列的固定部分计算资源使用native vepfs挂载能力。当前此种方式默认关闭,如果您希望使用此种方式,需联系火山引擎技术支持人员申请开通功能白名单。
  • 您可将 vePFS 添加为 EMR 的全局存储,添加后,EMR 将自动为您创建好 vePFS 的挂载服务,通过此挂载服务来挂载。

NAS

  • FSX
  • NAS 需选择缓存型。
  • 您需要自行创建 FSX 接入点。

TOS

  • FSX
  • S3FS
  • 您需要获取有访问 TOS 权限的访问秘钥 AK、SK,通过 AK、SK来实现挂载加密认证。

使用限制

细分

限制说明

通用限制

  • 当前支持挂载存储的计算组类型包括:通用计算组、Ray Cluster、Ray Serve。
  • 每个计算组的挂载路径累计不可超过20个。

网络要求

使用 FSX 方式挂载存储时,需要保障好接入点的 VPC 与 EMR 存储网络 VPC 为同一个 VPC。

vePFS 挂载

使用 Native 方式挂载 vePFS 时,通过添加 EMR 全局存储自动创建 vePFS 的挂载服务,实现存储挂载。

  • 在 EMR 添加第一个 vePFS 为 EMR 全局存储时,EMR 会为您创建一个挂载服务,并且将该 vePFS 实例绑定至该挂载服务上。
  • 继续添加 vePFS 为EMR 全局存储时:
    • 待添加的 vePFS 关联的 VPC/子网 与已创建好的挂载服务的 VPC/可用区 一致时,则,添加的 vePFS 绑定至此前已创建的挂载服务上。
    • 待添加的 vePFS 关联的 VPC/子网 与已创建好的挂载服务的 VPC/可用区 不一致时,则,EMR 会为您创建一个新的挂载服务,添加的 vePFS 绑定至本次新创建的挂载服务上。

挂载服务数量限制:

  • 添加 EMR 全局存储时,每个地域最多支持创建 2 个挂载服务;每个挂载服务最多支持关联 2 个 vePFS 实例。
  • 队列关联 vePFS 时,每个队列最多关联 1 个挂载服务,即,每个最多关联同个挂载服务中的 2 个 vePFS 实例。

操作流程

以下为您介绍挂载各类存储产品的通用操作流程,详细操作指导请参见挂载vePFS挂载 NAS挂载 TOS

操作流程

vePFS-FSX

vePFS-Native

NAS-FSX

TOS-FSX

TOS-S3FS

1、前提条件

开通vePFS、EMR队列

开通vePFS、EMR队列

开通NAS、EMR队列

开通TOS、EMR队列;获取AK、SDK

开通TOS、EMR队列;获取AK、SDK

2、接入点配置

手动创建接入点

添加EMR全局存储,自动创建接入服务

手动创建接入点

无需操作

无需操作

3、EMR 队列存储网络配置

配置EMR 队列存储网络

配置EMR 队列存储网络

配置EMR 队列存储网络

配置EMR 队列存储网络

无需操作

4、存储挂载

在队列/计算组/任务中挂载存储

在队列/计算组/任务中挂载存储

在队列/计算组/任务中挂载存储

在队列/计算组/任务中挂载存储

在队列/计算组/任务中挂载存储

最近更新时间:2026.02.09 18:26:30
这个页面对您有帮助吗?
有用
有用
无用
无用