最近更新时间:2024.04.22 20:35:41
首次发布时间:2021.10.18 21:35:32
本文介绍如何在存储迁移服务控制台使用公共网络创建迁移任务。
存储迁移服务支持以下源端云服务商或数据源类型:
注意
存储迁移服务只支持在相同地域的火山引擎存储桶之间迁移数据。
迁移文件时,默认支持迁移文件的 HTTP 标准属性,具体包括 Content-Type、Content-Disposition、Content-Encoding、Content-Language、Cache-Control 和 Expires。
登录存储迁移服务控制台。
在迁移任务列表页面,单击创建迁移任务。
在选择网络页面,配置以下参数。
参数 | 说明 |
---|---|
任务名称 | 指定该迁移任务的名称,命名规则如下:
|
网络类型 | 选择公共网络。 |
单击下一步:设置源端及目的端,配置如下源端及目的端参数。
源端类型为对象存储
参数 | 说明 |
---|---|
源端类型 | 数据源端的类型,本场景下选择对象存储。 |
数据源 | 选择具体的数据源:
注意 数据源为对象存储-火山引擎时,目的端只可以选择与源端相同 Region 的存储桶,如果您需要跨区域迁移数据,请使用对象存储的跨区域复制功能,跨区域复制功能只支持相同账号之间复制,详细信息,请参见跨区域复制。 |
Access Key ID | 用于访问源端对象存储的 AccessKey ID。 |
Access Key Secret | 用于访问源端对象存储的 AccessKey Secret。 |
源端桶名 | 指定要迁移的源端对象存储桶名称。 |
源端 Region | 指定源端对象存储所在的 Region。 |
Endpoint | 指定源端对象存储的访问域名,地址前需要输入 http:// 或 https://。 注意 Endpoint 不要携带存储桶名称,否则会导致源端连接失败。 |
指定前缀 | 默认为关闭,开启后可自定义迁移的文件前缀,以过滤源端文件。单击添加字段,可以设置多个文件前缀,最多支持设置 10 个文件前缀。文件前缀限制说明如下:
说明 指定前缀前,请确保当前账号拥有存储桶的 HeadBucket、ListObjects 、HeadObject 和 GetObject 权限,否则会导致迁移结果不符合预期。 |
源端类型为 URL列表
注意
参数 | 说明 |
---|---|
源端类型 | 数据源端的类型,本场景下选择URL列表。 |
上传URL列表文件 | 选择 URL 列表文件的上传方式:
说明 使用手动输入或上传文件迁移时,默认将 URL 路径(域名 / 后的部分)作为对象的名称。如果您想重命名文件,可通过 URL + 空格 + 对象文件名的方式。例如您可以通过 |
目的端参数
参数 | 说明 |
---|---|
目的端类型 | 目的端类型,暂时只支持对象存储(火山引擎 TOS)。 |
目的端写入模式 | 选择目的端写入模式,参数说明如下:
注意 如果您使用了子账号创建迁移任务且选择了跨服务授权模式,您需要授予子账号创建 IAM 策略的权限,详细说明,请参见常见问题。 |
Access Key ID | 用于访问目的端对象存储的 AccessKey ID。 |
Access Key Secret | 用于访问目的端对象存储的 AccessKey Secret。 |
目的端桶名 | 指定目的端对象存储的桶名称。 注意
|
单击下一步:设置任务参数,配置如下任务参数。
注意
参数 | 说明 |
---|---|
迁移增量文件 | 默认为关闭,开启后可自定义增量迁移参数,参数说明如下:
|
跳过归档对象 | 设置是否跳过归档对象,默认开启,说明如下:
说明 各个数据源的延迟访问存储类型如下:
谷歌云的 Cloud Storage 没有延迟访问存储类型,如果您的数据源是谷歌云,无需设置跳过归档对象参数。 |
跳过失败对象 | 迁移源端对象时,如果没有源端对象的权限,则该对象会迁移失败。您可以设置是否跳过失败对象,默认开启,说明如下:
|
range-get迁移 | 设置是否开启 range-get迁移,默认关闭。开启 range-get迁移后,DMS将支持断点续传的方式迁移文件,即在网络波动等情况下导致文件传输中断后,重新传输文件,DMS 会在文件断点处开始传输,避免从头传输文件产生额外流量,从而节省成本。 注意
|
文件重命名 | 默认为关闭,开启后可设置文件重命名规则,文件重命名支持正则替换,您可以输入需要重命名的正则表达式规则以及需要替换的字符串。例如:
|
保留源端文件最后修改时间 | 设置是否开启保留源端文件最后修改时间,默认关闭。说明如下:
注意 TOS 的生命周期管理功能根据文件上传时间计算文件过期删除、存储类型转换的时间。保留源端文件最后修改时间后,TOS 控制台展示的文件修改时间为源端文件最后修改时间,而不是文件上传时间。您将无法根据 TOS 控制台显示的文件修改时间判断文件的生命周期。详细介绍,请参见保留源端文件最后修改时间。 |
带分隔符列举 | 由于部分源端存储桶的配置(例如开启桶加速的场景),TOS 只能获取到源端存储桶一级目录的文件。带分隔符列举可以获取到多级目录下的文件,说明如下:
|
覆盖策略 | 可指定当源端和目的端出现同名文件时的覆盖策略,策略说明如下:
|
文件存储方式 | 设置文件迁移至 TOS 的存储类型,支持选择全部使用标准存储、保持原存储属性、全部使用低频存储、全部使用归档闪回存储、全部使用智能分层存储、全部使用归档存储、全部使用冷归档存储、全部使用深度冷归档存储。关于 TOS 存储类型的详细介绍,请参见存储类型。以下为保持原存储属性和全部使用智能分层的参数说明:
说明
|
迁移文件起始时间 | 设置需要迁移的文件的起始时间,参数说明如下:
|
流量控制 | 默认关闭,关闭时默认速率为 1024MB/s。
|
抽样校验 | 默认关闭,开启抽样校验后,DMS 会从源端获取每个对象的 100 个字节,从目标端获取对应每个对象的 100 个字节,然后进行校验,确保源端和目标端的数据一致性。关于抽样校验的详细介绍,请参见数据一致性校验。 注意 使用抽样校验功能会在源端产生额外的公网流出流量,由源端对象存储收取对应费用。 |
单击下一步:确定任务信息,在该页面检查迁移任务的各项参数。
参数检查无误后,阅读并勾选存储产品和服务条款 ,单击提交。
注意
提交后,会弹出费用提醒对话框。存储迁移服务本身不收取任何费用,但是从公网迁移数据到火山引擎会产生公网流量费用,费用由源站的存储服务提供商收取。
在费用提醒对话框,单击已知晓,下一步。
(可选)如果您选择了跨服务授权,您还需要在弹出的跨服务授权对话框,单击确定。
说明
任务创建完成后会自动启动,您可以在任务列表中查看该任务的创建时间和迁移状态。