对象存储测试脚本
社区干货
如同使用Python脚本实现TOS的API签名
# 问题描述如何通过TOS API实现对存储对象的GetObject # 问题分析对象存储会对每个访问的请求进行身份验证,因此您需要在请求中包含签名信息,如何通过Python脚本实现API的签名机制# 解决方案下面展示如何使用Python实现API签名并执行GetObject操作#### 完整Get Object示例代码如下:```pythonimport sys, os, base64, datetime, hashlib, hmacimport requests # pip install requestsimport json# *************...
如何使用Python脚本实现TOS的API签名
# 问题描述如何通过TOS API实现对存储对象的GetObject# 问题分析对象存储会对每个访问的请求进行身份验证,因此您需要在请求中包含签名信息,如何通过Python脚本实现API的签名机制# 解决方案下面展示如何使用Python实现API签名并执行GetObject操作#### 完整Get Object示例代码如下:```pythonimport sys, os, base64, datetime, hashlib, hmacimport requests # pip install requestsimport json# ************* REQUE...
Hands-on Lab | 边缘分发网络 CDN
## Task 1:环境准备,创建对象存储1. 在控制台中进入TOS对象存储界面,创建存储桶,名称可以是自己姓名或昵称。为了能够通过CDN进行回源,需要开放对象存储的读权限,因此注意选择“公共读”的桶策略。
特惠活动
对象存储测试脚本-优选内容
对象存储测试脚本-相关内容
IDC共享云上对象存储服务
本文将介绍如何通过私网连接服务将火山引擎对象存储服务共享给本地IDC。 场景介绍云上VPC或云下IDC通过私网连接服务可以安全地访问云上的对象存储服务(Tinder Object Storage,简称TOS),同时能够避免多云场景下,不同... "trn:tos:::bucketname/*" 指定私有存储桶的名称 ] } ] } 步骤三:结果验证登录云下IDC或云上VPC中的服务器。 如果使用接口终端节点,请执行ping命令访问终端节点域名,测试网络连通性。...
使用对象存储静态存储卷
本文介绍如何创建对象存储类型存储卷和存储卷声明,以及工作负载如何使用对象存储静态存储卷。 前提条件已创建容器服务集群,操作方法参见 创建集群。 确保当前集群已安装对象存储服务组件 csi-tos。操作方法,请参见 安装组件。 已创建存储桶。操作方法,请参见 创建存储桶。 确保指定命名空间下已经存在合适的密钥,创建密钥所需的火山引擎账号 AK/SK 获取方法参见:如何获取 API 访问密钥。 使用限制有状态负载需要独占一个卷,暂不支...
如何使用函数服务实现对象存储同步刷新CDN
前言本实验使用函数服务,实现对象存储资源删除、上传时自动调用刷新CDN缓存的接口。 关于实验预计部署时间:20分钟 级别:初级 相关产品:函数服务、对象存储、内容分发网络 受众: 通用 实验说明点击此链接登录控制台... 当检测到对象上传以及删除的时候,会触发函数执行。 第二步 验证函数服务运行是否符合预期1.进入对象存储控制台,找到对应的存储空间,上传测试文件。2.进入CDN刷新预热控制台,查看刷新预热操作记录,是否有成功提交。...
将 vePFS 中的数据定时备份到对象存储
本文介绍通过 tosutil 工具,将 vePFS 上的数据备份至对象存储 TOS 的流程及操作步骤。 适用场景保存在 vePFS 的训练的核心数据,对数据安全性要求比较高,需要把数据进行定期备份。 训练过程中的 checkpoint 数据,定... 创建用于存放备份脚本和备份日志信息的目录。本文以创建 backp 目录为例。 bash cd /optmkdir backup 执行以下命令,创建备份脚本,本文以 backup_vepfs_to_tos.sh为例,并使用文本编辑器打开。 bash vim backup_vepf...
配置 TOS 数据源
对象存储 TOS(Tinder Object Storage)是火山引擎提供的海量、安全、低成本、易用、高可靠、高可用的分布式云存储服务。DataSail 中 TOS 数据源为您提供读取和写入 TOS 数据的双向通道能力,实现不同数据源与 TOS 进... 需要有对应存储桶的读取权限。 *Secret Access Key 与 AccessKey ID 配套使用,类似登录密码,用于签名您的访问参数,以防被篡改。 3.2 新建离线任务TOS 数据源测试连通性成功后,进入到数据开发界面,开始新建 T...
实现 vePFS 与对象存储 TOS 之间数据流动
本文介绍如何实现文件存储 vePFS 与对象存储 TOS 之间的数据流动。 适用场景加载数据集场景(TOS->vePFS):数据集从 TOS 流动到 vePFS,用于数据清洗和 GPU 训练。 训练数据归档场景(vePFS->TOS):GPU 训练的 CheckPoint 数据和训练结果归档到的至对象存储。 前提条件ECS 和 TOS 带宽均满足数据流动需求。 不同规格的 ECS 实例的网络带宽不同,建议您选择网络出入带宽 20Gbps 以上的 ECS 实例。ECS 规格详情,请参见 ECS 规格说明。 ...
对象存储带宽流控优化说明
为了更好地提升服务体验,火山引擎对象存储产品将优化读写带宽触发流控后的表现。 优化生效时间2023 年 7 月 30 日 23:59 优化说明对象存储产品存在读写带宽限制,达到阈值后将触发流控,流控行为如下所示: 优化前:触发流控后会直接响应 429 错误,拒绝请求。 优化后:触发流控后会整体降速,不会拒绝请求。 TOS 的带宽限制说明,请参见约束限制。
通过自定义域名访问对象存储
本文将介绍如何配置私网连接,可以通过自定义域名访问火山引擎对象存储服务。 说明 自定义域名功能正在邀测中,如需使用,请联系客户经理。 场景介绍通过私网连接访问对象存储服务(TOS)默认使用HTTP协议和终端节点域名,如果您希望通过对象存储原有域名访问,或者希望通过私网连接可以使用HTTPS协议访问TOS服务,则需要配置私有DNS名称。 前提条件终端节点服务已启用私有DNS名称且已验证通过。如无法为接口终端节点开启私有DNS名称,请...
对象存储日志分析功能免费额度变更说明
为了给您提供更加优质的服务,火山引擎对象存储产品的日志分析功能将于 2023 年 8 月 30 日开始限制免费使用额度,超出额度后,将由日志服务单独收费。 计费开始时间2023 年 8 月 30 日 计费说明TOS 与日志服务深度结合,免费提供最近 7 天内的 TOS 实时日志查询。TOS 将于 2023 年 8 月 30 日开始限制免费使用额度,免费额度如下: 每日日志写入流量:900GiB 每日日志索引流量:900GiB 免费天数内超出免费额度的部分或者使用超出免费天...
