对象存储各个组件
社区干货
LAS Spark 访问 TOS
# 问题描述在大数据存算分离场景下,用户的数据可能会存储在 TOS 中,此时读取数据需要进行一些基础配置才能打通。# 问题分析本文基于 LAS 的 pyspark 程序介绍如何读取对象存储中的数据(其他大数据组件(如 Flink )或 其他开发语言可借鉴参考)# 解决方案需要添加的配置项如下:| **参数名** | **值** || --- | --- || fs.tos.access.key | 您账号的AK值 || fs.tos.secret.key | 您账号的SK值 || fs.tos.change.detect...
JuiceFS 在火山引擎边缘计算的应用实践
这里简单介绍一下在边缘渲染中遇到的存储问题:需要对象存储与文件系统的元数据统一,实现数据通过对象存储接口上传以后,可以通过 POSIX 接口直接进行操作;满足高吞吐量的场景需求,尤其是在读的时候;完全实现 S3 接口和 POSIX 接口。为了解决在边缘渲染中遇到的存储问题,团队花了将近半年的时间开展了存储选型测试。最初,团队选择了公司内部的存储组件,从可持续性和性能上来说,都能比较好的满足我们的需求。但是落地到边缘场景...
后 Hadoop 时代,字节跳动如何打造云原生计算平台
大数据生态组件也开始层出不穷。各种不同体型的企业都喜欢选择开源大数据软件来搭建自己的系统,无论是先前十分繁荣的 Hadoop,还是后来涌现出来的 Kafka、Flink 等,都被广泛地使用着。十多年来,这些系统经历了多轮技术洗礼,我们也随之需要根据新的技术潮流不断地调整甚至做技术转型。以 Hadoop 三大组件来说,计算引擎 MapReduce 基本被 Spark 取代。在数据上云的时代,对象存储也取代了一部分 HDFS 文件系统。近几年,云原生又火...
大象在云端起舞:后 Hadoop 时代的字节跳动云原生计算平台
大数据生态组件也开始层出不穷。各种不同体型的企业都喜欢选择开源大数据软件来搭建自己的系统,无论是先前十分繁荣的 Hadoop,还是后来涌现出来的 Kafka、Flink 等,都被广泛地使用着。十多年来,这些系统经历了多轮技术洗礼,我们也随之需要根据新的技术潮流不断地进行调整甚至做技术转型。以 Hadoop 三大组件来说,计算引擎 MapReduce 基本被 Spark 取代。在数据上云的时代,对象存储也取代了一部分 HDFS 文件系统。近几年,云原生...
特惠活动
对象存储各个组件-优选内容
对象存储各个组件-相关内容
IDC共享云上对象存储服务
本文将介绍如何通过私网连接服务将火山引擎对象存储服务共享给本地IDC。 场景介绍云上VPC或云下IDC通过私网连接服务可以安全地访问云上的对象存储服务(Tinder Object Storage,简称TOS)。本文为您介绍使用私网连接打通TOS服务时不同场景的的配置指导。 若希望通过私网连接区分服务类型和存储桶对象,请使用接口终端节点泛域名功能。 若希望通过私网连接终端节点控制VPC访问存储桶的范围,请使用网关终端节点。 具体组网场景如下图所...
实现 vePFS 与对象存储 TOS 之间数据流动
本文介绍如何实现文件存储 vePFS 与对象存储 TOS 之间的数据流动。 适用场景加载数据集场景(TOS->vePFS):数据集从 TOS 流动到 vePFS,用于数据清洗和 GPU 训练。 训练数据归档场景(vePFS->TOS):GPU 训练的 CheckPo... 安装命令如下: bash 以 centos 系统为例yum install tmux -ytmux 常用命令如下。 bash 新建 tmux 窗口,sessioname 是变量,您自定义的会话名称 tmux new -s sessioname退出 tmux 窗口 tmux detach查看 tmux 窗口 tm...
对象存储带宽流控优化说明
为了更好地提升服务体验,火山引擎对象存储产品将优化读写带宽触发流控后的表现。 优化生效时间2023 年 7 月 30 日 23:59 优化说明对象存储产品存在读写带宽限制,达到阈值后将触发流控,流控行为如下所示: 优化前:触发流控后会直接响应 429 错误,拒绝请求。 优化后:触发流控后会整体降速,不会拒绝请求。 TOS 的带宽限制说明,请参见约束限制。
使用存储迁移服务将友商对象存储迁移至TOS
本文介绍使用存储迁移服务将友商对象存储迁移至TOS。 前言 当您需要将其他云服务商对象存储服务的数据在线迁移至火山引擎对象存储 TOS(Tinder Object Storage)或在火山引擎对象存储的存储桶之间做数据迁移时,您可以使用存储迁移服务进行迁移。 关于实验 预计部署时间:30分钟 级别:初级 相关产品:TOS 受众: 通用 实验说明 点击此链接登录控制台。 如果您还没有账户,请点击此链接注册账户。 实验步骤 总体步骤如下: 准备友商对象...
如何使用函数服务实现对象存储同步刷新CDN
前言本实验使用函数服务,实现对象存储资源删除、上传时自动调用刷新CDN缓存的接口。 关于实验预计部署时间:20分钟 级别:初级 相关产品:函数服务、对象存储、内容分发网络 受众: 通用 实验说明点击此链接登录控制台。 如果您还没有账户,请点击此链接注册账户。 实验步骤第一步 创建函数服务1.登录函数服务控制台。 2.函数列表 页面,单击 创建函数。3.创建函数。这里选择基于Hello World 模版创建即可。4.函数配置。调用cdn刷新缓...
存储桶管理
本文汇总了您在使用对象存储TOS存储桶方面的常见问题。 TOS 中的 Bucket 支持重命名吗?TOS 的 Bucket 不支持重命名。关于 Bucket 的命名规范,请参见常用概念。 在控制台看到桶存储量很大,例如存储量为 60GB,但是查看桶中对象,为什么没有这么多?如果桶占用量大,但是控制台又看不到这么多对象,可能是桶开启了版本控制,相同对象存在很多版本。关于历史版本的查看步骤,请参见查看文件的历史版本。 TOS 是否支持 HTTPS 访问?支持。
存储桶概览
在存储桶概览页,您可以查看该存储桶的用量概览、基本信息、域名信息等信息。 前提条件已创建存储桶,具体步骤,请参见创建存储桶。 查看存储桶概览登录对象存储控制台。 单击左侧导航栏中的桶列表,单击目标桶名称。 在文件列表页面,单击左侧导航栏的概览,查看存储桶的概览信息。 您可以在概览页面查看以下信息。 概览信息 说明 用量概览 桶对象数量:当前存储桶内的对象数量,包含历史对象,不包含分片对象。 桶对象总容量:当前存...
对象存储创建同名桶限制变更公告
存储桶的名字全局唯一,如果您创建了某个名称的存储桶,任何用户将无法再创建同名的存储桶。如果您需要创建同名的存储桶,您需要将源存储桶删除后才可创建。为了保证业务的安全性和稳定性,火山引擎对象存储产品将于 2024 年 04 月 22 日变更创建同名存储桶的限制,删除存储桶后,需要等待一段时间(通常为 30 分钟)之后才可以创建同名的存储桶。 预计变更时间2024 年 04 月 22 日,具体时间请以控制台上线为准。 变更说明变更前:删除存储...
对象存储资源包功能迁移说明
为了给您提供更加优质的服务,火山引擎对象存储产品预计将于 2024 年 05 月 13 日 09:00 ~ 05 月 15 日 00:00 优化资源包功能,将您的存量资源包商品迁移到新的资源包商品。本次资源包功能优化,不影响您已购资源包的正常抵扣。重点告知您,在本次资源包功能优化期间,您将无法新购资源包,无法对已购资源包执行续费、退订操作。如您对本说明有任何问题,请您及时与我们联系。 预计迁移时间05 月 13 日 09:00 ~ 05 月 15 日 00:00 迁移说...
