对象存储用在哪里
社区干货
策略模式 之 一键切换云存储方式|社区征文
[在这里插入图片描述](https://img-blog.csdnimg.cn/6632b832e14b4ac3a7bfac32796543bf.png)> 接下来我们需要去获取 `accessKey`和`accessKeySecret` (注意事项同阿里云Oss)> 这里我们就不使用主账户了,我们来新建一个子用户,并且只给子用户分配对象存储的权限,这样即使key和秘钥被泄露,最多只有对象存储服务可能会被别人恶意使用,其他服务不会收到影响。> 1. 点击新增用户> 2. 点击 自定义创建> 3. 选择 可访问资源井接收...
免费公测|火山引擎大数据文件存储公测现已开启!
以低成本的对象存储作为存储底座,完美地解决以上问题。而针对在大数据和机器学习场景下,由对象存储带来的诸如存储性能(IO 瓶颈)、接口兼容性等问题,火山引擎推出自研的 **大数据文件存储(CloudFS)**作为解决方案。火山引擎大数据文件存储以对象存储为底座,针对大数据和机器学习场景进行了完整的兼容和优化,助力更多企业改善云上大数据体验。 **现已开放免费公测,欢迎申请试用。** **CloudFS** **大...
免费公测|火山引擎大数据文件存储公测现已开启!
以低成本的对象存储作为存储底座,完美地解决以上问题。而针对在大数据和机器学习场景下,由对象存储带来的诸如存储性能(IO 瓶颈)、接口兼容性等问题,火山引擎推出自研的**大数据文件存储(CloudFS)** 作为解决方案。火山引擎大数据文件存储以对象存储为底座,针对大数据和机器学习场景进行了完整的兼容和优化,助力更多企业改善云上大数据体验。**现已开放免费公测,欢迎申请试用。**# 大数据文件存储 CloudFS大数据文件存储是...
后 Hadoop 时代,字节跳动如何打造云原生计算平台
都被广泛地使用着。十多年来,这些系统经历了多轮技术洗礼,我们也随之需要根据新的技术潮流不断地调整甚至做技术转型。以 Hadoop 三大组件来说,计算引擎 MapReduce 基本被 Spark 取代。在数据上云的时代,对象存储也取代了一部分 HDFS 文件系统。近几年,云原生又火了起来,行业里再次开始了对大数据体系的云原生改造,同时 Kubernetes(K8s) 的流行,也让同为资源管理的 YARN 地位越来越尴尬。然而,过去的技术体系在很多企业系统...
特惠活动
对象存储用在哪里-优选内容
对象存储用在哪里-相关内容
使用 Rclone 访问 TOS
并已开通对象存储 TOS 服务。 请确保您已获取当前账号的 AccessKeyID 和 AccessKeySecret 信息。 说明 您可以登录火山引擎控制台,然后单击右上角头像,选择密钥管理,即可查看 AccessKeyID 和 AccessKeySecret 信息,更多信息,请参见密钥管理。 获取 TOS 的 S3 Endpoint 信息,详情请参见地域和访问域名(Endpoint)。 步骤一:安装工具使用 Rclone 访问 TOS 前,您需要先安装工具,本章节介绍在不同操作系统下的安装方式。 macOS 操作...
使用存储迁移服务将友商对象存储迁移至TOS
本文介绍使用存储迁移服务将友商对象存储迁移至TOS。 前言 当您需要将其他云服务商对象存储服务的数据在线迁移至火山引擎对象存储 TOS(Tinder Object Storage)或在火山引擎对象存储的存储桶之间做数据迁移时,您可以使用存储迁移服务进行迁移。 关于实验 预计部署时间:30分钟 级别:初级 相关产品:TOS 受众: 通用 实验说明 点击此链接登录控制台。 如果您还没有账户,请点击此链接注册账户。 实验步骤 总体步骤如下: 准备友商对象...
存储概述
容器服务基于 Kubernetes 容器存储接口(CSI),融合火山引擎弹性快存储 EBS、文件存储 NAS、大数据文件存储 CloudFS 和对象存储 TOS 等,提供容器网络存储能力。本文主要介绍容器服务支持的存储类型和网络存储在各种场景下的对比。 容器服务支持的存储类型容器服务支持在工作负载中绑定多种网络存储类型。容器服务存储结构和每个网络存储的应用场景示意图如下所示。 网络存储对比各个网络存储类型的对比如下所示。 维度 EBS NAS TO...
实现 vePFS 与对象存储 TOS 之间数据流动
用于数据清洗和 GPU 训练。 训练数据归档场景(vePFS->TOS):GPU 训练的 CheckPoint 数据和训练结果归档到的至对象存储。 前提条件ECS 和 TOS 带宽均满足数据流动需求。 不同规格的 ECS 实例的网络带宽不同,建议您选择网络出入带宽 20Gbps 以上的 ECS 实例。ECS 规格详情,请参见 ECS 规格说明。 TOS 带宽的约束限制,请参见约束限制。 已创建对象存储 Bucket,具体步骤,请参见创建存储桶。 已在 ECS 挂载文件存储 vepfs,具体步...
使用 Terraform 管理对象存储
对象存储管理。 前言 本文主要介绍使用 Terraform 管理对象存储的方法。 关于实验 预计部署时间:30分钟 级别:初级 相关产品:TOS 受众: 通用 实验说明 点击此链接登录控制台。 如果您还没有账户,请点击此链接注册账户。 实验步骤 安装和初始化Terraform参考如下步骤安装 Terraform 登录Terraform官网或进入下载页,建议使用0.13.x或者更高的版本,下载对应操作系统的安装包。 解压安装包,并将terraform可执行文件所在目录添加到系...
典型使用案例
本文介绍使用数据透视看板实现成本优化的案例。 查找存储量最大的桶在 TOS 存储文件时,TOS 会根据您的存储容量、存储时间收取一定的费用。您可以通过数据透视看板查找存储量最大的桶,然后对存储桶的对象进行优化,减少成本。 登录对象存储控制台。 在左侧导航栏,单击数据透视。 在数据透视页面,单击目标看板的名称。 在概览页签下前 N 概览区域右侧,设置指标为总存储量,设置需要查看数据的存储桶数量,本文设置前N为 5。 单击前5个...
正确使用容器存储
本文主要描述使用容器服务时,关于容器存储(PV、PVC、SC)的注意事项、操作配置建议和使用方法最佳实践。 挂载对象存储 PV 的权限说明挂载对象存储(TOS)类型的存储卷(PV)时,默认使用 Linux root 权限进行挂载。如果需要其它权限的用户修改 TOS 存储卷挂载配置,您可以在 TOS 静态存储卷中增加addtional_args字段,例如addtional_args: "-o allow_other"。完整的存储卷示例代码如下所示: yaml apiVersion: v1kind: PersistentVolumeme...
通过私有DNS访问对象存储
本文将介绍如何通过私网连接的私有DNS访问火山引擎对象存储服务。 说明 私有DNS功能正在邀测中,如需使用,请联系客户经理。 场景介绍通过私网连接访问对象存储服务(TOS)默认使用HTTP协议,如果您希望通过私网连接可以使用HTTPS协议访问TOS服务,则需要使用私网连接私有DNS功能。本文以下图所示的访问场景为例,为您介绍如何配置私网连接私有DNS功能。 前提条件已创建私有网络VPC及其云服务器,具体操作请参见创建私有网络和购买云服务...
存储选型最佳实践
本节主要介绍使用容器服务(VKE)时如何选择存储(对象存储、文件存储、弹性快存储)类型以及选择时的注意事项。 存储说明不同的业务类型,需要选择不同的存储类型以匹配业务需要,以下内容将对火山引擎提供的存储类型的差异、主要使用场景进行说明。 存储类型 说明 优势 弹性块存储 弹性块存储 EBS(Elastic Block Storage)又称为云盘,是火山引擎提供的高可用、高可靠、高性能、弹性扩展的块存储设备,可以作为云服务器和弹性容器服务的...
