对象存储已成云价值
社区干货
后 Hadoop 时代,字节跳动如何打造云原生计算平台
在数据上云的时代,对象存储也取代了一部分 HDFS 文件系统。近几年,云原生又火了起来,行业里再次开始了对大数据体系的云原生改造,同时 Kubernetes(K8s) 的流行,也让同为资源管理的 YARN 地位越来越尴尬。然而,过... 流批一体有一些价值,拿字节的实时推荐举例来说,推荐中需要先用历史数据去训练一部分模型,然后读取生产中最新的用户行为日志数据,训练出一个最贴近用户当前状态的模型。这种场景下,当前历史数据训练环节和实时数据训...
策略模式 之 一键切换云存储方式|社区征文
我们需要去对应的云服务厂商开通对象存储服务,然后获取到`accessKey`、`accessKeySecret`、`endpoint`、`bucket`、`domainUrl`等必须的参数。> 因为这些信息基本是不会发生改变,所以我们可以将这些信息存储在配置文件中。> 除此之外我们还需要对文件上传进行配置,设置为最大文件为100MB```ymlserver: port: 8080spring: servlet: multipart: max-file-size: 100MB max-request-size: 100MBapplicat...
火山引擎 Iceberg 数据湖的应用与实践
火山引擎云原生计算工程师-林阳昊# Why IcebergIceberg 是一种适用于 HDFS 或者对象存储的表格式,把底层的 Parquet、ORC 等数据文件组织成一张表,向上层的 Spark,Flink 计算引擎提供表...
火山引擎云存储选型指南 x 自动驾驶场景最佳实践
已经成为存放非结构化数据的首选,并在大数据、数据湖、数据仓库领域逐步成为事实上的数据底座。在大部分业务场景中做云存储大类的选型是相对容易的,比如要为云服务器配置系统盘或数据盘会使用块存储,存放视频、图片、游戏安装包等文件优选对象存储,但在某些业务场景(AI、HPC、大数据等)用户往往面临多样化的选择,需要综合考虑协议兼容性、功能、性能、易用性、扩展性等因素。本文将为您提供一个选型指南,如果您有计划将业务应...
特惠活动
对象存储已成云价值-优选内容
对象存储已成云价值-相关内容
通过私有DNS访问对象存储
本文将介绍如何通过私网连接的私有DNS访问火山引擎对象存储服务。 说明 私有DNS功能正在邀测中,如需使用,请联系客户经理。 场景介绍通过私网连接访问对象存储服务(TOS)默认使用HTTP协议,如果您希望通过私网连接可以使用HTTPS协议访问TOS服务,则需要使用私网连接私有DNS功能。本文以下图所示的访问场景为例,为您介绍如何配置私网连接私有DNS功能。 前提条件已创建私有网络VPC及其云服务器,具体操作请参见创建私有网络和购买云服务...
对象存储带宽流控优化说明
为了更好地提升服务体验,火山引擎对象存储产品将优化读写带宽触发流控后的表现。 优化生效时间2023 年 7 月 30 日 23:59 优化说明对象存储产品存在读写带宽限制,达到阈值后将触发流控,流控行为如下所示: 优化前:触发流控后会直接响应 429 错误,拒绝请求。 优化后:触发流控后会整体降速,不会拒绝请求。 TOS 的带宽限制说明,请参见约束限制。
存储选型最佳实践
本节主要介绍使用容器服务(VKE)时如何选择存储(对象存储、文件存储、弹性快存储)类型以及选择时的注意事项。 存储说明不同的业务类型,需要选择不同的存储类型以匹配业务需要,以下内容将对火山引擎提供的存储类型的差异、主要使用场景进行说明。 存储类型 说明 优势 弹性块存储 弹性块存储 EBS(Elastic Block Storage)又称为云盘,是火山引擎提供的高可用、高可靠、高性能、弹性扩展的块存储设备,可以作为云服务器和弹性容器服务的...
对象存储账单功能优化通知
为了更好地支持根据 Project 分账的功能,火山引擎对象存储产品将于 2023年 6 月 27 日 13:00 优化变更用量的推送出账逻辑。 优化上线时间2023年 6 月 27 日 13:00 账单优化说明账单功能优化点如下: 账单明细优化点如下: 优化前账单明细:扩展字段体现桶信息。 优化后账单明细:扩展字段将不再体现桶信息,账单明细中的用量为所有桶的合计用量,价格等不做调整。 如果您希望获取单独桶及相应的分账用量信息,请提前在费用中心-分账账...
对象存储服务等级协议变更公告
为了给您提供更优质的服务并合法保障您的权益,对象存储将于 2023 年 7 月 10 日变更服务等级协议。 生效日期2023 年 7 月 15 日 变更说明服务等级变更点如下所示: 术语和定义:优化了有效请求和失败请求的场景说明。 服务可用性:明确了存储类型的冗余条件。 赔偿方案:明确了存储类型的冗余条件。 服务等级协议地址最新的服务等级协议地址,请参见对象存储服务等级协议(SLA)。
后 Hadoop 时代,字节跳动如何打造云原生计算平台
在数据上云的时代,对象存储也取代了一部分 HDFS 文件系统。近几年,云原生又火了起来,行业里再次开始了对大数据体系的云原生改造,同时 Kubernetes(K8s) 的流行,也让同为资源管理的 YARN 地位越来越尴尬。然而,过... 流批一体有一些价值,拿字节的实时推荐举例来说,推荐中需要先用历史数据去训练一部分模型,然后读取生产中最新的用户行为日志数据,训练出一个最贴近用户当前状态的模型。这种场景下,当前历史数据训练环节和实时数据训...
使用对象存储静态存储卷
步骤二:创建存储卷(PV)在集群管理页面,选择 存储管理 > 存储卷。 单击存储卷列表左上角 创建存储卷。 在弹出的 创建存储卷 页面,完成参数配置。 配置项 说明 创建方式 选择存储卷的创建方式,目前支持静态创建。 名称 根据系统提示,自定义存储卷的名称,需确保存储卷名称在集群内唯一。 存储卷类型 存储卷类型包括:云盘、文件存储、对象存储。本场景选择 对象存储。 访问模式 选择存储卷的访问方式,目前支持 ReadWriteMany ,此访...
实现 vePFS 与对象存储 TOS 之间数据流动
本文介绍如何实现文件存储 vePFS 与对象存储 TOS 之间的数据流动。 适用场景加载数据集场景(TOS->vePFS):数据集从 TOS 流动到 vePFS,用于数据清洗和 GPU 训练。 训练数据归档场景(vePFS->TOS):GPU 训练的 CheckPoint 数据和训练结果归档到的至对象存储。 前提条件ECS 和 TOS 带宽均满足数据流动需求。 不同规格的 ECS 实例的网络带宽不同,建议您选择网络出入带宽 20Gbps 以上的 ECS 实例。ECS 规格详情,请参见 ECS 规格说明。 ...
对象存储日志分析功能免费额度变更说明
为了给您提供更加优质的服务,火山引擎对象存储产品的日志分析功能将于 2023 年 8 月 30 日开始限制免费使用额度,超出额度后,将由日志服务单独收费。 计费开始时间2023 年 8 月 30 日 计费说明TOS 与日志服务深度结合,免费提供最近 7 天内的 TOS 实时日志查询。TOS 将于 2023 年 8 月 30 日开始限制免费使用额度,免费额度如下: 每日日志写入流量:900GiB 每日日志索引流量:900GiB 免费天数内超出免费额度的部分或者使用超出免费天...
