开源对象存储有哪些
社区干货
Apache Iceberg 中引入索引提升查询性能
> Apache Iceberg 是一种开源数据 Lakehouse 表格式,提供强大的功能和开放的生态系统,如:Time travel,ACID 事务,partition evolution,schema evolution 等功能。> 本文将讨论火山引擎EMR团队针对 Iceberg 组件的... 将数据 HFDS 或 TOS(火山引擎对象存储产品)上,然后采用 Trino 或者 Spark 去做分析。上,然后采用 Trino 或者 Spark 去做分析。,并通过配置密钥实现Notebook对对象存储的直接访问。1. 进入Workspace,点击【数据】-【文件列表】1. 选择文件进行上传
特惠活动
开源对象存储有哪些-优选内容
开源对象存储有哪些-相关内容
对象存储桶域名使用限制变更公告
为了保证业务的安全性和稳定性,火山引擎对象存储产品将于 2024 年 01 月 03 日变更存储桶默认域名使用限制,不允许使用默认域名以预签名或匿名方式直接预览任意类型的文件或下载后缀为 .apk 或 .ipa 类型的文件。 预计变更时间2024 年 01 月 03 日,具体时间请以控制台上线为准。 变更说明2024 年 01 月 03 日之后创建的存储桶,存在以下变动: 如果您使用默认域名以预签名或匿名方式访问文件,TOS 会在 Response Header 中会自动添加...
对象存储带宽流控优化说明
为了更好地提升服务体验,火山引擎对象存储产品将优化读写带宽触发流控后的表现。 优化生效时间2023 年 7 月 30 日 23:59 优化说明对象存储产品存在读写带宽限制,达到阈值后将触发流控,流控行为如下所示: 优化前:触发流控后会直接响应 429 错误,拒绝请求。 优化后:触发流控后会整体降速,不会拒绝请求。 TOS 的带宽限制说明,请参见约束限制。
火山引擎云存储选型指南 x 自动驾驶场景最佳实践
高可用的分布式云存储服务。用户可以通过网络在任何应用、任何时间、任何地点管理和访问火山引擎 TOS 上的数据。TOS 提供多种命令行工具和多语言 SDK,同时兼容 S3 协议,方便应用系统进行对接集成。需要注意的是,虽然对象存储可以通过一些开源工具(s3fs、goofys、Alluxio 等)挂载成本地目录,但这种方式无法提供完整的 POSIX 语义,在对 POSIX 兼容性及存储性能有较高要求的场景中,不建议使用挂载对象存储的方式。另外对象存储...
对象存储日志分析功能免费额度变更说明
为了给您提供更加优质的服务,火山引擎对象存储产品的日志分析功能将于 2023 年 8 月 30 日开始限制免费使用额度,超出额度后,将由日志服务单独收费。 计费开始时间2023 年 8 月 30 日 计费说明TOS 与日志服务深度结合,免费提供最近 7 天内的 TOS 实时日志查询。TOS 将于 2023 年 8 月 30 日开始限制免费使用额度,免费额度如下: 每日日志写入流量:900GiB 每日日志索引流量:900GiB 免费天数内超出免费额度的部分或者使用超出免费天...
云原生环境下的日志采集、存储、分析实践
多种开发语言以及开源生态标准协议。采集到的日志首先会存入高速缓冲集群,削峰填谷,随后日志会匀速流入存储集群,根据用户配置再流转到数据加工集群进行日志加工,或者到索引集群建立索引。 建立索引后用户可以进行实时查询和分析。TLS 提供标准的 Lucene 查询语法、SQL 92 分析语法、可视化仪表盘以及丰富的监控告警能力。当日志存储达到一定周期,不再需要实时分析之后,用户可以把日志投递到成本更低的火山引擎对象存储服务...
对象存储事件通知功能接口变更说明
为了给您提供更加优质的服务,火山引擎对象存储产品预计将于 2024 年 01 月 15 日优化事件通知功能,将同一事件仅支持推送至一个目标,优化为支持推送至多个不同的目标。 预计变更时间2024 年 01 月 15 日,具体变更时间请以控制台变更为准。 变更说明TOS 事件通知功能当前仅支持将同一事件推送至一个目标,变更后,支持将同一事件推送至多个不同的目标(通过新增 V2 版本接口实现)。接口变更影响如下: 如果您希望将事件推送至多个目标,...
云原生环境下的日志采集、存储、分析实践
Kubernetes 下日志采集的开源自建方案 **开源自建**火山引擎早期为了快速上线业务,各团队基于开源项目搭建了自己的日志系统,以满足基本的日志查询需求,例如使用典型的开源日志平台 **F... 当日志存储达到一定周期,不再需要实时分析之后,用户可以把日志投递到成本更低的火山引擎对象存储服务中,或者通过 Kafka 协议投递到其他云产品。如果用户有更高阶的分析需求,TLS 也支持把日志消费到实时计算、流式计...
对象存储资源包功能迁移说明
为了给您提供更加优质的服务,火山引擎对象存储产品预计将于 2024 年 05 月 13 日 09:00 ~ 05 月 15 日 00:00 优化资源包功能,将您的存量资源包商品迁移到新的资源包商品。本次资源包功能优化,不影响您已购资源包的正常抵扣。重点告知您,在本次资源包功能优化期间,您将无法新购资源包,无法对已购资源包执行续费、退订操作。如您对本说明有任何问题,请您及时与我们联系。 预计迁移时间05 月 13 日 09:00 ~ 05 月 15 日 00:00 迁移说...
读取云原生消息引擎 BMQ 数据写入对象存储 TOS
您需要在对象存储控制台创建存储桶和文件夹。 开发 Flink SQL 任务。当您准备好数据源和数据目的后,便可以在流式计算 Flink 控制台开发 SQL 任务,通过简单的代码实现从 BMQ Topic 中读取数据写入到 TOS Bucket。 ... 公共读写:任何人均可对公共读写权限的存储桶进行读写操作,同时产生流量费用。 在存储桶的文件列表页面,单击创建文件夹,然后设置文件夹名称并单击确定。对象存储 TOS 以扁平化结构存放文件,为方便分类管理,您可以...
