You need to enable JavaScript to run this app.
最新活动
产品
解决方案
定价
生态与合作
支持与服务
开发者
了解我们

开源对象存储平台有哪些

随着云计算和大数据时代的到来,数据存储和处理成为了企业不可避免的问题,而开源对象存储平台因其开放性、可扩展性和易于管理等优势被广泛应用。下面介绍几个常用的开源对象存储平台。

  1. Ceph

Ceph是一个开源的分布式存储系统,可提供块存储、文件系统和对象存储服务。Ceph的对象存储集群可以为大规模数据提供高可用性和冗余性,同时提供运营商级别的性能和规模。Ceph存储引擎基于RADOS(可扩展的对象存储集群)实现,可支持不同数据中心的数据冗余,并提供多种访问方式,如S3、Swift和NFS等。

安装Ceph需要先安装依赖项,然后下载安装官方推荐的本。下面以Ubuntu 18.04为例,安装Ceph的步骤如下:

sudo apt install ceph ceph-mds ceph-mgr ceph-mon ceph-osd radosgw

安装完成后,可以使用控制台客户端进行连接操作:

ceph -s
  1. OpenIO

OpenIO是一个分布式对象存储和数据处理平台,提供容量和性能随着存储规模线性增长的存储方案。OpenIO采用了独特的设计和算法,使其在处理大量数据的场景中表现出色。在对象存储方面,OpenIO提供了细粒度的数据管理和配额管理功能,支持不同类型的对象,如大型多媒体文件、图像和文档。

安装OpenIO也需要先安装依赖项,然后从官网下载二进制文件,进行安装和配置。安装完成后,可以通过以下命令启动服务:

sudo oio-reset.sh all
sudo oio-proxy.sh start
sudo oio-rdir.sh start
sudo oio-ns.sh start
sudo oio-account.sh start
sudo oio-container.sh start
sudo oio-event-agent.sh start
  1. MinIO

MinIO是一个开源的云存储

本文内容通过AI工具匹配关键字智能整合而成,仅供参考,火山引擎不对内容的真实、准确或完整作任何形式的承诺。如有任何问题或意见,您可以通过联系service@volcengine.com进行反馈,火山引擎收到您的反馈后将及时答复和处理。
展开更多
基于先进分布式技术,帮助用户灵活高效、稳定可靠的存储并管理海量非结构化数据

社区干货

Apache Iceberg 中引入索引提升查询性能

是火山引擎数智平台(VeDI)旗下的云原生开源大数据平台产品, 提供了企业级的 Hadoop、Spark、Flink、Hive、Presto、Kafka、StarRocks、Doris、Hudi、Iceberg 等大数据生态组件,100% 开源兼容,可以帮助企业快速构建企... 将数据 HFDS 或 TOS(火山引擎对象存储产品)上,然后采用 Trino 或者 Spark 去做分析。![picture.image](https://p3-volc-community-sign.byteimg.com/tos-cn-i-tlddhu82om/2ebeae31a9ce4ef0a6a130cd319fee42~tpl...

Apache Iceberg 中引入索引提升查询性能

是火山引擎数智平台(VeDI)旗下的云原生开源大数据平台产品, 提供了企业级的 Hadoop、Spark、Flink、Hive、Presto、Kafka、StarRocks、Doris、Hudi、Iceberg 等大数据生态组件,100% 开源兼容,可以帮助企业快速构建企... 将数据 HFDS 或 TOS(火山引擎对象存储产品)上,然后采用 Trino 或者 Spark 去做分析。![picture.image](https://p3-volc-community-sign.byteimg.com/tos-cn-i-tlddhu82om/d47689c10a2c4dc7b753cd92c929e4a2~tplv...

基于火山引擎 EMR 构建企业级数据湖仓

主要介绍了数据湖仓开源趋势、火山引擎 EMR 的架构及特点,以及如何基于火山引擎 EMR 构建企业级数据湖仓。作者:辛现银,火山引擎开源大数据平台 E-MapReduce 技术架构师 数据湖仓开源趋势... 数据不局限于某种存储底层,支持包括从本地、HDFS 到云对象存储等多种底层。* **Table 格式**:本质上是基于存储的、 Table 的数据+元数据定义。具体来说,这种数据格式有三个具体的实现: **Delta Lake** 、 ...

干货|解析开源OLAP引擎基于共享存储的选主方式

ByConity 是由字节跳动开源的云原生数仓,采用了存储计算分离的架构,支持主流的 OLAP 引擎优化技术,实现了租户资源隔离、弹性扩缩容,并具有数据读写的强一致性等特性。 **「基于共享存储的选主方式」** 作为 ByCon... 锁被分配在一份所有线程可见的内存中;2.内存支持通过 CAS(Compare And Swap)指令实现小对象的原子写入;3.内存支持确保原子写入的结果,读者看到的写入顺序和写者的写入顺序一样;4.操作系统内核通过 ...

特惠活动

DCDN国内流量包100G

同时抵扣CDN与DCDN两种流量消耗,加速分发更实惠
2.00/20.00/年
立即购买

2核4G共享型云服务器

Intel CPU 性能可靠,不限流量,学习测试、小型网站、小程序开发推荐,性价比首选
86.00/1908.00/年
立即购买

视频云ImageX媒资存储50G

分布式存储,可靠性高,全链路图像服务
1.00/6月24.07/6月
立即购买

开源对象存储平台有哪些-优选内容

对象存储-火山引擎
火山引擎对象存储是火山引擎提供的海量、安全、低成本、易用、高可靠、高可用的分布式云存储服务。通过网络,您可以在任何应用、任何时间、任何地点管理和访问火山引擎对象存储上的数据
什么是对象存储 TOS
火山引擎对象存储 TOS(Tinder Object Storage)是火山引擎提供的海量、安全、低成本、易用、高可靠、高可用的分布式云存储服务。您可以通过 RESTful API 接口、SDK 和工具等多种形式使用火山引擎 TOS。通过网络,您可以在任何应用、任何时间、任何地点管理和访问火山引擎 TOS 上的数据。 产品优势规模海量 火山引擎 TOS 通过自研分布式对象存储技术,通过领先的架构与技术支持,目前内部部署对象存储机器万台规模,存储规模超过 EB。传...
对象存储账单功能优化通知
为了更好地支持根据 Project 分账的功能,火山引擎对象存储产品将于 2023年 6 月 27 日 13:00 优化变更用量的推送出账逻辑。 优化上线时间2023年 6 月 27 日 13:00 账单优化说明账单功能优化点如下: 账单明细优化点如下: 优化前账单明细:扩展字段体现桶信息。 优化后账单明细:扩展字段将不再体现桶信息,账单明细中的用量为所有桶的合计用量,价格等不做调整。 如果您希望获取单独桶及相应的分账用量信息,请提前在费用中心-分账账...
对象存储桶域名使用限制变更公告
为了保证业务的安全性和稳定性,火山引擎对象存储产品将于 2024 年 01 月 03 日变更存储桶默认域名使用限制,不允许使用默认域名以预签名或匿名方式直接预览任意类型的文件或下载后缀为 .apk 或 .ipa 类型的文件。 预计变更时间2024 年 01 月 03 日,具体时间请以控制台上线为准。 变更说明2024 年 01 月 03 日之后创建的存储桶,存在以下变动: 如果您使用默认域名以预签名或匿名方式访问文件,TOS 会在 Response Header 中会自动添加...

开源对象存储平台有哪些-相关内容

Apache Iceberg 中引入索引提升查询性能

是火山引擎数智平台(VeDI)旗下的云原生开源大数据平台产品, 提供了企业级的 Hadoop、Spark、Flink、Hive、Presto、Kafka、StarRocks、Doris、Hudi、Iceberg 等大数据生态组件,100% 开源兼容,可以帮助企业快速构建企... 将数据 HFDS 或 TOS(火山引擎对象存储产品)上,然后采用 Trino 或者 Spark 去做分析。![picture.image](https://p3-volc-community-sign.byteimg.com/tos-cn-i-tlddhu82om/2ebeae31a9ce4ef0a6a130cd319fee42~tpl...

对象存储事件通知功能接口变更说明

为了给您提供更加优质的服务,火山引擎对象存储产品预计将于 2024 年 01 月 15 日优化事件通知功能,将同一事件仅支持推送至一个目标,优化为支持推送至多个不同的目标。 预计变更时间2024 年 01 月 15 日,具体变更时间请以控制台变更为准。 变更说明TOS 事件通知功能当前仅支持将同一事件推送至一个目标,变更后,支持将同一事件推送至多个不同的目标(通过新增 V2 版本接口实现)。接口变更影响如下: 如果您希望将事件推送至多个目标,...

对象存储带宽流控优化说明

为了更好地提升服务体验,火山引擎对象存储产品将优化读写带宽触发流控后的表现。 优化生效时间2023 年 7 月 30 日 23:59 优化说明对象存储产品存在读写带宽限制,达到阈值后将触发流控,流控行为如下所示: 优化前:触发流控后会直接响应 429 错误,拒绝请求。 优化后:触发流控后会整体降速,不会拒绝请求。 TOS 的带宽限制说明,请参见约束限制。

DCDN国内流量包100G

同时抵扣CDN与DCDN两种流量消耗,加速分发更实惠
2.00/20.00/年
立即购买

2核4G共享型云服务器

Intel CPU 性能可靠,不限流量,学习测试、小型网站、小程序开发推荐,性价比首选
86.00/1908.00/年
立即购买

视频云ImageX媒资存储50G

分布式存储,可靠性高,全链路图像服务
1.00/6月24.07/6月
立即购买

Apache Iceberg 中引入索引提升查询性能

是火山引擎数智平台(VeDI)旗下的云原生开源大数据平台产品, 提供了企业级的 Hadoop、Spark、Flink、Hive、Presto、Kafka、StarRocks、Doris、Hudi、Iceberg 等大数据生态组件,100% 开源兼容,可以帮助企业快速构建企... 将数据 HFDS 或 TOS(火山引擎对象存储产品)上,然后采用 Trino 或者 Spark 去做分析。![picture.image](https://p3-volc-community-sign.byteimg.com/tos-cn-i-tlddhu82om/d47689c10a2c4dc7b753cd92c929e4a2~tplv...

对象存储计费变更说明

为了给您提供更加优质的服务,火山引擎对象存储产品预计将于 2024 年 05~06 月优化计费功能,提供更灵活的计费形式。此次计费变更不会影响您的业务和计费,如您对本说明有任何问题,请您及时与我们联系。 预计变更时间05 月 20 日 ~ 06 月 30 日 变更详情变更完成后,您的订单管理、账单明细及账单详情页面将出现以下变化: 订单管理TOS 会生成一个新购订单和 N 个退订订单(后续执行,不在此变更期间),您可以在订单管理页面查看订单详情...

IDC共享云上对象存储服务

本文将介绍如何通过私网连接服务将火山引擎对象存储服务共享给本地IDC。 场景介绍云上VPC或云下IDC通过私网连接服务可以安全地访问云上的对象存储服务(Tinder Object Storage,简称TOS)。本文为您介绍使用私网连接打通TOS服务时不同场景的的配置指导。 若希望通过私网连接区分服务类型和存储对象,请使用接口终端节点泛域名功能。 若希望通过私网连接终端节点控制VPC访问存储桶的范围,请使用网关终端节点。 具体组网场景如下图所...

基于火山引擎 EMR 构建企业级数据湖仓

主要介绍了数据湖仓开源趋势、火山引擎 EMR 的架构及特点,以及如何基于火山引擎 EMR 构建企业级数据湖仓。作者:辛现银,火山引擎开源大数据平台 E-MapReduce 技术架构师 数据湖仓开源趋势... 数据不局限于某种存储底层,支持包括从本地、HDFS 到云对象存储等多种底层。* **Table 格式**:本质上是基于存储的、 Table 的数据+元数据定义。具体来说,这种数据格式有三个具体的实现: **Delta Lake** 、 ...

对象存储资源包功能迁移说明

为了给您提供更加优质的服务,火山引擎对象存储产品预计将于 2024 年 05 月 13 日 09:00 ~ 05 月 15 日 00:00 优化资源包功能,将您的存量资源包商品迁移到新的资源包商品。本次资源包功能优化,不影响您已购资源包的正常抵扣。重点告知您,在本次资源包功能优化期间,您将无法新购资源包,无法对已购资源包执行续费、退订操作。如您对本说明有任何问题,请您及时与我们联系。 预计迁移时间05 月 13 日 09:00 ~ 05 月 15 日 00:00 迁移说...

干货|解析开源OLAP引擎基于共享存储的选主方式

ByConity 是由字节跳动开源的云原生数仓,采用了存储计算分离的架构,支持主流的 OLAP 引擎优化技术,实现了租户资源隔离、弹性扩缩容,并具有数据读写的强一致性等特性。 **「基于共享存储的选主方式」** 作为 ByCon... 锁被分配在一份所有线程可见的内存中;2.内存支持通过 CAS(Compare And Swap)指令实现小对象的原子写入;3.内存支持确保原子写入的结果,读者看到的写入顺序和写者的写入顺序一样;4.操作系统内核通过 ...

特惠活动

DCDN国内流量包100G

同时抵扣CDN与DCDN两种流量消耗,加速分发更实惠
2.00/20.00/年
立即购买

2核4G共享型云服务器

Intel CPU 性能可靠,不限流量,学习测试、小型网站、小程序开发推荐,性价比首选
86.00/1908.00/年
立即购买

视频云ImageX媒资存储50G

分布式存储,可靠性高,全链路图像服务
1.00/6月24.07/6月
立即购买

产品体验

体验中心

云服务器特惠

云服务器
云服务器ECS新人特惠
立即抢购

白皮书

从ClickHouse到ByteHouse
关于金融、工业互联网,都有对应的场景特性、解决策略、实践效果具体呈现,相信一定能解决你的诸多疑惑
立即获取

最新活动

爆款1核2G共享型服务器

首年60元,每月仅需5元,限量秒杀
立即抢购

火山引擎增长体验专区

丰富能力激励企业快速增长
查看详情

数据智能VeDI

易用的高性能大数据产品家族
了解详情

一键开启云上增长新空间

立即咨询