数据库服务器双机热备如何实现
社区干货
字节跳动 NoSQL 的探索与实践
图、时序等新兴的数据库也都属于 NoSQL 范畴。如今 NoSQL 在字节跳动有非常广泛的应用:数万 NoSQL 应用实例,10W+ 台物理服务器资源,字节跳动超过 90% 的在线服务都是 NoSQL 系统提供的。### NoSQL 产品矩阵... 字节跳动早期时有不少业务使用 MapReduce 和 Spark 来实现图算法。得益于批处理系统的广泛使用,业务同学能够快速上线算法逻辑。但批处理(batch processing)本身是为处理并行数据而设置的,能轻易将工作负载分散到不...
字节跳动 NoSQL 的探索与实践
时序等新兴的数据库也都属于 NoSQL 范畴。如今 NoSQL 在字节跳动有非常广泛的应用:数万 NoSQL 应用实例,10W+ 台物理服务器资源,字节跳动超过 90% 的在线服务都是 NoSQL 系统提供的。### NoSQL 产品矩阵
特惠活动
数据库服务器双机热备如何实现-优选内容
数据库服务器双机热备如何实现-相关内容
9年演进史:字节跳动 10EB 级大数据存储实战
单集群规模很快在元数据服务器 Name Node 侧遇到瓶颈。引入联邦机制(Federation)实现集群的横向扩展。联邦又带来统一命名空间问题,因此,需要统一视图空间帮助业务构建统一接入。这里我们引入了 Name Node Proxy 组件实现统一视图和多租户管理等功能。为了解决这个问题,我们引入了 Name Node Proxy 组件实现统一视图和多租户管理等功能,这部分会在下文的 NNProxy 章节中介绍。### **第二阶段**数据量继续增大,Federation 方...
9年演进史:字节跳动 10EB 级大数据存储实战
HDFS 平台在公司内部已经成长为总数十万台级别服务器的大平台,支持了 10 EB 级别的数据量。----------------------------------------------------------------------------------------------------------------... 我们需要非常多的 NameNode 实现联邦机制来接入不同上层业务的数据服务。但当 NameNode 数量也变得非常多了以后,用户请求的统一接入及统一视图的管理也会有很大的问题。为了解决用户接入过于分散,我们需要一个独立...
20000字详解大厂实时数仓建设 | 社区征文
mysql 或者其他 KV 存储等数据库来进行存储。接下来,根据顺风车实时数仓架构图,对每一层建设做具体展开:---#### 1. ODS 贴源层建设根据顺风车具体场景,目前顺风车数据源主要包括订单相关的 binlog 日志,冒... 但其具体技术实现会存在很大不同。第一:对于一些共性指标的加工,比如 pv,uv,订单业务过程指标等,我们会在汇总层进行统一的运算,确保关于指标的口径是统一在一个固定的模型中完成。对于一些个性指标,从指标复用性...
Pulsar 在云原生消息引擎领域为何如此流行?| 社区征文
由轻量级的 serverless 计算框架 Pulsar Functions 实现流原生的数据处理。 - 基于 Pulsar Functions 的 serverless connector 框架 Pulsar IO 使得数据更易移入、移出 Apache Pulsar。 - 分层式存储可在数据... 实现数据的独立扩展和快速恢复。### 4.2 BrokersPulsar 的 broker 是一个无状态组件,主要负责运行另外的两个组件: - 一个 HTTP 服务器(Service discovery),它暴露了 REST 系统管理接口以及在生产者和消费者之...
字节跳动极高可用 KV 存储系统详解
目前 Abase 在字节跳动已经部署超过 5 万台服务器,QPS 在百亿级别。Abase 支持的业务数超过 5000,基本覆盖了字节的全部产品线,有超过百 P 级别的数据量。。为了做高可用、让数据高可靠,一个分片要有多个副本,每个副本称为一个 Replica。**Abase 2.0 的高可用方案**Abase 2.0 借鉴了 Dynamo 无主架构多点写入的一套方案...
如何在 Linux 操作系统中搭建软件 RAID?
# 运行环境* CentOS/RHEL 7# 什么是软件 RAID软件 RAID 是在内部服务器上执行的一种 RAID(独立磁盘冗余阵列)形式。RAID 是一种数据保护方法,可将数据分布在多个硬盘上,平衡重叠的 I/O 操作,提高性能并增加平均... 若有多块热备盘,则将"-x1" 的值设置为相应的数目;* /dev/md0 阵列的设备名称;* /dev/vd[b,c,d.e] 参与创建阵列的磁盘名称;