在面对众多的消息队列时,我们往往会陷入选择的困境:“消息队列那么多,该怎么选啊?Kafka 和 RabbitMQ 比较好用,用哪个更好呢?”想必大家也曾有过类似的疑问。对此本文将在接下来的内容中以 Kafka 和 RabbitMQ 为例分... 其最新架构被命名为 Apollo,号称下一代 ActiveMQ,有兴趣的同学可自行了解。* **RabbitMQ** 是采用 Erlang 语言实现的 AMQP 协议的消息中间件,最初起源于金融系统,用于在分布式系统中存储转发消息。RabbitMQ 发展...
架构最大的不同在于 BMQ 是 **存算分离的架构** ,相较于 Kafka 将数据存储在本地磁盘,BMQ 将数据存储在了分布式的存储系统。在 BMQ 内部,主要有四个模块:Proxy,Broker,Coordinator 和 Controller。我们依次来看一... 使它更智能、更准确判断故障的同时更快地隔离异常节点,缩短影响时间,持续为 BMQ 的稳定性保驾护航。此外我们也在探索更加极致的弹性能力,在保障租户吞吐能力的同时,可以根据流量潮汐自动扩缩容实例,实现极致地降本...
# 项目分享:智能风控系统## 背景介绍本项目的初衷是解决传统风险控制的一些缺陷。比如,传统方法一般采用系统及静态模型进行实时监控和预测,无法适应灵便的使用场景;此外,处理规模性数据的效率很低,无法提供精确... 我使用了Apache Kafka和scikit-learn库来实现实时监测和预测。首先,要确保已经安装好了Apache Kafka和scikit-learn库,并完成配置,教程也很多,一搜就有。应用比较简单,但是使用中还要注意异常的处理,数据流量的控制...
文 | **洪剑**、**大滨** 来自字节跳动数据平台开发套件团队# 背景## 动机字节数据中台DataLeap的Data Catalog系统基于Apache Atlas搭建,其中Atlas通过Kafka获取外部系统的元数据变更消息。在开源版本中,每台... 我们决定投入人力自研一个消息处理框架。当前这个框架很好的支持了字节内部以及ToB场景中Data Catalog对于消息消费和处理的场景。本文会详细介绍框架解决的问题,整体的设计,以及实现中的关键决定。## 需求定义...
Topic(消息主题)是同一种类型消息的集合,是消息队列 Kafka版中数据写入操作的基本单元。本文档介绍创建单个 Topic 的操作步骤。 背景信息在实际业务场景中,一个 Topic 常被用作承载同一种业务流量,由开发者根据自身系统设计、数据架构设计来决定如何设计不同的 Topic。每个 Topic 可以有多个生产者向它发送消息,也可以有多个消费者去消费其中的消息。分区(Patition)是 Topic 在物理上的分组,每个 Topic 可以划分为多个分区,每个分...
架构最大的不同在于 BMQ 是 **存算分离的架构** ,相较于 Kafka 将数据存储在本地磁盘,BMQ 将数据存储在了分布式的存储系统。在 BMQ 内部,主要有四个模块:Proxy,Broker,Coordinator 和 Controller。我们依次来看一... 使它更智能、更准确判断故障的同时更快地隔离异常节点,缩短影响时间,持续为 BMQ 的稳定性保驾护航。此外我们也在探索更加极致的弹性能力,在保障租户吞吐能力的同时,可以根据流量潮汐自动扩缩容实例,实现极致地降本...
# 项目分享:智能风控系统## 背景介绍本项目的初衷是解决传统风险控制的一些缺陷。比如,传统方法一般采用系统及静态模型进行实时监控和预测,无法适应灵便的使用场景;此外,处理规模性数据的效率很低,无法提供精确... 我使用了Apache Kafka和scikit-learn库来实现实时监测和预测。首先,要确保已经安装好了Apache Kafka和scikit-learn库,并完成配置,教程也很多,一搜就有。应用比较简单,但是使用中还要注意异常的处理,数据流量的控制...
文 | **洪剑**、**大滨** 来自字节跳动数据平台开发套件团队# 背景## 动机字节数据中台DataLeap的Data Catalog系统基于Apache Atlas搭建,其中Atlas通过Kafka获取外部系统的元数据变更消息。在开源版本中,每台... 我们决定投入人力自研一个消息处理框架。当前这个框架很好的支持了字节内部以及ToB场景中Data Catalog对于消息消费和处理的场景。本文会详细介绍框架解决的问题,整体的设计,以及实现中的关键决定。## 需求定义...
讨论下较通用的架构设计。1. 这种字段和数据都频繁变化的就不太适合设计链路过长和复杂的架构,后续维护这种架构会非常麻烦。但同时也不能过于简单,也要有一定的分层架构,不然耦合性太高,一旦源业务系统的业务规则... 从源系统同步过来的数据落到ODS层,但是要注意采集数据时需要能捕获到源系统表结构的变更,可以采用Flink CDC等。ODS层的数据落到Kakfa中,设置一个较长的保存周期。kafka直接作为数仓的存储层,优点是不关心数据的格...
还是后来涌现出来的 Kafka、Flink 等,都被广泛地使用着。十多年来,这些系统经历了多轮技术洗礼,我们也随之需要根据新的技术潮流不断地进行调整甚至做技术转型。以 Hadoop 三大组件来说,计算引擎 MapReduce 基本被 Spark 取代。在数据上云的时代,对象存储也取代了一部分 HDFS 文件系统。近几年,云原生又火了起来,行业里再次开始了对大数据体系的云原生改造,同时 K8s 的流行,也让同为资源管理的 YARN 地位越来越尴尬。然而,过...
**存算分离的架构**,相较于 Kafka 将数据存储在本地磁盘,BMQ 将数据存储在了分布式的存储系统。在 BMQ 内部,主要有四个模块:Proxy,Broker,Coordinator 和 Controller。我们依次来看一下这些模块的主要工作:* P... 使它更智能、更准确判断故障的同时更快地隔离异常节点,缩短影响时间,持续为 BMQ 的稳定性保驾护航。此外我们也在探索更加极致的弹性能力,在保障租户吞吐能力的同时,可以根据流量潮汐自动扩缩容实例,实现极致地降本...
**Kafka 时代**在初期阶段,字节跳动使用 Apache Kafka 进行数据的实时处理和流转,Kafka 同样也在各大互联网公司的产品和大数据系统中得到了广泛的应用。![picture.image](https://p3-volc-c... 生产者负责写消息到 Kafka;消费者负责读取消息。从架构上来看 Kafka 的架构非常简单,只有 Broker 组件负责所有的读写操作。在 Kafka 集群中,一个 Broker 节点会被选举为控制器(Controller)监管集群的状态,并负...
# 背景字节跳动开发套件数据集成团队(DTS ,Data Transmission Service)在字节跳动内基于 Flink 实现了流批一体的数据集成服务。其中一个典型场景是 Kafka/ByteMQ/RocketMQ -> HDFS/Hive 。Kafka/ByteMQ/RocketMQ... 我们通过 HDFS trace 记录表( HDFS trace记录表记录着用户和系统调用行为,以达到分析和运维的目的)查看 task 2 Checkpoint 4608 临时目录操作记录,对应的路径为 `/xx/_DUMP_TEMPORARY/cp-4608/task-2`。src_path...