在面对众多的消息队列时,我们往往会陷入选择的困境:“消息队列那么多,该怎么选啊?Kafka 和 RabbitMQ 比较好用,用哪个更好呢?”想必大家也曾有过类似的疑问。对此本文将在接下来的内容中以 Kafka 和 RabbitMQ 为例分享消息队列选型的一些经验。消息队列即 Message+Queue,消息可以说是一个数据传输单位,它包含了创建时间、通道/主题信息、输入参数等全部数据;队列(Queue)是一种 FIFO(先进先出)的数据结构,编程语言一般都内置(内存...
作者|字节跳动消息队列研发工程师-雷丽媛上文我们了解了在字节跳动内部业务快速增长的推动下,经典消息队列 Kafka 的劣势开始逐渐暴露,在弹性、规模、成本及运维方面都无法满足业务需求。因此字节消息队列团队研发了计算存储分离的 **云原生消息引擎 BMQ** ,在极速扩缩容及吞吐上都有非常好的表现。本文将继续从整体技术架构开始,介绍字节自研的云原生消息引擎的分层架构在数据存储模型、运维等角度的优势及挑战。[**...
多数公司都会选择将消息队列作为削峰填谷的关键工具。字节跳动的消息队列团队不仅要支撑公司内部消息队列系统的设计、开发和维护工作,还要解决诸多技术难题和痛点,例如如何稳定高效地处理海量数据、如何降低运... 每个集群里面可以拥有多个主题(Topic)。用户可以将所有逻辑上相关的数据放到同一个 Topic 中。由于 Topic 可能会有大量的数据,所以可以通过分区(Partition)去切分数据。每一条写入 Kafka 的消息都有一个唯一标识,也...
分布式系统中必备的一个中间件就是消息队列,通过消息队列我们能对服务间进行异步解耦、流量消峰、实现最终一致性。目前市面上已经有 `RabbitMQ、RochetMQ、ActiveMQ、Kafka`等,有人会问:“Redis 适合做消息队列么?”在回答这个问题之前,我们先从本质思考:- 消息队列提供了什么特性?- Redis 如何实现消息队列?是否满足存取需求?今天,码哥结合消息队列的特点一步步带大家分析使用 Redis 的 List 作为消息队列的实现原理,并...
分布式系统中必备的一个中间件就是消息队列,通过消息队列我们能对服务间进行异步解耦、流量消峰、实现最终一致性。目前市面上已经有 `RabbitMQ、RochetMQ、ActiveMQ、Kafka`等,有人会问:“Redis 适合做消息队列么?”在回答这个问题之前,我们先从本质思考:- 消息队列提供了什么特性?- Redis 如何实现消息队列?是否满足存取需求?今天,码哥结合消息队列的特点一步步带大家分析使用 Redis 的 List 作为消息队列的实现原理,并...
消息队列 RocketMQ版是火山引擎基于 Apache RocketMQ 构建的分布式消息中间件服务,完全兼容开源 RocketMQ 的各个组件与概念,同时具备低延迟、弹性高可靠、高吞吐等特性优势,业务代码无需改造,帮助用户快速迁移上云。 产品功能多种消费类型:消息队列 RocketMQ版提供灵活、可扩展性强的消费主题模式设置,支持发布/订阅、集群消费和广播消费模式。 多种消息类型:消息队列 RocketMQ版支持丰富的消息类型,支持顺序消息、事务消息、定...
点击上方👆蓝字关注我们! ![picture.image](https://p6-volc-community-sign.byteimg.com/tos-cn-i-tlddhu82om/5d175385d617432195f302c219307f7c~tplv-tlddhu82om-image.image?=&rk3s=8031ce6d&x-expires=1715271635&x-signature=PidTJSQ8lmkSlLzeWDu3%2FIG0%2B4E%3D)作者|字节跳动消息队列研发工程师-雷丽媛在字节跳动内部业务快速增长的推动下,经典消息队列 Kafka 的劣势开始逐渐暴露,在弹性、规模、成...
本文介绍消息队列客户端的故障配置参数。 Kafka 故障注意 Kafka 目前仅支持 SASL_PLAIN 认证类型。 脏数据可注入目标: 集群中的中间件 主机中的中间件 故障参数: 参数 是否必填 说明 故障名称 是 故障的名称。 Host 是 数据库客户端的 IP。 端口 是 数据库客户端的端口号。 是否需要用户名密码 是 选择是否需要输入账户和密码登录。选择是,则需要配置对应的用户名和密码。 用户名 是 数据库账号的用户名。 密码 是 数据库账号的...
消息回溯:支持对已消费消息重新消费或清除堆积消息,免去数据运维烦恼,帮助用户恢复故障。 消息重试与死信管理:支持对未成功消费消息自动投递重新消费,达到最大重试次数后,将消息投递至该消费者的死信队列,辅助排查生产或消费问题。 性能稳定消息队列 RocketMQ版采用分布式架构存储,支持横向扩容来增强集群的吞吐,单机最高可支持上万级别的生产消费吞吐量。 消费类型丰富消息队列 RocketMQ版提供灵活、可扩展性强的消费主题模式设...
实例消息消费流量速率、实例磁盘使用率等。说明 请确认生产者和消费者已成功接入,否则消费者数、消息数等数据均显示为 0。 通过云监控控制台查看监控数据您也可以通过云监控控制台查看监控数据,监控项与 Kafka 控制台中完全一致。 登录云监控控制台。 在左侧导航栏中单击云产品监控,并在中间件区域中选择消息队列 Kafka版。页面中展示当前的告警概况、资源数量分布和实例列表,实例列表中展示各个实例的状态、主题数量、消费组...
消息数等数据均显示为0。 通过云监控控制台查看监控数据您也可以通过云监控控制台查看监控数据,监控项与 RocketMQ 控制台中完全一致。 登录云监控控制台。 在左侧导航栏中单击云产品监控,并在中间件区域中选择消息队列 RocketMQ版。页面中展示当前的告警概况、资源数量分布和实例列表,实例列表中展示各个实例的状态、主题数量、消费组数量、消息生产流量速率和消息消费流量速率。 单击实例名称,进入该实例的监控数据页面。 监...
消息队列 Kafka版兼容开源Kafka的 ACL 权限策略,可以为 SASL 用户设置 All Permitted 权限,或指定 SASL 用户对于某些 Topic 或 Group 的自定义权限,实现资源和用户的权限隔离。 背景信息在 Apache Kafka 中,ACL(Ac... 资源类型 消息队列 Kafka版支持的 ACL 资源类型包括: Topic:消息主题。 Group:消费组。 资源名称匹配方式 资源的匹配方式,支持设置为: 完全匹配:ACL 策略仅匹配名称完全一致的资源。此时需要设置资源名称。 前...
本文说明消息队列 Kafka版涉及的专有名词和术语,帮助您更好地理解相关概念并使用该产品。 Apache KafkaApache Kafka 是一款开源的分布式数据流处理平台,可以实时发布、订阅、存储和处理数据流。关于 Apache Kafka ... 每一条消息都只会被投递到一个消费者,实现消费的负载均衡。通过消费组,您可以确保一个Topic的消息被并行消费。 TopicTopic即消息的主题,用于分类消息。 分区分区(Patition)是消息的分区,用于存储消息。一个 Topic ...