多数公司都会选择将消息队列作为削峰填谷的关键工具。字节跳动的消息队列团队不仅要支撑公司内部消息队列系统的设计、开发和维护工作,还要解决诸多技术难题和痛点,例如如何稳定高效地处理海量数据、如何降低运... 每一条写入 Kafka 的消息都有一个唯一标识,也就是偏移量(Offset)。在 Kafka 集群内,(Topic, Partition, Offset)这个三元组可以唯一定位一条消息。从用户的角度来看,有两个关键的角色:生产者(Producer)和消费者...
同时有兜底 Task 查询转账所有未到终态领取单并通过 MQ 异步发送转账消息。 **解耦**其次通过使用消息队列,发送方和接收方可以解耦,彼此之间不直接通信。发送方只需将消息发送到队列中,而不需要关... 而请求是可以在消息队列中被短暂地堆积, 当库存被消耗完之后,消息队列中堆积的请求就可以被丢弃了。**消息队列发展历程**言归正传,先看看有哪些主流消息队列可选。* **ActiveMQ** 是 A...
分布式系统中必备的一个中间件就是消息队列,通过消息队列我们能对服务间进行异步解耦、流量消峰、实现最终一致性。目前市面上已经有 `RabbitMQ、RochetMQ、ActiveMQ、Kafka`等,有人会问:“Redis 适合做消息队列么... 一次保证消息的传递。如果发送消息时接收者不可用,消息队列会保留消息,直到成功地传递它。当消费者重启后,可以继续读取消息进行处理,防止消息遗漏。# List 实现消息队列Redis 的列表(List)是一种线性的有序结...
[**回顾:一文了解字节跳动消息队列演进之路**](https://developer.volcengine.com/articles/7325343303150272539)# 云原生消息引擎 BMQ 架构![picture.image](https://p6-volc-community-sign.byteimg.com/tos-cn-i-tlddhu82om/a125bf89b1f94fe5a2e492d89de7c6e7~tplv-tlddhu82om-image.image?=&rk3s=8031ce6d&x-expires=1714926034&x-signature=08ghjzMTisQ7T7iki9Vi2FMMFHU%3D)从整体来看,BMQ 与 Ka...
本文介绍了消息队列 RabbitMQ版各特性版本的功能发布动态,新特性将在各个地域(Region)陆续发布,欢迎体验。 2024年2月功能名称 功能描述 发布时间 发布地域 相关文档 插件重试 如果出现启用插件失败,支持在排... 增加队列维度和节点维度指标。 2023-09-19 全部地域 查看监控数据 2023年07月功能名称 功能描述 发布时间 发布地域 相关文档 新实例规格 集群版实例新增小规格 rabbitmq.n3.x2.small。 2023-07-05 全...
消息队列 RocketMQ版会记录并在控制台展示消费的相关信息,例如队列信息和消费组信息。 操作入口登录消息队列 RocketMQ版控制台。 在顶部菜单栏中选择地域。 在实例列表中找到指定 RocketMQ 实例,并单击实例名称。 在Topic管理页面单击指定 Topic 名称。除 Topic 基本信息外,页面中以页签形式展示该 Topic 的队列信息、订阅此 Topic 的消费组信息和 Topic 的密钥权限。 分别单击页签名称,查看队列信息、消费组信息和密钥权限页签。...
产品功能多种消费类型:消息队列 RocketMQ版提供灵活、可扩展性强的消费主题模式设置,支持发布/订阅、集群消费和广播消费模式。 多种消息类型:消息队列 RocketMQ版支持丰富的消息类型,支持顺序消息、事务消息、定时消息、延时消息等多种消息类型,满足各类场景下的数据消费需求。 多种消息免运维机制:消息队列 RocketMQ版支持消息查询和回溯、消息重试与死信管理等多种消息免运维机制,可配置消费延时、消息堆积等情况下的数据监...
如果当前使用的消息队列 RocketMQ版指标值超过实例的某项规格限制,实例集群运行负载超过推荐负载上限,可能会触发限流机制。建议您及时关注实例运行的各项规格指标数据,在触发限流前调整实例规格。本文档介绍需要调... 您可以在 RocketMQ 实例的云监控页签中查看生产流量速率和消费流量速率。详细说明请参考查看监控数据。 请求时延增大或失败率增高随着业务持续增长,当 TPS 增加伴随着生产和消费的请求时延开始显著增加,或者消息生...
消息队列 RocketMQ版各特性版本的功能发布动态,新特性将在各个地域(Region)陆续发布,欢迎体验。 2024年3月功能名称 功能描述 发布地域 相关文档 云监控指标 增加实例维度的监控指标。 全部地域 查看监控数据... 全方位保障集群数据的可靠性和服务的可用性。 2023-11-09 全部地域 创建实例 规格资源调整 调整部分规格的 Topic、Group、连接数等资源配额。 2023-11-09 全部地域 产品规格 2023年10月功能名称 功能描...
本文介绍通过方案二将开源 Kafka 集群迁移到火山引擎消息队列 Kafka版的操作步骤。 注意事项业务迁移只迁移消息生产、消费链路和业务流量,并不会迁移 Kafka 旧集群上的消息数据。 创建 Kafka 实例、迁移消息收发链... 下线旧消费者以及旧 Kafka 集群。停止旧集群的生产业务之后,旧消费者仍在持续消费存量的旧消息。您可以参考 查看迁移进度和结果 ,观察消费组的处理进度,待消费组处理完成后,继续进行后续操作。 为消息队列 Kaf...
本文介绍通过方案一将开源 Kafka 集群迁移到火山引擎消息队列 Kafka版的操作步骤。 注意事项业务迁移只迁移消息生产、消费链路和业务流量,并不会迁移 Kafka 旧集群上的消息数据。 创建Kafka实例、迁移消息收发链路... 由自建集群接入点改为消息队列 Kafka版的公网接入点。 检验新的 Kafka 实例业务是否正常运行。您可以根据业务自身的运行逻辑判断当前服务的健康度,确认火山引擎 Kafka 实例是否正常运行,也可以参考 查看迁移进度...
本文介绍消息队列客户端的故障配置参数。 Kafka 故障注意 Kafka 目前仅支持 SASL_PLAIN 认证类型。 脏数据可注入目标: 集群中的中间件 主机中的中间件 故障参数: 参数 是否必填 说明 故障名称 是 故障的名称。 Host 是 数据库客户端的 IP。 端口 是 数据库客户端的端口号。 是否需要用户名密码 是 选择是否需要输入账户和密码登录。选择是,则需要配置对应的用户名和密码。 用户名 是 数据库账号的用户名。 密码 是 数据库账号的...
那么也会在 Kafka 集群上创建对应的 Group。 为什么 Group 会被自动删除?消息队列 Kafka版支持自动删除 Group(auto.delete.group) 功能,您可以设置后端服务是否自动删除 Empty 状态的消费组。开启后,如果消费者组中的所有消费者处于 Empty 状态,超出消费位点保留时长后会自动删除该消费者组;关闭后,消费进度的自动删除不影响消费组的状态,Empty 状态的 Group 也不会被系统自动删除。当 Group 被自动删除后,您可以查看实例的参数...