消息队列的最终一致性
社区干货
Redis 使用 List 实现消息队列有哪些利弊?|社区征文
分布式系统中必备的一个中间件就是消息队列,通过消息队列我们能对服务间进行异步解耦、流量消峰、实现最终一致性。目前市面上已经有 `RabbitMQ、RochetMQ、ActiveMQ、Kafka`等,有人会问:“Redis 适合做消息队列么?”在回答这个问题之前,我们先从本质思考:- 消息队列提供了什么特性?- Redis 如何实现消息队列?是否满足存取需求?今天,码哥结合消息队列的特点一步步带大家分析使用 Redis 的 List 作为消息队列的实现原理,并...
一文了解字节跳动消息队列演进之路
多数公司都会选择将消息队列作为削峰填谷的关键工具。字节跳动的消息队列团队不仅要支撑公司内部消息队列系统的设计、开发和维护工作,还要解决诸多技术难题和痛点,例如如何稳定高效地处理海量数据、如何降低运... 由云存储组件CloudFS保证数据一致性。* **高吞吐**:BMQ 将数据拆分成多个 Segment 文件,存储在不同的分布式存储系统的不同机器上的不同磁盘上,从而提高了吞吐性能。* **低延迟**:BMQ 的 Broker 节点自动感知写...
消息队列选型之 Kafka vs RabbitMQ
对此本文将在接下来的内容中以 Kafka 和 RabbitMQ 为例分享消息队列选型的一些经验。消息队列即 Message+Queue,消息可以说是一个数据传输单位,它包含了创建时间、通道/主题信息、输入参数等全部数据;队列(Queue)... 是下一代云原生分布式消息流平台,集消息、存储、轻量化函数式计算为一体,采用计算与存储分离架构设计,支持多租户、持久化存储、多机房跨区域数据复制,具有强一致性、高吞吐、低延时及高可扩展性等流数据存储特性。...
字节跳动新一代云原生消息队列实践
字节跳动消息队列研发工程师-雷丽媛在字节跳动内部业务快速增长的推动下,经典消息队列 Kafka 的劣势开始逐渐暴露,在弹性、规模、成本及运维方面都无法满足业务需求。因此字节消息队列团队研发了计算存储分离的云... 信息实际上填写的是 BMQ 中 Proxy 的信息,客户端根据 Metadata 请求将生产和消费等请求发送到对应的 Proxy,再由 Proxy 处理或转发。这样的架构有助于 BMQ 做更多的容错工作。例如在 Broker 重启时,Proxy 可以感知...
特惠活动
消息队列的最终一致性-优选内容
消息队列的最终一致性-相关内容
消息队列选型之 Kafka vs RabbitMQ
对此本文将在接下来的内容中以 Kafka 和 RabbitMQ 为例分享消息队列选型的一些经验。消息队列即 Message+Queue,消息可以说是一个数据传输单位,它包含了创建时间、通道/主题信息、输入参数等全部数据;队列(Queue)... 是下一代云原生分布式消息流平台,集消息、存储、轻量化函数式计算为一体,采用计算与存储分离架构设计,支持多租户、持久化存储、多机房跨区域数据复制,具有强一致性、高吞吐、低延时及高可扩展性等流数据存储特性。...
字节跳动新一代云原生消息队列实践
字节跳动消息队列研发工程师-雷丽媛在字节跳动内部业务快速增长的推动下,经典消息队列 Kafka 的劣势开始逐渐暴露,在弹性、规模、成本及运维方面都无法满足业务需求。因此字节消息队列团队研发了计算存储分离的云... 信息实际上填写的是 BMQ 中 Proxy 的信息,客户端根据 Metadata 请求将生产和消费等请求发送到对应的 Proxy,再由 Proxy 处理或转发。这样的架构有助于 BMQ 做更多的容错工作。例如在 Broker 重启时,Proxy 可以感知...
字节跳动新一代云原生消息队列实践
作者|字节跳动消息队列研发工程师-雷丽媛上文我们了解了在字节跳动内部业务快速增长的推动下,经典消息队列 Kafka 的劣势开始逐渐暴露,在弹性、规模、成本及运维方面都无法满足业务需求。因此字节消息队列团队... 信息实际上填写的是 BMQ 中 Proxy 的信息,客户端根据 Metadata 请求将生产和消费等请求发送到对应的 Proxy,再由 Proxy 处理或转发。这样的架构有助于 BMQ 做更多的容错工作。例如在 Broker 重启时,Proxy 可以感知...
RabbitMQ 队列高可用
如果对数据可用性和可靠性要求较高,您可以选择使用一致性 hash 插件或 Quorum 队列来保障单节点故障场景的服务高可用。本文档介绍各种高可用方案的配置方式。 背景信息Classic 队列,即经典队列,是 RabbitMQ 中最常见的基本队列类型,Classic 队列提供了基本的消息传递和处理功能,简单而高效。Classic 队列使用先进先出(FIFO)的消息传递方式,确保消息按照发送的顺序进行处理。但 Classic 队列在 RabbitMQ 中基于单节点的存储结构,不...
开启插件
在消息队列 RabbitMQ版控制台中创建实例之后,实例插件默认为关闭状态,您可以手动为实例开启插件。 背景信息消息队列 RabbitMQ版支持在控制台开启以下插件。 插件名称 功能描述 端口号 rabbitmq_mqtt 表示实例是... 61613 rabbitmq_tracing 用于跟踪消息的流入流出,并将其记录在日志文件中。如何使用 rabbitmq_tracing 插件,请参考使用 rabbitmq_tracing 插件。 / rabbitmq_consistent_hash_exchange 一致性哈希交换机,使...
数据安全
本文档介绍消息队列 RabbitMQ版提供的数据安全能力,及某些场景下的数据可靠性风险。 数据可靠性火山引擎消息队列 RabbitMQ版提供多种部署策略与安全能力,全方位保护用户数据安全性与可用性。 多可用区部署。消息队... 消息队列 RabbitMQ版支持单机版实例和集群版实例。在选择购买集群版实例后,可选择设置实例镜像队列,创建队列的冗余副本,从而在发生网络或少数节点故障时,不影响服务可用性,保证生产数据一致性。单机版实例不具备配...
RocketMQ 消费者使用建议
本文档介绍 RocketMQ 消费者的使用建议,推荐在使用消息队列 RocketMQ版进行消息生产与消费之前,阅读以下使用建议,提高接入效率和业务稳定性。 消费过程幂等RocketMQ 无法保证消息只被消费一次(Exactly-Once),即无法... 消费组订阅一致性订阅关系一致指的是同一个消费者 Group ID 下所有 Consumer 实例所订阅的 Topic、Tag 必须完全一致。如果订阅关系不一致,消息消费的逻辑就会混乱,甚至导致消息丢失。 订阅的 Topic 必须一致,例如...
消息顺序性与可靠性
使用消息队列 Kafka版收发消息时,往往需要关注消息的顺序性与可靠性,本文档介绍实现消息顺序性、保证消息可靠性的推荐方式。 消息顺序性Kafka 的消息在单个分区中可以保证数据的先入先出,即写入同一分区的消息,若消... 您也可以通过将需要保证顺序的消息写入到同一分区的方式来实现消息的有序性。该方式适用于不需要所有消息都保证顺序的场景。 在发送消息时,对有序消息通过指定相同分区编号进行发送的方式来保证最终消息读取的有序...
字节跳动实时数据湖构建的探索和实践
主要用于将消息队列中的数据实时写入到Hive和HDFS,在计算引擎上做到了流批统一。到了2021年,我们基于Flink构造了实时数据湖集成通道,从而完成了湖仓一体的数据集成系统的构建。