分布式系统中必备的一个中间件就是消息队列,通过消息队列我们能对服务间进行异步解耦、流量消峰、实现最终一致性。目前市面上已经有 `RabbitMQ、RochetMQ、ActiveMQ、Kafka`等,有人会问:“Redis 适合做消息队列么?”在回答这个问题之前,我们先从本质思考:- 消息队列提供了什么特性?- Redis 如何实现消息队列?是否满足存取需求?今天,码哥结合消息队列的特点一步步带大家分析使用 Redis 的 List 作为消息队列的实现原理,并...
作者|字节跳动消息队列研发工程师-雷丽媛上文我们了解了在字节跳动内部业务快速增长的推动下,经典消息队列 Kafka 的劣势开始逐渐暴露,在弹性、规模、成本及运维方面都无法满足业务需求。因此字节消息队列团队研发了计算存储分离的 **云原生消息引擎 BMQ** ,在极速扩缩容及吞吐上都有非常好的表现。本文将继续从整体技术架构开始,介绍字节自研的云原生消息引擎的分层架构在数据存储模型、运维等角度的优势及挑战。[**...
字节跳动消息队列研发工程师-雷丽媛在字节跳动内部业务快速增长的推动下,经典消息队列 Kafka 的劣势开始逐渐暴露,在弹性、规模、成本及运维方面都无法满足业务需求。因此字节消息队列团队研发了计算存储分离的云原生消息引擎 BMQ,在极速扩缩容及吞吐上都有非常好的表现。本文将从整体技术架构开始,介绍字节自研的云原生消息引擎的分层架构在数据存储模型、运维等角度的优势及挑战。 云原生消息引擎 BMQ 架构...
多数公司都会选择将消息队列作为削峰填谷的关键工具。字节跳动的消息队列团队不仅要支撑公司内部消息队列系统的设计、开发和维护工作,还要解决诸多技术难题和痛点,例如如何稳定高效地处理海量数据、如何降低运... **自研云原生消息引擎**BMQ 具有多项优势,使其在处理海量数据时提供了强大的性能和稳定性。以下是 BMQ 的主要特性:* **高性能**:BMQ 使用 C++ 语言编写,避免了 Kafka 使用的 Java 语言的 GC...
即开即用消息队列 Kafka版完全兼容开源 Apache Kafka,业务代码无需改造,使用实例提供的访问地址即可接入消息队列 Kafka版,帮助您快速迁移上云。 高可用性在海量消息堆积的情况下,消息队列 Kafka版仍然维持对消息收、发的高吞吐能力。消息队列 Kafka版支持对已消费消息重新消费或清除堆积消息,免去数据运维烦恼,帮助用户恢复故障。 数据高可靠消息队列 Kafka版支持消息持久化存储,提供多副本存储机制,默认支持 3 副本存储,数据可靠...
消息队列产品,完全兼容 RabbitMQ 开源生态及多语言客户端,提供丰富的消息特性和灵活的消息路由,同时具备分布式、高吞吐、低延迟、灵活扩展的云消息服务优势,无需用户部署运维,能够轻松实现快速上云。 产品功能多种... 可通过插件形式开启消息延迟功能、兼容 TCP 和 WebSocket 方式的 MQTT 协议。 任务管理:支持查看后台任务的执行记录,展示实例重启等后台任务的执行状态、详情、开始与结束时间等信息。 监控告警:通过火山引擎云监控...
顺序消息:按照消息的发布顺序进行顺序消费(FIFO),支持全局顺序与分区顺序。 事务消息:实现系统间解耦的同时,保证数据的最终一致性。 定时/延时消息:消息可在指定的时间点或延迟时间进行投递。 消息免运维消息队列 RocketMQ版支持消息查询和回溯、消息重试与死信管理等多种消息免维机制,可配置消费延时、消息堆积等情况下的数据监控与告警,帮助用户及时发现问题。 消息查询:支持按消息 ID 或时间范围等多维度查询消息详细信息以及...
字节跳动消息队列研发工程师-雷丽媛在字节跳动内部业务快速增长的推动下,经典消息队列 Kafka 的劣势开始逐渐暴露,在弹性、规模、成本及运维方面都无法满足业务需求。因此字节消息队列团队研发了计算存储分离的云原生消息引擎 BMQ,在极速扩缩容及吞吐上都有非常好的表现。本文将从整体技术架构开始,介绍字节自研的云原生消息引擎的分层架构在数据存储模型、运维等角度的优势及挑战。 云原生消息引擎 BMQ 架构...
多数公司都会选择将消息队列作为削峰填谷的关键工具。字节跳动的消息队列团队不仅要支撑公司内部消息队列系统的设计、开发和维护工作,还要解决诸多技术难题和痛点,例如如何稳定高效地处理海量数据、如何降低运... **自研云原生消息引擎**BMQ 具有多项优势,使其在处理海量数据时提供了强大的性能和稳定性。以下是 BMQ 的主要特性:* **高性能**:BMQ 使用 C++ 语言编写,避免了 Kafka 使用的 Java 语言的 GC...
对此本文将在接下来的内容中以 Kafka 和 RabbitMQ 为例分享消息队列选型的一些经验。消息队列即 Message+Queue,消息可以说是一个数据传输单位,它包含了创建时间、通道/主题信息、输入参数等全部数据;队列(Queue)... 上图通过举例账户和红包的消息队列说明,通过解耦不同服务,可以使整个系统更加灵活和可扩展。 **削峰**最重要的优势就是能用来平滑处理系统中的高峰流量。当系统面临瞬时高流量时,消息队列可以作为...
消息队列 Kafka版是一款基于 Apache Kafka 构建的分布式消息中间件服务,具备高吞吐、高可扩展性等特性,提供流式数据的发布/订阅和多副本存储机制,广泛应用于日志压缩收集、流式数据处理、消息解耦、流量削峰去谷等... 监控告警:实时统计消息的生产与消费,并可对消费延时、消息堆积等数据进行监控告警,帮助您及时发现问题。 应用场景 流计算处理在金融与科学计算领域,由于数据量大、实时性强,对数据有更快运算和分析的需求,传统数...
开源完全兼容消息队列 RabbitMQ版支持 AMQP 标准协议,完全兼容开源 RabbitMQ 社区和 Queue、Exchange、Vhost 组件,具备原生 RabbitMQ 的所有消息处理特性,业务代码无需改造,轻松实现快速上云。 插件生态丰富消息队列 RabbitMQ版支持多种类型插件,可通过插件形式开启消息延迟功能、兼容 TCP 和 WebSocket 方式的 MQTT 协议。 性能稳定消息队列 RabbitMQ版实现生产者和消费者隔离,可作为缓存器暂时缓存生产者在大量并发时产生的海量...
近年来,基于云原生架构的新一代消息队列和流处理引擎 Apache Pulsar 在大数据领域发挥着愈发重要的作用,其应用场景和客户案例也在不断地丰富与扩充。火山引擎是字节跳动的企业服务品牌,主要面向 To B 业务场景。... 最后通过数据分析平台提供给数据的最终用户,包括 BI 报表、离线分析、实时分析、即席查询、数据挖掘等。以上是用户搭建大数据体系的一条完整的数据链路。在这条数据链路上的各个环节都有火山引擎数据中台的产品来对...