RocketMQ基于大规模云计算环境的实践经验(例如,阿里(双十一、双十二)、携程(过年高峰期)),辅助了成千上万的企业完成数字化转型,从而实现了从互联网消息中间件到云原生消息中间件的发展变革。RocketMQ与其他消息中间件的一大区别就在于,它采用的是经过实践检验的云原生架构。接下来,我们要探讨RocketMQ在云原生架构领域的关键技术进步。## RocketMQ的云原生发展历程随着消息队列行业的发展,Apache RocketMQ经历了12年的发展历...
ActiveMQ(默认采用的 KahaDB 做消息存储)可选用 JDBC 做消息持久化,通过简单的 xml 配置信息即可实现 JDBC 消息存储。使用文件系统做持久化的情况下,可获得更高效的 I/O 读写。* Broker Store 目录结构``` storePathRootDir=/cache1/rocketmq/broker/data ├── abort // 该文件在 Broker 启动后会自动创建,正常关闭 Broker,该文件会自动消失。若在没有启动 Broker 的情况下,发现这个文件是存...
全球数字经济进入高速发展期,已经成为推进经济发展的新增长极。云原生技术作为下一代云计算的技术内核,在加快推进各产业数字化转型中发挥着重要作用,云原生大数据技术产品也逐步迭代升级,开始引领产业变革的浪潮。近期,诸多行业大会围绕大数据容器化相关话题展开讨论。字节跳动云原生计算团队也将在以下大会中进行演讲直播,欢迎关注。 ![]()### **RocketMQ** **在字节跳动的应用与实践****沈辉 | 字节跳动基础架构研发工程...
> > > 字节跳动开发套件数据集成团队(DTS ,Data Transmission Service)在字节跳动内基于 Flink 实现了流批一体的数据集成服务。其中一个典型场景是 Kafka/ByteMQ/RocketMQ -> HDFS/Hive 。Kafka/ByteMQ/RocketMQ -> HDFS/Hive(下面均称之为 MQ dump,具体介绍可见> 字节跳动基于Flink的MQ-Hive实时数据集成> 在数仓建设第一层,对数据的准确性和实时性要求比较高。> > > > ![picture.image](https://p6-volc-commu...
本文档介绍 RocketMQ 消费者的使用建议,推荐在使用消息队列 RocketMQ版进行消息生产与消费之前,阅读以下使用建议,提高接入效率和业务稳定性。 消费过程幂等RocketMQ 无法保证消息只被消费一次(Exactly-Once),即无法避免消息重复,主要由于以下原因: 消息发送失败时会重试 消费者批量消费,消费进度上报时回上报最小的 offset。 支持重置消费进度如果业务对消费重复非常敏感,务必要在业务层面进行去重处理,例如借助关系数据库进行去...
调用 CreateInstance 接口创建 RocketMQ 实例。 注意事项请求频率:该接口请求频率限制为 100 次/秒;单用户请求频率限制为 20 次/秒。 使用说明实例是消息队列 RocketMQ版的基本服务单位,用以管理和存储 Topic、Group 资源。 说明 通过 API 创建接口时暂不支持同时开启公网访问功能,如果需要开启实例的公网访问,建议在创建实例完成后,实例状态为运行中(Running)时,调用 EnablePublicNetwork 开启实例的公网访问。 默认情况下,您可...
应用接入消息队列 RocketMQ版之前,需要在控制台创建 RocketMQ 实例。消息队列 RocketMQ版提供多种实例规格,对应不同的计算能力和存储空间,您可以根据实际业务需求选择不同的实例规格。本文档介绍创建 RocketMQ 实例的操作步骤。 说明 默认情况下,您可以在每个地域中创建 5 个 RocketMQ 实例,且每个账号在每个地域中的所有实例存储容量总和最大为 10TiB,否则创建实例时报错 The InstanceNum/StorageSum has exceeded quota。如需提...
本文介绍 RocketMQ 业务迁移的操作步骤,您可以参考本文档将自建 RocketMQ 集群或其他云厂商 RocketMQ 集群迁移至火山引擎消息队列 RocketMQ版。 注意事项由于 Producer 和 Consumer 为集群化部署,迁移时可以分批操作,上层业务无感知。分批迁移过程中,可以在火山引擎云监控服务控制台监控业务相关流量数据,确认业务正常运行。 如果有多个 RocketMQ 实例需要迁移到同一个消息队列 RocketMQ版实例中,请依次进行迁移。 如果使用延时...
消息队列 RocketMQ版是火山引擎基于 Apache RocketMQ 构建的分布式消息中间件服务,完全兼容开源 RocketMQ 的各个组件与概念,同时具备低延迟、弹性高可靠、高吞吐等特性优势,业务代码无需改造,帮助用户快速迁移上云。 产品功能多种消费类型:消息队列 RocketMQ版提供灵活、可扩展性强的消费主题模式设置,支持发布/订阅、集群消费和广播消费模式。 多种消息类型:消息队列 RocketMQ版支持丰富的消息类型,支持顺序消息、事务消息、定...
异步解耦应用系统产生的数据可能需要被多个下游系统所关注,而每一个下游系统对消息的处理逻辑都不一致,应用系统不可能去适配每一个关联业务。消息队列 RocketMQ版可以实现高效的异步通信,有效地将上下游系统解耦,即使上、下游系统出现不可用甚至宕机,都不会影响到对方系统的正常运转,确保彼此业务的连续性。 削峰填谷流量削峰是消息队列 RocketMQ版的常用场景。在秒杀、新品发布上线等大型活动时,用户请求量的暴增为应用系统带来...
2022年04月26日开始,消息队列 RocketMQ版产品开始收取服务费用。 生效时间2022年04月26日中午12点。 计费项与价格消息队列 RocketMQ版支持按量付费和包年包月的计费方式,计费项包括计算规格费用与存储规格费用,不同规格的实例定价不同。产品定价的详细信息,请参见计费项与价格。 收费说明消息队列 RocketMQ版在邀测期结束前已向您发出通知,以确定是否继续使用本产品和服务。 如果您在邀测期间创建了 RocketMQ 实例,且邀测期结束后...
您可以在调用 OpenAPI 时设置 ClientToken 参数,避免多次重试导致重复创建资源。 2023-10-26 全部地域 请求幂等性 2023年9月功能名称 功能描述 发布时间 发布地域 相关文档 云监控指标 实例维度增加连接数使用率等指标,消费组维度增加消费组消费失败数等指标。 2023-09-19 全部地域 查看监控数据 2023年8月功能名称 功能描述 发布时间 发布地域 相关文档 V2 版本 API 正式发布 消息队列 RocketMQ版正式发布...
RocketMQ基于大规模云计算环境的实践经验(例如,阿里(双十一、双十二)、携程(过年高峰期)),辅助了成千上万的企业完成数字化转型,从而实现了从互联网消息中间件到云原生消息中间件的发展变革。RocketMQ与其他消息中间件的一大区别就在于,它采用的是经过实践检验的云原生架构。接下来,我们要探讨RocketMQ在云原生架构领域的关键技术进步。## RocketMQ的云原生发展历程随着消息队列行业的发展,Apache RocketMQ经历了12年的发展历...