提升rocketmq性能
社区干货
RocketMQ 存储机制浅析
RocketMQ 优异的性能表现,绕不开其优秀的存储模型 。下文将从 RocketMQ 存储机制设计展开介绍。可选用 JDBC 做消息持久化,通过简单的 xml 配置信息即可实现 JDBC 消息存储。使用文...
打造新一代云原生"消息、事件、流"统一消息引擎的融合处理平台 | 社区征文
RocketMQ基于大规模云计算环境的实践经验(例如,阿里(双十一、双十二)、携程(过年高峰期)),辅助了成千上万的企业完成数字化转型,从而实现了从互联网消息中间件到云原生消息中间件的发展变革。RocketMQ与其他消息中间... 在弹性能力方面,目前存在一些问题,当然其他主流的开源消息项目也没有进行云原生架构转型,比如RabbitMQ无法水平扩展单队列能力、Kafka扩容需要大量数据拷贝和均衡。这些现有解决方案都不适用于为大规模客户提供弹性...
干货|字节跳动流式数据集成基于Flink Checkpoint两阶段提交的实践和优化(2)
> > > 字节跳动开发套件数据集成团队(DTS ,Data Transmission Service)在字节跳动内基于 Flink 实现了流批一体的数据集成服务。其中一个典型场景是 Kafka/ByteMQ/RocketMQ -> HDFS/Hive 。Kafka/ByteMQ/RocketMQ... 巨大的任务量和数据量对 MQ dump 的稳定性以及准确性带来了极大的挑战。本文主要介绍 DTS MQ dump 在极端场景中遇到的数据丢失问题的排查与优化,最后介绍了上线效果。 本文分两次连载,[第一篇主要介绍Flink C...
字节跳动流式数据集成基于 Flink Checkpoint 两阶段提交的实践和优化背景
Kafka/ByteMQ/RocketMQ -> HDFS/Hive(下面均称之为 MQ dump,具体介绍可见 字节跳动基于 Flink 的 MQ-Hive 实时数据集成 ) 在数仓建设第一层,对数据的准确性和实时性要求比较高。目前字节跳动中国区 MQ dump 例行任务数巨大,日均处理流量在 PB 量级。巨大的任务量和数据量对 MQ dump 的稳定性以及准确性带来了极大的挑战。本文主要介绍 DTS MQ dump 在极端场景中遇到的数据丢失问题的排查与优化,最后介绍了上线效果。# 线上...
特惠活动
提升rocketmq性能-优选内容
提升rocketmq性能-相关内容
RocketMQ 存储机制浅析
RocketMQ 优异的性能表现,绕不开其优秀的存储模型 。下文将从 RocketMQ 存储机制设计展开介绍。可选用 JDBC 做消息持久化,通过简单的 xml 配置信息即可实现 JDBC 消息存储。使用文...
打造新一代云原生"消息、事件、流"统一消息引擎的融合处理平台 | 社区征文
RocketMQ基于大规模云计算环境的实践经验(例如,阿里(双十一、双十二)、携程(过年高峰期)),辅助了成千上万的企业完成数字化转型,从而实现了从互联网消息中间件到云原生消息中间件的发展变革。RocketMQ与其他消息中间... 在弹性能力方面,目前存在一些问题,当然其他主流的开源消息项目也没有进行云原生架构转型,比如RabbitMQ无法水平扩展单队列能力、Kafka扩容需要大量数据拷贝和均衡。这些现有解决方案都不适用于为大规模客户提供弹性...
跨可用区部署 RocketMQ 实例
跨可用区部署可提高实例的可用性,本文档介绍跨可用区部署方式对于实例的影响。 注意事项创建跨可用区部署的 RocketMQ 实例前,应确认以下问题: 部署 RocketMQ 客户端的 ECS 和 RocketMQ 实例所在的可用区应尽量一致,避免故障域不对等的问题。 跨可用区部署的实例可能会出现 2ms~3ms 的网络延迟,确认单请求时延上升对业务是否有影响。 客户端使用同步方式调用接口的情况下,实例的吞吐性能可能会下降,需要考虑预留一定的性能空间、升...
升级实例规格
实例创建成功后,如果对应的业务规模增长,当前实例规格不再满足需求,您可以适当升高实例的计算规格和存储规格,避免因资源限制而导致处理能力下降,影响业务正常运行。本文介绍如何在消息队列 RocketMQ版控制台中升级... 后台服务会自动为每个 Topic 按比例增加队列数量,以便提升 Topic 的整体消费性能。例如实例计算规格由 rocketmq.n1.x2.medium 升级为 rocketmq.n2.x2.medium,实例中每个非全局顺序 Topic 的队列数量会提升一倍。 ...
创建实例
您可以在每个地域中创建 5 个 RocketMQ 实例,且每个账号在每个地域中的所有实例存储容量总和最大为 10TiB,否则创建实例时报错 The InstanceNum/StorageSum has exceeded quota。如需提高配额,请在配额中心提交申请... RocketMQ 实例的公网连接策略,仅在开启公网访问时需要设置。支持设置为: 仅SSL连接:通过公网访问实例时,必须经由 SSL 认证。SSL 认证可实现数据的加密传输,相较于普通公网访问方式具备更高的安全性,但性能会有所下...
RocketMQ 实例更配场景
需要升级实例规格的场景计算规格升配涉及到 RocketMQ 实例计算资源的调整,升级计算规格可以提高实例的吞吐量、降低请求时延。消息队列 RocketMQ版推荐您根据以下指标来判断是否有必要进行计算规格升配。当符合下面... 您可以在 RocketMQ 实例的云监控页签中查看生产流量速率和消费流量速率。详细说明请参考查看监控数据。 请求时延增大或失败率增高随着业务持续增长,当 TPS 增加伴随着生产和消费的请求时延开始显著增加,或者消息生...
新功能发布记录
本文介绍了消息队列 RocketMQ版各特性版本的功能发布动态,新特性将在各个地域(Region)陆续发布,欢迎体验。 2024年3月功能名称 功能描述 发布地域 相关文档 云监控指标 增加实例维度的监控指标。 全部地域 查... 全部地域 DeleteGroups 2024年2月功能名称 功能描述 发布时间 发布地域 相关文档 云监控指标 增加实例、Topic 维度的监控指标。 2024-2-27 全部地域 查看监控数据 API 接口限速 为提高系统管控能力...
迁移概述
本指南主要为用户提供 RocketMQ 的迁移方案建议与操作指导。 背景信息火山引擎基于Apache RocketMQ 构建了稳定、安全的消息队列 RocketMQ版。与和开源 RocketMQ 相比,消息队列 RocketMQ版支持 VPC 访问,免部署免运维,具备更高的稳定性和安全性,支持消息查询、全链路消息轨迹查询以及消息回溯等功能,帮助您快速发现和处理系统问题,提高运维效率。RocketMQ 业务迁移是指将自建或其他云厂商的 RocketMQ 迁移到火山引擎消息队列 Rock...
消息队列 RocketMQ版-火山引擎
消息队列 RocketMQ版是一款基于 Apache RocketMQ 构建的分布式消息中间件服务,完全兼容开源 RocketMQ 客户端。消息队列 RocketMQ版具备低延迟、弹性高可靠、高吞吐等特性优势,支持顺序、延迟、定时、重投、死信消息等功能,完美适配电商大促等业务场景
