## 背景新项目涉及大数据方面。之前接触微服务较多,趁公司没反应过来,赶紧查漏补缺。Kafka 是其中之一。Apache Kafka 是一个开源的分布式事件流平台,可跨多台计算机读取、写入、存储和处理事件,并有发布和订阅事... records = consumer.poll(Duration.ofMillis(100));```push 和 pull 比较:两者区别是,push 是发送方定义发送速率,而不管接收方接收速率,而 pull 是接收方在能承受的范围内自己定义接收速率。push 容易造成...
在面对众多的消息队列时,我们往往会陷入选择的困境:“消息队列那么多,该怎么选啊?Kafka 和 RabbitMQ 比较好用,用哪个更好呢?”想必大家也曾有过类似的疑问。对此本文将在接下来的内容中以 Kafka 和 RabbitMQ 为例分... 有兴趣的同学可自行了解。* **RabbitMQ** 是采用 Erlang 语言实现的 AMQP 协议的消息中间件,最初起源于金融系统,用于在分布式系统中存储转发消息。RabbitMQ 发展到今天,被越来越多的人认可,这和它在可靠性、可用...
# 问题描述 客户在前端创建Scram类型密码,代码中无法连接到Kafka ![alt](https://lf6-volc-editor.volccdn.com/obj/volcfe/sop-public/upload_96e3a7bfcb63dc56acf034a538cab6fa.png) # 问题分析 客户代码中协议及认证机制部分配置如下: ![alt](https://lf3-volc-editor.volccdn.com/obj/volcfe/sop-public/upload_b010e575529440b0a559f36029ef2f14.png) 因为SASL_SSL协议并不支持SCRAM,需要更改为SASL_PLAINTEXT...
# 问题描述客户在前端创建Scram类型密码,代码中无法连接到Kafka![图片](https://lf6-volc-editor.volccdn.com/obj/volcfe/sop-public/upload_96e3a7bfcb63dc56acf034a538cab6fa.png)# 问题分析客户代码中协议及认证机制部分配置如下:![图片](https://lf3-volc-editor.volccdn.com/obj/volcfe/sop-public/upload_b010e575529440b0a559f36029ef2f14.png)因为SASL_SSL协议并不支持SCRAM,需要更改为SASL_PLAINTEXT协议# 解决方...
跨可用区部署可提高实例的可用性,本文档介绍使用跨可用区部署方式对于实例的影响。 注意事项使用跨可用区部署的 Kafka 实例前,应注意: 部署 Kafka 客户端的 ECS 和 Kafka 实例所在的可用区应尽量一致,避免故障域不对等的问题。 跨可用区部署的实例可能会出现 2ms~3ms 的网络延迟,单请求时延相较于单可用区会略有上升。 客户端使用同步方式调用接口的情况下,实例的吞吐性能可能会下降,需要考虑预留一定的性能空间、升配到更高的计...
消息队列 Kafka版提供以下 Topic 和 Group 管理相关的常见问题供您参考。 FAQ 列表支持多少个 Topic? 支持多少个分区? Topic 是否支持 ACL 权限配置? 如何管理 Group 的 offset? Group 不需要订阅 Topic 时,如何删除订阅关系? 如何删除 Topic 中的消息? 支持多少个 Topic?消息队列 Kafka版暂未限制 Topic 的数量。但是每个 Topic 至少包含一个分区,每个实例规格提供的分区数量额度不同,如果当前已创建的 Topic 占用了所有分区额...
# 问题描述 客户在前端创建Scram类型密码,代码中无法连接到Kafka ![alt](https://lf6-volc-editor.volccdn.com/obj/volcfe/sop-public/upload_96e3a7bfcb63dc56acf034a538cab6fa.png) # 问题分析 客户代码中协议及认证机制部分配置如下: ![alt](https://lf3-volc-editor.volccdn.com/obj/volcfe/sop-public/upload_b010e575529440b0a559f36029ef2f14.png) 因为SASL_SSL协议并不支持SCRAM,需要更改为SASL_PLAINTEXT...
本文介绍消息队列 Kafka版 API 请求的组成结构。 请求URL您可以通过发送 HTTPS POST 请求来调用 Kafka 的 API 服务。HTTPS 请求 URL 的格式如下: POST {URI-scheme}://{Endpoint}/?Action={Action}&Version={Version} HTTP/1.1其中: URI-scheme:表示用于传输请求的协议,当前所有 API 均采用 HTTPS 协议。 Endpoint:指定承载服务端点的服务器域名或 IP,即服务地址。消息队列 Kafka版的 endpoint 为 kafka.volcengineapi.com,详细说...
本文介绍消息队列 Kafka版 API 请求的组成结构。 请求URL您可以通过发送 HTTPS POST 请求来调用 Kafka 的 API 服务。HTTPS 请求 URL 的格式如下: Bash POST {URI-scheme}://{Endpoint}/?Action={Action}&Version={Version} HTTP/1.1其中: URI-scheme:表示用于传输请求的协议,当前所有 API 均采用 HTTPS 协议。 Endpoint:指定承载服务端点的服务器域名或 IP,即服务地址。消息队列 Kafka版的服务地址为 kafka.volcengineapi.com,详...
在清除堆积消息、离线数据处理等场景下,需要消费过去某个时段的消息,或清除所有堆积消息,可以对 offset 进行重置操作。消息队列 Kafka版控制台支持重置消费位点,改变订阅者当前的消费位置,您可以通过重置消费位点功能直接从某个指定时间点、最新 offset 位点或指定 offset 位点来消费消息。 背景信息消息队列 Kafka版支持重置 Group、Topic 或分区级别的消费位点,支持的重置方式包括以下三种。 根据最新 offset 位点重置:跳过所...
# 问题描述客户在前端创建Scram类型密码,代码中无法连接到Kafka![图片](https://lf6-volc-editor.volccdn.com/obj/volcfe/sop-public/upload_96e3a7bfcb63dc56acf034a538cab6fa.png)# 问题分析客户代码中协议及认证机制部分配置如下:![图片](https://lf3-volc-editor.volccdn.com/obj/volcfe/sop-public/upload_b010e575529440b0a559f36029ef2f14.png)因为SASL_SSL协议并不支持SCRAM,需要更改为SASL_PLAINTEXT协议# 解决方...
本文介绍了时序数据流官方模板。时序数据流模板表示从设备实例或视频数据流实例获取时序数据并执行一系列 SQL 语句,然后将处理结果推送到虚拟时序设备或 Kafka 服务器。 基本信息您可以在边缘智能控制台的官方模板列表访问本模板。下图展示了本模板的基本信息。 版本列表本模板提供如下可用版本。 版本名称 说明 v1-设备输入-虚拟设备输出 从接入一体机的设备上读取运行状态数据作为输入,对输入表执行 SQL 语句,然后将处理结果...
文 | **洪剑**、**大滨** 来自字节跳动数据平台开发套件团队# 背景## 动机字节数据中台DataLeap的Data Catalog系统基于Apache Atlas搭建,其中Atlas通过Kafka获取外部系统的元数据变更消息。在开源版本中,每台... 使用Kafka Streaming的原生接口较难支持。- 与Kafka强绑定:大部分场景下,我们团队不是元数据消息队列的拥有者,也有团队使用RocketMQ等提供元数据变更,在应用层,我们希望使用同一套框架兼容。# 设计## 概念说...