# 问题描述开启公网连接后,如何使用 Python 正常连接到 Kafka 进行生产和消费。# 问题分析在公网环境下,消息队列 Kafka 版要求通过 SSL 证书对消息进行鉴权和加密,保障数据传输过程的安全性,防止数据在网络传输过程中被截取或者窃听,相较于普通公网访问方式具备更高的安全性。目前支持客户端对服务端证书的单向认证, 所以需要下载 SASL_SSL 证书 并指定 SASL_SSL 协议。# 解决方案Python 示例demo如下:```pythonfrom kaf...
# 问题描述 客户在前端创建Scram类型密码,代码中无法连接到Kafka ![alt](https://lf6-volc-editor.volccdn.com/obj/volcfe/sop-public/upload_96e3a7bfcb63dc56acf034a538cab6fa.png) # 问题分析 客户代码中协议及认证机制部分配置如下: ![alt](https://lf3-volc-editor.volccdn.com/obj/volcfe/sop-public/upload_b010e575529440b0a559f36029ef2f14.png) 因为SASL_SSL协议并不支持SCRAM,需要更改为SASL_PLAINTEXT...
本实验主要聚焦跑通Kafka MirrorMaker (MM1)数据迁移流程。实验中的Source Kafka版本为2.12,基于本地机器搭建。现实生产环境会更加复杂,如果您有迁移类的需求,欢迎咨询[技术支持服务](https://console.volcengine.... DocumentID=173809#%E6%AD%A5%E9%AA%A43%EF%BC%9A%E4%B8%8B%E8%BD%BDsasl-ssl%E8%AF%81%E4%B9%A6)在下载SASL_SSL证书前,先确认用于访问的用户是否已经存在:![图片](https://portal.volccdn.com/obj/volcfe/cloud...
sasl.jaas.config=org.apache.kafka.common.security.scram.ScramLoginModule required username="rudonx" password="xxxxxx"; sasl.mechanism=SCRAM-SHA-256security.protocol=SASL_SSL```# 报错复现... 完整报错如下:没有权限访问指定 Topic```Plain Text[2024-02-06 17:08:25,404] ERROR Error processing message, terminating consumer process: (kafka.tools.ConsoleConsumer$)org.apache.kafka.common.erro...
本文介绍消息队列客户端的故障配置参数。 Kafka 故障注意 Kafka 目前仅支持 SASL_PLAIN 认证类型。 脏数据可注入目标: 集群中的中间件 主机中的中间件 故障参数: 参数 是否必填 说明 故障名称 是 故障的名称。 Host 是 数据库客户端的 IP。 端口 是 数据库客户端的端口号。 是否需要用户名密码 是 选择是否需要输入账户和密码登录。选择是,则需要配置对应的用户名和密码。 用户名 是 数据库账号的用户名。 密码 是 数据库账号的...
使用说明CreateUser 接口用于在 Kafka 实例下创建一个 SASL 用户,该用户可以使用 SASL/SCRAM 或 SASL/PLAIN 机制发布和订阅消息。 请求参数参数 参数类型 是否必选 示例值 说明 InstanceId String 是 kafka-cnngbnntswg1**** SASL 用户所属的实例 ID。 UserName String 是 test1 SASL 用户名称。应符合以下要求: 由字母、数字、连字符(-)或下划线组成。 长度为 3~64 个字符。 用户名不支持设置为 admin 或 monito...
日志服务提供 Kafka 协议消费功能,即可以将一个日志主题,当作一个 Kafka Topic 来消费。本文档介绍通过 Kafka 协议消费日志数据的相关步骤。 背景信息日志服务支持为指定的日志主题开启 Kafka 协议消费功能,开启后... 必须使用 SASL_SSL 连接协议。对应的用户名为日志服务项目 ID,密码为火山引擎账号密钥,详细信息请参考示例代码。 如果日志主题中有多个 Shard,日志服务不保证消费的有序性,建议使用负载均衡模式上传日志。 费用说...
调用 ModifyUserAuthority 接口更改指定 SASL 用户对于所有用户的默认权限。 使用说明消息队列 Kafka版为 SASL 用户提供灵活的权限策略,支持 Topic 粒度的权限管控。您可以通过此接口指定 SASL 用户对于所有 Topic 的默认权限,即是否开启 All Permitted,若为关闭状态,则可以针对不同 Topic 设置更为精细的权限控制策略。详细说明请参考创建 ACL。 请求参数参数 参数类型 是否必选 示例值 说明 InstanceId String 是 kafk...
依次输入以下信息:源类型:选择 Kafka 数据源类型 源名称:任务名称,和其他任务不能重名。 Kafka 代理列表: 填写对应的 Kafka Broker 地址。如果需要填写多个 Broker 地址,请用逗号(,)进行分割。如 10.100.19.127:9092,10.100.19.127:9093。 身份验证模式:支持选择 NONE、PLAIN、SCRAM-SHA-256、SCRAM-SHA-512 四种模式。说明 选择 NONE 时,表明不用身份验证模式,可忽略以下配置内容。 安全协议:支持选择 sasl_plaintext、sasl_s...
调用 CreateSaslUser 接口创建 Kafka SASL 用户。 使用说明CreateSaslUser 接口用于在 Kafka 实例下创建一个 SASL 用户,该用户可以使用 SASL/SCRAM 机制发布和订阅消息。 此接口的 API Version 为 2018-01-01。 此接口的调用频率限制为 20 次/s,超出频率限制会报错 “AccountFlowLimitExceeded”。 请求参数参数 参数类型 是否必选 示例值 说明 InstanceId String 必选 kafka-**** SASL 用户所属的实例 ID。 UserName String 必选...
Kafka 连接器提供从 Kafka Topic 或 BMQ Topic 中消费和写入数据的能力,支持做数据源表和结果表。您可以创建 source 流从 Kafka Topic 中获取数据,作为作业的输入数据;也可以通过 Kafka 结果表将作业输出数据写入到... properties.buffer.memory 否 32M string 缓存消息的总可用 Memory 空间,如果 Memory 用完,则会立即发送缓存中的消息。 设置时,建议按照计算公式设置:buffer.memory>=batch.size * partition数*2。 该参数一...
消息队列 Kafka版提供以下实例管理相关的常见问题供您参考。 FAQ 列表如何选择计算规格和存储规格 如何选择云盘 如何删除或退订实例 是否支持压缩消息? 是否支持多可用区部署 Kafka 实例? 单 AZ 实例如何切换为多 AZ? 变更实例规格或扩容实例会影响业务吗? 如何为实例增加分区? 是否可以删除分区? 为什么不能减少分区? 是否支持缩容? 公网环境必须使用 SASL_SSL 吗? 支持哪些语言的客户端? 支持的消息体最大是多少? 消息的保留时...
如果忘记了 PLAIN 用户的密码,可以通过控制台的方式查看用户密码。 背景信息SASL/PLAIN 是 Kafka 中一种简单的安全认证机制,通过预设的用户名和密码进行鉴权。如果您忘记了 PLAIN 用户的密码,可以通过控制台的方式查看密码。 说明 仅 PLAIN 用户支持在线查看密码。如果 SCRAM 类型的用户忘记密码,建议重置密码。详细操作步骤请参考重置 SASL 用户密码。 操作步骤登录消息队列 Kafka版控制台。 在顶部菜单栏中选择地域,并在左侧...