# 问题描述开启公网连接后,如何使用 Python 正常连接到 Kafka 进行生产和消费。# 问题分析在公网环境下,消息队列 Kafka 版要求通过 SSL 证书对消息进行鉴权和加密,保障数据传输过程的安全性,防止数据在网络传输过程中被截取或者窃听,相较于普通公网访问方式具备更高的安全性。目前支持客户端对服务端证书的单向认证, 所以需要下载 SASL_SSL 证书 并指定 SASL_SSL 协议。# 解决方案Python 示例demo如下:```pythonfrom kaf...
因为SASL_SSL协议并不支持SCRAM,需要更改为SASL_PLAINTEXT协议 # 解决方案 调整协议修改代码如下:```java "sasl.mechanism": "SCRAM-SHA-512" "security.protocol": "SASL_PLAINTEXT"``` Python 示例demo如下:```pythonimport datetimeimport jsonimport timeimport uuidfrom kafka import KafkaProducerfrom kafka.errors import KafkaErrorproducer = KafkaProducer(bootstrap_servers=['kafka-6a1*****...
/bin/kafka-topics.sh --create --zookeeper localhost:2181 --partitions 3 --replication-factor 3 --topic topic_test```注:-–zookeeper 后面接的是 kafka 的 zk 配置, 假如你配置的是 localhost:2181/kafka 带命名空间的这种,则不要漏掉了。### 2.2 Kafka 版本 >= 2.2 支持下面的方式(推荐)```./bin/kafka-topics.sh --create --bootstrap-server localhost:9092 --partitions 3 --replication-factor 3 --topic to...
## 背景新项目涉及大数据方面。之前接触微服务较多,趁公司没反应过来,赶紧查漏补缺。Kafka 是其中之一。Apache Kafka 是一个开源的分布式事件流平台,可跨多台计算机读取、写入、存储和处理事件,并有发布和订阅事... pull 更支持批处理,吞吐量高且有效利用了缓冲区。但 pull 也存在缺陷:如果 broker 中没有数据,consumer 可能会 busy-waiting 直到数据到来 (busy-waiting 会一直循环检测是否有数据,占用线程和 CPU)。为了避免...
本文以 Python 客户端为例,介绍如何在 VPC 环境下通过默认接入点(PLAINTEXT)接入消息队列 Kafka版,并收发消息。 前提条件已完成准备工作。详细说明请参考准备工作。 1 添加配置文件创建消息队列 Kafka版配置文件 config.json。配置文件字段的详细说明,请参考SDK 配置说明。使用默认接入点时,配置文件示例如下。 说明 请根据注释提示填写相关参数,并删除注释。 JSON { "bootstrap.servers": "xxxxx", // 修改配置为实例的默认接...
火山引擎 Volcengine SDK for Python 封装了消息队列 Kafka版的常用 OpenAPI 接口,您可以通过消息队列 Kafka版 Volcengine SDK 调用服务端 API,实现创建实例、创建 Topic 等功能。 版本说明火山引擎 Volcengine SDK for Python 的更新日志及版本说明请查看 GitHub。建议您选择最新版本 SDK,体验更新的产品能力和更稳定的服务。 源码地址最新版本的 Volcengine Python SDK 源码请参考 Volcengine Python SDK 源码。 示例代码Volce...
在运行 Python SDK 代码收发消息前,您需按照本文提供的步骤来准备开发环境。 开发环境安装 Python 环境。示例 Demo 基于 3.9 版本的 Python 进行编写,此处推荐安装 Python 3.9 版本。可在 Python 官网下载并安装。 安装 confluent-python 客户端依赖。推荐使用 2.0.2 版本,可参考 confluent-python 的官方说明。 操作步骤 1 创建资源接入消息队列 Kafka版收发消息前,需要先创建资源和用户。 在火山引擎控制台中创建 Kafka 实例。...
本文以 Python 客户端为例,介绍如何在 VPC 或公网环境下通过 SASL_SSL 接入点 PLAIN 机制接入消息队列 Kafka版,并收发消息。 前提条件已完成准备工作。详细说明请参考准备工作。 1 添加配置文件创建消息队列 Kafka版配置文件 config.json。 通过 SASL_SSL 接入点 PLAIN 机制接入时,配置文件示例如下。配置文件字段的详细说明,请参考SDK 配置说明。 说明 请根据注释提示填写相关参数,并删除注释。 PLAIN 机制下,应使用具备对应 To...
本文以 Python 客户端为例,介绍如何在 VPC 或公网环境下通过 SASL_PLAINTEXT 接入点 SCRAM 机制接入消息队列 Kafka版,并收发消息。 前提条件已完成准备工作。详细说明请参考准备工作。 1 添加配置文件创建消息队列 Kafka版配置文件 config.json。配置文件字段的详细说明,请参考SDK 配置说明。通过 SASL_PLAINTEXT 接入点 SCRAM 机制接入时,配置文件示例如下。 说明 请根据注释提示填写相关参数,并删除注释。 SCRAM 机制下,应使用...
本文以 Python 客户端为例,介绍如何在 VPC 或公网环境下通过 SASL_PLAINTEXT 接入点 PLAIN 机制接入消息队列 Kafka版,并收发消息。 前提条件已完成准备工作。详细说明请参考准备工作。 1 添加配置文件创建消息队列 Kafka版配置文件 config.json。配置文件字段的详细说明,请参考SDK 配置说明。通过 SASL_PLAINTEXT 接入点 PLAIN 机制接入时,配置文件示例如下。 说明 请根据注释提示填写相关参数,并删除注释。 PLAIN 机制下,应使用...
本文以 Python 客户端为例,介绍如何在 VPC 或公网环境下通过 SASL_SSL 接入点 SCRAM 机制接入消息队列 Kafka版,并收发消息。 前提条件已完成准备工作。详细说明请参考准备工作。 1 添加配置文件创建消息队列 Kafka版配置文件 config.json。 通过 SASL 接入点 SCRAM 机制接入时,配置文件示例如下。配置文件字段的详细说明,请参考SDK 配置说明。 说明 请根据注释提示填写相关参数,并删除注释。 SCRAM 机制下,应使用具备对应 Topic ...
本文介绍 Python SDK 的安装方法。 前提条件已创建并获取火山引擎访问密钥 AccessKey。获取方式请参考密钥管理。 访问密钥 AccessKey 拥有所有 API 的全部权限。建议您通过 IAM 用户进行 API 相关操作和日常运维。使用 IAM 用户前,主账号需要为 IAM 用户授予消息队列 Kafka版相关资源和操作的权限。 准备开发环境请参考 Python 官网下载并安装 Python 开发环境,或使用 conda 创建 Python 虚拟环境。Python SDK 支持 Python 2.7 ...
火山引擎消息队列 Kafka版完全兼容开源 Kafka 协议,支持多语言 SDK,客户端可以通过 VPC 网络和公网访问两种方式接入消息队列 Kafka版,并收发消息。本文档介绍使用 Python 客户端访问火山引擎消息队列 Kafka版来收发消息的主要流程。 接入方式消息队列 Kafka版在不同网络环境下均提供多种接入点,以供客户端接入并收发消息。 说明 关于接入点的详细说明,请参考查看接入点。 2022年07月04日及之前开启公网访问的实例,仅支持 SASL_PL...