# 前言PostgreSQL 在 9.0 之前并未支持流式复制,备库总是落后主库一个 WAL log,在 9.0 之后 PostgreSQL 提供了流式复制,备库不断从主库同步相应的数据,并应用每个 WAL record。在 PostgreSQL 9.4 开始,PostgreSQL 提供了逻辑流复制功能,至此,PostgreSQL 拥有了更加完备的数据同步方式,解决了物理流复制无法覆盖的一些场景。本章内容将介绍物理复制与逻辑复制的一些差别。## 参数配置差异我们知道在 PostgreSQL 中如果想要实...
# 前言PostgreSQL 中的逻辑流复制与消息队列中的发布者/订阅者模型非常相似,在发布者端将 WAL 日志流解析成一定格式的数据流,订阅者节点收到后进行应用,以此来达到数据同步的目的。本章内容将介绍如何使用逻辑流复制进行数据同步,可用于数据迁移等场景。# 先决条件在源库需要预先配置项如下:1. wal_level = logical2. max_replication_slots: 每个订阅需要消耗一个 slot。建议根据情况来进行设置。3. max_wal_senders,每...
本章内容主要聚焦于逻辑复制的使用场景,当了解了适用场景后,会使得业务架构更加灵活。## 场景一:数据汇总与拆分当多个独立的业务库需要将数据汇总到数据仓库,以便于进行后续分析的场景,逻辑复制是非常适合的。一是不需要额外的组件来支撑,二是可以做到实时同步。对于数据拆分的场景,由于逻辑复制的粒度可以到表级别,可以将一个数据库按照表的粒度拆分到不同的数据库实例中。## 场景二:数据库迁移PostgreSQL 提供了原生的迁移...
# 前言在配置好逻辑复制之后,我们需要了解逻辑复制相关信息,如复制延迟,replication slot 相关位点信息。PostgreSQL 为我们提供了丰富的表/视图,方便我们进行监控。## 检查逻辑复制的基本配置信息在订阅端查看基... d = 正在复制数据, s = 已同步, r = 准备好 (普通复制)* srsublsn:s 和 r 状态时源端的结束 LSN在发布端查看那些表被发布:````undefinedrudonx=# select * from pg_publication_tables;-[ RECORD 1 ]------...
已在公网环境中自行搭建 PostgreSQL 实例和数据库。 当目标端部署在 IDC 或 ECS 中,且通过公网连接时,您需要将 DTS 的服务器 IP 地址添加到自建库的白名单中。 已确认源端和目标端的网络连通性与服务可用性。 注意事项为实时保障数据的一致性,建议选择结构初始化、全量初始化和增量同步。 当前仅支持单向同步,不支持双向同步。 同步对象选择的粒度为库或表。若同步对象选择的是表,则其他对象例如视图、触发器、函数或存储...
本文介绍如何在数据库传输服务 DTS 控制台创建火山引擎版 PostgreSQL 同步至火山引擎专有网络 PostgreSQL 任务。 前提条件已注册火山引擎账号并完成实名认证。详细操作,请参见如何进行账号注册和实名认证。 已创建... 注意事项为实时保障数据的一致性,建议选择结构初始化、全量初始化和增量同步。 当前仅支持单向同步,不支持双向同步。 同步对象选择的粒度为库或表。若同步对象选择的是表,则其他对象例如视图、触发器、函数或存...
创建数据同步任务之前,请确认源库和目标库的网络连通性与服务可用性。 注意事项同步时,如果自建 PostgreSQL 进行重启或者主备切换,将会导致同步任务失败。在同步时如果源库执行了重启操作,同步任务会暂时中断并自动尝试修复。如果任务长时间没恢复,请提交工单联系技术支持。 为实时保障数据的一致性,建议选择结构初始化、全量初始化和增量同步。 当前仅支持单向同步,不支持双向同步。 同步对象选择的粒度为库或表。若同步对...
已在公网环境中自行搭建 PostgreSQL 实例和数据库。 当源库部署在火山引擎的 ECS 中,且开启了访问限制时,您需要在 ECS 的安全组规则中添加 DTS 服务器的 IP 地址。 当目标库部署在 IDC 或 ECS 中,且通过公网连接时,您需要将 DTS 的服务器 IP 地址添加到自建库的白名单中。 创建数据同步任务之前,请确认源库和目标库的网络连通性与服务可用性。 注意事项为实时保障数据的一致性,建议选择结构初始化、全量初始化和增量同步。...
本文介绍如何在数据库传输服务 DTS 控制台创建火山引擎专有网络 PostgreSQL 同步至火山引擎专有网络 PostgreSQL 任务。 前提条件已注册火山引擎账号并完成实名认证。详细操作,请参见如何进行账号注册和实名认证。 ... 注意事项为实时保障数据的一致性,建议选择结构初始化、全量初始化和增量同步。 当前仅支持单向同步,不支持双向同步。 同步对象选择的粒度为库或表。若同步对象选择的是表,则其他对象例如视图、触发器、函数或存...
已在公网环境中自行搭建 PostgreSQL 实例和数据库。 当目标端部署在 IDC 或 ECS 中,且通过公网连接时,您需要将 DTS 的服务器 IP 地址添加到自建库的白名单中。 已确认源端和目标端的网络连通性与服务可用性。 注意事项为实时保障数据的一致性,建议选择结构初始化、全量初始化和增量同步。 当前仅支持单向同步,不支持双向同步。 同步对象选择的粒度为库或表。若同步对象选择的是表,则其他对象例如视图、触发器、函数或存储...
创建数据同步任务之前,请确认源库和目标库的网络连通性与服务可用性。 注意事项同步时,如果自建 PostgreSQL 进行重启或者主备切换,将会导致同步任务失败。在同步时如果源库执行了重启操作,同步任务会暂时中断并自动尝试修复。如果任务长时间没恢复,请提交工单联系技术支持。 为实时保障数据的一致性,建议选择结构初始化、全量初始化和增量同步。 当前仅支持单向同步,不支持双向同步。 同步对象选择的粒度为库或表。若同步对...
创建数据同步任务之前,请确认源库和目标库的网络连通性与服务可用性。 注意事项同步时,如果自建 PostgreSQL 进行重启或者主备切换,将会导致同步任务失败。在同步时如果源库执行了重启操作,同步任务会暂时中断并自动尝试修复。如果任务长时间没恢复,请提交工单联系技术支持。 为实时保障数据的一致性,建议选择结构初始化、全量初始化和增量同步。 当前仅支持单向同步,不支持双向同步。 同步对象选择的粒度为库或表。若同步对...
在需要使用专线实现数据同步时,您需要搭建云上单私有网络和云下单数据中心网络连通的专线连接。详细操作,请参见配置专线连接。 已创建火山引擎版 ECS 自建 PostgreSQL 实例、数据库和账号。 在目标端部署在火山引擎的 ECS 中通过私网连接,且开启了访问限制时,您需要在 ECS 的安全组规则中添加 DTS 服务器的 IP 地址。 已确认源端和目标端的网络连通性与服务可用性。 注意事项为实时保障数据的一致性,建议选择结构初始化、...