PostgreSQL 提供了逻辑流复制功能,至此,PostgreSQL 拥有了更加完备的数据同步方式,解决了物理流复制无法覆盖的一些场景。本章内容将介绍物理复制与逻辑复制的一些差别。## 参数配置差异我们知道在 PostgreSQL 中如果想要实施流复制,有一个非常重要的参数为 **wal_level** [1],这个参数确定了需要多少信息记录到 WAL 日志中。**wal_level** 有三个取值,区别如下:* minimal:不能通过基础备份和 WAL 日志恢复数据库* replica:...
# 前言在这篇文档中[1],我们了解了物理复制和逻辑复制的区别,本章内容主要聚焦于逻辑复制的使用场景,当了解了适用场景后,会使得业务架构更加灵活。## 场景一:数据汇总与拆分当多个独立的业务库需要将数据汇总到数据仓库,以便于进行后续分析的场景,逻辑复制是非常适合的。一是不需要额外的组件来支撑,二是可以做到实时同步。对于数据拆分的场景,由于逻辑复制的粒度可以到表级别,可以将一个数据库按照表的粒度拆分到不同的数据...
Master-Slaver 是一种主从复制的模式,目前已经不推荐使用。 - Replica Set 模式取代了 Master-Slaver 模式,是一种互为主从的关系。Replica Set 将数据复制多份保存,不同服务器保存同一份数据,在出现故障时自动... `Primary`节点需要记录所有改变数据库状态的操作,这些记录保存在 `oplog` 中,这个文件存储在 `local` 数据库,各个`Secondary` 节点通过此 `oplog` 来复制数据并应用于本地,保持本地的数据与主节点的一致。`oplog` ...
# 前言在配置好逻辑复制之后,我们需要了解逻辑复制相关信息,如复制延迟,replication slot 相关位点信息。PostgreSQL 为我们提供了丰富的表/视图,方便我们进行监控。## 检查逻辑复制的基本配置信息在订阅端查看基... "t" 表示发布数据库中所有已存在的表和以后新建的表。* pubinsert:"t" 表示仅发布表上的INSERT操作。* pubupdate:"t" 表示仅发布表上的UPDATE操作。* pubdelete:"t" 表示仅发布表上的DELETE操作## 检查发布 &...
火山引擎数据库传输服务 DTS 支持复制同步任务,即可以实现复制出一个与已存在同步任务相同配置的任务。同时,您也可以对成功复制的任务进行参数调整。本文介绍如何复制同步任务。 前提条件已创建同步任务。 注意事项在复制任务的过程中,需要确保源库和目标库的可用性以及同步任务用户权限的一致性,否则可能会导致任务复制失败。 操作步骤登录 DTS 控制台。 在顶部菜单栏的左上角,选择项目和地域。 在左侧导航栏,单击数据同步。 ...
# 前言在这篇文档中[1],我们了解了物理复制和逻辑复制的区别,本章内容主要聚焦于逻辑复制的使用场景,当了解了适用场景后,会使得业务架构更加灵活。## 场景一:数据汇总与拆分当多个独立的业务库需要将数据汇总到数据仓库,以便于进行后续分析的场景,逻辑复制是非常适合的。一是不需要额外的组件来支撑,二是可以做到实时同步。对于数据拆分的场景,由于逻辑复制的粒度可以到表级别,可以将一个数据库按照表的粒度拆分到不同的数据...
Master-Slaver 是一种主从复制的模式,目前已经不推荐使用。 - Replica Set 模式取代了 Master-Slaver 模式,是一种互为主从的关系。Replica Set 将数据复制多份保存,不同服务器保存同一份数据,在出现故障时自动... `Primary`节点需要记录所有改变数据库状态的操作,这些记录保存在 `oplog` 中,这个文件存储在 `local` 数据库,各个`Secondary` 节点通过此 `oplog` 来复制数据并应用于本地,保持本地的数据与主节点的一致。`oplog` ...
在某些情况下,由于源 Redis 数据库未开放 sync 或 psync 复制权限,因此导致无法通过火山引擎数据库传输服务 DTS 迁移数据。此时,您可以通过 redis-shake 工具使用 RDB 文件,将源 Redis 数据库的全量数据离线迁移至目标 Redis 数据库中。 使用 RDB 文件迁移数据时,可以在不依赖 sync 和 psync 权限的情况下,将自建 Redis 或第三方云 Redis 数据库的数据迁移至火山引擎缓存数据库 Redis 版。关于 redis-shake 的更多信息,请参见 re...
缓存数据库 Redis 版支持多种规格,不同规格提供不同的内存量。关于规格详情,请参见实例规格。 代理节点每个实例都含有代理节点(Proxy Node)。Proxy 节点是缓存数据库 Redis 版实例的代理服务器节点,用于实现 Redis... 复制主备实例的每个分片中至少包含两个节点,其中 1 个主节点,其余的为从节点,主从节点间存在复制关系。 说明 单节点实例每个分片仅包含一个节点(主节点),不存在节点间的复制关系。 每个从节点都会通过异步复制机...
源端的数据库实例的接入方式选择的是专有网络时,且数据库实例开启了访问限制,那么在创建数据库传输任务前,您需要将 DTS 服务器 IP 地址添加至数据库实例的白名单或安全组中。华南1(广州)DTS 服务器 IP地址是 17... 可能存在数据库兼容性或数据丢失问题。 在增量数据迁移过程中,如果迁移对象的粒度是模式(schema),那么需要确保待迁移表的表级复制标识 REPLICA IDENTITY 设置为 FULL。如果在待迁移的模式中创建了新表或使用了 RE...
# 前言在配置好逻辑复制之后,我们需要了解逻辑复制相关信息,如复制延迟,replication slot 相关位点信息。PostgreSQL 为我们提供了丰富的表/视图,方便我们进行监控。## 检查逻辑复制的基本配置信息在订阅端查看基... "t" 表示发布数据库中所有已存在的表和以后新建的表。* pubinsert:"t" 表示仅发布表上的INSERT操作。* pubupdate:"t" 表示仅发布表上的UPDATE操作。* pubdelete:"t" 表示仅发布表上的DELETE操作## 检查发布 &...
目标端的数据库实例的接入方式选择的是公网自建时,且数据库实例开启了访问限制,那么在创建数据库传输任务前,您需要将 DTS 服务器 IP 地址添加至数据库实例的白名单或安全组中。DTS 服务器 IP 地址是(221.194.18... 单击查看子网 IP 段查看和复制 IP 段。 数据库账号 输入目标实例的数据库账号。 数据库密码 输入目标实例数据库账号对应的密码。 测试链接 单击测试链接,验证是否成功连接实例。当测试连接失败时,根据失败提示信...
源端和目标端的数据库实例的接入方式选择的是专有网络时,且数据库实例开启了访问限制,那么在创建数据库传输任务前,您需要将 DTS 服务器 IP 地址添加至数据库实例的白名单或安全组中。华南1(广州)DTS 服务器 IP地... 单击查看子网 IP 段查看和复制 IP 段。 数据库账号 默认账号为 default,您可以根据实际情况设置数据库账号。 数据库密码 输入源实例数据库账号对应的密码。 测试链接 单击测试链接,验证是否成功连接实例。当测试...