CDC(Change Data Capture) 是变更数据获取的简称。可以基于增量日志,以极低的侵入性来完成增量数据捕获的工作。
核心思想是,监测并捕获数据库的变动,包括数据或数据表的插入、更新以及删除等,将这些变更按发生的顺序完整记录下来,可以直接写入到消息中间件中以供其他服务进行订阅及消费,也可以直接对接其他数据源做业务或者数据分析&应用。
与批量同步相比,变更数据的捕获通常具有以下三项基本优势:
DataLeap实时分库分表解决方案,支持将Schema 相同的多个实例中多个数据库下的多个分表,一键同步到目标端的一个表中。
下文将为您介绍如何创建实时分库分表解决方案。
实时分库分表方案概述如下:
CDC实时处理架构如下: