# 目的对集合中的数据和索引进行碎片整理。释放磁盘空间,降低磁盘利用率。# 操作流程1. 连接到 Hidden 节点,执行 compact。2. 连接到 Secondary 节点,执行 compact。3. 待前两步做完之后,进行主备切换。4. 对当前的 Primary 执行 compact 命令。# Compact 命令影响&建议1. 回收磁盘碎片前,建议对数据库数据进行备份2. MongoDB 4.4 及之前的版本执行 compact 命令会导致集合所属的数据库被锁定,且该数据库的读写操作将...
数据库有MongoDB分片集群/MySQL/Redis/ElasticSearch/RabbitMQ进行各类业务数据计算和存储## 三 流量管控![](https://kaliarch-bucket-1251990360.cos.ap-beijing.myqcloud.com/blog_img/20221214175313.png)### 3.1 南北流量业务流量:业务流量入口最外层经过WAF进行安全防护,之后进入到腾讯云公网负载均衡,负载均衡后管理到TKE集群的NodePort实现流量接入;出口通过NAT网关实现流量分发。其他服务:其他支撑服务,如堡垒机...
新增 MongoDB 数据源,支持 Mongo to EMR hive 通道作业。 - 扩充 PG 数据同步能力,支持 PostgreSQL to EMR hive 通道作业。- **【优化** **数仓** **开发建表规范】** - 控制台智能市场优化,增加代码规范预检查页面,接入并支持数据地图组件。- **【数据研发体验增强】** - LAS SQL 任务支持对接 LAS Spark STS 模式,降低作业执行时冷启动的时间成本。 - 提交 LAS SQL 任务新增队列水位...
新增 MongoDB 数据源,支持 Mongo to EMR hive 通道作业。 - 扩充 PG 数据同步能力,支持 PostgreSQL to EMR hive 通道作业。- **【优化** **数仓** **开发建表规范】** - 控制台智能市场优化,增加代码规范预检查页面,接入并支持数据地图组件。- **【数据研发体验增强】** - LAS SQL 任务支持对接 LAS Spark STS 模式,降低作业执行时冷启动的时间成本。 - 提交 LAS SQL 任务新增队列水位...
请参见预检查项(MongoDB)。 注意事项若未选中增量同步,数据同步期间请勿在源实例中写入新的数据,以确保数据一致性。 当前仅支持单向同步,不支持双向同步。 为实时保障数据的一致性,建议选择结构初始化、全量初始化和增量同步。 由于全量初始化会并发执行 INSERT 操作,导致目标库的集合产生碎片,因此全量初始化完成后目标库的集合存储空间会比源库的集合存储空间大。 在预检查时,如果选择忽略告警并启动迁移任务,可能会导致数...
本文介绍当迁移的目标库类型为 MongoDB(如火山引擎版 MongoDB 或自建 MongoDB)时,支持的数据库以及使用限制详情。 支持的数据库 源库 目标库 支持版本 迁移类型 火山引擎版 MongoDB 火山引擎 ECS 自建... 且无法成功启动数据迁移任务。 建议在全量迁移期间,Oplog 日志至少保留 7 天以上,如需调整 Oplog 大小,请参见 Change the Size of the Oplog。或者等到全量迁移完成后,再清理 DTS 任务运行后源库产生的 Oplog 日志...
如果选择忽略告警并启动同步任务,可能会导致数据不一致,带来业务风险。关于预检查的具体说明,请参见预检查项(MongoDB)。 限制条件应用限制类型 说明 源库限制 带宽要求,源库所属的服务器需具备足够出口带宽,否则将影响数据同步的速率。 待同步对象的集合需具备主键或唯一约束,且字段具有唯一性,否则可能会导致目标库出现重复数据。 当同步的对象是集合级别,且需进行编辑例如集合的名称映射时,则单次同步任务最多支持同步 100...
如果选择忽略告警并启动同步任务,可能会导致数据不一致,带来业务风险。关于预检查的具体说明,请参见预检查项(MongoDB)。 限制条件应用限制类型 说明 源库限制 带宽要求,源库所属的服务器需具备足够出口带宽,否则将影响数据同步的速率。 待同步对象的集合需具备主键或唯一约束,且字段具有唯一性,否则可能会导致目标库出现重复数据。 当同步的对象是集合级别,且需进行编辑例如集合的名称映射时,则单次同步任务最多支持同步 100...
如果选择忽略告警并启动同步任务,可能会导致数据不一致,带来业务风险。关于预检查的具体说明,请参见预检查项(MongoDB)。 限制条件应用限制类型 说明 源库限制 带宽要求,源库所属的服务器需具备足够出口带宽,否则将影响数据同步的速率。 待同步对象的集合需具备主键或唯一约束,且字段具有唯一性,否则可能会导致目标库出现重复数据。 当同步的对象是集合级别,且需进行编辑例如集合的名称映射时,则单次同步任务最多支持同步 100...
请参见预检查项(MongoDB)。 注意事项若未选中增量同步,数据同步期间请勿在源实例中写入新的数据,以确保数据一致性。 为实时保障数据的一致性,建议选择结构初始化、全量初始化和增量同步。 由于全量初始化会并发执行 INSERT 操作,导致目标库的集合产生碎片,因此全量初始化完成后目标库的集合存储空间会比源库的集合存储空间大。 在预检查时,如果选择忽略告警并启动同步任务,可能会导致数据不一致,带来业务风险。 在创建火山引...
如果选择忽略告警并启动同步任务,可能会导致数据不一致,带来业务风险。关于预检查的具体说明,请参见预检查项(MongoDB)。 限制条件应用限制类型 说明 源库限制 带宽要求,源库所属的服务器需具备足够出口带宽,否则将影响数据同步的速率。 待同步对象的集合需具备主键或唯一约束,且字段具有唯一性,否则可能会导致目标库出现重复数据。 当同步的对象是集合级别,且需进行编辑例如集合的名称映射时,则单次同步任务最多支持同步 100...
如果选择忽略告警并启动同步任务,可能会导致数据不一致,带来业务风险。关于预检查的具体说明,请参见预检查项(MongoDB)。 限制条件应用限制类型 说明 源库限制 带宽要求,源库所属的服务器需具备足够出口带宽,否则将影响数据同步的速率。 待同步对象的集合需具备主键或唯一约束,且字段具有唯一性,否则可能会导致目标库出现重复数据。 当同步的对象是集合级别,且需进行编辑例如集合的名称映射时,则单次同步任务最多支持同步 100...
如果选择忽略告警并启动同步任务,可能会导致数据不一致,带来业务风险。关于预检查的具体说明,请参见预检查项(MongoDB)。 限制条件应用限制类型 说明 源库限制 带宽要求,源库所属的服务器需具备足够出口带宽,否则将影响数据同步的速率。 待同步对象的集合需具备主键或唯一约束,且字段具有唯一性,否则可能会导致目标库出现重复数据。 当同步的对象是集合级别,且需进行编辑例如集合的名称映射时,则单次同步任务最多支持同步 100...