支持实时数据处理的场景和需求。相比 DataStream 作业,SQL 作业在开发成本和维护成本上都具有非常大的优势,无需掌握复杂的开发语言,编程环境等等,无需经历打包,部署等耗时的流程,简单地编辑 SQL 语句即可创建拥有复杂逻辑的流式任务。然而,对用户屏蔽掉底层细节,意味着 SQL 作业会丧失一些代码层面的灵活度。其中一个非常重要的话题就是 SQL 作业迭代中状态的保持——状态迁移。**现状**![picture.image](https://p3...
# 问题描述我的 RDS for MySQL 慢查询数很高,我该如何排查问题并解决?如下图:在 RDS MySQL 控制台上点击 "监控告警","引擎监控",再点击 "访问",查看 "慢查询数" 指标,会发现在一个时间段内出现尖刺![alt](https://lf3-volc-editor.volccdn.com/obj/volcfe/sop-public/upload_a97d36beb6b05590c845979bf89faa28.png)# 问题分析在真实的使用场景中,总体的架构设计和数据库表设计都会影响数据库的查询性能,优秀的架构设计...
# 问题描述我的 RDS for MySQL 慢查询数很高,我该如何排查问题并解决?如下图:在 RDS MySQL 控制台上点击 "监控告警","引擎监控",再点击 "访问",查看 "慢查询数" 指标,会发现在一个时间段内出现尖刺![图片](https://lf3-volc-editor.volccdn.com/obj/volcfe/sop-public/upload_a97d36beb6b05590c845979bf89faa28.png)# 问题分析在真实的使用场景中,总体的架构设计和数据库表设计都会影响数据库的查询性能,优秀的架构设计会提...
> 本文结构采用宏观着眼,微观入手,从整体到细节的方式剖析 Hive SQL 底层原理。第一节先介绍 Hive 底层的整体执行流程,然后第二节介绍执行流程中的 SQL 编译成 MapReduce 的过程,第三节剖析 SQL 编译成 MapReduce 的具体实现原理。### 一、HiveHive是什么?Hive 是数据仓库工具,再具体点就是一个 SQL 解析引擎,因为它即不负责存储数据,也不负责计算数据,只负责解析 SQL,记录元数据。Hive直接访问存储在 HDFS 中或者 HBase ...
当有大量库表需要迁移时,建议拆分为多个任务。 目标库限制 数据库版本:当前支持 5.5、5.6、5.7 和 8.0 的 MySQL 实例。 目标数据库的迁移账号权限,会影响视图、存储过程和函数的使用,具体限制如下所示: 当目标数据库的迁移账号具有 SET_USER_ID 权限时,视图、存储过程和函数的限制如下所示: 视图、存储过程、函数会保持原来的 definer 和 sql_security。 需要先完成账号迁移任务或手动在目标库创建对应账号后,视图、存储过程...
本场景介绍如何在数据库传输服务 DTS 控制台创建公网自建 PostgreSQL 迁移至公网自建 PostgreSQL 任务。 前提条件已注册火山引擎账号并完成实名认证。关于账号的创建方法和实名认证,请参见如何进行账号注册和实名认证。 已在公网环境中自行搭建 PostgreSQL 实例和数据库。 当源库和目标库都部署在 IDC 或 ECS 中,且通过公网连接时,您需要将 DTS 的服务器 IP 地址添加到自建库的白名单中。 创建数据迁移任务之前,请确认源库和目...
数据库传输服务 DTS 提供多种类型的数据库迁移服务。本文以创建火山引擎版 MySQL 迁移至火山引擎版 MySQL 任务为例,介绍如何通过数据库传输服务 DTS 创建并启动数据迁移任务。 前提条件已注册火山引擎账号并完成实名认证。关于账号的创建方法和实名认证,请参见如何进行账号注册和实名认证。 已创建云数据库 MySQL 版实例和数据库。详细信息,请参见创建 RDS MySQL 实例和创建数据库。 创建数据迁移任务之前,请确认源库和目标库的...
本场景介绍如何在数据库传输服务 DTS 控制台创建火山引擎版 PostgreSQL 迁移至公网自建 PostgreSQL 任务。 前提条件已注册火山引擎账号并完成实名认证。关于账号的创建方法和实名认证,请参见如何进行账号注册和实名认证。 已创建云数据库 PostgreSQL 版实例、数据库和账号。详细操作,请参见创建实例、创建数据库和账号。 已在公网环境中自行搭建 PostgreSQL 实例和数据库。 当源库部署在火山引擎的 ECS 中,且开启了访问限制时...
本场景介绍如何在数据库传输服务 DTS 控制台创建火山引擎 ECS 自建 PostgreSQL 迁移至公网自建 PostgreSQL 任务。 前提条件已注册火山引擎账号并完成实名认证。关于账号的创建方法和实名认证,请参见如何进行账号注册和实名认证。 已在火山引擎版 ECS 自建 PostgreSQL 中自行搭建实例、数据库和账号。 已在公网环境中自行搭建 PostgreSQL 实例和数据库。 当源库部署在火山引擎的 ECS 中,且开启了访问限制时,您需要在 ECS 的安全...
当有大量库表需要迁移时,建议拆分为多个任务。 目标库限制 数据库版本:当前支持 5.5、5.6、5.7 和 8.0 版本的 MySQL 实例。 目标数据库的迁移账号权限,会影响视图、存储过程和函数的使用,具体限制如下所示: 当目标数据库的迁移账号具有 SET_USER_ID 权限时,视图、存储过程和函数的限制如下所示: 视图、存储过程、函数会保持原来的 definer 和 sql_security。 需要先完成账号迁移任务或手动在目标库创建对应账号后,视图、存储...
当有大量库表需要迁移时,建议拆分为多个任务。 目标库限制 数据库版本:当前支持 5.7 和 8.0 版本的 MySQL 实例。 目标数据库的迁移账号权限,会影响视图、存储过程和函数的使用,具体限制如下所示: 当目标数据库的迁移账号具有 SET_USER_ID 权限时,视图、存储过程和函数的限制如下所示: 视图、存储过程、函数会保持原来的 definer 和 sql_security。 需要先完成账号迁移任务或手动在目标库创建对应账号后,视图、存储过程和函数...
当有大量库表需要迁移时,建议拆分为多个任务。 目标端限制 数据库版本:当前支持 5.5、5.6、5.7 和 8.0 的 MySQL 实例。 目标数据库的迁移账号权限,会影响视图、存储过程和函数的使用,具体限制如下所示: 当目标数据库的迁移账号具有 SET_USER_ID 权限时,视图、存储过程和函数的限制如下所示: 视图、存储过程、函数会保持原来的 definer 和 sql_security。 需要先完成账号迁移任务或手动在目标库创建对应账号后,视图、存储过程...
可能原因一 在 MySQL 类型的迁移或同步(除同步至 ElasticSearch 外)任务执行过程中,如果在源端执行的 DDL 增加列的语句中同时使用了自动初始化和更新 TIMESTAMP 或 DATETIME 类型的字段,可能会导致该列数据不一致。例如: 在 DDL 添加列的语句中同时使用自动初始化和更新 TIMESTAMP sql ALTER TABLE testADD COLUMN update_time TIMESTAMP DEFAULT CURRENT_TIMESTAMP ON UPDATE CURRENT_TIMESTAMP;在 DDL 添加列的语句中同时使用自...