Flink-SQL技术咨询:Maven仓库FileSystem连接器获取及定时作业调度问题
问题解答
1. 获取FileSystem连接器依赖并部署到Flink环境
FileSystem连接器是Flink核心组件,无需单独下载,但你使用的Parquet格式需要对应格式处理依赖,获取和部署方式如下:
- Maven项目集成:在项目
pom.xml中添加与Flink版本完全一致的Parquet依赖:<dependency> <groupId>org.apache.flink</groupId> <artifactId>flink-parquet</artifactId> <version>你的Flink版本号</version> <scope>provided</scope> </dependency> - 手动下载部署:
- 从Maven中央仓库下载对应版本的
flink-parquetjar包; - 将jar包放入Flink安装目录的
lib文件夹; - 重启Flink集群或会话,确保依赖被加载。
- 从Maven中央仓库下载对应版本的
2. 将Flink-SQL脚本作为定时作业运行
完全可以实现,主要通过外部调度工具结合Flink作业提交能力完成,常见方案:
- SQL Client + 系统调度工具:
- 将SQL脚本保存为独立
.sql文件; - 用Linux
crontab、Apache Airflow等工具,定时执行Flink SQL Client提交命令:./bin/sql-client.sh -f /path/to/your_script.sql
- 将SQL脚本保存为独立
- 打包成Jar + 调度提交:
- 用Flink Table API将SQL逻辑封装为Java/Scala程序,打包成可执行jar;
- 通过调度工具定时调用
flink run命令,将jar包提交到集群触发作业执行。
内容的提问来源于stack exchange,提问作者Tharindu Wijethunga
相关产品推荐
相关产品推荐

