【 以下文字转载自 Programming 讨论区 】
发信人: qlogic (戒网了), 信区: Programming
标 题: 这个功能用什么框架实现比较好?
发信站: 水木社区 (Mon Nov 21 16:39:42 2022), 站内
ftp里存了1000多个表的数据文件,每天某个时候到
到了之后就下载解压缩然后保存放到数据库里。
首先表不是确定时间到的。
目前用了airflow, file sensor-->etl data,1000多个表就1000多个dag,发现性能很
差,schedule还经常卡死
kettle , dolphin schedule没有file sensor,处理起来更麻烦
--
FROM 119.139.198.*