上海古都建筑设计集团,上海办公室装修设计公司,上海装修公司高质量的内容分享社区,上海装修公司我们不是内容生产者,我们只是上海办公室装修设计公司内容的搬运工平台

大数据调度平台oozie、azkaban、dolphinscheduler、AirFlow对比

guduadmin18小时前

大数据调度平台oozie、azkaban、dolphinscheduler、AirFlow对比,第1张

 Apache Oozie#

 大数据调度平台oozie、azkaban、dolphinscheduler、AirFlow对比,第2张

 

 Linkedin Azkaban

#

 大数据调度平台oozie、azkaban、dolphinscheduler、AirFlow对比,第3张

 大数据调度平台oozie、azkaban、dolphinscheduler、AirFlow对比,第4张

 Azkaban:最适合shell脚本,当job不多的时候,可以使用。

 Apache Airflow

#

 大数据调度平台oozie、azkaban、dolphinscheduler、AirFlow对比,第5张

 

 大数据调度平台oozie、azkaban、dolphinscheduler、AirFlow对比,第6张

 

 Airflow 在使用时有一大痛点:使用Python语言来定义工作流的。

大数据调度平台oozie、azkaban、dolphinscheduler、AirFlow对比,第7张

 

 Apache DolphinScheduler

#

 大数据调度平台oozie、azkaban、dolphinscheduler、AirFlow对比,第8张

 特点:分布式、去中心化、易扩展的可视化工作流任务调度系统

 大数据调度平台oozie、azkaban、dolphinscheduler、AirFlow对比,第9张

 

海豚调度的多租户和我们YARN的多租户是对应起来的,这个非常好。

海豚调度出来的有点迟,它把我们之前讲的 Oozie、Azkaban、airflow的优点全拿过来了,后发优势,集万千优点于一身,缺点也避免了。

离线:用的Spark比较多,实时用 Flink比较多。

过载处理:airflow 任务过多时卡死服务器,DolphinScheduler任务队列机制,当任务过多时会缓存在任务队列中。

推荐海豚DolphinScheduler任务器~~~~

网友评论

搜索
最新文章
热门文章
热门标签