Apache DolphinScheduler分布式工作流任务调度系统

Apache DolphinScheduler(Incubator, 原 Easy Scheduler) 是一个可视化的分布式大数据工作流任务调度系统，DolphinScheduler 致力于 “可视化操作工作流 (任务) 之间的依赖关系，并可视化监控整个数据处理过程”。DolphinScheduler 以有向无环图 (DAG) 的方式将任务组装起来，可实时监控任务的运行状态，同时支持重试、从指定节点恢复失败、暂停及 Kill 任务等操作。

DolphinScheduler 的起源 - 需求决定

大数据任务调度需要解决以下痛点，市面上难以找到满足需求的开源大数据调度，这是 DolphinScheduler 诞生的原因

DolphinScheduler 设计特点

 一个分布式易扩展的可视化 DAG 工作流任务调度系统。致力于解决数据处理流程中错综复杂的依赖关系，使调度系统在数据处理流程中开箱即用。 其

主要目标如下

以 DAG 图的方式将 Task 按照任务的依赖关系关联起来，可实时可视化监控任务的运行状态

支持丰富的任务类型：Shell、MR、Spark、SQL (mysql、postgresql、hive、sparksql),Python,Sub_Process、Procedure 等

支持工作流定时调度、依赖调度、手动调度、手动暂停 / 停止 / 恢复，同时支持失败重试 / 告警、从指定节点恢复失败、Kill 任务等操作

支持工作流优先级、任务优先级及任务的故障转移及任务超时告警 / 失败

支持工作流全局参数及节点自定义参数设置

支持资源文件的在线上传 / 下载，管理等，支持在线文件创建、编辑

支持任务日志在线查看及滚动、在线下载日志等

实现集群 HA，通过 Zookeeper 实现 Master 集群和 Worker 集群去中心化

支持对 Master/Worker cpu load，memory，cpu 在线查看

支持工作流运行历史树形 / 甘特图展示、支持任务状态统计、流程状态统计

支持补数

支持多租户

支持国际化

关注公众号：拾黑（shiheibook）了解更多

[广告]赞助链接：

四季很好，只要有你，文娱排行榜：https://www.yaopaiming.com/
让资讯触达的更精准有趣：https://www.0xu.cn/