PowerJob(任务调度计算框架) V3.4.7 官方版

PowerJob(任务调度计算框架) V3.4.7 官方版
2021-09-12 21:36:59
简体中文
2.32 MB
无毒 无隐私收集

  PowerJob是新一代分布式任务调度与计算框架。软件支持单机、广播、Map、MapReduce四种执行模式。支持在线日志功能,执行器产生的日志可以在前端控制台页面实时显示,降低debug成本,极大地提高开发效率,能够满足多个使用场景。

PowerJob(任务调度计算框架)

软件特色

  使用简单:提供前端Web界面,允许开发者可视化地完成调度任务的管理(增、删、改、查)、任务运行状态监控和运行日志查看等功能。

  定时策略完善:支持CRON表达式、固定频率、固定延迟和API四种定时调度策略。

  执行模式丰富:支持单机、广播、Map、MapReduce四种执行模式,其中Map/MapReduce处理器能使开发者寥寥数行代码便获得集群分布式计算的能力。

  DAG工作流支持:支持在线配置任务依赖关系,可视化得对任务进行编排,同时还支持上下游任务间的数据传递

  执行器支持广泛:支持Spring Bean、内置/外置Java类、Shell、Python等处理器,应用范围广。

  运维便捷:支持在线日志功能,执行器产生的日志可以在前端控制台页面实时显示,降低debug成本,极大地提高开发效率。

  依赖精简:最小仅依赖关系型数据库(MySQL/Oracle/MS SQLServer.。。),扩展依赖为MongoDB(用于存储庞大的在线日志)。

  高可用&高性能:调度服务器经过精心设计,一改其他调度框架基于数据库锁的策略,实现了无锁化调度。部署多个调度服务器可以同时实现高可用和性能的提升(支持无限的水平扩展)。

  故障转移与恢复:任务执行失败后,可根据配置的重试策略完成重试,只要执行器集群有足够的计算节点,任务就能顺利完成。

运用场景

  有定时执行需求的业务场景:如每天凌晨全量同步数据、生成业务报表等。

  有需要全部机器一同执行的业务场景:如使用广播执行模式清理集群日志。

  有需要分布式处理的业务场景:比如需要更新一大批数据,单机执行耗时非常长,可以使用Map/MapReduce处理器完成任务的分发,调动整个集群加速计算。

  有需要延迟执行某些任务的业务场景:比如订单过期处理等。

升级指南

  规范:语义化版本

  为了避免后期维护困难,本框架需要时刻遵守如下准则:

  版本格式:主版本号。次版本号。修订号

  递增规则

  1、主版本号:当做了不兼容的 API 修改

  2、次版本号:当做了向下兼容的功能性新增

  3、修订号:当做了向下兼容的问题修正

  非兼容版本升级

  如何升级到不兼容的 PowerJob 版本?一句话描述:多版本并存。

  1、独立部署新版本的 powerjob-server,也就是版本升级阶段新、旧调度中心并存,数据库层面 PowerJob 不会做 BREAKING CHANGE(不兼容的改动),因此可以公用一个数据库,不涉及数据的迁移。

  2、推动搭载 powerjob-worker 的执行器应用进行升级,分别升级依赖(jar 版本)和修改配置(连接到新版本的调度中心)。

  3、测试、回归、上线。

  4、完成所有升级后,下线旧版本调度中心。

PowerJob(任务调度计算框架) 下载地址

正在读取下载地址...