celery可视化_Celery最佳实践

1.用好celery beat

如果你想更好的管理项目的定时任务&＃xff0c;可以用celery beat代替crontab管理。celery不仅支持动态的异步任务(通过delay调用)&＃xff0c;也支持定时任务执行。当然我们可以用crontab实现任务的定时执行&＃xff0c;但是crontab是与项目代码隔离的&＃xff0c;为了更方便地管理定时任务用celery beat代替也是一个不错的选择。celery beat是celery额外起的一个进程&＃xff0c;具体命令行&＃xff1a;

celery -A yourApp beat

该进程开启后会根据配置定期的发送任务到broker中&＃xff0c;最终任务的执行还是由worker执行:

celery -A yourApp worker

2.参数传递

大多数场景下传递任意数据时可行的&＃xff0c;但是如果数据内容本身是可变的&＃xff0c;那么这时候就要仔细考虑了。假定参数是一个对象&＃xff0c;这个对象映射到数据库中的一行数据&＃xff0c;如果任务在等待执行的过程中该行数据有改变&＃xff0c;那么在任务执行的时候&＃xff0c;使用到的这个对象就是一个过期数据。所以尽量传递不变(这里的不变与python不可变数据类型不是一个概念)的参数。

3.序列化方式

celery支持多种序列化方式&＃xff0c;但是每种序列化方式产生的数据大小是不同的&＃xff0c;如果在broker吞吐量存在瓶颈的情况下&＃xff0c;可以选择产生数据较小的序列化方式

4.使用计划任务

假定有这样一个场景&＃xff0c;用户创建了订单&＃xff0c;减少了商品库存&＃xff0c;但是还未支付&＃xff0c;这时候需要给用户一个限定的支付时间如半个小时&＃xff0c;如果半个小时之后这笔订单还未支付&＃xff0c;那么就撤销该订单&＃xff0c;重置商品库存。这个时候可以用到celery的计划任务&＃xff0c;也就是任务发出后并不会马上执行&＃xff0c;会在指定的时间点执行。我们可以用countdown或者eta参数实现该功能&＃xff1a;

eta给到的时间有时区的问题&＃xff0c;所以我在上述代码中减去了八个小时。

5.任务优先级

如果执行的任务相同&＃xff0c;但是这些相同的任务会有不同的优先级&＃xff0c;如果想使某个任务具有更高的优先级&＃xff0c;那么可以使用priority参数来完成。

这里会存在一个问题。redis broker的priority只支持0、3、6、9四个级别&＃xff0c;底层的实现方式是用不同的队列来实现的。大致的做法是为每个优先的任务生成一个队列&＃xff0c;更高优先级的任务投递到更高优先级的队列&＃xff0c;worker工作的时候更倾向于从高优先级队列获取任务。

6.broker的选择

不要使用mysql作为broker。虽然celery支持mysql作为broker&＃xff0c;但我们还是不要用mysql&＃xff0c;因为如果任务量一旦上来&＃xff0c;mysql会存在大量的磁盘io&＃xff0c;不利于任务系统良好的运行。rabbitmq是官方推荐的broker&＃xff0c;也是完全实现了amqp协议的broker。相比较而言&＃xff0c;redis更轻量级&＃xff0c;但也是一个较好的选择。

7.worker命名

给celery worker指定一个唯一的名字&＃xff0c;可以让我们更好的区分不同的worker。可以用-n参数指定name

8.为不同的队列开启不同的worker

我们尽量给不同的任务指定不同的队列&＃xff0c;有的任务具有更高的优先级&＃xff0c;有的反而没那么重要&＃xff0c;所以分开来是有必要的。在开启的worker的时候指定队列&＃xff0c;执行一组相同的任务。

9.选择合适的并发方式

celery提供了几种并发方式&＃xff0c;包括prefork、gevent、eventlet等&＃xff0c;如果执行的任务是cpu密集型的可以选择prefork的方式(也是默认的方式)&＃xff0c;如果是网络io密集型的可以选择gevent或者eventlet&＃xff0c;这两者都用到了io多路复用的技术。选择恰当的并发方式可能可以极大的提升处理能力。并发数的选择也需要考虑一下&＃xff0c;并不是越多越好&＃xff0c;多了需要处理大量的上下文切换&＃xff0c;少了不能明显提高性能&＃xff0c;这里可能需要一个测试。

10.执行的幂等性

对于broker而言&＃xff0c;任务重复下发是存在的&＃xff0c;虽然这种可能性微乎其微。所以对于同一个任务&＃xff0c;即使多次执行&＃xff0c;不会也不应该产生数据异常。这需要在代码层面实现。

11.小心使用retry

retry的机制未深入研究&＃xff0c;但是在我工作初期&＃xff0c;因为不当地使用retry&＃xff0c;导致任务指数级的增长&＃xff0c;最终整个broker塞满了消息。大致是因为任务失败后同时retry了两次&＃xff0c;并且下一次执行还是失败&＃xff0c;继续两次retry(此时总的是4次retry)&＃xff0c;如此指数增长。

12.给任务设置timeout

如果不给单个任务设置超时时间&＃xff0c;一旦某个任务卡死(比如产生死锁)&＃xff0c;整个worker将一直不可用&＃xff0c;除非重启。可以使用--time-limit参数指定超时时间。

13.接入sentry

接入sentry可以让我们快速定位错误&＃xff0c;解决问题。

14.backend设置

celery的backend是指任务执行结果的存储服务&＃xff0c;一般用redis作为backend即可。执行task.apply_async()方法后生成一个result对象&＃xff0c;调用result.get()可以从backend中读取结果。当然如果对执行的结果不关心可以配置celery为ignore result&＃xff0c;此时不会存储结果。如果需要存储结果&＃xff0c;也需要给结果设置一定的超时时间。

15.flower监控

flower是celery的一个可视化监控工具。我们可以从上面看到如worker工作情况、队列长度等信息&＃xff0c;也可以执行远程控制等操作。出现问题时&＃xff0c;celery监控系统可能会帮助使用者更快的定位问题。