消息队列（六）：如何解决消息队列的延时？消息队列满了以后该怎么处理？

大量消息在 mq 里积压了几个小时了还没解决

几千万条数据在 MQ 里积压了七八个小时&＃xff0c;从下午 4 点多&＃xff0c;积压到了晚上 11 点多。这个是我们真实遇到过的一个场景&＃xff0c;确实是线上故障了&＃xff0c;这个时候要不然就是修复 consumer 的问题&＃xff0c;让它恢复消费速度&＃xff0c;然后傻傻的等待几个小时消费完毕。这个肯定不能在面试的时候说吧。

一个消费者一秒是 1000 条&＃xff0c;一秒 3 个消费者是 3000 条&＃xff0c;一分钟就是 18 万条。所以如果你积压了几百万到上千万的数据&＃xff0c;即使消费者恢复了&＃xff0c;也需要大概 1 小时的时间才能恢复过来。

一般这个时候&＃xff0c;只能临时紧急扩容了&＃xff0c;具体操作步骤和思路如下&＃xff1a;

• 先修复 consumer 的问题&＃xff0c;确保其恢复消费速度&＃xff0c;然后将现有 consumer 都停掉。
• 新建一个 topic&＃xff0c;partition 是原来的 10 倍&＃xff0c;临时建立好原先 10 倍的 queue 数量。
• 然后写一个临时的分发数据的 consumer 程序&＃xff0c;这个程序部署上去消费积压的数据&＃xff0c;消费之后不做耗时的处理&＃xff0c;直接均匀轮询写入临时建立好的 10 倍数量的 queue。
• 接着临时征用 10 倍的机器来部署 consumer&＃xff0c;每一批 consumer 消费一个临时 queue 的数据。这种做法相当于是临时将 queue 资源和 consumer 资源扩大 10 倍&＃xff0c;以正常的 10 倍速度来消费数据。
• 等快速消费完积压数据之后&＃xff0c;得恢复原先部署的架构&＃xff0c;重新用原先的 consumer 机器来消费消息。

mq中的消息过期失效了

假设你用的是 RabbitMQ&＃xff0c;RabbtiMQ 是可以设置过期时间的&＃xff0c;也就是 TTL。如果消息在 queue 中积压超过一定的时间就会被 RabbitMQ 给清理掉&＃xff0c;这个数据就没了。那这就是第二个坑了。这就不是说数据会大量积压在 mq 里&＃xff0c;而是大量的数据会直接搞丢。

这个情况下&＃xff0c;就不是说要增加 consumer 消费积压的消息&＃xff0c;因为实际上没啥积压&＃xff0c;而是丢了大量的消息。我们可以采取一个方案&＃xff0c;就是批量重导&＃xff0c;这个我们之前线上也有类似的场景干过。就是大量积压的时候&＃xff0c;我们当时就直接丢弃数据了&＃xff0c;然后等过了高峰期以后&＃xff0c;比如大家一起喝咖啡熬夜到晚上12点以后&＃xff0c;用户都睡觉了。这个时候我们就开始写程序&＃xff0c;将丢失的那批数据&＃xff0c;写个临时程序&＃xff0c;一点一点的查出来&＃xff0c;然后重新灌入 mq 里面去&＃xff0c;把白天丢的数据给他补回来。也只能是这样了。

假设 1 万个订单积压在 mq 里面&＃xff0c;没有处理&＃xff0c;其中 1000 个订单都丢了&＃xff0c;你只能手动写程序把那 1000 个订单给查出来&＃xff0c;手动发到 mq 里去再补一次。

mq 都快写满了

如果消息积压在 mq 里&＃xff0c;你很长时间都没有处理掉&＃xff0c;此时导致 mq 都快写满了&＃xff0c;咋办&＃xff1f;这个还有别的办法吗&＃xff1f;没有&＃xff0c;谁让你第一个方案执行的太慢了&＃xff0c;你临时写程序&＃xff0c;接入数据来消费&＃xff0c;消费一个丢弃一个&＃xff0c;都不要了&＃xff0c;快速消费掉所有的消息。然后走第二个方案&＃xff0c;到了晚上再补数据吧。

原文地址&＃xff1a;https://blog.nowcoder.net/n/be4eaf9a031641df9404d143b1a59909