融云发送自定义消息_RocketMQ消息轨迹设计篇

RocketMQ 消息轨迹主要包含两篇文章&＃xff1a;设计篇与源码分析篇&＃xff0c;本节将详细介绍RocketMQ消息轨迹-设计相关。

RocketMQ消息轨迹&＃xff0c;主要跟踪消息发送、消息消费的轨迹&＃xff0c;即详细记录消息各个处理环节的日志&＃xff0c;从设计上至少需要解决如下三个核心问题&＃xff1a;

• 消费轨迹数据格式
• 记录消息轨迹(消息日志)
• 消息轨迹数据存储在哪&＃xff1f;

1、消息轨迹数据格式

RocketMQ4.5版本消息轨迹主要记录如下信息&＃xff1a;

• traceType
• 跟踪类型&＃xff0c;可选值&＃xff1a;Pub(消息发送)、SubBefore(消息拉取到客户端&＃xff0c;执行业务定义的消费逻辑之前)、SubAfter(消费后)。
• timeStamp
• 当前时间戳。
• regionId
• broker所在的区域ID&＃xff0c;取自BrokerConfig#regionId。
• groupName
• 组名称&＃xff0c;traceType为Pub时为生产者组的名称&＃xff1b;如果traceType为subBefore或subAfter时为消费组名称。
• requestId
• traceType为subBefore、subAfter时使用&＃xff0c;消费端的请求Id。
• topic
• 消息主题。
• msgId
• 消息唯一ID。
• tags
• 消息tag。
• keys
• 消息索引key&＃xff0c;根据该key可快速检索消息。
• storeHost
• 跟踪类型为PUB时为存储该消息的Broker服务器IP&＃xff1b;跟踪类型为subBefore、subAfter时为消费者IP。
• bodyLength
• 消息体的长度。
• costTime
• 耗时。
• msgType
• 消息的类型&＃xff0c;可选值&＃xff1a;Normal_Msg(普通消息),Trans_Msg_Half(预提交消息),Trans_msg_Commit(提交消息),Delay_Msg(延迟消息)。
• offsetMsgId
• 消息偏移量ID,该ID中包含了broker的ip以及偏移量。
• success
• 是发送成功。
• contextCode
• 消费状态码&＃xff0c;可选值&＃xff1a;SUCCESS,TIME_OUT,EXCEPTION,RETURNNULL,FAILED。

2、记录消息轨迹

消息中间件的两大核心主题&＃xff1a;消息发送、消息消费&＃xff0c;其核心载体就是消息&＃xff0c;消息轨迹(消息的流转)主要是记录消息是何时发送到哪台Broker&＃xff0c;发送耗时多少时间&＃xff0c;在什么是被哪个消费者消费。记录消息的轨迹主要是集中在消息发送前后、消息消费前后&＃xff0c;可以通过RokcetMQ的Hook机制。通过如下两个接口来定义钩子函数。

通过实行上述两个接口&＃xff0c;可以实现在消息发送、消息消费前后记录消息轨迹&＃xff0c;为了不明显增加消息发送与消息消费的时延&＃xff0c;记录消息轨迹最好使用异步发送模式。

3、如何存储消息轨迹数据

消息轨迹需要存储什么消息以及在什么时候记录消息轨迹的问题都以及解决&＃xff0c;那接下来就得思考将消息轨迹存储在哪里&＃xff1f;存储在数据库中或其他媒介中&＃xff0c;都会加重消息中间件&＃xff0c;使其依赖外部组件&＃xff0c;最佳的选择还是存储在Broker服务器中&＃xff0c;将消息轨迹数据也当成一条消息存储到Broker服务器。

既然把消息轨迹当成消息存储在Broker服务器&＃xff0c;那存储消息轨迹的Topic如何确定呢&＃xff1f;RocketMQ提供了两种方法来定义消息轨迹的Topic。

• 系统默认Topic
• 如果Broker的traceTopicEnable配置设置为true&＃xff0c;表示在该Broker上创建topic名为&＃xff1a;RMQ_SYS_TRACE_TOPIC&＃xff0c;队列个数为1&＃xff0c;默认该值为false&＃xff0c;表示该Broker不承载系统自定义用于存储消息轨迹的topic。
• 自定义Topic
• 在创建消息生产者或消息消费者时&＃xff0c;可以通过参数自定义用于记录消息轨迹的Topic名称&＃xff0c;不过要注意的是&＃xff0c;rokcetmq控制台(rocketmq-console)中只支持配置一个消息轨迹Topic&＃xff0c;故自定义Topic&＃xff0c;在目前这个阶段或许还不是一个最佳实践&＃xff0c;建议使用系统默认的Topic即可。

通常为了避免消息轨迹的数据与正常的业务数据混合在一起&＃xff0c;官方建议&＃xff0c;在Broker集群中&＃xff0c;新增加一台机器&＃xff0c;只在这台机器上开启消息轨迹跟踪&＃xff0c;这样该集群内的消息轨迹数据只会发送到这一台Broker服务器上&＃xff0c;并不会增加集群内原先业务Broker的负载压力。

作者&＃xff1a;丁威