RocketMQ 进阶 - 事务消息

本贴最后更新于 1725 天前,其中的信息可能已经渤澥桑田

前言

分布式消息选型的时候是否支持事务消息是一个很重要的考量点,而目前只有 RocketMQ 对事务消息支持的最好。今天我们来唠唠如何实现 RocketMQ 的事务消息!

Apache RocketMQ 在 4.3.0 版中已经支持分布式事务消息,这里 RocketMQ 采用了 2PC 的思想来实现了提交事务消息,同时增加一个补偿逻辑来处理二阶段超时或者失败的消息,如下图所示。
image.png

RocketMQ 事务流程概要

RocketMQ 实现事务消息主要分为两个阶段:正常事务的发送及提交、事务信息的补偿流程
整体流程为:

  • 正常事务发送与提交阶段
    1、生产者发送一个半消息给 MQServer(半消息是指消费者暂时不能消费的消息)
    2、服务端响应消息写入结果,半消息发送成功
    3、开始执行本地事务
    4、根据本地事务的执行状态执行 Commit 或者 Rollback 操作

  • 事务信息的补偿流程
    1、如果 MQServer 长时间没收到本地事务的执行状态会向生产者发起一个确认回查的操作请求
    2、生产者收到确认回查请求后,检查本地事务的执行状态
    3、根据检查后的结果执行 Commit 或者 Rollback 操作
    补偿阶段主要是用于解决生产者在发送 Commit 或者 Rollback 操作时发生超时或失败的情况。

RocketMQ 事务流程关键

1、事务消息在一阶段对用户不可见
事务消息相对普通消息最大的特点就是一阶段发送的消息对用户是不可见的,也就是说消费者不能直接消费。这里 RocketMQ 的实现方法是原消息的主题与消息消费队列,然后把主题改成 RMQ_SYS_TRANS_HALF_TOPIC ,这样由于消费者没有订阅这个主题,所以不会被消费。

2、如何处理第二阶段的失败消息?
在本地事务执行完成后会向 MQServer 发送 Commit 或 Rollback 操作,此时如果在发送消息的时候生产者出故障了,那么要保证这条消息最终被消费,MQServer 会像服务端发送回查请求,确认本地事务的执行状态。
当然了 rocketmq 并不会无休止的的信息事务状态回查,默认回查 15 次,如果 15 次回查还是无法得知事务状态,RocketMQ 默认回滚该消息。

3、消息状态
事务消息有三种状态:

  • TransactionStatus.CommitTransaction:提交事务消息,消费者可以消费此消息
  • TransactionStatus.RollbackTransaction: 回滚事务,它代表该消息将被删除,不允许被消费。
  • TransactionStatus.Unknown :中间状态,它代表需要检查消息队列来确定状态。

实现

我们构建这样一个需求:用户请求订单微服务 order-service 接口删除订单(退货),删除订单后需要发送消息给用户服务 account-service,用户微服务收到消息后会给用户账户增加余额。
这个需求跟钱相关,肯定要保证消息的事务性,接下来我们根据上面的原理实现整个流程。

基础配置

生产者 order-servcie 和 account-service 都要引入 RocketMQ 相关依赖,增加 RocketMQ 的相关配置

  • 引入组件
<dependency>
	<groupId>org.apache.rocketmq</groupId>
	<artifactId>rocketmq-spring-boot-starter</artifactId>
</dependency>
  • 添加配置
# within rocketmq
rocketmq:
  name-server: xxx.xx.x.xx:9876; xxx.xx.x.xx:9876
  producer:
    group: cloud-group

发送半消息

order-service 在执行删除订单操作时发送一条半消息给 MQServer,发送半消息主要是使用 rocketMQTemplate.sendMessageInTransaction() 方法,发送事务消息。

@Override
public void delete(String orderNo) {
	Order order = orderMapper.selectByNo(orderNo);
	//如果订单存在且状态为有效,进行业务处理
	if (order != null && CloudConstant.VALID_STATUS.equals(order.getStatus())) {
		String transactionId = UUID.randomUUID().toString();
		//如果可以删除订单则发送消息给rocketmq,让用户中心消费消息
		rocketMQTemplate.sendMessageInTransaction("add-amount",
				MessageBuilder.withPayload(
						UserAddMoneyDTO.builder()
								.userCode(order.getAccountCode())
								.amount(order.getAmount())
								.build()
				)
				.setHeader(RocketMQHeaders.TRANSACTION_ID, transactionId)
				.setHeader("order_id",order.getId())
				.build()
				,order
		);
	}
}

首先先校验一下订单状态,然后发送消息给 MQServer,这个逻辑大家都看得懂,主要是关注 sendMessageInTransaction() 方法,源码如下:

public TransactionSendResult sendMessageInTransaction(String destination, Message<?> message, Object arg) throws MessagingException {
	try {
		if (((TransactionMQProducer)this.producer).getTransactionListener() == null) {
			throw new IllegalStateException("The rocketMQTemplate does not exist TransactionListener");
		} else {
			org.apache.rocketmq.common.message.Message rocketMsg = this.createRocketMqMessage(destination, message);
			return this.producer.sendMessageInTransaction(rocketMsg, arg);
		}
	} catch (MQClientException var5) {
		throw RocketMQUtil.convert(var5);
	}
}

该方法有三个参数:

  • destination:目的地(主题),这里发送给 add-amount 这个主题
  • message:发送给消费者的消息体,需要使用 MessageBuilder.withPayload() 来构建消息
  • arg:参数

注意,这里我们生成了一个 transactionId,并放在 header 中跟消息一起发送(这里实际也可以构造成一个对象,放在 arg 里进行发送),作用后面再讲!

执行本地事务与回查

MQServer 收到半消息后会告诉生产者 order-service 确认收到半消息,这时候 order-service 需要执行本地事务,执行完本地事务后再告诉 MQServer 本地事务的执行状态,确认消息究竟是 Commit 还是 Rollback。如果在告诉 MQServer 本地执行状态的时候出异常了还需要让 MQServer 能够回查到,怎么实现这一些列操作呢?
image.png

RocketMQ 提供了 RocketMQLocalTransactionListener 接口,本地事务监听器,这个接口类的实现如下:
image.png

第一个方法 executeLocalTransaction 为执行本地事务;
第二个方法 checkLocalTransaction 为检查本地事务的执行状态,也就是回查动作。
有了这个接口类我们的执行逻辑清楚了,但是还有个问题:本地事务已经执行完成了,怎么去回查本地事务的执行结果呢?
image.png

我们可以在执行本地事务的时候同时生成一个事务日志,让本地事务与日志事务在同一个方法中,同时添加 @Transactional 注解,保证两个操作事务是一个原子操作。这样如果事务日志表中有这个本地事务的信息,那就代表本地事务执行成功,需要 Commit,相反如果没有对应的事务日志,则表示没执行成功,需要 Rollback

思路既然理顺了,咱们就开撸。
image.png

  • 首先创建一个日志表
    image.png
    很简单的三个字段,主要是这个事务 id,需要根据这个事务 id 回查事务,还记得我们在发送半消息时生成的事务 id 吗,就是干这个用的!

  • 在生产者编写方法实现 RocketMQLocalTransactionListener

@Slf4j
@RocketMQTransactionListener
@RequiredArgsConstructor(onConstructor = @__(@Autowired))
public class AddUserAmountListener implements RocketMQLocalTransactionListener {
    private final OrderService orderService;
    private final RocketMqTransactionLogMapper rocketMqTransactionLogMapper;
    /**
     * 执行本地事务
     */
    @Override
    public RocketMQLocalTransactionState executeLocalTransaction(Message message, Object arg) {
        log.info("执行本地事务");
        MessageHeaders headers = message.getHeaders();
        //获取事务ID
        String transactionId = (String) headers.get(RocketMQHeaders.TRANSACTION_ID);
        Integer orderId = Integer.valueOf((String)headers.get("order_id"));
        log.info("transactionId is {}, orderId is {}",transactionId,orderId);

        try{
            //执行本地事务,并记录日志
            orderService.changeStatuswithRocketMqLog(orderId, CloudConstant.INVALID_STATUS,transactionId);
            //执行成功,可以提交事务
            return RocketMQLocalTransactionState.COMMIT;
        }catch (Exception e){
            return RocketMQLocalTransactionState.ROLLBACK;
        }
    }

    /**
     * 本地事务的检查,检查本地事务是否成功
     */
    @Override
    public RocketMQLocalTransactionState checkLocalTransaction(Message message) {

        MessageHeaders headers = message.getHeaders();
        //获取事务ID
        String transactionId = (String) headers.get(RocketMQHeaders.TRANSACTION_ID);
        log.info("检查本地事务,事务ID:{}",transactionId);
        //根据事务id从日志表检索
        QueryWrapper<RocketmqTransactionLog> queryWrapper = new QueryWrapper<>();
        queryWrapper.eq("transaction_id",transactionId);
        RocketmqTransactionLog rocketmqTransactionLog = rocketMqTransactionLogMapper.selectOne(queryWrapper);
        if(null != rocketmqTransactionLog){
            return RocketMQLocalTransactionState.COMMIT;
        }
        return RocketMQLocalTransactionState.ROLLBACK;
    }
}
  • 执行本地事务的方法
@Transactional(rollbackFor = RuntimeException.class)
@Override
public void changeStatuswithRocketMqLog(Integer id,String status,String transactionId){
    //将订单状态置位无效
	orderMapper.changeStatus(id,status);
    //插入事务表
	rocketMqTransactionLogMapper.insert(
			RocketmqTransactionLog.builder()
					.transactionId(transactionId)
					.log("执行删除订单操作")
			.build()
	);
}

这一块的代码逻辑都是在生产端,即 Order-Server,大家不要搞错了

消费消息

Rollback 的消息 MQServer 会给我们处理,我们只要关注 Commit 状态时消费端可以正常消费即可。在 account-service 监听消息,如果收到消息则给用户账户增加余额。

@Slf4j
@Service
@RocketMQMessageListener(topic = "add-amount",consumerGroup = "cloud-group")
@RequiredArgsConstructor(onConstructor = @__(@Autowired) )
public class AddUserAmountListener implements RocketMQListener<UserAddMoneyDTO> {
    private final AccountMapper accountMapper;
    /**
     * 收到消息的业务逻辑
     */
    @Override
    public void onMessage(UserAddMoneyDTO userAddMoneyDTO) {
        log.info("received message: {}",userAddMoneyDTO);
        accountMapper.increaseAmount(userAddMoneyDTO.getUserCode(),userAddMoneyDTO.getAmount());
        log.info("add money success");
    }
}

测试

image.png
订单表有这样一条记录,用户为 jianzh5,amount 为 200

image.png
用户表的记录,执行完成后 jianzh5 的账户应该变成 250

  • 调用删除订单接口,删除订单
    image.png

  • 发送半消息
    image.png

  • 执行本地事务,并生成事务日志
    image.png

  • 模拟异常情况
    在发送 Commit 消息的时候我们用命令杀掉进程 taskkill /pid 19748 -t -f,模拟异常!
    image.png

  • 重新启动 order-service,查看是否会执行回查动作
    image.png
    MQServer 进行回查,检查事务日志,判断是否可以提交事务

  • 消费者消费事务消息,保证事务的一致性
    image.png

总结

使用 RocketMQ 实现事务消息的过程还是很复杂的,需要好好理解开头的那张图,只有理解了事务消息的交互过程才能编写相应的代码!

  • 工具

    子曰:“工欲善其事,必先利其器。”

    288 引用 • 734 回帖
  • RocketMQ
    22 引用 • 10 回帖

相关帖子

欢迎来到这里!

我们正在构建一个小众社区,大家在这里相互信任,以平等 • 自由 • 奔放的价值观进行分享交流。最终,希望大家能够找到与自己志同道合的伙伴,共同成长。

注册 关于
请输入回帖内容 ...