RabbitMQ发布确认高级
创始人
2024-03-20 00:58:37
0

在生产环境中由于一些不明原因,导致 RabbitMQ 重启,在 RabbitMQ 重启期间生产者消息投递失败,导致消息丢失,需要手动处理和恢复。 在这样比较极端的情况,RabbitMQ 集群不可用的时候,无法投递的消息该如何处理呢?

发布确认

确认机制方案:

image

代码架构图:

image

配置文件

在application.properties文件中加入下面的配置:

spring.rabbitmq.publisher-confirm-type=correlated
  • NONE:禁用发布确认模式,是默认值
  • CORRELATED:发布消息成功到交换器后会触发回调方法
  • SIMPLE:有两种效果,其一效果和 CORRELATED 值一样会触发回调方法,其二在发布消息成功后使用 rabbitTemplate 调用 waitForConfirms 或 waitForConfirmsOrDie 方法等待 broker 节点返回发送结果,根据返回结果来判定下一步的逻辑。

要注意的是waitForConfirmsOrDie 方法如果返回 false 则会关闭 channel,则接下来无法发送消息到 broker。

配置类

@Configuration
public class ConfirmConfig {public static final String CONFIRM_EXCHANGE_NAME = "confirm.exchange";public static final String CONFIRM_QUEUE_NAME = "confirm.queue";/*** 声明交换机*/@Bean("confirmExchange")public DirectExchange confirmExchange() {return new DirectExchange(CONFIRM_EXCHANGE_NAME);}/*** 声明队列* 该队列是确认队列*/@Bean("confirmQueue")public Queue confirmQueue() {return QueueBuilder.durable(CONFIRM_QUEUE_NAME).build();}/*** 声明交换机与队列绑定*/@Beanpublic Binding queueBinding(@Qualifier("confirmQueue") Queue queue,@Qualifier("confirmExchange") DirectExchange exchange) {return BindingBuilder.bind(queue).to(exchange).with("key1");}
}

回调接口

@Component
@Slf4j
public class MyCallBack implements RabbitTemplate.ConfirmCallback {/*** 交换机不管是否收到消息的一个回调方法** @param correlationData 消息相关数据* @param ack             交换机是否收到消息*/@Overridepublic void confirm(CorrelationData correlationData, boolean ack, String cause) {String id = correlationData != null ? correlationData.getId() : "";if (ack) {log.info("交换机已经收到 id 为:{}的消息", id);} else {log.info("交换机还未收到 id 为:{}消息,由于原因:{}", id, cause);}}
}

消息生产者

@Slf4j
@RestController
@RequestMapping("/confirm")
public class Producer {public static final String CONFIRM_EXCHANGE_NAME = "confirm.exchange";@Autowiredprivate RabbitTemplate rabbitTemplate;@Autowiredprivate MyCallBack myCallBack;/*** 依赖注入 rabbitTemplate 之后再设置它的回调对象*/@PostConstructpublic void init() {rabbitTemplate.setConfirmCallback(myCallBack);}@GetMapping("sendMessage/{message}")public void sendMessage(@PathVariable String message) {// 指定消息 id 为 1CorrelationData correlationData1 = new CorrelationData("1");String routingKey = "key1";rabbitTemplate.convertAndSend(CONFIRM_EXCHANGE_NAME, routingKey, message, correlationData1);log.info("发送消息routingKey={},内容={}", routingKey, message);CorrelationData correlationData2 = new CorrelationData("2");routingKey = "key2";rabbitTemplate.convertAndSend(CONFIRM_EXCHANGE_NAME, routingKey, message, correlationData2);log.info("发送消息routingKey={},内容={}", routingKey, message);}
}

消息消费者

@Slf4j
@Component
public class ConfirmConsumer {public static final String CONFIRM_QUEUE_NAME = "confirm.queue";@RabbitListener(queues = CONFIRM_QUEUE_NAME)public void receiveMsg(Message message) {String msg = new String(message.getBody());log.info("接收到队列 confirm.queue 消息:{}", msg);}
}

测试

启动项目,发起一个请求:http://localhost:8080/confirm/sendMessage/xx1

发送了两条消息,第一条消息的 RoutingKey 为 “key1”,第二条消息的 RoutingKey 为 “key2”,两条消息都成功被交换机接收,也收到了交换机的确认回调,但消费者只收到了一条消息,因为第二条消息的 RoutingKey 与队列的 BindingKey 不一致,也没有其它队列能接收这个消息,所有第二条消息被直接丢弃了。

image

回退消息

在仅开启了生产者确认机制的情况下,交换机接收到消息后,会直接给消息生产者发送确认消息,如果发现该消息不可路由,那么消息会被直接丢弃,生产者是不知道消息被丢弃的。通过设置mandatory参数可以在当消息传递过程中不可达目的地时将消息返回给生产者。

@Slf4j
@RestController
public class MessageProducer implements RabbitTemplate.ConfirmCallback, RabbitTemplate.ReturnCallback {@Autowiredprivate RabbitTemplate rabbitTemplate;/*** rabbitTemplate 注入之后就设置该值*/@PostConstructprivate void init() {// 设置收到消息的回调交给谁处理rabbitTemplate.setConfirmCallback(this);// true:交换机无法将消息进行路由时,会将该消息返回给生产者// false:如果发现消息无法进行路由,则直接丢弃rabbitTemplate.setMandatory(true);// 设置回退消息交给谁处理rabbitTemplate.setReturnCallback(this);}@GetMapping("/sendMessage/{message}")public void sendMessage(@PathVariable String message) {// 让消息绑定一个 id 值CorrelationData correlationData1 = new CorrelationData(UUID.randomUUID().toString());rabbitTemplate.convertAndSend("confirm.exchange", "key1", message + "key1", correlationData1);log.info("发送消息id为:{}内容为{}", correlationData1.getId(), message + "key1");CorrelationData correlationData2 = new CorrelationData(UUID.randomUUID().toString());rabbitTemplate.convertAndSend("confirm.exchange", "key2", message + "key2", correlationData2);log.info("发送消息id为:{}内容为{}", correlationData2.getId(), message + "key2");}@Overridepublic void confirm(CorrelationData correlationData, boolean ack, String cause) {String id = correlationData != null ? correlationData.getId() : "";if (ack) {log.info("交换机收到消息确认成功,id:{}", id);} else {log.error("消息id:{}未成功投递到交换机,原因是:{}", id, cause);}}@Overridepublic void returnedMessage(Message message, int replyCode, String replyText, String exchange, String routingKey) {log.info("消息{}被服务器退回,退回原因:{},交换机是:{},路由 key:{}", new String(message.getBody()), replyText,exchange, routingKey);}
}

image

备份交换机

使用 mandatory 参数和回退消息,可以对无法投递消息的感知能力,在生产者的消息无法被投递时发现并处理。但有时候,并不知道该如何处理这些无法路由的消息,最多打个日志,然后触发报警,再来手动处理。

而通过日志来处理这些无法路由的消息是很不优雅的做法,特别是当生产者所在的服务有多台机器的时候,手动复制日志会更加麻烦而且容易出错。而且设置 mandatory 参数会增加生产者的复杂性,需要添加处理这些被退回的消息的逻辑。

如果既不想丢失消息,又不想增加生产者的复杂性,可以为队列设置死信交换机来存储处理失败的消息,可是这些不可路由消息根本没有机会进入到队列,因此无法使用死信队列来保存消息。

在 RabbitMQ 中,有一种备份交换机的机制存在,可以很好的应对这个问题。备份交换机可以理解为 RabbitMQ 中交换机的“备胎”,当交换机接收到一条不可路由消息时,将会把这条消息转发到备份交换机中,由备份交换机来进行转发和处理,通常备份交换机的类型为 Fanout,这样就能把所有消息都投递到与其绑定的队列中,然后在备份交换机下绑定一个队列,这样所有那些原交换机无法被路由的消息,就会都进入这个队列。当然,还可以建立一个报警队列,用独立的消费者来进行监测和报警。

image

配置类

@Configuration
public class ConfirmConfig {public static final String CONFIRM_EXCHANGE_NAME = "confirm.exchange";public static final String CONFIRM_QUEUE_NAME = "confirm.queue";public static final String BACKUP_EXCHANGE_NAME = "backup.exchange";public static final String BACKUP_QUEUE_NAME = "backup.queue";public static final String WARNING_QUEUE_NAME = "warning.queue";/*** 声明备份交换机*/@Bean("backupExchange")public FanoutExchange backupExchange() {return new FanoutExchange(BACKUP_EXCHANGE_NAME);}/*** 声明警告队列*/@Bean("warningQueue")public Queue warningQueue() {return QueueBuilder.durable(WARNING_QUEUE_NAME).build();}/*** 声明警告队列和备份交换机绑定*/@Beanpublic Binding warningBinding(@Qualifier("warningQueue") Queue queue,@Qualifier("backupExchange") FanoutExchange backupExchange) {return BindingBuilder.bind(queue).to(backupExchange);}/*** 声明备份队列*/@Bean("backQueue")public Queue backQueue() {return QueueBuilder.durable(BACKUP_QUEUE_NAME).build();}/*** 声明备份队列和备份交换机绑定*/@Beanpublic Binding backupBinding(@Qualifier("backQueue") Queue queue,@Qualifier("backupExchange") FanoutExchange backupExchange) {return BindingBuilder.bind(queue).to(backupExchange);}/*** 声明交换机*/@Bean("confirmExchange")public DirectExchange confirmExchange() {ExchangeBuilder exchangeBuilder = ExchangeBuilder.directExchange(CONFIRM_EXCHANGE_NAME).durable(true)// 设置该交换机的备份交换机.withArgument("alternate-exchange", BACKUP_EXCHANGE_NAME);return exchangeBuilder.build();}/*** 声明队列* 该队列是确认队列*/@Bean("confirmQueue")public Queue confirmQueue() {return QueueBuilder.durable(CONFIRM_QUEUE_NAME).build();}/*** 声明交换机与队列绑定*/@Beanpublic Binding queueBinding(@Qualifier("confirmQueue") Queue queue,@Qualifier("confirmExchange") DirectExchange exchange) {return BindingBuilder.bind(queue).to(exchange).with("key1");}
}

消息生产者

和上面的保持不变

消息消费者

@Slf4j
@Component
public class ConfirmConsumer {public static final String CONFIRM_QUEUE_NAME = "confirm.queue";@RabbitListener(queues = CONFIRM_QUEUE_NAME)public void receiveMsg(Message message) {String msg = new String(message.getBody());log.info("接收到队列 confirm.queue 消息:{}", msg);}public static final String WARNING_QUEUE_NAME = "warning.queue";@RabbitListener(queues = WARNING_QUEUE_NAME)public void receiveWarningMsg(Message message) {String msg = new String(message.getBody());log.error("报警发现不可路由消息:{}", msg);}
}

测试

启动项目,发起一个请求:http://localhost:8080/sendMessage/aaaa

image

mandatory 参数与备份交换机可以一起使用的时候,如果两者同时开启,经过上面结果显示答案是备份交换机优先级高

相关内容

热门资讯

5年诉讼终落幕:谷歌保住Chr... 出品|搜狐科技 作者|郑松毅 编辑|杨锦 北京时间9月3日,一场长达5年的谷歌反垄断诉讼案终于明朗。...
德国夫妇因裸照泄露起诉谷歌:要... 9月2日,据报道,一对德国夫妇在慕尼黑地方法院向谷歌爱尔兰分公司提起诉讼。这对夫妇曾在2023年遭受...
北京会谈,金正恩邀请卢卡申科访... 中新网9月3日电 据白俄罗斯国家通讯社当地时间9月3日报道,白俄罗斯总统卢卡申科在北京与朝鲜劳动党总...
罗马仕经营危机持续发酵 卓翼科... 【CNMO科技消息】近日,A股上市公司卓翼科技发布公告称,其全资子公司深圳市卓翼智造有限公司就与江门...
个人消费贷款财政贴息政策正式施... 央视网消息:个人消费贷款财政贴息政策9月1日正式开始施行,居民在规定领域和范围内进行贷款消费可以享受...
小红书遭TVB旗下公司起诉,1... 据企查查APP显示,近日,小红书运营方行吟信息科技(上海)有限公司被TVB旗下的上海翡翠东方传播有限...
原创 九... 这两天好多人都在聊一个事儿:8月28号,咱们国家公布了来参加抗战胜利80周年纪念活动的外宾名单,一共...