RabbitMQ-消息堆积&高可用

RabbitMQ-消息堆积&高可用,第1张

前置文章:

RabbitMQ-消息可靠性&延迟消息

一、MQ常见问题

二、消息堆积-惰性队列

1、消息堆积问题

2、解决消息堆积方法

3、惰性队列

三、高可用-MQ集群

1、集群分类

2、普通集群

3、镜像集群

4、冲裁队列

确保发送的消息至少被消费一次;

实现消息的延迟投递;

处理消息无法及时消费的问题;

避免单点MQ故障导致整体不可用;

1、消息堆积问题

当生产者发送消息的速度超过了消费者处理消息的速度,就会导致队列中的消息堆积,直到队列存储消息达到上限。最早接收到的消息,可能就会 成为死信 ,会 被丢弃 ,这就是消息堆积问题。

2、解决消息堆积方法

3、惰性队列

从RabbitMQ的3.6.0版本开始,就增加了Lazy Queues的概念,也就是惰性队列。

Ⅰ 接收到消息后直接 存入磁盘 而非内存;

Ⅱ 消费者要消费消息时才会 从磁盘中读取 并加载到内存;

Ⅲ 支持 数百万条 的消息存储。

要设置一个队列为惰性队列,只需要在声明队列时,指定x-queue-mode属性为lazy即可。

Ⅰ 可以通过命令行将一个运行中的队列修改为惰性队列,如下:

rabbitmqctl set_policy Lazy "^lazy-queue$" '{"queue-mode":"lazy"}' --apply-to queues

Ⅱ 用SpringAMQP声明惰性队列,如下:

@Bean注解的形式,如下:

@RabbitListener注解的形式,如下:

Ⅰ 优点

基于磁盘存储,消息上限高;

没有间歇性的page-out,性能比较稳定;

Ⅱ 缺点

基于磁盘存储,消息时效性会降低;

性能受限于磁盘的IO。

官方文档: Clustering Guide — RabbitMQ 。

1、集群分类

是一种 分布式集群 ,将队列分散到集群的各个节点,从而提高整个集群的并发能力。

是一种 主从集群 ,普通集群的基础上,添加了主从备份功能,提高集群的数据可用性。

注意:镜像集群虽然支持主从,但主从同步并不是强一致的,某些情况下可能有数据丢失的风险。

在RabbitMQ的3.8版本以后推出的,底层采用Raft协议确保主从的数据一致性。

2、普通集群

Ⅰ 会在集群的各个节点间共享部分数据,包括:交换机、队列元信息。不包含队列中的消息;

Ⅱ 当访问集群某节点时,如果队列不在该节点,会从数据所在节点传递到当前节点并返回;

Ⅲ 队列所在节点宕机,队列中的消息就会丢失。

Ⅰ 获取Cookie

RabbitMQ底层依赖于Erlang,而Erlang虚拟机就是一个面向分布式的语言,默认就支持集群模式。集群模式中的每个RabbitMQ 节点使用 cookie 来确定它们是否被允许相互通信。

要使两个节点能够通信,它们必须具有相同的共享秘密,称为 Erlang cookie 。cookie 只是一串最多 255 个字符的字母数字字符。

每个集群节点必须具有 相同的 cookie 。实例之间也需要它来相互通信。

首先获取Cookie,指令如下:

其中 YYNCLCJEKVNUFYQFPNZH 这一串就是生成的Cookie,如下:

Ⅱ 删除现有mq容器

Ⅲ 准备rabbitmq.conf配置文件

此处选择在tmp目录下创建,如下:

配置文件内容如下:

Ⅳ 准备Cookie记录文件

Ⅴ 准备集群目录

Ⅵ 拷贝配置文件、Cookie文件到目录

echo :用于字符串的输出,输出字符串到 | 后面;

-t :表示先打印命令,再执行;

-n 1 :表示执行命令时用的args个数为1个。

Ⅶ 创建集群网络

Ⅷ 运行容器

集群中的节点标示默认都是: rabbit@[hostname] 。

Ⅰ 往rabbit@mq1添加队列

在mq2、mq3中也可以查看到该队列,因为元信息共享。

Ⅱ 往simple.queue添加数据

在mq2、mq3中可以查看到消息,如下:

Ⅲ 让mq1宕机

mq2、mq3无法读取到数据,因为只共享元信息,没有同步备份数据,如下:

3、镜像集群

镜像集群官方文档: Classic Queue Mirroring — RabbitMQ 。

普通集群不具备高可用的特性,使用镜像集群可以解决这个问题。

Ⅰ 镜像队列结构是一主多从(从就是镜像);

Ⅱ 所有 *** 作都是主节点完成,然后同步给镜像节点;

Ⅲ 主宕机后,镜像节点会替代成新的主(如果在主从同步完成前,主就已经宕机,可能出现数据丢失);

Ⅳ 不具备负载均衡功能,因为所有 *** 作都会有主节点完成(但是不同队列,其主节点可以不同,可以利用这个提高吞吐量)。

Ⅰ 设置exactly模式

Ⅱ 创建队列

Ⅲ 发送消息

Ⅳ 让mq1宕机

注意:mq1恢复后,该队列的主节点仍然为mq3。

4、冲裁队列

Ⅰ 与镜像队列一样,都是主从模式,支持主从数据同步;

Ⅱ 使用非常简单,没有复杂的配置;

Ⅲ 主从同步基于Raft协议,强一致。

注意:仲裁队列是3.8版本以后才有的新功能。

+2表示有2个镜像节点,仲裁队列默认镜像数为5,集群节点不足5则都是镜像。

@Bean注解配置

修改配置文件

以上即为RabbitMQ-消息堆积&高可用的全部内容,感谢阅读。

这次我使用的是RabbitTemplate

为什么Template不需要定义configuration文件来接收yml文件的参数?

这是个常识问题,我这里做个记录。。。

我都能忘记昨天吃了东西的,好在我喜欢做笔记。。。

我们的demo都是基于RabbitTemplate来写。。。

通过枚举ExchangeEnum、QueueEnum、BindingEnum动态维护和创建

1.初始化交换机

2.初始化队列

3.交换机和队列绑定

1.定义队列

2.定义交换机

3.交换机和队列绑定

4.不定义超时队列的@RabbitListener,只定义超时接收队列的@RabbitListener

测试:

1.AsyncRabbitTemplate定义

2.测试

3.监听方法

1.消息回退:

void basicNack(long deliveryTag, boolean multiple, boolean requeue)

2.拒绝消息

void basicReject(long deliveryTag, boolean requeue) throws IOException

3.确认ack

void basicAck(long deliveryTag, boolean multiple) throws IOException

4.创建一个队列

5.启动一个消费者,并返回服务端生成的消费者标识

6.取消消费者订阅

7.主动拉取队列中的一条消息

1.队列参数

2.消息参数


欢迎分享,转载请注明来源:内存溢出

原文地址:https://54852.com/bake/11602723.html

(0)
打赏 微信扫一扫微信扫一扫 支付宝扫一扫支付宝扫一扫
上一篇 2023-05-17
下一篇2023-05-17

发表评论

登录后才能评论

评论列表(0条)

    保存