栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 前沿技术 > 大数据 > 大数据系统

消息中间件Rabbit(四)-work工作模式和保证消息不丢失的方法(消费者消息应答机制和生产者消息持久化)

消息中间件Rabbit(四)-work工作模式和保证消息不丢失的方法(消费者消息应答机制和生产者消息持久化)

一、work工作模式

二、轮询分发消息

2.1 代码实现

在这个案例中启动一个生产者,两个消费者。其中生产者的代码我们做下修改,从控制台输入消息。消费者直接copy一份代码。两个消费者线程启动。

public class Producer {

    private final static  String QUEUE_NAME="hello";
    public static void main(String[] args)  {
        //创建一个链接工厂
        ConnectionFactory factory = new ConnectionFactory();
        factory.setHost("127.0.0.1");
        factory.setUsername("guest");
        factory.setPassword("guest");

        try{
            //channel实现了自动close接口,不需要显示关闭
            Connection connection=factory.newConnection();
            Channel channel = connection.createChannel();
            channel.queueDeclare(QUEUE_NAME,false,false,false,null);

            Scanner scanner = new Scanner(System.in);
            while(scanner.hasNext())
            {
                String message = scanner.next();

                channel.basicPublish("",QUEUE_NAME,null,message.getBytes());
                System.out.println("发送消息完毕:"+message);
            }
        }catch (Exception e)
        {
            e.printStackTrace();
        }

    }
}

 2.2 结果展示

通过程序执行发现生产者发送消息,而消费者1和消费者2依次交替接收消息。

 

 三、消息应答 3.1 消息应答概念

消费者完成一个任务可能需要一段时间,如果其中一个消费者处理一个长的任务并仅只完成 了部分突然它挂掉了,会发生什么情况。RabbitMQ 一旦向消费者传递了一条消息,便立即将该消息标记为删除。在这种情况下,突然有个消费者挂掉了,我们将丢失正在处理的消息。以及后续发送给该消费者的消息,因为它无法接收到。为了保证消息在发送过程中不丢失,rabbitmq 引入消息应答机制,消息应答就是:消费者在接收到消息并且处理该消息之后,告诉 rabbitmq 它已经处理了,rabbitmq 可以把该消息删除了。

3.2 自动应答

消息发送后立即被认为已经传送成功,这种模式需要在高吞吐量和数据传输安全性方面做权衡,因为这种模式如果消息在接收到之前,消费者那边出现连接或者 channel 关闭,那么消息就丢失了,当然另一方面这种模式消费者那边可以传递过载的消息,没有对传递的消息数量进行限制,当然这样有可能使得消费者这边由于接收太多还来不及处理的消息,导致这些消息的积压,最终使得内存耗尽,最终这些消费者线程被操作系统杀死,所以这种模式仅适用在消费者可以高效并以某种速率能够处理这些消息的情况下使用。

3.3 手动消息应答

消息应答的方法

1.Channel.basicAck(用于肯定确认) RabbitMQ 已知道该消息并且成功的处理消息,可以将其丢弃了

2.Channel.basicNack(用于否定确认)

3.Channel.basicReject(用于否定确认) 与 Channel.basicNack 相比少一个参数不处理该消息了直接拒绝,可以将其丢弃了。

3.4 消息自动重新入队

如果消费者由于某些原因失去连接(其通道已关闭,连接已关闭或 TCP 连接丢失),导致消息未发送 ACK 确认,RabbitMQ 将了解到消息未完全处理,并将对其重新排队。如果此时其他消费者可以处理,它将很快将其重新分发给另一个消费者。这样,即使某个消费者偶尔死亡,也可以确保不会丢失任何消息。

3.5 消息手动应答代码实现

第一步:消费者设置成手动应答

boolean autoAck = false;
channel.basicConsume(QUEUE_NAME,autoAck,deliverCallback,cancelCallback);

第二步:在成功消费函数中添加手动应答的函数

//参数:1-消息标记,2-是否批量确认,一般为了消息不丢失,不允许批量确认
channel.basicAck(delivery.getEnvelope().getDeliveryTag(),false);

完整代码

public class Concumer02 {
    private final static  String QUEUE_NAME="hello";
    public static void main(String[] args)  {
        //创建一个链接工厂
        ConnectionFactory factory = new ConnectionFactory();
        factory.setHost("127.0.0.1");
        factory.setUsername("guest");
        factory.setPassword("guest");

        try{
            //channel实现了自动close接口,不需要显示关闭
            Connection connection=factory.newConnection();
            Channel channel = connection.createChannel();

            System.out.println("等待接收消息,处理时间30秒");

            //推送的消息如何进行消费的接口回调
            DeliverCallback deliverCallback = (consumerTag,delivery)->{
                try {
                    Thread.sleep(30000);
                    String message = new String(delivery.getBody());
                    System.out.println("消费的消息:"+message);
                    channel.basicAck(delivery.getEnvelope().getDeliveryTag(),false);
                }catch (Exception e)
                {
                    e.printStackTrace();
                }

            };

            CancelCallback cancelCallback = (consumerTag)->{
              System.out.println("消息消费被中断");
            };

            
            boolean autoAck = false;
            channel.basicConsume(QUEUE_NAME,autoAck,deliverCallback,cancelCallback);

        }catch (Exception e)
        {
            e.printStackTrace();
        }
    }
}

3.6 测试效果

生产者发送1,2,3,4,5,6

两个消费者C1,C2接收消息,为了演示效果C1的处理时间设置为1秒,C2的处理时间设置为30秒。当C2突然被关掉服务时,会发现本来应该C2处理的消息被C1成功处理掉,而没有像自动确认时那样丢失消息。

 

四、RabbitMQ 消息持久化 4.1 消息持久化概念 

刚刚我们已经看到了如何处理任务不丢失的情况,但是如何保障当 RabbitMQ 服务停掉以后消息生产者发送过来的消息不丢失。默认情况下 RabbitMQ 退出或由于某种原因崩溃时,它忽视队列和消息,除非告知它不要这样做。确保消息不会丢失需要做两件事:我们需要将队列和消息都标记为持久化。

4.2  队列如何实现持久化

之前我们创建的队列都是非持久化的,rabbitmq 如果重启的化,该队列就会被删除掉,如果要队列实现持久化需要在声明队列的时候把 durable 参数设置为持久化。

boolean durable = true;
channel.queueDeclare(QUEUE_NAME,durable,false,false,null);

但是需要注意的就是如果之前声明的队列不是持久化的,需要把原先队列先删除,或者重新创建一个持久化的队列,不然就会出现错误

Caused by: com.rabbitmq.client.ShutdownSignalException: channel error; protocol method: 
#method(reply-code=406, reply-text=PRECONDITION_FAILED - inequivalent arg 
'durable' for queue 'hello' in vhost '/': received 'true' but current is 'false', class-id=50, method-id=10)
4.3 怎样删除存在的队列

1.单击队列名

4.4 再次重启生产者,查看队列

Features标注D代表持久化成功,即使重启rabbitmq,队列依然存在

4.5 消息的持久化

要想让消息实现持久化需要在消息生产者修改代码,MessageProperties.PERSISTENT_TEXT_PLAIN 添加这个属性。

channel.basicPublish("",QUEUE_NAME, MessageProperties.PERSISTENT_TEXT_PLAIN,message.getBytes());

将消息标记为持久化并不能完全保证不会丢失消息。尽管它告诉 RabbitMQ 将消息保存到磁盘,但是这里依然存在当消息刚准备存储在磁盘的时候但是还没有存储完,消息还在缓存的一个间隔点。此时并没有真正写入磁盘。持久性保证并不强,但是对于我们的简单任务队列而言,这已经绰绰有余了。如果需要更强有力的持久化策略,参考“发布确认模式”章节。

五、消息的分发机制

1. 轮询分发

2.不公平分发

在最开始的时候我们学习到 RabbitMQ 分发消息采用的轮询分发,但是在某种场景下这种策略并不是很好,比方说有两个消费者在处理任务,其中有个消费者 1 处理任务的速度非常快,而另外一个消费者 2 处理速度却很慢,这个时候我们还是采用轮询分发的话就会导致处理速度快的这个消费者很大一部分时间处于空闲状态,而处理慢的那个消费者一直在干活,这种分配方式在这种情况下其实就不太好,但是 RabbitMQ 并不知道这种情况它依然很公平的进行分发。 为了避免这种情况,我们可以在消费者端消费消息前设置参数 channel.basicQos(1);

int prefetchCount =1;
//1-不公平分发 0-轮询分发  默认为0,一般需要设置为1
channel.basicQos(prefetchCount);

5.2 测试结果

  

意思就是如果这个任务我还没有处理完或者我还没有应答你,你先别分配给我,我目前只能处理一个任务,然后 rabbitmq 就会把该任务分配给没有那么忙的那个空闲消费者,当然如果所有的消费者都没有完成手上任务,队列还在不停的添加新任务,队列有可能就会遇到队列被撑满的情况,这个时候就只能添加新的 worker 或者改变其他存储任务的策略。

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/676971.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号