优先队列和惰性队列

1.1. 幂等性

1.1.1. 概念

用户对于同一操作发起的一次请求或者多次请求的结果是一致的，不会因为多次点击而产生了副作用。举个最简单例子，那就是支付，用户购买商品后支付，支付扣款成功，但是返回结果的时候网络异常，此时钱已经扣了，用户再点击按钮，此时会进行第二次扣款，返回结果成功，用户查询余额发现多扣钱了，流水记录也变成了两条。在以前的应用系统中，我们只需要把数据操作放入事务中即可，发生错误立即回滚，但是再响应客户端的时候也有可能出现网中断或者异常等等

1.1.2.消息重复消费

消费者在消费 MQ 中的消息时，MQ 已把消息发送给消费者，消费者在给 MQ 返回 ack 时网络中断，故 MQ 未收到确认信息，该条消息会重新发给其他的消费者，或者在网络重连后再次发送给该消费者，但实际上该消费者已成功消费了该条消息，造成消费者消费了重复的消息。

1.1.3. 解决思路

MQ 消费者的幂等性的解决一般使用全局 ID 或者写个唯一标识比如时间戳 或者 UUID 或者订单消费者消费 MQ 中的消息也可利用 MQ 的该 id 来判断，或者可按自己的规则生成一个全局唯一 id，每次消费消息时用该 id 先判断该消息是否已消费过。

1.1.4. 消费端的幂等性保障

在海量订单生成的业务高峰期，生产端有可能就会重复发生了消息，这时候消费端就要实现幂等性，这就意味着我们的消息永远不会被消费多次，即使我们收到了一样的消息。业界主流的幂等性有两种操作:a.唯一 ID+指纹码机制,利用数据库主键去重, b.利用 redis 的原子性去实现

1.1.5. 唯一 ID+指纹码机制

指纹码:我们的一些规则或者时间戳加别的服务给到的唯一信息码,它并不一定是我们系统生成的，基本都是由我们的业务规则拼接而来，但是一定要保证唯一性，然后就利用查询语句进行判断这个 id 是否存在数据库中,优势就是实现简单就一个拼接，然后查询判断是否重复；劣势就是在高并发时，如果是单个数据库就会有写入性能瓶颈当然也可以采用分库分表提升性能，但也不是我们最推荐的方式。

1.1.6. Redis 原子性

利用 redis 执行 setnx 命令，天然具有幂等性。从而实现不重复消费

setnx 锁缺乏可重入性，缺乏尝试机制，集群模式下缺乏主从一致性，一般使用reddison的分布式锁

1.2. 优先级队列

1.2.1.使用场景

在我们系统中有一个 订单催付 的场景，我们的客户在天猫下的订单,淘宝会及时将订单推送给我们，如果在用户设定的时间内未付款那么就会给用户推送一条短信提醒，很简单的一个功能对吧，但是，tmall商家对我们来说，肯定是要分大客户和小客户的对吧，比如像苹果，小米这样大商家一年起码能给我们创造很大的利润，所以理应当然，他们的订单必须得到优先处理，而曾经我们的后端系统是使用 redis 来存放的定时轮询，大家都知道 redis 只能用 List 做一个简简单单的消息队列，并不能实现一个优先级的场景，所以订单量大了后采用 RabbitMQ 进行改造和优化,如果发现是大客户的订单给一个相对比较高的优先级，否则就是默认优先级。

1.2.2. 如何添加

b.队列中代码添加优先级

Map<String, Object> params = new HashMap();
params.put("x-max-priority", 10);
channel.queueDeclare("hello", true, false, false, params);

c.消息中代码添加优先级

AMQP.BasicProperties properties = new AMQP.BasicProperties().builder().priority(5).build();

d.注意事项

要让队列实现优先级需要做的事情有如下事情:队列需要设置为优先级队列，消息需要设置消息的优先级，消费者需要等待消息已经发送到队列中才去消费因为这样才有机会对消息进行排序

1.2.3. 实战

我这里直接写了springboot版本，使用普通路由【direct类型】，然后存在一个优先队列，同时我们为了能看到我们优先队列的效果，先注释掉消费者，然后先把消息存到队列里面，然后再解除注释并重启项目，完成消费的可视化。

1. 配置类

@Slf4j
@Configuration
public class PriorityConfig {

    // 优先队列
    public static final String PRIORITY_QUEUE = "priority.queue";

    // 正常交换机
    public static final String NORMAL_EXCHANGE = "normal.exchange";

    // routingKey
    public static final String ROUTING_KEY = "key";

    // 声明正常交换机
    @Bean
    public DirectExchange normalExchange(){
        return ExchangeBuilder.directExchange(NORMAL_EXCHANGE).durable(true).build();
    }

    // 声明优先队列
    @Bean
    public Queue priorityQueue(){
        return QueueBuilder.durable(PRIORITY_QUEUE).maxPriority(10).build();
    }

    // 绑定关系
    @Bean
    public Binding priorityQueueBindingNormalExchange(
            @Qualifier("normalExchange") DirectExchange normalExchange,
            @Qualifier("priorityQueue") Queue priorityQueue){
        return BindingBuilder.bind(priorityQueue).to(normalExchange).with(ROUTING_KEY);
    }
}

2. 生产者

@RestController
@Slf4j
@RequestMapping("/priority")
public class PriorityController {

    @Autowired
    private RabbitTemplate rabbitTemplate;

    @GetMapping("/sendPriorityMsg/{message}/{priority}")
    public void sendPriorityMsg(@PathVariable("message") String message,
                                @PathVariable("priority") Integer priority){

        log.info("【浏览器端】生产者给优先队列放入消息: {}, 它的优先级为: {}", message, priority);

        rabbitTemplate.convertAndSend(
                PriorityConfig.NORMAL_EXCHANGE,
                PriorityConfig.ROUTING_KEY,
                message,
                msg -> {
                    msg.getMessageProperties().setPriority(priority);
                    return msg;
                });
    }
}

3. 消费者

@Slf4j
@Component
public class PriorityConsumer {

    @RabbitListener(queues = PriorityConfig.PRIORITY_QUEUE)
    public void receivePriorityMsg(Message message) throws Exception {
        Integer priority = message.getMessageProperties().getPriority();
        String msg = new String(message.getBody(), "UTF-8");
        log.info("【消费者端】消息优先级: {} 消息为: {}", priority, msg);
    }
}

4. 测试和结果

我们为了能看到我们优先队列的效果，先注释掉消费者，然后先把消息存到队列里面，然后再解除注释并重启项目，完成消费的可视化。

localhost:8080/priority/sendPriorityMsg/消息1/4

localhost:8080/priority/sendPriorityMsg/消息2/2

localhost:8080/priority/sendPriorityMsg/消息3/3

localhost:8080/priority/sendPriorityMsg/消息4/9

显然，这里如果实现了优先队列的消费，我们应该是效果是消费先后顺序为 ：

消息4 -> 消息1 -> 消息3 -> 消息2

这里我们的回调显示是因为之前做 发布确认 的时候添加的不用管。

重启后果然，和我们设想的消费顺序一致

1.3. 惰性队列

1.3.1. 使用场景

RabbitMQ 从 3.6.0 版本开始引入了惰性队列的概念。惰性队列会尽可能的将消息存入磁盘中，而在消费者消费到相应的消息时才会被加载到内存中，它的一个重要的设计目标是能够支持更长的队列，即支持更多的消息存储。当消费者由于各种各样的原因(比如消费者下线、宕机亦或者是由于维护而关闭等)而致使长时间内不能消费消息造成堆积时，惰性队列就很有必要了。

默认情况下，当生产者将消息发送到 RabbitMQ 的时候，队列中的消息会尽可能的存储在内存之中，这样可以更加快速的将消息发送给消费者。即使是持久化的消息，在被写入磁盘的同时也会在内存中驻留一份备份。当 RabbitMQ 需要释放内存的时候，会将内存中的消息换页至磁盘中，这个操作会耗费较长的时间，也会阻塞队列的操作，进而无法接收新的消息。虽然 RabbitMQ 的开发者们一直在升级相关的算法，但是效果始终不太理想，尤其是在消息量特别大的时候。

1.3.2. 两种模式

队列具备两种模式：default 和 lazy。默认的为 default 模式，在 3.6.0 之前的版本无需做任何变更。lazy 模式即为惰性队列的模式，可以通过调用 channel.queueDeclare方法的时候在参数中设置，也可以通过Policy 的方式设置，如果一个队列同时使用这两种方式设置的话，那么 Policy 的方式具备更高的优先级。如果要通过声明的方式改变已有队列的模式的话，那么只能先删除队列，然后再重新声明一个新的。在队列声明的时候可以通过“x-queue-mode”参数设置队列的模式，取值为 “default” 和 “lazy” 。下面示例中演示了一个惰性队列的声明细节：

Map<String, Object> args = new HashMap<String, Object>();

args.put("x-queue-mode", "lazy");

channel.queueDeclare("myqueue", false, false, false, args);

1.3.3. 内存开销对比

在发送 1 百万条消息，每条消息大概占 1KB 的情况下，普通队列占用内存是 1.2GB，而惰性队列仅仅占用 1.5MB