爆款云主机2核4G限时秒杀,88元/年起!
查看详情

活动

天翼云最新优惠活动,涵盖免费试用,产品折扣等,助您降本增效!
热门活动
  • 618智算钜惠季 爆款云主机2核4G限时秒杀,88元/年起!
  • 免费体验DeepSeek,上天翼云息壤 NEW 新老用户均可免费体验2500万Tokens,限时两周
  • 云上钜惠 HOT 爆款云主机全场特惠,更有万元锦鲤券等你来领!
  • 算力套餐 HOT 让算力触手可及
  • 天翼云脑AOne NEW 连接、保护、办公,All-in-One!
  • 中小企业应用上云专场 产品组合下单即享折上9折起,助力企业快速上云
  • 息壤高校钜惠活动 NEW 天翼云息壤杯高校AI大赛,数款产品享受线上订购超值特惠
  • 天翼云电脑专场 HOT 移动办公新选择,爆款4核8G畅享1年3.5折起,快来抢购!
  • 天翼云奖励推广计划 加入成为云推官,推荐新用户注册下单得现金奖励
免费活动
  • 免费试用中心 HOT 多款云产品免费试用,快来开启云上之旅
  • 天翼云用户体验官 NEW 您的洞察,重塑科技边界

智算服务

打造统一的产品能力,实现算网调度、训练推理、技术架构、资源管理一体化智算服务
智算云(DeepSeek专区)
科研助手
  • 算力商城
  • 应用商城
  • 开发机
  • 并行计算
算力互联调度平台
  • 应用市场
  • 算力市场
  • 算力调度推荐
一站式智算服务平台
  • 模型广场
  • 体验中心
  • 服务接入
智算一体机
  • 智算一体机
大模型
  • DeepSeek-R1-昇腾版(671B)
  • DeepSeek-R1-英伟达版(671B)
  • DeepSeek-V3-昇腾版(671B)
  • DeepSeek-R1-Distill-Llama-70B
  • DeepSeek-R1-Distill-Qwen-32B
  • Qwen2-72B-Instruct
  • StableDiffusion-V2.1
  • TeleChat-12B

应用商城

天翼云精选行业优秀合作伙伴及千余款商品,提供一站式云上应用服务
进入甄选商城进入云市场创新解决方案
办公协同
  • WPS云文档
  • 安全邮箱
  • EMM手机管家
  • 智能商业平台
财务管理
  • 工资条
  • 税务风控云
企业应用
  • 翼信息化运维服务
  • 翼视频云归档解决方案
工业能源
  • 智慧工厂_生产流程管理解决方案
  • 智慧工地
建站工具
  • SSL证书
  • 新域名服务
网络工具
  • 翼云加速
灾备迁移
  • 云管家2.0
  • 翼备份
资源管理
  • 全栈混合云敏捷版(软件)
  • 全栈混合云敏捷版(一体机)
行业应用
  • 翼电子教室
  • 翼智慧显示一体化解决方案

合作伙伴

天翼云携手合作伙伴,共创云上生态,合作共赢
天翼云生态合作中心
  • 天翼云生态合作中心
天翼云渠道合作伙伴
  • 天翼云代理渠道合作伙伴
天翼云服务合作伙伴
  • 天翼云集成商交付能力认证
天翼云应用合作伙伴
  • 天翼云云市场合作伙伴
  • 天翼云甄选商城合作伙伴
天翼云技术合作伙伴
  • 天翼云OpenAPI中心
  • 天翼云EasyCoding平台
天翼云培训认证
  • 天翼云学堂
  • 天翼云市场商学院
天翼云合作计划
  • 云汇计划
天翼云东升计划
  • 适配中心
  • 东升计划
  • 适配互认证

开发者

开发者相关功能入口汇聚
技术社区
  • 专栏文章
  • 互动问答
  • 技术视频
资源与工具
  • OpenAPI中心
开放能力
  • EasyCoding敏捷开发平台
培训与认证
  • 天翼云学堂
  • 天翼云认证
魔乐社区
  • 魔乐社区

支持与服务

为您提供全方位支持与服务,全流程技术保障,助您轻松上云,安全无忧
文档与工具
  • 文档中心
  • 新手上云
  • 自助服务
  • OpenAPI中心
定价
  • 价格计算器
  • 定价策略
基础服务
  • 售前咨询
  • 在线支持
  • 在线支持
  • 工单服务
  • 建议与反馈
  • 用户体验官
  • 服务保障
  • 客户公告
  • 会员中心
增值服务
  • 红心服务
  • 首保服务
  • 客户支持计划
  • 专家技术服务
  • 备案管家

了解天翼云

天翼云秉承央企使命,致力于成为数字经济主力军,投身科技强国伟大事业,为用户提供安全、普惠云服务
品牌介绍
  • 关于天翼云
  • 智算云
  • 天翼云4.0
  • 新闻资讯
  • 天翼云APP
基础设施
  • 全球基础设施
  • 信任中心
最佳实践
  • 精选案例
  • 超级探访
  • 云杂志
  • 分析师和白皮书
  • 天翼云·创新直播间
市场活动
  • 2025智能云生态大会
  • 2024智算云生态大会
  • 2023云生态大会
  • 2022云生态大会
  • 天翼云中国行
天翼云
  • 活动
  • 智算服务
  • 产品
  • 解决方案
  • 应用商城
  • 合作伙伴
  • 开发者
  • 支持与服务
  • 了解天翼云
      • 文档
      • 控制中心
      • 备案
      • 管理中心

      RabbitMQ - 消息堆积问题的最佳解决方案?惰性队列

      首页 知识中心 云计算 文章详情页

      RabbitMQ - 消息堆积问题的最佳解决方案?惰性队列

      2024-03-29 09:52:02 阅读次数:54

      rabbitmq,分布式

      一、惰性队列


      1.1、消息堆积问题

      当生产者发送消息的速度超过了消费者处理消息的速度,就会导致队列中的消息堆积,直到队列存储消息到达上限.

      这就像是有一个蓄水池,一边往里注水,一边向外排水,但是注水速度比排水快,因此这个水池最终就会填满.

      接着,最早收到的消息,就可能成为死信,默认情况下会把死信丢弃,丢弃了之后队列就有了空间,就可以新消息进入队列.

      1.2、消息堆积问题的解决方法

      从消费者的角度:

      1. 增加更多的消费者,调高消费速度.

      如果说现在只有单个消费者,处理速度是 100ms 一个消息,那么如果有三个消费者,理论上就处理速度就是 300ms 一个消息.

      2.在消费者内开启一个线程池,每当一个消息过来了,就交给一个线程去处理,那么当前这个消费者内部处理消息的速度就加快了.

      但是,这个方法有一个限制,就是如果消息特别多的情况下,你是不是就需要分配很多线程.  线程越多,对 cpu 来讲也是一种浪费,因为 cpu 需要在多个线程之间做上下文切换,所以这个方案比较适合消息处理业务比较耗时的情况,开多个线程,让 cpu 并行处理.

      从队列的角度:

      3. 扩大队列容积,提高堆积上限.

      就像一个蓄水池,我把这个水池搞的像黄河那么大,你再往里进水,啥时候才能填满呢~

      前两种方法我们已经是比较的熟悉的了,但是最后扩大队列容积,具体该如何实现呢?

      惰性队列就可以用来解决这个问题~

      1.3、引入惰性队列

      1.3.1、什么是惰性队列

      对于传统的队列来讲,如果没有开启消息持久化,所有接收到的消息都是放在内存里面的,目的就是为了加快消息投递的速度,这也是 RabbitMQ 的一个很优势——响应速度快.

      但是他也带来了一个问题,RabbitMQ 设置了一个内存预警值(内存存储的上限,默认是 40%),如果在消息堆积的情况下,很容易就到达这个预警值,此时,RabbitMQ 就会处于一个暂停状态,会阻止生产者投递消息进来,然后把内存中的一部分消息清理出来,刷出到磁盘中,这动作也叫 “page out” .  进而导致 mq 的并发能力,忽高忽低,性能不稳定(每次page out 都会比较耗时,停顿一段时间).

      而惰性队列,就是是专门用来处理消息堆积问题的~

      他有以下三个特点:

      1. 收到的消息会直接写入磁盘,而非内存,也因此很难触发 mq 的内存预警,几乎不会出现 page out 的情况.

      2. 消费者消费惰性队列的消息,也需要先从磁盘中读取并加载到内存中.  实际上这也会使延迟稍微高一点,毕竟磁盘的性能和内存还是有很大差距的,但是也在可以接收到范围内.

      3. 支持数百万的消息存储,这也是因为他是磁盘存储(空间非常大).

      1.3.2、惰性队列的使用

      设置一个队列为 惰性队列,有以下三种方式:

      1. 在 RabbitMQ Managerment 中,我们只需要在声明队列的时候,指定 x-queue-mode 属性为 lazy 即可.

      RabbitMQ - 消息堆积问题的最佳解决方案?惰性队列

       

      2. 用 SpringAMQP 声明惰性队列,@Bean 方式如下:

      @Configuration
      public class LazyConfig {
      
          @Bean
          public Queue lazyQueue() {
              return QueueBuilder
                      .durable("lazy.queue")
                      .lazy() //开启 x-queue-mode 属性为 lazy
                      .build();
          }
      
      }
      

       

      3. 用 SpringAMQP 声明惰性队列,注解方式如下:

          @RabbitListener(queuesToDeclare = @Queue(
              name = "lazy.queue",
                  durable = "true",
                  arguments = @Argument(name = "x-queue-mode", value = "lazy")
          ))
          public void listenLazyQueue(String msg) {
              ("消费者接收到了惰性队列的消息! msg=" + msg);
          }
      

      1.3.3、效果演示

      a)使用 @Bean 声明一个普通队列和一个惰性队列,来对比效果.

      @Configuration
      public class LazyConfig {
      
          @Bean
          public Queue lazyQueue() {
              return QueueBuilder
                      .durable("lazy.queue")
                      .lazy() //开启 x-queue-mode 属性为 lazy
                      .build();
          }
      
          @Bean
          public Queue normalQueue() {
              return QueueBuilder
                      .durable("normal.queue")
                      .build();
          }
      
      }
      

      b)使用两个生产者,分别向两个队列中发送 100000 消息.

          @Test
          public void testLazyMessage() {
              for(int i = 0; i < 1000000; i++) {
                  //1.准备消息
                  Message message = MessageBuilder.withBody("hello lazy message".getBytes())
                          .setDeliveryMode(MessageDeliveryMode.NON_PERSISTENT)
                          .build();
                  //2.发送消息
                  rabbitTemplate.convertAndSend("lazy.queue", message);
              }
          }
      
          @Test
          public void testNormalMessage() {
              for(int i = 0; i < 1000000; i++) {
                  //1.准备消息
                  Message message = MessageBuilder.withBody("hello normal message".getBytes())
                          .setDeliveryMode(MessageDeliveryMode.NON_PERSISTENT)
                          .build();
                  //2.发送消息
                  rabbitTemplate.convertAndSend("normal.queue", message);
              }
          }
      

      普通队列情况如下:

      普通队列每次往 memory 中写入一定量的数据后,暂停一段时间,向磁盘写数据(page out).

      RabbitMQ - 消息堆积问题的最佳解决方案?惰性队列

      lazy 队列情况如下:

      lazy 一直都往磁盘上写数据,所以 total 等于 paged out.

      RabbitMQ - 消息堆积问题的最佳解决方案?惰性队列

      版权声明:本文内容来自第三方投稿或授权转载,原文地址:https://blog.csdn.net/CYK_byte/article/details/133122061,作者:陈亦康,版权归原作者所有。本网站转在其作品的目的在于传递更多信息,不拥有版权,亦不承担相应法律责任。如因作品内容、版权等问题需要同本网站联系,请发邮件至ctyunbbs@chinatelecom.cn沟通。

      上一篇:利用“栈”快速计算——逆波兰表达式

      下一篇:Spring Cloud - 手写 Gateway 源码,实现自定义局部 FilterFactory

      相关文章

      2025-05-06 09:18:49

      【Linux 从基础到进阶】Ceph分布式存储系统搭建

      随着数据量的爆炸式增长,传统的存储解决方案逐渐暴露出扩展性差、成本高、管理复杂等问题。Ceph是一种高性能、可扩展的开源分布式存储系统,能够为对象存储、块存储和文件系统提供统一的存储平台。

      2025-05-06 09:18:49
      分布式 , 存储 , 高可用性
      2025-04-18 07:10:53

      LDAP基础理论

      分布式目录服务是一种用于存储和管理大量数据的系统,其中数据以层次结构的方式组织,并在多个服务器之间进行分布。它提供了一种集中式访问和管理数据的方法,使得用户可以通过网络连接到任何一个服务器来查询、添加、修改或删除存储在该目录中的信息。

      2025-04-18 07:10:53
      LDAP , 分布式 , 属性 , 服务器 , 用户 , 目录
      2025-04-15 09:24:56

      探秘Redis分布式锁:实战与注意事项

      Redis的Watch命令可以实现乐观锁,这是一种保护数据完整性的机制。在分布式环境中,当多个客户端并发地操作相同的键时,乐观锁有助于防止数据竞争和冲突。

      2025-04-15 09:24:56
      Redis , Redisson , 分布式 , 实例 , 客户端 , 获取
      2025-04-15 09:19:55

      分布式事务大揭秘:使用MQ实现最终一致性

      在单体应用中,事务的管理相对简单,可以通过数据库的事务机制来保证数据的一致性和完整性。然而,在分布式系统中,由于涉及到多个不同的服务和数据源,保证事务的一致性就变得复杂了。

      2025-04-15 09:19:55
      RocketMQ , 一致性 , 事务 , 分布式 , 发送 , 消息 , 系统
      2025-04-11 07:11:40

      java中常用的缓存框架

      java中常用的缓存框架

      2025-04-11 07:11:40
      API , Cache , Java , 分布式 , 缓存
      2025-03-28 07:42:50

      分布式存储技术

      分布式存储技术是一种数据存储技术,它通过网络将企业中每台机器上的磁盘空间利用起来,并将这些分散的存储资源构成一个虚拟的存储设备,实现数据的分散存储。

      2025-03-28 07:42:50
      分布式 , 存储 , 数据 , 节点 , 虚拟化
      2025-03-12 09:33:43

      【分布式理论13】分布式存储:数据存储难题与解决之道

      【分布式理论13】分布式存储:数据存储难题与解决之道

      2025-03-12 09:33:43
      RAID , 分布式 , 存储 , 数据 , 磁盘
      2025-03-12 09:32:22

      docker安装rabbitmq详解

      docker安装rabbitmq详解

      2025-03-12 09:32:22
      rabbitmq , 客户端 , 镜像
      2025-03-11 09:36:54

      【分布式理论12】事务协调者高可用:分布式选举算法

      【分布式理论12】事务协调者高可用:分布式选举算法

      2025-03-11 09:36:54
      分布式 , 算法 , 节点
      2025-03-06 09:15:52

      Spring Boot + Shiro 实现 Session 持久化实现思路及遗留问题

      Spring Boot + Shiro 实现 Session 持久化实现思路及遗留问题

      2025-03-06 09:15:52
      Session , 分布式 , 服务器 , 用户 , 登陆
      查看更多
      推荐标签

      作者介绍

      天翼云小翼
      天翼云用户

      文章

      33561

      阅读量

      5244545

      查看更多

      最新文章

      【Linux 从基础到进阶】Ceph分布式存储系统搭建

      2025-05-06 09:18:49

      LDAP基础理论

      2025-04-18 07:10:53

      分布式事务大揭秘:使用MQ实现最终一致性

      2025-04-15 09:19:55

      分布式存储技术

      2025-03-28 07:42:50

      【分布式理论13】分布式存储:数据存储难题与解决之道

      2025-03-12 09:33:43

      【分布式理论12】事务协调者高可用:分布式选举算法

      2025-03-11 09:36:54

      查看更多

      热门文章

      Android移动设备远程接入ZooKeeper分布式集群

      2023-04-18 14:14:56

      分布式版本控制系统——git

      2023-06-13 08:29:57

      python学习——分布式进程

      2023-05-08 10:00:50

      Elasticsearch分布式架构原理(二)

      2023-06-01 06:30:49

      分布式系统常见的事务处理机制

      2023-05-23 01:22:38

      分布式-技术专区-Redis分布式锁原理实现

      2023-05-29 10:45:37

      查看更多

      热门标签

      系统 测试 用户 分布式 Java java 计算机 docker 代码 数据 服务器 数据库 源码 管理 python
      查看更多

      相关产品

      弹性云主机

      随时自助获取、弹性伸缩的云服务器资源

      天翼云电脑(公众版)

      便捷、安全、高效的云电脑服务

      对象存储

      高品质、低成本的云上存储服务

      云硬盘

      为云上计算资源提供持久性块存储

      查看更多

      随机文章

      第三章 注册中心-Zookeeper

      Paxos 算法详解(一)

      设计与优化淘客返利系统中的分布式缓存架构

      RabbitMQ【简单模式(概念、项目搭建、编写生产者、编写消费者)、工作队列模式(概念、编写生产者、编写消费者)发布订阅模式(概念、编写生产者)】(三)-全面详解(学习总结---从入门到深化)

      【大数据篇】Spark转换算子(Transformations)和行动算子(Actions)详解

      Java中的分布式事务管理:XA与TCC

      • 7*24小时售后
      • 无忧退款
      • 免费备案
      • 专家服务
      售前咨询热线
      400-810-9889转1
      关注天翼云
      • 旗舰店
      • 天翼云APP
      • 天翼云微信公众号
      服务与支持
      • 备案中心
      • 售前咨询
      • 智能客服
      • 自助服务
      • 工单管理
      • 客户公告
      • 涉诈举报
      账户管理
      • 管理中心
      • 订单管理
      • 余额管理
      • 发票管理
      • 充值汇款
      • 续费管理
      快速入口
      • 天翼云旗舰店
      • 文档中心
      • 最新活动
      • 免费试用
      • 信任中心
      • 天翼云学堂
      云网生态
      • 甄选商城
      • 渠道合作
      • 云市场合作
      了解天翼云
      • 关于天翼云
      • 天翼云APP
      • 服务案例
      • 新闻资讯
      • 联系我们
      热门产品
      • 云电脑
      • 弹性云主机
      • 云电脑政企版
      • 天翼云手机
      • 云数据库
      • 对象存储
      • 云硬盘
      • Web应用防火墙
      • 服务器安全卫士
      • CDN加速
      热门推荐
      • 云服务备份
      • 边缘安全加速平台
      • 全站加速
      • 安全加速
      • 云服务器
      • 云主机
      • 智能边缘云
      • 应用编排服务
      • 微服务引擎
      • 共享流量包
      更多推荐
      • web应用防火墙
      • 密钥管理
      • 等保咨询
      • 安全专区
      • 应用运维管理
      • 云日志服务
      • 文档数据库服务
      • 云搜索服务
      • 数据湖探索
      • 数据仓库服务
      友情链接
      • 中国电信集团
      • 189邮箱
      • 天翼企业云盘
      • 天翼云盘
      ©2025 天翼云科技有限公司版权所有 增值电信业务经营许可证A2.B1.B2-20090001
      公司地址:北京市东城区青龙胡同甲1号、3号2幢2层205-32室
      • 用户协议
      • 隐私政策
      • 个人信息保护
      • 法律声明
      备案 京公网安备11010802043424号 京ICP备 2021034386号