爆款云主机2核4G限时秒杀,88元/年起!
查看详情

活动

天翼云最新优惠活动,涵盖免费试用,产品折扣等,助您降本增效!
热门活动
  • 618智算钜惠季 爆款云主机2核4G限时秒杀,88元/年起!
  • 免费体验DeepSeek,上天翼云息壤 NEW 新老用户均可免费体验2500万Tokens,限时两周
  • 云上钜惠 HOT 爆款云主机全场特惠,更有万元锦鲤券等你来领!
  • 算力套餐 HOT 让算力触手可及
  • 天翼云脑AOne NEW 连接、保护、办公,All-in-One!
  • 中小企业应用上云专场 产品组合下单即享折上9折起,助力企业快速上云
  • 息壤高校钜惠活动 NEW 天翼云息壤杯高校AI大赛,数款产品享受线上订购超值特惠
  • 天翼云电脑专场 HOT 移动办公新选择,爆款4核8G畅享1年3.5折起,快来抢购!
  • 天翼云奖励推广计划 加入成为云推官,推荐新用户注册下单得现金奖励
免费活动
  • 免费试用中心 HOT 多款云产品免费试用,快来开启云上之旅
  • 天翼云用户体验官 NEW 您的洞察,重塑科技边界

智算服务

打造统一的产品能力,实现算网调度、训练推理、技术架构、资源管理一体化智算服务
智算云(DeepSeek专区)
科研助手
  • 算力商城
  • 应用商城
  • 开发机
  • 并行计算
算力互联调度平台
  • 应用市场
  • 算力市场
  • 算力调度推荐
一站式智算服务平台
  • 模型广场
  • 体验中心
  • 服务接入
智算一体机
  • 智算一体机
大模型
  • DeepSeek-R1-昇腾版(671B)
  • DeepSeek-R1-英伟达版(671B)
  • DeepSeek-V3-昇腾版(671B)
  • DeepSeek-R1-Distill-Llama-70B
  • DeepSeek-R1-Distill-Qwen-32B
  • Qwen2-72B-Instruct
  • StableDiffusion-V2.1
  • TeleChat-12B

应用商城

天翼云精选行业优秀合作伙伴及千余款商品,提供一站式云上应用服务
进入甄选商城进入云市场创新解决方案
办公协同
  • WPS云文档
  • 安全邮箱
  • EMM手机管家
  • 智能商业平台
财务管理
  • 工资条
  • 税务风控云
企业应用
  • 翼信息化运维服务
  • 翼视频云归档解决方案
工业能源
  • 智慧工厂_生产流程管理解决方案
  • 智慧工地
建站工具
  • SSL证书
  • 新域名服务
网络工具
  • 翼云加速
灾备迁移
  • 云管家2.0
  • 翼备份
资源管理
  • 全栈混合云敏捷版(软件)
  • 全栈混合云敏捷版(一体机)
行业应用
  • 翼电子教室
  • 翼智慧显示一体化解决方案

合作伙伴

天翼云携手合作伙伴,共创云上生态,合作共赢
天翼云生态合作中心
  • 天翼云生态合作中心
天翼云渠道合作伙伴
  • 天翼云代理渠道合作伙伴
天翼云服务合作伙伴
  • 天翼云集成商交付能力认证
天翼云应用合作伙伴
  • 天翼云云市场合作伙伴
  • 天翼云甄选商城合作伙伴
天翼云技术合作伙伴
  • 天翼云OpenAPI中心
  • 天翼云EasyCoding平台
天翼云培训认证
  • 天翼云学堂
  • 天翼云市场商学院
天翼云合作计划
  • 云汇计划
天翼云东升计划
  • 适配中心
  • 东升计划
  • 适配互认证

开发者

开发者相关功能入口汇聚
技术社区
  • 专栏文章
  • 互动问答
  • 技术视频
资源与工具
  • OpenAPI中心
开放能力
  • EasyCoding敏捷开发平台
培训与认证
  • 天翼云学堂
  • 天翼云认证
魔乐社区
  • 魔乐社区

支持与服务

为您提供全方位支持与服务,全流程技术保障,助您轻松上云,安全无忧
文档与工具
  • 文档中心
  • 新手上云
  • 自助服务
  • OpenAPI中心
定价
  • 价格计算器
  • 定价策略
基础服务
  • 售前咨询
  • 在线支持
  • 在线支持
  • 工单服务
  • 建议与反馈
  • 用户体验官
  • 服务保障
  • 客户公告
  • 会员中心
增值服务
  • 红心服务
  • 首保服务
  • 客户支持计划
  • 专家技术服务
  • 备案管家

了解天翼云

天翼云秉承央企使命,致力于成为数字经济主力军,投身科技强国伟大事业,为用户提供安全、普惠云服务
品牌介绍
  • 关于天翼云
  • 智算云
  • 天翼云4.0
  • 新闻资讯
  • 天翼云APP
基础设施
  • 全球基础设施
  • 信任中心
最佳实践
  • 精选案例
  • 超级探访
  • 云杂志
  • 分析师和白皮书
  • 天翼云·创新直播间
市场活动
  • 2025智能云生态大会
  • 2024智算云生态大会
  • 2023云生态大会
  • 2022云生态大会
  • 天翼云中国行
天翼云
  • 活动
  • 智算服务
  • 产品
  • 解决方案
  • 应用商城
  • 合作伙伴
  • 开发者
  • 支持与服务
  • 了解天翼云
      • 文档
      • 控制中心
      • 备案
      • 管理中心

      【Redis】Redis 集群缓存测试要点--关于 线上 token 失效 BUG 的总结 --研读

      首页 知识中心 软件开发 文章详情页

      【Redis】Redis 集群缓存测试要点--关于 线上 token 失效 BUG 的总结 --研读

      2025-02-11 09:36:37 阅读次数:16

      redis,Redis,分片,哈希,失效,服务器,缓存

      在测试xx系统过程中遇到了线上大面积用户登录态失效的严重问题,事后对于其原因及测试盲点做了一些总结记录以便以后查阅,总结分为以下7点,其中原理性的解释有些摘自网络。

      1.xx系统token失效问题复盘
      2.Redis 经典流程
      3.Redis分片部署方式
      4.Redis扩容导致缓存数据失效
      5.Redis Sharding一致性hash算法
      6.缓存失效,缓存击穿,缓存穿透
      7.Redis缓存测试总结

      xx系统token失效问题复盘
      现象:redis扩容后线上大量用户登录态失效,需要重新登录。由于登录态可以持续保持,部分用户忘记密码,需要修改密码后再次登录。在测试验证中,由于切换环境、登录登出导致这个问题难以发现和注意。

      原因:sharded-redis-pool分片规则中有域名因子(框架源码中),扩容修改了redis域名,导致redis中数据虽然存在,概率性获取不到。
      PS:失效问题复盘中有较多关于BUG修复前后代码差异的片段由于保密未贴出,一般来说测试复盘过程中对于代码的解析是很重要的一环。

      Redis经典流程

       

      【Redis】Redis 集群缓存测试要点--关于 线上 token 失效 BUG 的总结 --研读


      前端测试盲点:
      1.有些应用临时数据都存储在redis里,不存储在DB里
      2.上面流程中redis的数据不管有没有生效,程序都可以正常进行,且功能正常
      3.redis如果是集群的方式,缓存数据的读取和写入有没有进入正确的分片

      Redis分片部署方式
      (1)在客户端(jedis)做分片(Redis Sharding);这种方式在客户端确定要连接的redis实例,然后直接访问相应的redis实例。
      (2)在代理中做分片;这种方式中,客户端并不直接访问redis实例,它也不知道自己要访问的具体是哪个redis实例,而是由代理转发请求和结果;其工作过程为:客户端先将请求发送给代理,代理通过分片算法确定要访问的是哪个redis实例,然后将请求发送给相应的redis实例,redis实例将结果返回给代理,代理最后将结果返回给客户端。
      (3)在redis服务器端做分片(Redis Cluster);这种方式被称为“查询路由”,在这种方式中客户端随机选择一个redis实例发送请求,如果所请求的内容不再当前redis实例中它会负责将请求转交给正确的redis实例,也有的实现中,redis实例不会转发请求,而是将正确redis的信息发给客户端,由客户端再去向正确的redis实例发送请求。

      Redis扩容导致缓存数据失效
      假设有三台缓存服务器,缓存hotkey,希望hotkey被均匀的缓存到这三台服务器上,原始的做法是对缓存项的键进行哈希,将哈希后的结果对缓存服务器的数量进行取模操作。

       

      【Redis】Redis 集群缓存测试要点--关于 线上 token 失效 BUG 的总结 --研读


      假设三台缓存服务器已经不能满足业务缓存需求,需要增加机器,就会出现一些缺陷。假设增加一台服务器,缓存服务器的数量由三台变为四台,此时,如果仍用取模的方法对同一hotkey进行缓存,那么这个hotkey所在的服务器编号就肯定与原来三台服务器时所在的编号不同。这就导致了缓存在一定时间内是失效的,当应用无法从缓存中获取数据,则会向后端服务请求数据,由于大量缓存同一时间失效,造成缓存的雪崩,可能导致系统被压垮。

      Redis Sharding一致性hash算法
      一致性hash:一致性哈希算法也是使用取模的方法,只是一致性哈希算法是对232取模。
      我们有ABC三台服务器,使用各自的IP地址进行哈希计算,使用哈希后的结果对232取模,计算结果映射到一个由232个点组成的哈希圆环上,可以得到如下的示意图:

       

      【Redis】Redis 集群缓存测试要点--关于 线上 token 失效 BUG 的总结 --研读


      假设有4个hotkey,1234需要缓存,根据hash(hotkey)% 232得到的映射图如下,hotkey1、2存储到A中,hotkey3存储到B中,hotkey4存储到C中。

      【Redis】Redis 集群缓存测试要点--关于 线上 token 失效 BUG 的总结 --研读


      假设机器B出现故障,需要移除服务器B,那么移除后的示意图如下。

      【Redis】Redis 集群缓存测试要点--关于 线上 token 失效 BUG 的总结 --研读


      当服务器移除以后,按照之前的一致性哈希算法的规则,hotkey3应该被缓存到服务器C中,hotkey3的缓存位置发生了改变。但是hotkey1、2仍被缓存到服务器A中,hotkey4仍被缓存到服务器C中,这就是一致性哈希算法的优点,当服务器数量发生改变,并不是缓存都会失效,而是只有部分缓存会失效,前端的缓存仍能分担整个系统的压力,不至于所有压力在同一时间集中到后端服务器上。

      Hash环的偏斜及虚拟结点:

      在实际的映射中,服务器可能会被映射成如下图:

       

      【Redis】Redis 集群缓存测试要点--关于 线上 token 失效 BUG 的总结 --研读


      虚拟节点是实际节点在hash环上的复制品,一个实际节点可以对应多个虚拟节点。虚拟节点可以解决hash环的偏斜以及缓存雪崩的问题。

      【Redis】Redis 集群缓存测试要点--关于 线上 token 失效 BUG 的总结 --研读

      缓存失效、缓存击穿、缓存穿透
      缓存穿透
      缓存穿透是指查询一个一定不存在的数据,由于缓存是不命中时被动写的,并且出于容错考虑,如果从存储层查不到数据则不写入缓存,这将导致这个不存在的数据每次请求都要到存储层去查询,失去了缓存的意义。在流量大时,可能DB就挂掉了,要是有人利用不存在的key频繁攻击我们的应用,这就是漏洞。
      解决方案
      有很多种方法可以有效地解决缓存穿透问题,最常见的则是采用布隆过滤器,将所有可能存在的数据哈希到一个足够大的bitmap中,一个一定不存在的数据会被 这个bitmap拦截掉,从而避免了对底层存储系统的查询压力。另外也有一个更为简单粗暴的方法(我们采用的就是这种),如果一个查询返回的数据为空(不管是数 据不存在,还是系统故障),我们仍然把这个空结果进行缓存,但它的过期时间会很短,最长不超过五分钟。

      缓存雪崩
      缓存雪崩是指在我们设置缓存时采用了相同的过期时间或者其他情况,导致缓存在某一时刻同时失效,请求全部转发到DB,DB瞬时压力过重雪崩。
      解决方案
      缓存失效时的雪崩效应对底层系统的冲击非常可怕。大多数系统设计者考虑用加锁或者队列的方式保证缓存的单线 程(进程)写,从而避免失效时大量的并发请求落到底层存储系统上。这里分享一个简单方案就时讲缓存失效时间分散开,比如我们可以在原有的失效时间基础上增加一个随机值,比如1-5分钟随机,这样每一个缓存的过期时间的重复率就会降低,就很难引发集体失效的事件。

      缓存击穿
      对于一些设置了过期时间的key,如果这些key可能会在某些时间点被超高并发地访问,是一种非常“热点”的数据。这个时候,需要考虑一个问题:缓存被“击穿”的问题,这个和缓存雪崩的区别在于这里针对某一key缓存,前者则是很多key。
      缓存在某个时间点过期的时候,恰好在这个时间点对这个Key有大量的并发请求过来,这些请求发现缓存过期一般都会从后端DB加载数据并回设到缓存,这个时候大并发的请求可能会瞬间把后端DB压垮。
      解决方案
      使用互斥锁(mutex key)
      简单地来说,就是在缓存失效的时候(判断拿出来的值为空),不是立即去load db,而是先使用缓存工具的某些带成功操作返回值的操作(比如Redis的SETNX或者Memcache的ADD)去set一个mutex key,当操作返回成功时,再进行load db的操作并回设缓存;否则,就重试整个get缓存的方法。

      Redis集群缓存测试总结
      功能:
      1.系统运行过程中,redis缓存数据生效。缓存的数据读取正确、数据写入落地正确,数据有效期设置合理。
      2.redis集群分片策略验证正确。
      3.缓存与数据库的数据一致性检测。
      4.DB事务性导致回滚,缓存是否回滚,有没有产生脏数据。
      5.注意测试环境与线上环境的区别,尤其是单例与集群分片、读写分离。尽量保持测试环境与线上一致或者是其缩小版。

      自动化:
      1.自动化用例中断言部分设计缓存层断言并且自动化框架本身对于断层层次可配置。

      性能及稳定性:
      1.关注业务本身应用场景及缓存结构,是否使用缓存。
      2.预防缓存穿透、缓存雪崩、缓存击穿引发的系统风险。

      扩容:
      1.关注扩容方案设计、老数据备份策略、回滚方案
      2.关注扩容后分片策略的变化
      3.扩容后热点数据失效率或命中率以及对后端DB带来的压力

      版权声明:本文内容来自第三方投稿或授权转载,原文地址:https://blog.csdn.net/bandaoyu/article/details/103191731,作者:bandaoyu,版权归原作者所有。本网站转在其作品的目的在于传递更多信息,不拥有版权,亦不承担相应法律责任。如因作品内容、版权等问题需要同本网站联系,请发邮件至ctyunbbs@chinatelecom.cn沟通。

      上一篇:【jQuery】jQuery中$.get、$.post、$.getJSON和$.ajax用法的区别

      下一篇:【规范】C/C++注释格式

      相关文章

      2025-05-19 09:05:01

      项目更新到公网服务器的操作步骤

      项目更新到公网服务器的操作步骤

      2025-05-19 09:05:01
      公网 , 数据库 , 文件 , 更新 , 服务器
      2025-05-19 09:04:44

      FinalShell 配置SSH密钥登陆

      FinalShell 配置SSH密钥登陆

      2025-05-19 09:04:44
      密钥 , 服务器 , 配置
      2025-05-16 09:15:24

      Redis Hash哈希

      Redis Hash哈希

      2025-05-16 09:15:24
      field , hash , Redis , value , 哈希
      2025-05-14 10:33:25

      超级好用的C++实用库之sha256算法

      SHA-256,英文全称为Secure Hash Algorithm 256-bit,是一种广泛使用的密码散列函数,属于SHA-2家族。

      2025-05-14 10:33:25
      CHP , 参数 , 哈希 , 算法 , 输入
      2025-05-14 10:33:16

      30天拿下Python之使用网络

      Python网络编程覆盖的范围非常广,包括:套接字编程、socketserver、HTTP和Web开发、异步编程和asyncio等。

      2025-05-14 10:33:16
      Json , TCP , 客户端 , 接字 , 服务器 , 示例 , 连接
      2025-05-14 10:03:13

      【Mybatis】-防止SQL注入

      【Mybatis】-防止SQL注入

      2025-05-14 10:03:13
      SQL , 执行 , 日志 , 注入 , 缓存 , 编译 , 语句
      2025-05-14 10:03:05

      30天拿下Rust之HashMap

      HashMap,被称为哈希表或散列表,是一种可以存储键值对的数据结构。它使用哈希函数将键映射到存储位置,以便可以快速检索和更新元素。

      2025-05-14 10:03:05
      HashMap , 使用 , 哈希 , 引用 , 方法 , 遍历 , 键值
      2025-05-14 10:02:48

      互斥锁解决redis缓存击穿

      在高并发系统中,Redis 缓存是一种常见的性能优化方式。然而,缓存击穿问题也伴随着高并发访问而来。

      2025-05-14 10:02:48
      Redis , 互斥 , 数据库 , 线程 , 缓存 , 请求
      2025-05-14 10:02:48

      SQL Server 执行计划3--关联查询

      在 SQL Server 中,Nested Loops(嵌套循环)是一种常用的连接算法,适用于小数据集或索引支持的场景。Nested Loops 的执行逻辑比较简单且直接,但在处理大规模数据时可能效率较低。

      2025-05-14 10:02:48
      哈希 , 排序 , 记录 , 输入 , 连接
      2025-05-14 10:02:48

      SQL Server 执行计划2--函数计算

      排序操作资源消耗较高的操作,sort操作是占用内存的操作,当内存不足时会占用tempdb。

      2025-05-14 10:02:48
      分组 , 哈希 , 排序 , 聚合
      查看更多
      推荐标签

      作者介绍

      天翼云小翼
      天翼云用户

      文章

      33561

      阅读量

      5248100

      查看更多

      最新文章

      超级好用的C++实用库之sha256算法

      2025-05-14 10:33:25

      互斥锁解决redis缓存击穿

      2025-05-14 10:02:48

      在Java、Java Web中放置图片、视频、音频、图像文件的方法

      2025-05-13 09:53:23

      git学习(1)(简单概述、代码版本控制方式(集中/分布))

      2025-05-09 08:51:09

      springboot系列教程(二十三):springboot整合整合Redis哨兵,实现消息队列场景

      2025-05-07 09:08:54

      面试题 : Spring循环依赖问题及其解决方案

      2025-05-07 09:08:08

      查看更多

      热门文章

      (五)高并发redis学习笔记:RDB和AOF两种持久性机制的介绍以及优缺点对比

      2023-06-07 07:30:42

      (七)高并发redis学习笔记:redis的AOF持久化机制深入理解以及数据恢复实验

      2023-06-07 07:30:42

      window平台单进程多线程服务器通信

      2023-05-05 10:13:48

      Thrift第七课 服务器多线程发送异常

      2023-05-16 09:42:24

      Python编程:paramiko模块远程登录

      2023-02-21 08:02:44

      (八)高并发redis学习笔记:redis企业级数据备份方案是怎么样的?

      2023-06-07 07:30:42

      查看更多

      热门标签

      java Java python 编程开发 代码 开发语言 算法 线程 Python html 数组 C++ 元素 javascript c++
      查看更多

      相关产品

      弹性云主机

      随时自助获取、弹性伸缩的云服务器资源

      天翼云电脑(公众版)

      便捷、安全、高效的云电脑服务

      对象存储

      高品质、低成本的云上存储服务

      云硬盘

      为云上计算资源提供持久性块存储

      查看更多

      随机文章

      Linux【实操篇】—— Shell函数、Shell编程综合案例(定时备份数据库)

      Windows:Redis数据库图形化中文工具软件——RESP(3)

      用go语言,字符串哈希+二分的例题。

      Redis系列(6)- 通用使用场景

      redis-benchchmark性能测试

      (十六)高并发redis学习笔记:哨兵底层原理以及slave选举算法

      • 7*24小时售后
      • 无忧退款
      • 免费备案
      • 专家服务
      售前咨询热线
      400-810-9889转1
      关注天翼云
      • 旗舰店
      • 天翼云APP
      • 天翼云微信公众号
      服务与支持
      • 备案中心
      • 售前咨询
      • 智能客服
      • 自助服务
      • 工单管理
      • 客户公告
      • 涉诈举报
      账户管理
      • 管理中心
      • 订单管理
      • 余额管理
      • 发票管理
      • 充值汇款
      • 续费管理
      快速入口
      • 天翼云旗舰店
      • 文档中心
      • 最新活动
      • 免费试用
      • 信任中心
      • 天翼云学堂
      云网生态
      • 甄选商城
      • 渠道合作
      • 云市场合作
      了解天翼云
      • 关于天翼云
      • 天翼云APP
      • 服务案例
      • 新闻资讯
      • 联系我们
      热门产品
      • 云电脑
      • 弹性云主机
      • 云电脑政企版
      • 天翼云手机
      • 云数据库
      • 对象存储
      • 云硬盘
      • Web应用防火墙
      • 服务器安全卫士
      • CDN加速
      热门推荐
      • 云服务备份
      • 边缘安全加速平台
      • 全站加速
      • 安全加速
      • 云服务器
      • 云主机
      • 智能边缘云
      • 应用编排服务
      • 微服务引擎
      • 共享流量包
      更多推荐
      • web应用防火墙
      • 密钥管理
      • 等保咨询
      • 安全专区
      • 应用运维管理
      • 云日志服务
      • 文档数据库服务
      • 云搜索服务
      • 数据湖探索
      • 数据仓库服务
      友情链接
      • 中国电信集团
      • 189邮箱
      • 天翼企业云盘
      • 天翼云盘
      ©2025 天翼云科技有限公司版权所有 增值电信业务经营许可证A2.B1.B2-20090001
      公司地址:北京市东城区青龙胡同甲1号、3号2幢2层205-32室
      • 用户协议
      • 隐私政策
      • 个人信息保护
      • 法律声明
      备案 京公网安备11010802043424号 京ICP备 2021034386号