爆款云主机2核4G限时秒杀,88元/年起!
查看详情

活动

天翼云最新优惠活动,涵盖免费试用,产品折扣等,助您降本增效!
热门活动
  • 618智算钜惠季 爆款云主机2核4G限时秒杀,88元/年起!
  • 免费体验DeepSeek,上天翼云息壤 NEW 新老用户均可免费体验2500万Tokens,限时两周
  • 云上钜惠 HOT 爆款云主机全场特惠,更有万元锦鲤券等你来领!
  • 算力套餐 HOT 让算力触手可及
  • 天翼云脑AOne NEW 连接、保护、办公,All-in-One!
  • 中小企业应用上云专场 产品组合下单即享折上9折起,助力企业快速上云
  • 息壤高校钜惠活动 NEW 天翼云息壤杯高校AI大赛,数款产品享受线上订购超值特惠
  • 天翼云电脑专场 HOT 移动办公新选择,爆款4核8G畅享1年3.5折起,快来抢购!
  • 天翼云奖励推广计划 加入成为云推官,推荐新用户注册下单得现金奖励
免费活动
  • 免费试用中心 HOT 多款云产品免费试用,快来开启云上之旅
  • 天翼云用户体验官 NEW 您的洞察,重塑科技边界

智算服务

打造统一的产品能力,实现算网调度、训练推理、技术架构、资源管理一体化智算服务
智算云(DeepSeek专区)
科研助手
  • 算力商城
  • 应用商城
  • 开发机
  • 并行计算
算力互联调度平台
  • 应用市场
  • 算力市场
  • 算力调度推荐
一站式智算服务平台
  • 模型广场
  • 体验中心
  • 服务接入
智算一体机
  • 智算一体机
大模型
  • DeepSeek-R1-昇腾版(671B)
  • DeepSeek-R1-英伟达版(671B)
  • DeepSeek-V3-昇腾版(671B)
  • DeepSeek-R1-Distill-Llama-70B
  • DeepSeek-R1-Distill-Qwen-32B
  • Qwen2-72B-Instruct
  • StableDiffusion-V2.1
  • TeleChat-12B

应用商城

天翼云精选行业优秀合作伙伴及千余款商品,提供一站式云上应用服务
进入甄选商城进入云市场创新解决方案
办公协同
  • WPS云文档
  • 安全邮箱
  • EMM手机管家
  • 智能商业平台
财务管理
  • 工资条
  • 税务风控云
企业应用
  • 翼信息化运维服务
  • 翼视频云归档解决方案
工业能源
  • 智慧工厂_生产流程管理解决方案
  • 智慧工地
建站工具
  • SSL证书
  • 新域名服务
网络工具
  • 翼云加速
灾备迁移
  • 云管家2.0
  • 翼备份
资源管理
  • 全栈混合云敏捷版(软件)
  • 全栈混合云敏捷版(一体机)
行业应用
  • 翼电子教室
  • 翼智慧显示一体化解决方案

合作伙伴

天翼云携手合作伙伴,共创云上生态,合作共赢
天翼云生态合作中心
  • 天翼云生态合作中心
天翼云渠道合作伙伴
  • 天翼云代理渠道合作伙伴
天翼云服务合作伙伴
  • 天翼云集成商交付能力认证
天翼云应用合作伙伴
  • 天翼云云市场合作伙伴
  • 天翼云甄选商城合作伙伴
天翼云技术合作伙伴
  • 天翼云OpenAPI中心
  • 天翼云EasyCoding平台
天翼云培训认证
  • 天翼云学堂
  • 天翼云市场商学院
天翼云合作计划
  • 云汇计划
天翼云东升计划
  • 适配中心
  • 东升计划
  • 适配互认证

开发者

开发者相关功能入口汇聚
技术社区
  • 专栏文章
  • 互动问答
  • 技术视频
资源与工具
  • OpenAPI中心
开放能力
  • EasyCoding敏捷开发平台
培训与认证
  • 天翼云学堂
  • 天翼云认证
魔乐社区
  • 魔乐社区

支持与服务

为您提供全方位支持与服务,全流程技术保障,助您轻松上云,安全无忧
文档与工具
  • 文档中心
  • 新手上云
  • 自助服务
  • OpenAPI中心
定价
  • 价格计算器
  • 定价策略
基础服务
  • 售前咨询
  • 在线支持
  • 在线支持
  • 工单服务
  • 建议与反馈
  • 用户体验官
  • 服务保障
  • 客户公告
  • 会员中心
增值服务
  • 红心服务
  • 首保服务
  • 客户支持计划
  • 专家技术服务
  • 备案管家

了解天翼云

天翼云秉承央企使命,致力于成为数字经济主力军,投身科技强国伟大事业,为用户提供安全、普惠云服务
品牌介绍
  • 关于天翼云
  • 智算云
  • 天翼云4.0
  • 新闻资讯
  • 天翼云APP
基础设施
  • 全球基础设施
  • 信任中心
最佳实践
  • 精选案例
  • 超级探访
  • 云杂志
  • 分析师和白皮书
  • 天翼云·创新直播间
市场活动
  • 2025智能云生态大会
  • 2024智算云生态大会
  • 2023云生态大会
  • 2022云生态大会
  • 天翼云中国行
天翼云
  • 活动
  • 智算服务
  • 产品
  • 解决方案
  • 应用商城
  • 合作伙伴
  • 开发者
  • 支持与服务
  • 了解天翼云
      • 文档
      • 控制中心
      • 备案
      • 管理中心

      Redis系列- 性能优化

      首页 知识中心 数据库 文章详情页

      Redis系列- 性能优化

      2023-05-04 09:50:04 阅读次数:152

      redis

      redis相对来讲还是比较简单的,可以简单的认为是简化版本的mysql,一般会有以下几种使用场景:1、持久化,一般用于缓存少量数据;2、二级缓存,同时带ttl时间;3、复杂的检索,通过组合多种数据结构来实现的,一般只是应用在类如消息已读这样的功能中,同时一般会有业务时效的限制,数据不是那么敏感;

      这里只强调下上述第一种场景,笔者观点认为用redis做持久化是一种比较糟糕的设计,首先redis主要使用的是内存,如果数据量比较大的话,相比兼价的磁盘来说成本还是比较高的,其次如果数据量不是太多且数据会变化不如采用nacos或zk这样的配置中间件,再次如果数据不会变化比如系统启动参数这些还不如做成本地内存缓存,这样性能会更好。

      数据同步

      redis的数据主要围绕rdb和aof,如果是单机环境相对比较简单:在服务重启时先加载RDB再加载AOF文件把相关数据同步到内存中,下面会详细介绍下这两个文件在单机环境和master-slave环境中同步的原理。大致的流程如下图所示:

      Redis系列(5)- 性能优化

      单节点数据同步

      • .rdb:快照文件,存放的是数据文件。正常业务系统一般来讲间隔是每60秒创建1个快照,具体要看.conf中的配置和是否调用flushall命令;
      • .aof:增量文件,存放的是执行指令。正常来讲每秒会执行久一次,所以理论上在机器出现问题时会丢失1秒钟的数据,这个基本是无解,所以如果读者在面试时被问到这个问题,可以直接告诉面试官如果只有redis做为唯一的存储无特殊设计时这个问题无解,或是采用另外一套补偿、异步等机制重新缓存。

       当节点故障重启时redis会先读rdb再执行aof中记录的指令,如果需要同步从节点时,会先同步rdb再同步aof。这两个是互补关系,rdb保证大量数据不会丢失,aof会保证最多丢失1秒的数据,这也是不建议修改appendfsync参数的原因。以上理论理论可以详细参考笔者之前的文章​​Redis系列(2)- 服务配置  ​​中的详细说明。 ​

      RDB方式

      Redis使用fork复制一份当前进程,父进程继续接收客户端指令,子进程则把所有数据写入临时文件,写完后替换旧的RDB文件,一次快照操作就完成了。RDB文件是完整的,所以有时我们可以备份此文件来备份数据库。

      AOF方式

      默认情况下AOF是关闭的,可以通过appendonly yes来开启,每执行一条更改数据的指令,就会把这条指令写到AOF文件中,这个文件的位置和RDB相同,也可以通过dir和dbfilename参数来修改。AOF是个存文本文件,它个文件是由redis通过参数来自动优化的。系统在启动时会执行AOF文件中的指令,来把RDB中数据载入到内存中。

      每次执行数据操作时,会有30秒的一个延迟。这些数据在这段时间内会暂放在硬盘缓存中,这时也有可能丢失数据。可以指定appendfsync来改变,everysec(每秒),always(每次执行指令后),no(30秒,系统级别) 

      验证主从复制完成

      一种方法是在向主服务器写入真正的数据后,再向主服务器写入一个虚构值,然后通过验证从服务器是否存在此虚构值来验证数据是否发送完成。另一种节约时间的做法是用INFO aof_pending_bio_fsync如果返回值为0表示写入完成。

      多节点数据同步

      持久化功能保证了数据的少量损失,但无法避免单点故障。这也就有了master-slave之分,slave节点默认都是只读的,如果直接修改会报错。也可以通过slave-read-only参数修改为可写的,但slave节点的数据不会同步到主数据库可能会出现修改后被覆盖的情况。它接受主数据库同步过来的数据,可以有多个slave节点,但只能有一个master节点。

      文件数据同步

      首先这是一个异步的过程,slave启动时会向master发送sync指令,master接收后其自身初始化完成后(包括快照内容),会将RDB和AOF中的所有内容发给slave,当主从数据库断开连接后会重新执行上述过程。sync过程中master并不会阻塞,还可以处理客户端发来的命令。可以配置slave-serve-stale-data=no来使从数据库在同步完成前对所有命令回复错误。同步后slave中原有的数据会被清除掉。

          因为是一个异步的过程,可能导致主从数据不一致的情况,可以设置master的min-slaves-to-write:3,min-slave-max-lag:10。前一个参数表示只有当至少3个从数据库连接到主库时,主库才可以写,第二个参数表示从数据库最大失去连接的时间。

        另外还有一个测试阶段的参数repo-diskless-sync yes来开启无硬盘同步功能,即不写文件直接通过网络发送,减少硬盘性能瓶颈。

      增量数据同步

          V2.8版本后提供了增量复制功能,不再发送sync命令,而是发送psync命令。原理:在主从同步过程中每同步一条都会放在一个积压队列中,当断线重联后,会判断积压队列中的值如果满足条件则增量复制,否则整体复制。默认情况下积压队列大小为1MB,可以通过repl-backlog-size来调整,数据越大,允许断线的时间越长。另一个配置项是repl-backlog-ttl当断线后,经过多长时间可以释放积压队队的空间,默认为1小时。

      性能优化

      如何查找性能问题

      redis本身使用IO多路复用,例如epoll (提升吞吐量),纯内存操作  (处理请求耗时短,单位时间内处理的请求数量就多),高效的数据结构,比如hash等 (尽量接近O(1)时间复杂度高效查询)等来保证性能,如果遇到性能问题时多数是以下两种原因引起的:

      1. 内存,因为一般情况来讲在现有分布式环境中cpu一般都不是瓶颈,redis的单线程设计也是为了提高性能节省线程上下文的切换的时间;
      2. 连接池,客户端未使用pool或使用不当导致持续的创建和关闭带来的损耗;

      提高吞吐量的方式

      • 管道技术:因其本身是单线程设计,所以管道(pipeline)在某些场景下非常有用,比如有多个操作命令需要被迅速提交至服务器端,但用户并不依赖每个操作返回的响应结果,对结果响应也无需立即获得,那么管道就可以用来作为优化性能的批处理工具。性能提升的原因主要是减少了 TCP 连接中交互往返的开销。
      • 分片技术:原生的redis由于集群hash分片原理。具体的redis命令,会根据key计算出一个槽位(slot),然后根据槽位去特定的节点redis上执行操作。那么pipeline中每个单独的操作,需要根据“key”运算一个槽位(JedisClusterCRC16.getSlot(key)),然后根据槽位去特定的机器执行命令。也就是说一次pipeline操作会使用多个节点的redis连接,而目前JedisCluster是无法支持的,如果想使用这种技术,需要自行根据key计算出通道,每个管道连接单独的节点,这样就不会有问题了。
      • 多线程:并行化子流程,这是一种业务端的改造,把串行流程改成并行流程,但需要注意这需要仔细分析下业务需求再进行改造;

      读性能提升

      除了上面提到的master-slave以及shard技术,还有一种方式编程方式也可以提升读的性,就是在连接时使用带ssh隧道(tunnel)会明显降低带宽,但同时也要考虑加密和压缩开销问题。单核CPU使用AES-128算法每秒可加密180M数据,使用RC4算法会达到350M左右。同时ssh默认采用gzip压缩协议,这个协议可以设置压缩级别,一个可参考值是1级20~50M/秒,建议用5级以下,会缩小20%左右,处理时间会比1级慢2~3倍;

      节省内存

       redis是基于内存/硬盘的数据库,内存的数量是有限的,所以有时还需要采用一些措施减小内存的占用:

      精简KV

      key缩小的一个实现方案

      用10进制代替16进制等。在运算时再翻译成2进制,这样会减少碰撞的机率,下面的例子是一个设计思路,比如

      1. UUID=128位数字,占用32字节(字符串)
      2. 取uuid前15位转换为10进制进行存储,则会占用8个字符(注意redis最大只能存64位有符号整数)
      3. 15位是否够用?把uuid翻译成二进制,则前15位就是56个二进制位,碰撞的机率是当数量超过2.5亿时,重复的机率是1%。

      value缩小的一个实现方案

      这种方式类似于用户地址信息的记录方式,首先地址信息是个字典表,然后真实数据就是一个结构化的串,最后打包存储起来。但这样不适合like查询。

      短结构

      redis为List, hash, sortset提供了一组配置,用一种短结构替换原来的数据存储结构,称为压缩列表。比如list原有的结构是一个双向列表,它由三部分组成双向指标+数据,其中数据又分三部分,字符串长度占用的字节数+可用的字节数+字符串长度。经过ziplist后其结构为去掉了指标信息,把数据部分压缩成两部分:前一节点的位置长度+当前数据,在查找时就会根据这个长度来取得不同的数据。这样会节省3倍左右空间。正常来讲redis实际占用的空间是数据的7倍左右。

      list-max-ziplist-entries 512
      list-max-ziplist-value 64
      hash-max-ziplist-entries 512
      hash-max-ziplist-value 64
      zset-max-ziplist-entries 512
      zset-max-ziplist-value 64
      //允许最大的元素512个(正常上限1024,否则会影响性能),每个节点最大64个字节,可用debug命令查看是否启用了压缩,如果超过了上面限制就会采用原来的数据结构。
      set-max-intset-entiries 512 //这个集合只支持整数

      分片结构

      这个技术其实是和短结构共同使用来压缩内存的,在使用前要计算数据的散列性是否均衡,否则起不到太大的效果。其key由原来的Y被设计成Y:<shardid>。如果key为数字可以取模也可以通过crc32算法来计算后再取模,这个算法要比md5或sha1算法快。

      版权声明:本文内容来自第三方投稿或授权转载,原文地址:https://blog.51cto.com/arch/5254756,作者:生而为人我很遗憾,版权归原作者所有。本网站转在其作品的目的在于传递更多信息,不拥有版权,亦不承担相应法律责任。如因作品内容、版权等问题需要同本网站联系,请发邮件至ctyunbbs@chinatelecom.cn沟通。

      上一篇:数据库索引- 为select设计索引

      下一篇:数据库索引(1)-基础

      相关文章

      2025-05-06 09:19:12

      redis高可用集群搭建

      redis高可用集群搭建

      2025-05-06 09:19:12
      master , redis , 服务器 , 节点 , 集群
      2025-04-22 09:27:37

      【Redis】浅析 Redis 事务

      【Redis】浅析 Redis 事务

      2025-04-22 09:27:37
      redis , Redis , 事务 , 命令 , 执行
      2025-04-09 09:13:17

      解决tomcat部署项目中碰到的几个问题

      在tomcat上部署项目并进行测试,经常会碰到各种问题。在不同的操作系统上部署,对问题的解决也会有一些差异。

      2025-04-09 09:13:17
      data , redis , tomcat , 信息
      2025-04-09 09:11:38

      redis配置参数详细说明

      redis配置参数详细说明

      2025-04-09 09:11:38
      conf , redis , server , 默认
      2025-03-26 09:31:37

      Redis的发布订阅(消息队列,比如ActiveMQ,一方得到数据后,多方得到信息)

      发布和订阅是进程间的一种消息通信模式:发送者(publisher)将消息发送给一个第三方,订阅者(subscriber)从第三方那里接收消息。

      2025-03-26 09:31:37
      redis
      2025-03-18 08:27:10

      lepus监控redis执行python check_redis.py报错

      lepus监控redis执行python check_redis.py报错

      2025-03-18 08:27:10
      redis
      2025-03-17 07:49:59

      非openresty方式安装Nginx + Lua + Redis 环境

      非openresty方式安装Nginx + Lua + Redis 环境

      2025-03-17 07:49:59
      lua , nginx , Nginx , redis , 模块
      2025-03-17 07:49:59

      redis-cluster分布式集群安装部署

      redis-cluster分布式集群安装部署

      2025-03-17 07:49:59
      redis , Ruby , 安装 , 实例 , 集群
      2025-02-26 07:21:36

      简述Redis事务实现--------->负载均衡算法、类型

      MULTI命令的执行,标识着一个事务的开始。MULTI命令会将客户端状态的flag属性中打开REDIS_MULTI标识来完成的。

      2025-02-26 07:21:36
      redis , Redis , 事务 , 命令 , 客户端 , 服务器 , 节点
      2025-02-11 09:36:37

      【Redis】Redis 集群缓存测试要点--关于 线上 token 失效 BUG 的总结 --研读

      【Redis】Redis 集群缓存测试要点--关于 线上 token 失效 BUG 的总结 --研读

      2025-02-11 09:36:37
      redis , Redis , 分片 , 哈希 , 失效 , 服务器 , 缓存
      查看更多
      推荐标签

      作者介绍

      天翼云小翼
      天翼云用户

      文章

      33561

      阅读量

      5238001

      查看更多

      最新文章

      【Redis】浅析 Redis 事务

      2025-04-22 09:27:37

      Redis的发布订阅(消息队列,比如ActiveMQ,一方得到数据后,多方得到信息)

      2025-03-26 09:31:37

      lepus监控redis执行python check_redis.py报错

      2025-03-18 08:27:10

      非openresty方式安装Nginx + Lua + Redis 环境

      2025-03-17 07:49:59

      redis主从复制集群环境搭建

      2024-12-20 07:55:52

      执行redis-cli命令创建redis集群时报错“Could not connect to Redis at IP:端口: No route to host”

      2024-12-20 07:55:52

      查看更多

      热门文章

      redis-数据操作-键命令

      2023-03-29 10:07:52

      Reids持久化

      2023-05-16 09:44:09

      k8s的operator-hub中的redis-operator的redis-cluster的CreateRedisLeaderService处理

      2022-11-08 07:33:08

      给redis cluster集群加上认证功能

      2023-05-19 05:52:11

      celery-02-安装与使用说明-for-redis

      2023-04-07 06:48:06

      redis主从同步,总是显示master_link_status:down的解决方法

      2023-06-07 07:31:08

      查看更多

      热门标签

      数据库 mysql 字符串 数据结构 MySQL 算法 redis oracle java sql python 数据 索引 SQL 查询
      查看更多

      相关产品

      弹性云主机

      随时自助获取、弹性伸缩的云服务器资源

      天翼云电脑(公众版)

      便捷、安全、高效的云电脑服务

      对象存储

      高品质、低成本的云上存储服务

      云硬盘

      为云上计算资源提供持久性块存储

      查看更多

      随机文章

      redis事务(redis features)

      docker安装redis笔记

      redis哨兵+主从的组建及failover流程

      shiro + redis session过期时间不符合预期,提前过期

      python中redis进行模糊查询(keys()、scan()、scan_iter())

      jedis的介绍

      • 7*24小时售后
      • 无忧退款
      • 免费备案
      • 专家服务
      售前咨询热线
      400-810-9889转1
      关注天翼云
      • 旗舰店
      • 天翼云APP
      • 天翼云微信公众号
      服务与支持
      • 备案中心
      • 售前咨询
      • 智能客服
      • 自助服务
      • 工单管理
      • 客户公告
      • 涉诈举报
      账户管理
      • 管理中心
      • 订单管理
      • 余额管理
      • 发票管理
      • 充值汇款
      • 续费管理
      快速入口
      • 天翼云旗舰店
      • 文档中心
      • 最新活动
      • 免费试用
      • 信任中心
      • 天翼云学堂
      云网生态
      • 甄选商城
      • 渠道合作
      • 云市场合作
      了解天翼云
      • 关于天翼云
      • 天翼云APP
      • 服务案例
      • 新闻资讯
      • 联系我们
      热门产品
      • 云电脑
      • 弹性云主机
      • 云电脑政企版
      • 天翼云手机
      • 云数据库
      • 对象存储
      • 云硬盘
      • Web应用防火墙
      • 服务器安全卫士
      • CDN加速
      热门推荐
      • 云服务备份
      • 边缘安全加速平台
      • 全站加速
      • 安全加速
      • 云服务器
      • 云主机
      • 智能边缘云
      • 应用编排服务
      • 微服务引擎
      • 共享流量包
      更多推荐
      • web应用防火墙
      • 密钥管理
      • 等保咨询
      • 安全专区
      • 应用运维管理
      • 云日志服务
      • 文档数据库服务
      • 云搜索服务
      • 数据湖探索
      • 数据仓库服务
      友情链接
      • 中国电信集团
      • 189邮箱
      • 天翼企业云盘
      • 天翼云盘
      ©2025 天翼云科技有限公司版权所有 增值电信业务经营许可证A2.B1.B2-20090001
      公司地址:北京市东城区青龙胡同甲1号、3号2幢2层205-32室
      • 用户协议
      • 隐私政策
      • 个人信息保护
      • 法律声明
      备案 京公网安备11010802043424号 京ICP备 2021034386号