爆款云主机2核4G限时秒杀,88元/年起!
查看详情

活动

天翼云最新优惠活动,涵盖免费试用,产品折扣等,助您降本增效!
热门活动
  • 618智算钜惠季 爆款云主机2核4G限时秒杀,88元/年起!
  • 免费体验DeepSeek,上天翼云息壤 NEW 新老用户均可免费体验2500万Tokens,限时两周
  • 云上钜惠 HOT 爆款云主机全场特惠,更有万元锦鲤券等你来领!
  • 算力套餐 HOT 让算力触手可及
  • 天翼云脑AOne NEW 连接、保护、办公,All-in-One!
  • 中小企业应用上云专场 产品组合下单即享折上9折起,助力企业快速上云
  • 息壤高校钜惠活动 NEW 天翼云息壤杯高校AI大赛,数款产品享受线上订购超值特惠
  • 天翼云电脑专场 HOT 移动办公新选择,爆款4核8G畅享1年3.5折起,快来抢购!
  • 天翼云奖励推广计划 加入成为云推官,推荐新用户注册下单得现金奖励
免费活动
  • 免费试用中心 HOT 多款云产品免费试用,快来开启云上之旅
  • 天翼云用户体验官 NEW 您的洞察,重塑科技边界

智算服务

打造统一的产品能力,实现算网调度、训练推理、技术架构、资源管理一体化智算服务
智算云(DeepSeek专区)
科研助手
  • 算力商城
  • 应用商城
  • 开发机
  • 并行计算
算力互联调度平台
  • 应用市场
  • 算力市场
  • 算力调度推荐
一站式智算服务平台
  • 模型广场
  • 体验中心
  • 服务接入
智算一体机
  • 智算一体机
大模型
  • DeepSeek-R1-昇腾版(671B)
  • DeepSeek-R1-英伟达版(671B)
  • DeepSeek-V3-昇腾版(671B)
  • DeepSeek-R1-Distill-Llama-70B
  • DeepSeek-R1-Distill-Qwen-32B
  • Qwen2-72B-Instruct
  • StableDiffusion-V2.1
  • TeleChat-12B

应用商城

天翼云精选行业优秀合作伙伴及千余款商品,提供一站式云上应用服务
进入甄选商城进入云市场创新解决方案
办公协同
  • WPS云文档
  • 安全邮箱
  • EMM手机管家
  • 智能商业平台
财务管理
  • 工资条
  • 税务风控云
企业应用
  • 翼信息化运维服务
  • 翼视频云归档解决方案
工业能源
  • 智慧工厂_生产流程管理解决方案
  • 智慧工地
建站工具
  • SSL证书
  • 新域名服务
网络工具
  • 翼云加速
灾备迁移
  • 云管家2.0
  • 翼备份
资源管理
  • 全栈混合云敏捷版(软件)
  • 全栈混合云敏捷版(一体机)
行业应用
  • 翼电子教室
  • 翼智慧显示一体化解决方案

合作伙伴

天翼云携手合作伙伴,共创云上生态,合作共赢
天翼云生态合作中心
  • 天翼云生态合作中心
天翼云渠道合作伙伴
  • 天翼云代理渠道合作伙伴
天翼云服务合作伙伴
  • 天翼云集成商交付能力认证
天翼云应用合作伙伴
  • 天翼云云市场合作伙伴
  • 天翼云甄选商城合作伙伴
天翼云技术合作伙伴
  • 天翼云OpenAPI中心
  • 天翼云EasyCoding平台
天翼云培训认证
  • 天翼云学堂
  • 天翼云市场商学院
天翼云合作计划
  • 云汇计划
天翼云东升计划
  • 适配中心
  • 东升计划
  • 适配互认证

开发者

开发者相关功能入口汇聚
技术社区
  • 专栏文章
  • 互动问答
  • 技术视频
资源与工具
  • OpenAPI中心
开放能力
  • EasyCoding敏捷开发平台
培训与认证
  • 天翼云学堂
  • 天翼云认证
魔乐社区
  • 魔乐社区

支持与服务

为您提供全方位支持与服务,全流程技术保障,助您轻松上云,安全无忧
文档与工具
  • 文档中心
  • 新手上云
  • 自助服务
  • OpenAPI中心
定价
  • 价格计算器
  • 定价策略
基础服务
  • 售前咨询
  • 在线支持
  • 在线支持
  • 工单服务
  • 建议与反馈
  • 用户体验官
  • 服务保障
  • 客户公告
  • 会员中心
增值服务
  • 红心服务
  • 首保服务
  • 客户支持计划
  • 专家技术服务
  • 备案管家

了解天翼云

天翼云秉承央企使命,致力于成为数字经济主力军,投身科技强国伟大事业,为用户提供安全、普惠云服务
品牌介绍
  • 关于天翼云
  • 智算云
  • 天翼云4.0
  • 新闻资讯
  • 天翼云APP
基础设施
  • 全球基础设施
  • 信任中心
最佳实践
  • 精选案例
  • 超级探访
  • 云杂志
  • 分析师和白皮书
  • 天翼云·创新直播间
市场活动
  • 2025智能云生态大会
  • 2024智算云生态大会
  • 2023云生态大会
  • 2022云生态大会
  • 天翼云中国行
天翼云
  • 活动
  • 智算服务
  • 产品
  • 解决方案
  • 应用商城
  • 合作伙伴
  • 开发者
  • 支持与服务
  • 了解天翼云
      • 文档
      • 控制中心
      • 备案
      • 管理中心

      一致性哈希算法的原理与应用剖析

      首页 知识中心 存储 文章详情页

      一致性哈希算法的原理与应用剖析

      2024-12-13 06:54:00 阅读次数:21

      哈希,服务器,算法,缓存,节点

       

      前言

      这部分问题知识在面试中经常被问到,而且是高频中的高频

      场景拓展:
      要缓存某些数据,放在N台服务器,也就是将其平摊分配这些数据,达到一个缓存的效果。但是如果要找到这些数据的时候,是通过遍历全部服务器,就会失去缓存的意义

      原始的做法是对缓存项的key中进行哈希,之后value进行取模操作,决定分配数据在哪台服务器。如果要找这些数据的时候就不用遍历了

      hash% N,这个为具体的公式,主要是通过取模运算

      但这种算法会有缺陷,原本N台服务器已经缓存好数据了,现在多增加服务器,会导致缓存数据的变换。如果减少服务器,缓存的位置以及数量也会发生变换。大量缓存在同一时间失效,造成缓存雪崩的现象。

      一致性哈希算法

      为了解决上面的缺陷,一致性哈希算法由此诞生
      (取模法是对服务器的数量进行取模,而一致性哈希算法是对2^32^取模)

      假设有三台服务器,可以将其服务器ip地址或者其他标志性的东西作为key值进行hash,只不过取模的时候用的是232,将其一一映射到环中。之后对应的数据也进行映射,之后沿顺时针的方向,距离最近的服务器就是缓存服务器(A)。具体情况如下所示

      一致性哈希算法的原理与应用剖析
      对于缓存雪崩造成的问题,所有服务器的所有缓存在同一时间失效了。
      而使用一致性哈希算法时,服务器的数量如果发生改变,并不是所有缓存都会失效,而是只有部分缓存会失效。

      数据倾斜的问题

      如下所示
      理想与现实会造成一定的区别,缓存往往会极度不均衡的分布在各服务器上
      可能映射的时候会造成数据倾斜,导致某一部分的服务器有些压力,有些服务器却很轻松
      一致性哈希算法的原理与应用剖析
      为了能让这3台服务器尽量多的、均匀的出现在hash环上
      设置一些虚拟节点。“虚拟节点”是”实际节点”(实际的物理服务器)在hash环上的复制品,一个实际节点可以对应多个虚拟节点

      也就是1和4的数据在服务器C中,2和3的数据在服务器A上
      (主要是为了讲解虚拟节点,设置可能刚刚好或者没那么均匀而已,主要是为了讲解明白而已,草图可忽略)每台机器映射的虚拟节点越多,则分布的越均匀~~~
      一致性哈希算法的原理与应用剖析

      代码应用

      具体这部分代码主要是参考这一篇文章
      详情可看该链接
      一致性hash算法应用

      算法接口

      public interface IHashService {
          Long hash(String key);
      }
      

      接口实现类

      public class HashService implements IHashService {
      
          /**
           * MurMurHash算法,性能高,碰撞率低
           *
           * @param key String
           * @return Long
           */
          public Long hash(String key) {
              ByteBuffer buf = ByteBuffer.wrap(key.getBytes());
              int seed = 0x1234ABCD;
      
              ByteOrder byteOrder = buf.order();
              buf.order(ByteOrder.LITTLE_ENDIAN);
      
              long m = 0xc6a4a7935bd1e995L;
              int r = 47;
      
              long h = seed ^ (buf.remaining() * m);
      
              long k;
              while (buf.remaining() >= 8) {
                  k = buf.getLong();
      
                  k *= m;
                  k ^= k >>> r;
                  k *= m;
      
                  h ^= k;
                  h *= m;
              }
      
              if (buf.remaining() > 0) {
                  ByteBuffer finish = ByteBuffer.allocate(8).order(ByteOrder.LITTLE_ENDIAN);
                  finish.put(buf).rewind();
                  h ^= finish.getLong();
                  h *= m;
              }
      
              h ^= h >>> r;
              h *= m;
              h ^= h >>> r;
      
              buf.order(byteOrder);
              return h;
      
          }
      }
      

      模拟机器节点

      public class Node<T> {
          private String ip;
          private String name;
      
          public Node(String ip, String name) {
              this.ip = ip;
              this.name = name;
          }
      
          public String getIp() {
              return ip;
          }
      
          public void setIp(String ip) {
              this.ip = ip;
          }
      
          public String getName() {
              return name;
          }
      
          public void setName(String name) {
              this.name = name;
          }
      
          /**
           * 使用IP当做hash的Key
           *
           * @return String
           */
          @Override
          public String toString() {
              return ip;
          }
      }
      

      一致性hash算法

      public class ConsistentHash<T> {
          // Hash函数接口
          private final IHashService iHashService;
          // 每个机器节点关联的虚拟节点数量
          private final int          numberOfReplicas;
          // 环形虚拟节点
          private final SortedMap<Long, T> circle = new TreeMap<Long, T>();
      
          public ConsistentHash(IHashService iHashService, int numberOfReplicas, Collection<T> nodes) {
              this.iHashService = iHashService;
              this.numberOfReplicas = numberOfReplicas;
              for (T node : nodes) {
                  add(node);
              }
          }
      
          /**
           * 增加真实机器节点
           *
           * @param node T
           */
          public void add(T node) {
              for (int i = 0; i < this.numberOfReplicas; i++) {
                  circle.put(this.iHashService.hash(node.toString() + i), node);
              }
          }
      
          /**
           * 删除真实机器节点
           *
           * @param node T
           */
          public void remove(T node) {
              for (int i = 0; i < this.numberOfReplicas; i++) {
                  circle.remove(this.iHashService.hash(node.toString() + i));
              }
          }
      
          public T get(String key) {
              if (circle.isEmpty()) return null;
      
              long hash = iHashService.hash(key);
      
              // 沿环的顺时针找到一个虚拟节点
              if (!circle.containsKey(hash)) {
                  SortedMap<Long, T> tailMap = circle.tailMap(hash);
                  hash = tailMap.isEmpty() ? circle.firstKey() : tailMap.firstKey();
              }
              return circle.get(hash);
          }
      }
      

      测试类

      public class TestHashCircle {
          // 机器节点IP前缀
          private static final String IP_PREFIX = "192.168.0.";
      
          public static void main(String[] args) {
              // 每台真实机器节点上保存的记录条数
              Map<String, Integer> map = new HashMap<String, Integer>();
      
              // 真实机器节点, 模拟10台
              List<Node<String>> nodes = new ArrayList<Node<String>>();
              for (int i = 1; i <= 10; i++) {
                  map.put(IP_PREFIX + i, 0); // 初始化记录
                  Node<String> node = new Node<String>(IP_PREFIX + i, "node" + i);
                  nodes.add(node);
              }
      
              IHashService iHashService = new HashService();
              // 每台真实机器引入100个虚拟节点
              ConsistentHash<Node<String>> consistentHash = new ConsistentHash<Node<String>>(iHashService, 500, nodes);
      
              // 将5000条记录尽可能均匀的存储到10台机器节点上
              for (int i = 0; i < 5000; i++) {
                  // 产生随机一个字符串当做一条记录,可以是其它更复杂的业务对象,比如随机字符串相当于对象的业务唯一标识
                  String data = UUID.randomUUID().toString() + i;
                  // 通过记录找到真实机器节点
                  Node<String> node = consistentHash.get(data);
                  // 再这里可以能过其它工具将记录存储真实机器节点上,比如MemoryCache等
                  // ...
                  // 每台真实机器节点上保存的记录条数加1
                  map.put(node.getIp(), map.get(node.getIp()) + 1);
              }
      
              // 打印每台真实机器节点保存的记录条数
              for (int i = 1; i <= 10; i++) {
                  System.out.println(IP_PREFIX + i + "节点记录条数:" + map.get(IP_PREFIX + i));
              }
          }
      }
      
      版权声明:本文内容来自第三方投稿或授权转载,原文地址:https://blog.csdn.net/weixin_47872288/article/details/123164569,作者:码农研究僧,版权归原作者所有。本网站转在其作品的目的在于传递更多信息,不拥有版权,亦不承担相应法律责任。如因作品内容、版权等问题需要同本网站联系,请发邮件至ctyunbbs@chinatelecom.cn沟通。

      上一篇:【Kubernets】配置类型资源 Etcd, Secret, ConfigMap

      下一篇:【leetcode】哈希表+双向链表 - LRU的缓存机制

      相关文章

      2025-05-19 09:05:01

      项目更新到公网服务器的操作步骤

      项目更新到公网服务器的操作步骤

      2025-05-19 09:05:01
      公网 , 数据库 , 文件 , 更新 , 服务器
      2025-05-19 09:04:44

      FinalShell 配置SSH密钥登陆

      FinalShell 配置SSH密钥登陆

      2025-05-19 09:04:44
      密钥 , 服务器 , 配置
      2025-05-19 09:04:44

      spark控制台没显示其他机器

      spark控制台没显示其他机器

      2025-05-19 09:04:44
      Spark , 节点 , 集群
      2025-05-19 09:04:14

      《剑指Offer》搜索算法题篇——更易理解的思路~

      《剑指Offer》搜索算法题篇——更易理解的思路~

      2025-05-19 09:04:14
      算法
      2025-05-19 09:04:14

      二叉树经典OJ练习

      二叉树经典OJ练习

      2025-05-19 09:04:14
      root , 二叉树 , 子树 , 节点 , 遍历
      2025-05-19 09:04:14

      复杂度的OJ练习

      复杂度的OJ练习

      2025-05-19 09:04:14
      代码 , 复杂度 , 思路 , 数组 , 算法
      2025-05-19 09:04:14

      背包问题——“0-1背包”,“完全背包”(这样讲,还能不会?)

      背包问题——“0-1背包”,“完全背包”(这样讲,还能不会?)

      2025-05-19 09:04:14
      动态规划 , 算法
      2025-05-16 09:15:24

      Redis Hash哈希

      Redis Hash哈希

      2025-05-16 09:15:24
      field , hash , Redis , value , 哈希
      2025-05-16 09:15:17

      多源BFS问题(2)_飞地的数量

      多源BFS问题(2)_飞地的数量

      2025-05-16 09:15:17
      bfs , grid , 单元格 , 算法
      2025-05-16 09:15:17

      BFS解决最短路问题(4)_为高尔夫比赛砍树

      BFS解决最短路问题(4)_为高尔夫比赛砍树

      2025-05-16 09:15:17
      BFS , lt , 复杂度 , 算法
      查看更多
      推荐标签

      作者介绍

      天翼云小翼
      天翼云用户

      文章

      33561

      阅读量

      5251653

      查看更多

      最新文章

      【Mybatis】-防止SQL注入

      2025-05-14 10:03:13

      分隔链表-146. LRU 缓存

      2025-05-13 09:50:28

      LRU 缓存

      2025-05-12 08:43:47

      DS初阶:时间复杂度和空间复杂度

      2025-05-08 09:04:25

      springboot系列教程(十三):基于Cache注解模式,管理Redis缓存

      2025-05-07 09:08:42

      【Linux 从基础到进阶】Redis缓存服务安装与调优

      2025-05-06 09:18:38

      查看更多

      热门文章

      获取服务器CPU、内存等各类信息工具类

      2023-04-27 08:00:25

      恢复误删除的ESXi服务器存储VMFS卷

      2023-04-24 11:28:21

      leetcode数据结构-LRU

      2023-03-02 10:21:35

      精华推荐 | 【深入浅出RocketMQ原理及实战】「底层原理挖掘系列」透彻剖析贯穿RocketMQ的存储系统的实现原理和持久化机制

      2023-02-24 10:12:47

      elasticsearch预加载数据到文件系统缓存

      2024-09-25 10:13:57

      nas存储服务器磁盘阵列失效、服务器无法访问数据恢复案例

      2023-05-05 10:13:48

      查看更多

      热门标签

      存储 缓存 内存 数据库 数据 redis mysql 服务器 数据恢复 Redis linux java 链表 sql MySQL
      查看更多

      相关产品

      弹性云主机

      随时自助获取、弹性伸缩的云服务器资源

      天翼云电脑(公众版)

      便捷、安全、高效的云电脑服务

      对象存储

      高品质、低成本的云上存储服务

      云硬盘

      为云上计算资源提供持久性块存储

      查看更多

      随机文章

      【存储数据恢复】服务器存储由于多次断电导致raid5阵列崩溃的数据恢复案例

      K8S通过NFS实现共享存储

      【nas存储数据恢复案例】nas存储服务器硬盘故障离线导致的磁盘阵列失效、服务器无法访问的数据恢复

      CentOS8提高篇20:Centos8实现扩展存储空间

      恢复误删除的ESXi服务器存储VMFS卷

      Redis主从/哨兵机制原理介绍

      • 7*24小时售后
      • 无忧退款
      • 免费备案
      • 专家服务
      售前咨询热线
      400-810-9889转1
      关注天翼云
      • 旗舰店
      • 天翼云APP
      • 天翼云微信公众号
      服务与支持
      • 备案中心
      • 售前咨询
      • 智能客服
      • 自助服务
      • 工单管理
      • 客户公告
      • 涉诈举报
      账户管理
      • 管理中心
      • 订单管理
      • 余额管理
      • 发票管理
      • 充值汇款
      • 续费管理
      快速入口
      • 天翼云旗舰店
      • 文档中心
      • 最新活动
      • 免费试用
      • 信任中心
      • 天翼云学堂
      云网生态
      • 甄选商城
      • 渠道合作
      • 云市场合作
      了解天翼云
      • 关于天翼云
      • 天翼云APP
      • 服务案例
      • 新闻资讯
      • 联系我们
      热门产品
      • 云电脑
      • 弹性云主机
      • 云电脑政企版
      • 天翼云手机
      • 云数据库
      • 对象存储
      • 云硬盘
      • Web应用防火墙
      • 服务器安全卫士
      • CDN加速
      热门推荐
      • 云服务备份
      • 边缘安全加速平台
      • 全站加速
      • 安全加速
      • 云服务器
      • 云主机
      • 智能边缘云
      • 应用编排服务
      • 微服务引擎
      • 共享流量包
      更多推荐
      • web应用防火墙
      • 密钥管理
      • 等保咨询
      • 安全专区
      • 应用运维管理
      • 云日志服务
      • 文档数据库服务
      • 云搜索服务
      • 数据湖探索
      • 数据仓库服务
      友情链接
      • 中国电信集团
      • 189邮箱
      • 天翼企业云盘
      • 天翼云盘
      ©2025 天翼云科技有限公司版权所有 增值电信业务经营许可证A2.B1.B2-20090001
      公司地址:北京市东城区青龙胡同甲1号、3号2幢2层205-32室
      • 用户协议
      • 隐私政策
      • 个人信息保护
      • 法律声明
      备案 京公网安备11010802043424号 京ICP备 2021034386号