爆款云主机2核4G限时秒杀,88元/年起!
查看详情

活动

天翼云最新优惠活动,涵盖免费试用,产品折扣等,助您降本增效!
热门活动
  • 618智算钜惠季 爆款云主机2核4G限时秒杀,88元/年起!
  • 免费体验DeepSeek,上天翼云息壤 NEW 新老用户均可免费体验2500万Tokens,限时两周
  • 云上钜惠 HOT 爆款云主机全场特惠,更有万元锦鲤券等你来领!
  • 算力套餐 HOT 让算力触手可及
  • 天翼云脑AOne NEW 连接、保护、办公,All-in-One!
  • 中小企业应用上云专场 产品组合下单即享折上9折起,助力企业快速上云
  • 息壤高校钜惠活动 NEW 天翼云息壤杯高校AI大赛,数款产品享受线上订购超值特惠
  • 天翼云电脑专场 HOT 移动办公新选择,爆款4核8G畅享1年3.5折起,快来抢购!
  • 天翼云奖励推广计划 加入成为云推官,推荐新用户注册下单得现金奖励
免费活动
  • 免费试用中心 HOT 多款云产品免费试用,快来开启云上之旅
  • 天翼云用户体验官 NEW 您的洞察,重塑科技边界

智算服务

打造统一的产品能力,实现算网调度、训练推理、技术架构、资源管理一体化智算服务
智算云(DeepSeek专区)
科研助手
  • 算力商城
  • 应用商城
  • 开发机
  • 并行计算
算力互联调度平台
  • 应用市场
  • 算力市场
  • 算力调度推荐
一站式智算服务平台
  • 模型广场
  • 体验中心
  • 服务接入
智算一体机
  • 智算一体机
大模型
  • DeepSeek-R1-昇腾版(671B)
  • DeepSeek-R1-英伟达版(671B)
  • DeepSeek-V3-昇腾版(671B)
  • DeepSeek-R1-Distill-Llama-70B
  • DeepSeek-R1-Distill-Qwen-32B
  • Qwen2-72B-Instruct
  • StableDiffusion-V2.1
  • TeleChat-12B

应用商城

天翼云精选行业优秀合作伙伴及千余款商品,提供一站式云上应用服务
进入甄选商城进入云市场创新解决方案
办公协同
  • WPS云文档
  • 安全邮箱
  • EMM手机管家
  • 智能商业平台
财务管理
  • 工资条
  • 税务风控云
企业应用
  • 翼信息化运维服务
  • 翼视频云归档解决方案
工业能源
  • 智慧工厂_生产流程管理解决方案
  • 智慧工地
建站工具
  • SSL证书
  • 新域名服务
网络工具
  • 翼云加速
灾备迁移
  • 云管家2.0
  • 翼备份
资源管理
  • 全栈混合云敏捷版(软件)
  • 全栈混合云敏捷版(一体机)
行业应用
  • 翼电子教室
  • 翼智慧显示一体化解决方案

合作伙伴

天翼云携手合作伙伴,共创云上生态,合作共赢
天翼云生态合作中心
  • 天翼云生态合作中心
天翼云渠道合作伙伴
  • 天翼云代理渠道合作伙伴
天翼云服务合作伙伴
  • 天翼云集成商交付能力认证
天翼云应用合作伙伴
  • 天翼云云市场合作伙伴
  • 天翼云甄选商城合作伙伴
天翼云技术合作伙伴
  • 天翼云OpenAPI中心
  • 天翼云EasyCoding平台
天翼云培训认证
  • 天翼云学堂
  • 天翼云市场商学院
天翼云合作计划
  • 云汇计划
天翼云东升计划
  • 适配中心
  • 东升计划
  • 适配互认证

开发者

开发者相关功能入口汇聚
技术社区
  • 专栏文章
  • 互动问答
  • 技术视频
资源与工具
  • OpenAPI中心
开放能力
  • EasyCoding敏捷开发平台
培训与认证
  • 天翼云学堂
  • 天翼云认证
魔乐社区
  • 魔乐社区

支持与服务

为您提供全方位支持与服务,全流程技术保障,助您轻松上云,安全无忧
文档与工具
  • 文档中心
  • 新手上云
  • 自助服务
  • OpenAPI中心
定价
  • 价格计算器
  • 定价策略
基础服务
  • 售前咨询
  • 在线支持
  • 在线支持
  • 工单服务
  • 建议与反馈
  • 用户体验官
  • 服务保障
  • 客户公告
  • 会员中心
增值服务
  • 红心服务
  • 首保服务
  • 客户支持计划
  • 专家技术服务
  • 备案管家

了解天翼云

天翼云秉承央企使命,致力于成为数字经济主力军,投身科技强国伟大事业,为用户提供安全、普惠云服务
品牌介绍
  • 关于天翼云
  • 智算云
  • 天翼云4.0
  • 新闻资讯
  • 天翼云APP
基础设施
  • 全球基础设施
  • 信任中心
最佳实践
  • 精选案例
  • 超级探访
  • 云杂志
  • 分析师和白皮书
  • 天翼云·创新直播间
市场活动
  • 2025智能云生态大会
  • 2024智算云生态大会
  • 2023云生态大会
  • 2022云生态大会
  • 天翼云中国行
天翼云
  • 活动
  • 智算服务
  • 产品
  • 解决方案
  • 应用商城
  • 合作伙伴
  • 开发者
  • 支持与服务
  • 了解天翼云
      • 文档
      • 控制中心
      • 备案
      • 管理中心

      HBase中Zookeeper核心配置信息解读

      首页 知识中心 服务器 文章详情页

      HBase中Zookeeper核心配置信息解读

      2022-11-16 11:57:52 阅读次数:171

      zookeeper,HBase

      目录

      一、HBase与Zookeeper的关系

      1.1 HA管理

      1.2 RegionServer管理

      1.3 元数据Region

      1.4 Region管理

      1.5 预写日志恢复

      1.6 hbase-site.xml中zookeeper的配置


      一、HBase与Zookeeper的关系

            HBase主要用ZooKeeper来实现HA选举与主备集群主节点的切换、系统容错、RootRegion管理、Region状态管理和分布式SplitWAL任务管理 。

      1.1 HA管理

             集群的主节点的选举和主备的切换跟Hadoop中Namnode的HA的选举和切换机制类似(后面我会专门写一篇文章讲解Namenode的HA)。

      1.2 RegionServer管理

              HBase集群启动时,每台RegionServer在Zookeeper中/hbase-unsecure/ 注册一个自己的临时节点,HMaster会利用这些临时节点来发现可用RegionServer,还可以利用临时节点来跟踪及其故障和网络分区。这些临时节点相当于一个“会话”,会话是客户端链接上Zookeeper服务器之后自动生成的。每个会话有一个唯一的id,RegionServer会用这个id不断向 Zookeeper 服务器发送“心跳”,一旦RegionServer发生故障,发送心跳则会停止,当超过限定时间后,Zookeeper服务器会判定会话超时,并自动删除属于它的临时会话。与此同时,HMaster 则会接收到 ZooKeeper 的 NodeDelete 通知,从而感知到某个节点断开,并立即开始容错工作。

              为啥子选择zookeeper干这个事?因为随着集群节点越来越多,HMaster的管理负担会越来越重,另外它自身也有挂掉的可能,因此数据还需要持久化,zookeeper通常是一个集群,这样稳定性相对就高了很多。

      1.3 元数据Region

      每次客户端向HBase发起请求时,都会去查询元数据Region,默认目录是:/hbase-unsecure/meta-region-server,如果发生region的迁移,zookeeper都会进行更新,以便其他客户端请求时,总能查到最新的RootRegion信息。

      1.4 Region管理

      Region的状态经常会发生变更,比如Region迁移、上线、离线,都是通过zookeeper来统一管理的。

      1.5 预写日志恢复

              RegionServer经常会通过WAL预写日志进行数据的恢复,由于RegionServer数据量比较大,单个节点进行恢复速度比较慢,HMaster会把WAL预写日志进行切分,放到Zookeeper的/hbase-unsecure/splitWAL目录中,让其他的RegionSever都能参与日志的恢复工作,提升恢复速度。ZooKeeper在这里担负起了分布式集群中相互通知和信息持久化的角色。

      1.6 hbase-site.xml中zookeeper的配置

      <property>
        <name>hbase.zookeeper.property.clientPort</name>
        <value>2181</value>
      </property>
      
      <property>
        <name>hbase.zookeeper.quorum</name>
        <value>hdp101,hdp102,hdp103</value>
      </property>
      
      <property>
        <name>hbase.zookeeper.useMulti</name>
        <value>true</value>
      </property>
      <property>
        <name>zookeeper.recovery.retry</name>
        <value>6</value>
      </property>
      
      <property>
        <name>zookeeper.session.timeout</name>
        <value>90000</value>
      </property>
        
      <property>
            <name>zookeeper.znode.parent</name>
            <value>/hbase-unsecure</value>
       </property>

             其中&#xff0c;hbase.zookeeper.quorum 为Zookeeper 集群的地址&#xff0c;必须进行配置&#xff0c;默认的端口为2181&#xff0c;可以不进行配置&#xff0c;zookeeper.znode.parent 为 /hbase-unsecure。在Hbase集群启动后&#xff0c;使用客户端进行读写操作&#xff0c;需要配置上面相关的参数。

             其次&#xff0c;zookeeper.session.timeout 也是一个重要的参数&#xff0c;表示RegionServer 与zookeeper 之间的会话时间&#xff0c;一旦会话超时&#xff0c;Zookeeper 就会感知到&#xff0c;通知HMaster将对应的RegionServer移除集群&#xff0c;并将给RegionServer上所有Region移动到其他的RegionServer上。

      HBase在zookeeper根节点上创建的子节点&#xff1a;

      HBase中Zookeeper核心配置信息解读

      [zk: localhost:2181(CONNECTED) 1] get /hbase-unsecure
      
      cZxid = 0x100000026      // 每个znode被赋予一个全局唯一的ID&#xff0c;我们称之为zxid
      ctime = Sat May 22 16:09:29 CST 2021 //znode创建时间
      mZxid = 0x100000026
      mtime = Sat May 22 16:09:29 CST 2021  //znode最后一次修改时间
      pZxid = 0x4a0000003b  // 最后一次修改该znode子节点的 zxid
      cversion = 38     // 该节点子节点的版本
      dataVersion = 0     // 该节点内容的版本&#xff0c;每次修改内容&#xff0c;版本都会增加
      aclVersion = 0      // 该节点的 ACL 版本
      ephemeralOwner = 0x0  // 如果该节点是临时节点&#xff08;ephemeral node&#xff09;&#xff0c;会列出该节点所在客户端的 session id&#xff1b;如果不是临时节点&#xff0c;该值为 0
      dataLength = 0      // 该节点存储的数据长度
      numChildren = 16    // 该节点子节点的个数

      具体说明如下&#xff1a;
      meta-region-server&#xff1a;存储HBase集群 hbase:meta元数据表所在的RegionServer访问地址。客户端读写数据首先会从此节点读取Hbase:meta元数据的访问地址&#xff0c;将部分元数据信息加载到本地&#xff0c;根据元数据进行路由。

      master/backup-master&#xff1a;通常来说生产环境要求所有的组件都要避免单故障&#xff0c;Hbase使用zookeeper特性实现Master高可用功能&#xff0c;其中&#xff0c;master节点是集群中对外服务的管理服务器&#xff0c;backup-masters下的子节点是集群中备份节点&#xff0c;一旦对外服务的主Maseter 节点发生异常&#xff0c;备Master节点可以通过选举切换成主Master&#xff0c;继续对外服务。备master的节点可以是一个或多个。

      HBase中Zookeeper核心配置信息解读

      table&#xff1a;集群中所有表信息

      HBase中Zookeeper核心配置信息解读

      region-in-transtion&#xff1a;在当前的Hbase系统中&#xff0c;迁移region是一个非常复杂的过程。首先对这个Region 执行unassign操作&#xff0c;将此Region 从open状态变为offline 状态&#xff0c;再在目标 RegionServer上执行assigi操作&#xff0c;将此Region从offline状态变成open状态&#xff0c;这个过程需要在master上记录region的各个状态。目前RegionServer 将这些状态通知给Master是通过zookeeper 实现的&#xff0c;RegionServer会在region-in-transition中变更Region的状态&#xff0c;Master 监听zookeeper 对应节点&#xff0c;以便在Region状态发生变更之后及时获得通知&#xff0c;得到通知后Master再去更新Region在 hbase:meta 中状态和在内存中的状态。

      table-lock : hbase使用zookeeper使用相关机制实现分布式锁。HBase中一张表的数据会以Region的形式存在于多个RegionServer上&#xff0c;因此对一张表的DDL&#xff08;创建、删除、更新&#xff09;通常都是典型的分布式操作。每次执行DDL操作之前都需要首先获取相应的表锁&#xff0c;防止多个DDL操作之间出现冲突&#xff0c;这个表锁就是分布式锁。分布式可以使用zookeeper 实现。

      online-snapshot&#xff1a;用来实现在线snapshot操作。表级别在线 snapshot同样是一个分布式操作&#xff0c;需要对多个目标表的每个Region都执行 snapshot&#xff0c;全部成功后才返回成功。

      HBase中Zookeeper核心配置信息解读

      replication&#xff1a;用来实现HBase复制功能。

      HBase中Zookeeper核心配置信息解读

      splitWal&#xff1a;用来实现Hbase分布式故障恢复。为了加速加速集群故障恢复&#xff0c;HBase实现分布式故障恢复&#xff0c;让集群中所有RegionServer 都参与未回放日志切分。Zookeeper是Master和RegionServer之间的协调节点。

      rs&#xff1a;集群中所有运行的RegionServer

      HBase中Zookeeper核心配置信息解读

      flush-table-proc: flush进程

      HBase中Zookeeper核心配置信息解读

      namespace: HBase默认的命名空间

      HBase中Zookeeper核心配置信息解读


       

      版权声明:本文内容来自第三方投稿或授权转载,原文地址:https://kangll.blog.csdn.net/article/details/121940993,作者:开着拖拉机回家,版权归原作者所有。本网站转在其作品的目的在于传递更多信息,不拥有版权,亦不承担相应法律责任。如因作品内容、版权等问题需要同本网站联系,请发邮件至ctyunbbs@chinatelecom.cn沟通。

      上一篇:jsp电子商务系统之六 订单篇1

      下一篇:Linux:开启FTP传输文件

      相关文章

      2025-05-14 10:02:48

      YARN与HBase任务

      YARN与HBase任务

      2025-05-14 10:02:48
      HBase , 任务 , 应用程序 , 资源 , 集群
      2025-04-22 09:28:31

      【分布式数据库】HBase数据库中某张表中数据条数统计

      【分布式数据库】HBase数据库中某张表中数据条数统计

      2025-04-22 09:28:31
      default , HBase , 数据库 , 统计
      2025-03-06 09:15:52

      Podman安装部署kafka和管理界面(快速跑起来)

      Podman安装部署kafka和管理界面(快速跑起来)

      2025-03-06 09:15:52
      kafka , server , zookeeper , 创建
      2025-02-26 07:20:57

      【dubbo】分布式和dubbo

      【dubbo】分布式和dubbo

      2025-02-26 07:20:57
      dubbo , http , zookeeper , 调用 , 项目
      2025-01-08 08:39:56

      kafka集群重启方法

      kafka集群重启方法

      2025-01-08 08:39:56
      bin , kafka , null , server , zookeeper , 重启
      2024-11-26 09:47:29

      zookeeper配置systemctl

      zookeeper配置systemctl

      2024-11-26 09:47:29
      systemctl , zookeeper , 配置
      2024-09-25 10:13:57

      zookeeper节点监视Watcher

      zookeeper节点监视Watcher

      2024-09-25 10:13:57
      zookeeper
      2024-07-01 01:32:51

      Nginx系列:配置跳转的常用方式

      随着应用服务的增多,服务可能部署在不同的服务器上。

      2024-07-01 01:32:51
      nginx , zookeeper
      2024-07-01 01:31:09

      Dubbo及Zookeeper安装

      Apache Dubbo 是一款高性能、轻量级的开源Java RPC框架,它提供了三大核心能力:面相接口的远程方法调用,智能容错和负载均衡,以及服务自动注册和发现。

      2024-07-01 01:31:09
      jar , java , zookeeper
      2024-06-26 06:22:45

      一键式完全删除CDH 6.3

      一键式完全删除CDH 6.3

      2024-06-26 06:22:45
      hive , zookeeper
      查看更多
      推荐标签

      作者介绍

      天翼云小翼
      天翼云用户

      文章

      33561

      阅读量

      5252796

      查看更多

      最新文章

      zookeeper配置systemctl

      2024-11-26 09:47:29

      Nginx系列:配置跳转的常用方式

      2024-07-01 01:32:51

      如何将Redis、Zookeeper、Nacos配置为Windows系统的一个服务

      2024-04-25 09:04:29

      查看Kafka集群下所有的topic报错“Timed out waiting for a node assignment. Call: listTopics“

      2023-07-18 09:58:02

      Caused by: java.lang.IllegalArgumentException: LoggerFactory is not a Logback LoggerContext but Logb

      2023-06-20 09:17:49

      zookeeper 内部原理 (选举机制,面试重点)

      2023-06-07 07:36:28

      查看更多

      热门文章

      Caused by: java.lang.IllegalArgumentException: LoggerFactory is not a Logback LoggerContext but Logb

      2023-06-20 09:17:49

      查看Kafka集群下所有的topic报错“Timed out waiting for a node assignment. Call: listTopics“

      2023-07-18 09:58:02

      Nginx系列:配置跳转的常用方式

      2024-07-01 01:32:51

      zookeeper 内部原理 (选举机制,面试重点)

      2023-06-07 07:36:28

      如何将Redis、Zookeeper、Nacos配置为Windows系统的一个服务

      2024-04-25 09:04:29

      zookeeper配置systemctl

      2024-11-26 09:47:29

      查看更多

      热门标签

      服务器 linux 虚拟机 Linux 数据库 运维 网络 日志 数据恢复 java python 配置 nginx centos mysql
      查看更多

      相关产品

      弹性云主机

      随时自助获取、弹性伸缩的云服务器资源

      天翼云电脑(公众版)

      便捷、安全、高效的云电脑服务

      对象存储

      高品质、低成本的云上存储服务

      云硬盘

      为云上计算资源提供持久性块存储

      查看更多

      随机文章

      Caused by: java.lang.IllegalArgumentException: LoggerFactory is not a Logback LoggerContext but Logb

      zookeeper配置systemctl

      查看Kafka集群下所有的topic报错“Timed out waiting for a node assignment. Call: listTopics“

      如何将Redis、Zookeeper、Nacos配置为Windows系统的一个服务

      Nginx系列:配置跳转的常用方式

      zookeeper 内部原理 (选举机制,面试重点)

      • 7*24小时售后
      • 无忧退款
      • 免费备案
      • 专家服务
      售前咨询热线
      400-810-9889转1
      关注天翼云
      • 旗舰店
      • 天翼云APP
      • 天翼云微信公众号
      服务与支持
      • 备案中心
      • 售前咨询
      • 智能客服
      • 自助服务
      • 工单管理
      • 客户公告
      • 涉诈举报
      账户管理
      • 管理中心
      • 订单管理
      • 余额管理
      • 发票管理
      • 充值汇款
      • 续费管理
      快速入口
      • 天翼云旗舰店
      • 文档中心
      • 最新活动
      • 免费试用
      • 信任中心
      • 天翼云学堂
      云网生态
      • 甄选商城
      • 渠道合作
      • 云市场合作
      了解天翼云
      • 关于天翼云
      • 天翼云APP
      • 服务案例
      • 新闻资讯
      • 联系我们
      热门产品
      • 云电脑
      • 弹性云主机
      • 云电脑政企版
      • 天翼云手机
      • 云数据库
      • 对象存储
      • 云硬盘
      • Web应用防火墙
      • 服务器安全卫士
      • CDN加速
      热门推荐
      • 云服务备份
      • 边缘安全加速平台
      • 全站加速
      • 安全加速
      • 云服务器
      • 云主机
      • 智能边缘云
      • 应用编排服务
      • 微服务引擎
      • 共享流量包
      更多推荐
      • web应用防火墙
      • 密钥管理
      • 等保咨询
      • 安全专区
      • 应用运维管理
      • 云日志服务
      • 文档数据库服务
      • 云搜索服务
      • 数据湖探索
      • 数据仓库服务
      友情链接
      • 中国电信集团
      • 189邮箱
      • 天翼企业云盘
      • 天翼云盘
      ©2025 天翼云科技有限公司版权所有 增值电信业务经营许可证A2.B1.B2-20090001
      公司地址:北京市东城区青龙胡同甲1号、3号2幢2层205-32室
      • 用户协议
      • 隐私政策
      • 个人信息保护
      • 法律声明
      备案 京公网安备11010802043424号 京ICP备 2021034386号