爆款云主机2核4G限时秒杀,88元/年起!
查看详情

活动

天翼云最新优惠活动,涵盖免费试用,产品折扣等,助您降本增效!
热门活动
  • 618智算钜惠季 爆款云主机2核4G限时秒杀,88元/年起!
  • 免费体验DeepSeek,上天翼云息壤 NEW 新老用户均可免费体验2500万Tokens,限时两周
  • 云上钜惠 HOT 爆款云主机全场特惠,更有万元锦鲤券等你来领!
  • 算力套餐 HOT 让算力触手可及
  • 天翼云脑AOne NEW 连接、保护、办公,All-in-One!
  • 中小企业应用上云专场 产品组合下单即享折上9折起,助力企业快速上云
  • 息壤高校钜惠活动 NEW 天翼云息壤杯高校AI大赛,数款产品享受线上订购超值特惠
  • 天翼云电脑专场 HOT 移动办公新选择,爆款4核8G畅享1年3.5折起,快来抢购!
  • 天翼云奖励推广计划 加入成为云推官,推荐新用户注册下单得现金奖励
免费活动
  • 免费试用中心 HOT 多款云产品免费试用,快来开启云上之旅
  • 天翼云用户体验官 NEW 您的洞察,重塑科技边界

智算服务

打造统一的产品能力,实现算网调度、训练推理、技术架构、资源管理一体化智算服务
智算云(DeepSeek专区)
科研助手
  • 算力商城
  • 应用商城
  • 开发机
  • 并行计算
算力互联调度平台
  • 应用市场
  • 算力市场
  • 算力调度推荐
一站式智算服务平台
  • 模型广场
  • 体验中心
  • 服务接入
智算一体机
  • 智算一体机
大模型
  • DeepSeek-R1-昇腾版(671B)
  • DeepSeek-R1-英伟达版(671B)
  • DeepSeek-V3-昇腾版(671B)
  • DeepSeek-R1-Distill-Llama-70B
  • DeepSeek-R1-Distill-Qwen-32B
  • Qwen2-72B-Instruct
  • StableDiffusion-V2.1
  • TeleChat-12B

应用商城

天翼云精选行业优秀合作伙伴及千余款商品,提供一站式云上应用服务
进入甄选商城进入云市场创新解决方案
办公协同
  • WPS云文档
  • 安全邮箱
  • EMM手机管家
  • 智能商业平台
财务管理
  • 工资条
  • 税务风控云
企业应用
  • 翼信息化运维服务
  • 翼视频云归档解决方案
工业能源
  • 智慧工厂_生产流程管理解决方案
  • 智慧工地
建站工具
  • SSL证书
  • 新域名服务
网络工具
  • 翼云加速
灾备迁移
  • 云管家2.0
  • 翼备份
资源管理
  • 全栈混合云敏捷版(软件)
  • 全栈混合云敏捷版(一体机)
行业应用
  • 翼电子教室
  • 翼智慧显示一体化解决方案

合作伙伴

天翼云携手合作伙伴,共创云上生态,合作共赢
天翼云生态合作中心
  • 天翼云生态合作中心
天翼云渠道合作伙伴
  • 天翼云代理渠道合作伙伴
天翼云服务合作伙伴
  • 天翼云集成商交付能力认证
天翼云应用合作伙伴
  • 天翼云云市场合作伙伴
  • 天翼云甄选商城合作伙伴
天翼云技术合作伙伴
  • 天翼云OpenAPI中心
  • 天翼云EasyCoding平台
天翼云培训认证
  • 天翼云学堂
  • 天翼云市场商学院
天翼云合作计划
  • 云汇计划
天翼云东升计划
  • 适配中心
  • 东升计划
  • 适配互认证

开发者

开发者相关功能入口汇聚
技术社区
  • 专栏文章
  • 互动问答
  • 技术视频
资源与工具
  • OpenAPI中心
开放能力
  • EasyCoding敏捷开发平台
培训与认证
  • 天翼云学堂
  • 天翼云认证
魔乐社区
  • 魔乐社区

支持与服务

为您提供全方位支持与服务,全流程技术保障,助您轻松上云,安全无忧
文档与工具
  • 文档中心
  • 新手上云
  • 自助服务
  • OpenAPI中心
定价
  • 价格计算器
  • 定价策略
基础服务
  • 售前咨询
  • 在线支持
  • 在线支持
  • 工单服务
  • 建议与反馈
  • 用户体验官
  • 服务保障
  • 客户公告
  • 会员中心
增值服务
  • 红心服务
  • 首保服务
  • 客户支持计划
  • 专家技术服务
  • 备案管家

了解天翼云

天翼云秉承央企使命,致力于成为数字经济主力军,投身科技强国伟大事业,为用户提供安全、普惠云服务
品牌介绍
  • 关于天翼云
  • 智算云
  • 天翼云4.0
  • 新闻资讯
  • 天翼云APP
基础设施
  • 全球基础设施
  • 信任中心
最佳实践
  • 精选案例
  • 超级探访
  • 云杂志
  • 分析师和白皮书
  • 天翼云·创新直播间
市场活动
  • 2025智能云生态大会
  • 2024智算云生态大会
  • 2023云生态大会
  • 2022云生态大会
  • 天翼云中国行
天翼云
  • 活动
  • 智算服务
  • 产品
  • 解决方案
  • 应用商城
  • 合作伙伴
  • 开发者
  • 支持与服务
  • 了解天翼云
      • 文档
      • 控制中心
      • 备案
      • 管理中心

      cdh 6.3.0的新特性

      首页 知识中心 其他 文章详情页

      cdh 6.3.0的新特性

      2023-04-06 06:35:14 阅读次数:464

      cdh

      1 CM/CDH6.3及更高版本支持OpenJDK11 你现在可以在Cloudera Enterprise 6.3中使用OpenJDK 11,在集群中安装OpenJDK 11时,默认使用G1GC为CDH大多数服务作为垃圾回收机制,这可能需要进行调优以避免内存过量使用。

      OPSAPS-50993, OPSAPS-49390, OPSAPS-51643

      2 Apache Hadoop 2.1 YARN 1.YARN Distributed Shell with File Localization

      YARN distributed shell是用于YARN功能测试的工具。文件本地化功能使您可以远程将命令行中定义的文件本地化。

      2.公平调度的基于队列的最大容器分配限制

      yarn.scheduler.maximum-allocation-mb属性使你可以在调度程序级别限制容器的整体大小。maxContainerAllocation属性设置队列级别的最大资源,以“ X mb,Y vcores”或“ vcores = X,memory-mb = Y”的形式表示。如果为某个队列指定了该配置,它会覆盖调度层面全局的配置,如果不设置,则默认使用调度层面的全局配置。

      3 Apache Impala 3.1 Automatic Invalidate/Refresh Metadata 启用自动元数据管理后,很多情况下你都不需要执行INVALIDATE/REFRESH。在CDH 6.3中,Hive Metastore中的以下附加事件可以触发元数据的自动INVALIDATE/REFRESH:

      通过Impala或者Spark插入表或分区 这是CDH6.3的预览功能,默认是禁用的。

      3.2 Data Cache for Remote Reads 为了提高多集群HDFS环境以及对象存储环境的性能,Impala现在会将远程存储(例如S3,ABFS,ADLS)的数据缓存到本地存储。

      这是CDH6.3的预览功能,默认是禁用的。

      数据缓存通过–data_cache启动标志启用。

      3.3 Query Profile 以下信息已添加到Query Profile输出中,以更好地监控和诊断查询性能。

      Network I/O throughput

      System disk I/O throughput

      3.4 支持与Hive Metastore集成的Kudu 在CDH 6.3中,Kudu与Hive Metastore(HMS)集成在一起,你可以从Impala中创建,更新,删除和查询与HMS集成的Kudu中的表。

      3.5 支持Parquet文件的zstd压缩 Zstandard(Zstd)是一种实时压缩算法,可在速度和压缩比之间进行权衡。支持从1到22的压缩级别。级别越低,以压缩率为代价的速度越快。

      4 Apache Kafka 4.1 Rebase on Apache Kafka 2.2.1 CDH6.3.0中的Kafka是基于Apache Kafka 2.2.1。

      4.2 Kafka Topic工具可以直接连接到Broker kafka-topics命令行工具现在可以使用–bootstrap-server选项而不是zookeeper直接连接到broker。旧的–zookeeper选项现在仍然可用。

      5 Apache Kudu CDH6.3.0中的Kudu为1.10,主要增加的新功能如下:

      1.Kudu支持使用Spark实现表的全量和增量备份,同时也支持使用Spark实现表全量和增量还原。

      2.Kudu现在可以将内部的catalog与Hive Metastore进行同步,通过当你在Kudu中创建,删除,和更改表时自动更新Hive Metastore中的表来实现。

      3.Kudu可以与Sentry集成支持原生,细粒度的授权。你现在可以为Kudu表和列定义访问控制策略,同时也支持为保存在Hive中的Kudu表定义访问策略。

      4.Kudu的web UI现在支持SPNEGO,这是一种通过http header传递协商来用Kerberos保护http请求的协议。要使用SPNEGO启用授权,请设置–webserver_require_spnego命令行标志。

      5.列注释现在可以存储在Kudu表中,并且可以使用AlterTable API进行更新。

      6.Java scan token builder现在可以为每个tablet创建多个token。要使用此功能,请调用setSplitSizeBytes()以指定每个token应扫描的数据字节数。Kudu与Spark的集成也提供了相同的API,该API可用于在每个扫描的tablet上产生多个Spark任务。

      7.Apache Kudu现在具有实验性的Kubernetes StatefulSet manifest和Helm图表,可用于使用Kubernetes定义和部署Kudu集群。

      8.Kudu CLI现在具有基本的,基于YAML的配置文件支持,可以通过集群名字提供集群连接信息,而不用键入以逗号分隔的Master地址。

      9.kudu perf table_scan命令可扫描表并显示表的行数以及运行扫描所花费的时间。

      10.kudu table copy命令将数据从一个表复制到同一集群内或跨集群的另一张表。请注意,此实现利用单个客户端,因此,它可能不适用于大型表。

      11.现在可以逐表配置tablet历史记录保留时间。

      Kudu1.10主要的优化和改进如下:

      1.尚未flush的Kudu数据变化如UPDATE, DELETE和re-INSERT的性能已得到极大优化。

      2.基本列的谓词性能已优化。

      3.IS NULL和IS NOT NULL谓词性能已得到优化。

      4.对于具有大量分区的表,从master获取tablet位置的性能已得到优化。这可以提高短期运行的Spark或Impala查询的性能,同时也可以提高通过客户端短期连接上的应用程序的性能。

      5.tableExists() (Java)和TableExists() (C++)API的性能更高。

      6.容错扫描性能更高,并且占用的内存少得多。

      7.kudu cluster ksck现在并行发送更多请求。如果你的集群中拥有很多表,运行该命令时,或者当运行该命令的客户端与集群内的节点高延迟时,这可以提高速度。

      8.Kudu的块管理器现在可以根据需要删除用完的块容器,而不仅仅只是在服务启动时删除,这样可以减少服务的启动时间。

      9.DNS解析现在由Kudu Master,Tablet Server和Kudu C++客户端缓存。默认情况下,缓存中已解析的DNS条目的生存时间(TTL)为15秒。

      10.在Kudu 1.10.0或更高版本中创建的表将在Web UI中显示其创建时间以及上次更改时间。

      11.Kudu CLI和C ++客户端现在支持使用“ KUDU_USER_NAME”环境变量来覆盖本地用户名。这使你可以使用与客户端机器上的本地Unix用户不同的身份对Kudu集群进行操作。请注意,这对安全集群没有影响,在安全集群中,客户端身份由Kerberos身份认证确定。

      12.Kudu C ++客户端执行INSERT和UPSERT操作时,在对表的schema约束时执行更严格的验证。这有助于在将数据发送到tablet server前发生schema冲突。

      13.Java客户端中的KuduScanner参数现在可以迭代。此外,KuduScannerIterator会自动使scanner保持活着,以便scanner在进行迭代时不会超时。

      14.Java客户端添加了KuduPartitioner API。KuduPartitioner API允许客户端确定行所在的分区,而无需实际写入该行。比如在Spark中使用KuduPartitioner,它会选择性地对数据进行重新分区和预排序,然后再写入Kudu。

      15.PartialRow和RowResult Java API具有接受和返回Java对象的新方法。当你不关心自动装箱并且现有的类型处理逻辑基于Java类型时,这些方法很有用。

      16.现在,当日志级别为INFO或更高级别时,Kudu Java客户端将记录RPC trace摘要,而不是完整的RPC trace。这样可以减少日志噪音,并以更紧凑的格式显示RPC问题。

      17.Kudu服务现在会在Web UI中显示启动各个服务的时间。

      18./metrics Web UI端点现在支持按实体类型,实体ID,实体属性和指标名称过滤数据。当tablet server中有大量tablet时,这可用于更有效地收集重要指标。

      19.你现在可以在命令行中为Kudu rebalancer使用–ignored_tservers参数,在确定重新平衡集群是否安全时,该参数可用于忽略特定tablet server的运行状况(比如它们关闭了)。

      20.kudu master list命令现在显示集群中每个主节点的Raft共识角色(LEADER或FOLLOWER)。

      21.kudu table scan命令不再交错输出。它投影所有列,而无需手动列出列名。

      22.kudu perf loadgen命令现在支持创建空表。–num_rows_per_thread标志的特殊值0的语义已更改。现在,值0表示不应生成任何行,而值-1表示应不限制所生成的行数。

      23.从源代码构建Kudu之后,运行make install命令现在会将Kudu二进制文件安装到适当的位置。

      版权声明:本文内容来自第三方投稿或授权转载,原文地址:https://blog.51cto.com/wang/3253806,作者:江南独孤客,版权归原作者所有。本网站转在其作品的目的在于传递更多信息,不拥有版权,亦不承担相应法律责任。如因作品内容、版权等问题需要同本网站联系,请发邮件至ctyunbbs@chinatelecom.cn沟通。

      上一篇:转Comet 技术

      下一篇:CDH之hdfs的常规优化项

      相关文章

      2023-08-09 07:17:26

      如何将ORC格式且使用了DATE类型的Hive表转为Parquet表

      在CDH中使用Hive时,为了统一数据文件的存储格式,推荐使用Parquet格式的文件存储,这样做也是为了能够同时能够兼容Impala的查询。有些用户在Hive中创建大量的ORC格式的表,并使用了DATE数据类型,这会导致在Impala中无

      2023-08-09 07:17:26
      cdh , Hive
      2023-08-09 07:17:16

      CDH yarn设置管理 ACL后,无法访问yarn的日志。

      yarn设置acl的配置设置以上之后,就无法查看yarn运行的flink任务的日志。提示报以下错误。job的日志 HDFS:User [dr.who] is not authorized to view the logs for conta

      2023-08-09 07:17:16
      cdh , yarn , 日志
      2023-06-14 09:13:14

      基于CDH 6.3.0 搭建 Hive on Spark 及相关配置和调优

      基于CDH 6.3.0 搭建 Hive on Spark 及相关配置和调优  Hive默认使用的计算框架是MapReduce,在我们使用Hive的时候通过写SQL语句,Hive会自动将SQL语句转化成MapReduce作业去执行,但是Map

      2023-06-14 09:13:14
      cdh , hive , spark
      2023-04-28 02:38:44

      cdh安装到scm-server的mysql报错处理

      报错如下:提示root没有权限操作scm库解决方案:以下提示数据库初始化成功

      2023-04-28 02:38:44
      cdh , mysql
      2023-03-31 09:52:30

      CDH网络要求(Lenovo参考架构)

      1.组网配置    建议的Cloudera组网配置如下图,主要包含数据网络和管理网络。  2.数据网络    数据网络是用于数据访问的节点之间的私有集群数据互连,比如在集群内的节点之间移动数据,或者将数据导入到CDH集群。CDH集群通常会

      2023-03-31 09:52:30
      cdh , 网络
      2023-03-31 06:14:11

      cdh动态资源池的设置

      1. 静态资源池在CDH中,一般情况下不建议使用静态资源池,在CDH中默认的资源池是动态资源池,为什么不建议使用静态资源池,原因如下:假设给NodeManager分配了4G内存,刚刚开始使用的时候使用了3G,一段时间后任务增多,使用到了4G

      2023-03-31 06:14:11
      cdh
      查看更多
      推荐标签

      作者介绍

      天翼云小翼
      天翼云用户

      文章

      33561

      阅读量

      5243192

      查看更多

      最新文章

      如何将ORC格式且使用了DATE类型的Hive表转为Parquet表

      2023-08-09 07:17:26

      CDH网络要求(Lenovo参考架构)

      2023-03-31 09:52:30

      cdh动态资源池的设置

      2023-03-31 06:14:11

      查看更多

      热门文章

      cdh动态资源池的设置

      2023-03-31 06:14:11

      CDH网络要求(Lenovo参考架构)

      2023-03-31 09:52:30

      如何将ORC格式且使用了DATE类型的Hive表转为Parquet表

      2023-08-09 07:17:26

      查看更多

      热门标签

      linux java python javascript 数组 前端 docker Linux vue 函数 shell git 节点 容器 示例
      查看更多

      相关产品

      弹性云主机

      随时自助获取、弹性伸缩的云服务器资源

      天翼云电脑(公众版)

      便捷、安全、高效的云电脑服务

      对象存储

      高品质、低成本的云上存储服务

      云硬盘

      为云上计算资源提供持久性块存储

      查看更多

      随机文章

      如何将ORC格式且使用了DATE类型的Hive表转为Parquet表

      cdh动态资源池的设置

      CDH网络要求(Lenovo参考架构)

      • 7*24小时售后
      • 无忧退款
      • 免费备案
      • 专家服务
      售前咨询热线
      400-810-9889转1
      关注天翼云
      • 旗舰店
      • 天翼云APP
      • 天翼云微信公众号
      服务与支持
      • 备案中心
      • 售前咨询
      • 智能客服
      • 自助服务
      • 工单管理
      • 客户公告
      • 涉诈举报
      账户管理
      • 管理中心
      • 订单管理
      • 余额管理
      • 发票管理
      • 充值汇款
      • 续费管理
      快速入口
      • 天翼云旗舰店
      • 文档中心
      • 最新活动
      • 免费试用
      • 信任中心
      • 天翼云学堂
      云网生态
      • 甄选商城
      • 渠道合作
      • 云市场合作
      了解天翼云
      • 关于天翼云
      • 天翼云APP
      • 服务案例
      • 新闻资讯
      • 联系我们
      热门产品
      • 云电脑
      • 弹性云主机
      • 云电脑政企版
      • 天翼云手机
      • 云数据库
      • 对象存储
      • 云硬盘
      • Web应用防火墙
      • 服务器安全卫士
      • CDN加速
      热门推荐
      • 云服务备份
      • 边缘安全加速平台
      • 全站加速
      • 安全加速
      • 云服务器
      • 云主机
      • 智能边缘云
      • 应用编排服务
      • 微服务引擎
      • 共享流量包
      更多推荐
      • web应用防火墙
      • 密钥管理
      • 等保咨询
      • 安全专区
      • 应用运维管理
      • 云日志服务
      • 文档数据库服务
      • 云搜索服务
      • 数据湖探索
      • 数据仓库服务
      友情链接
      • 中国电信集团
      • 189邮箱
      • 天翼企业云盘
      • 天翼云盘
      ©2025 天翼云科技有限公司版权所有 增值电信业务经营许可证A2.B1.B2-20090001
      公司地址:北京市东城区青龙胡同甲1号、3号2幢2层205-32室
      • 用户协议
      • 隐私政策
      • 个人信息保护
      • 法律声明
      备案 京公网安备11010802043424号 京ICP备 2021034386号