searchusermenu
  • 发布文章
  • 消息中心
点赞
收藏
评论
分享

Yarn调优参数 参考

2023-06-10 03:04:31
28
0

(1)ResourceManager相关
yarn.resourcemanager.scheduler.client.thread-count ResourceManager处理调度器请求的线程数量
yarn.resourcemanager.scheduler.class 配置调度器
(2)NodeManager相关
yarn.nodemanager.resource.memory-mb               NodeManager使用内存数
yarn.nodemanager.resource.system-reserved-memory-mb  NodeManager为系统保留多少内存,和上一个参数二者取一即可

yarn.nodemanager.resource.cpu-vcores NodeManager使用CPU核数
yarn.nodemanager.resource.count-logical-processors-as-cores 是否将虚拟核数当作CPU核数
yarn.nodemanager.resource.pcores-vcores-multiplier 虚拟核数和物理核数乘数,例如:4核8线程,该参数就应设为2
yarn.nodemanager.resource.detect-hardware-capabilities 是否让Yarn自己检测硬件进行配置

yarn.nodemanager.pmem-check-enabled 是否开启物理内存检查限制Container
yarn.nodemanager.vmem-check-enabled 是否开启虚拟内存检查限制Container
yarn.nodemanager.vmem-pmem-ratio        虚拟内存物理内存比例
(3)Container容器相关
yarn.scheduler.minimum-allocation-mb      容器最小内存
yarn.scheduler.maximum-allocation-mb      容器最大内存
yarn.scheduler.minimum-allocation-vcores  容器最小核数
yarn.scheduler.maximum-allocation-vcores  容器最大核数

0条评论
作者已关闭评论
5****m
9文章数
0粉丝数
5****m
9 文章 | 0 粉丝

Yarn调优参数 参考

2023-06-10 03:04:31
28
0

(1)ResourceManager相关
yarn.resourcemanager.scheduler.client.thread-count ResourceManager处理调度器请求的线程数量
yarn.resourcemanager.scheduler.class 配置调度器
(2)NodeManager相关
yarn.nodemanager.resource.memory-mb               NodeManager使用内存数
yarn.nodemanager.resource.system-reserved-memory-mb  NodeManager为系统保留多少内存,和上一个参数二者取一即可

yarn.nodemanager.resource.cpu-vcores NodeManager使用CPU核数
yarn.nodemanager.resource.count-logical-processors-as-cores 是否将虚拟核数当作CPU核数
yarn.nodemanager.resource.pcores-vcores-multiplier 虚拟核数和物理核数乘数,例如:4核8线程,该参数就应设为2
yarn.nodemanager.resource.detect-hardware-capabilities 是否让Yarn自己检测硬件进行配置

yarn.nodemanager.pmem-check-enabled 是否开启物理内存检查限制Container
yarn.nodemanager.vmem-check-enabled 是否开启虚拟内存检查限制Container
yarn.nodemanager.vmem-pmem-ratio        虚拟内存物理内存比例
(3)Container容器相关
yarn.scheduler.minimum-allocation-mb      容器最小内存
yarn.scheduler.maximum-allocation-mb      容器最大内存
yarn.scheduler.minimum-allocation-vcores  容器最小核数
yarn.scheduler.maximum-allocation-vcores  容器最大核数

文章来自个人专栏
文章 | 订阅
0条评论
作者已关闭评论
作者已关闭评论
0
0