爆款云主机2核4G限时秒杀,88元/年起!
查看详情

活动

天翼云最新优惠活动,涵盖免费试用,产品折扣等,助您降本增效!
热门活动
  • 618智算钜惠季 爆款云主机2核4G限时秒杀,88元/年起!
  • 免费体验DeepSeek,上天翼云息壤 NEW 新老用户均可免费体验2500万Tokens,限时两周
  • 云上钜惠 HOT 爆款云主机全场特惠,更有万元锦鲤券等你来领!
  • 算力套餐 HOT 让算力触手可及
  • 天翼云脑AOne NEW 连接、保护、办公,All-in-One!
  • 中小企业应用上云专场 产品组合下单即享折上9折起,助力企业快速上云
  • 息壤高校钜惠活动 NEW 天翼云息壤杯高校AI大赛,数款产品享受线上订购超值特惠
  • 天翼云电脑专场 HOT 移动办公新选择,爆款4核8G畅享1年3.5折起,快来抢购!
  • 天翼云奖励推广计划 加入成为云推官,推荐新用户注册下单得现金奖励
免费活动
  • 免费试用中心 HOT 多款云产品免费试用,快来开启云上之旅
  • 天翼云用户体验官 NEW 您的洞察,重塑科技边界

智算服务

打造统一的产品能力,实现算网调度、训练推理、技术架构、资源管理一体化智算服务
智算云(DeepSeek专区)
科研助手
  • 算力商城
  • 应用商城
  • 开发机
  • 并行计算
算力互联调度平台
  • 应用市场
  • 算力市场
  • 算力调度推荐
一站式智算服务平台
  • 模型广场
  • 体验中心
  • 服务接入
智算一体机
  • 智算一体机
大模型
  • DeepSeek-R1-昇腾版(671B)
  • DeepSeek-R1-英伟达版(671B)
  • DeepSeek-V3-昇腾版(671B)
  • DeepSeek-R1-Distill-Llama-70B
  • DeepSeek-R1-Distill-Qwen-32B
  • Qwen2-72B-Instruct
  • StableDiffusion-V2.1
  • TeleChat-12B

应用商城

天翼云精选行业优秀合作伙伴及千余款商品,提供一站式云上应用服务
进入甄选商城进入云市场创新解决方案
办公协同
  • WPS云文档
  • 安全邮箱
  • EMM手机管家
  • 智能商业平台
财务管理
  • 工资条
  • 税务风控云
企业应用
  • 翼信息化运维服务
  • 翼视频云归档解决方案
工业能源
  • 智慧工厂_生产流程管理解决方案
  • 智慧工地
建站工具
  • SSL证书
  • 新域名服务
网络工具
  • 翼云加速
灾备迁移
  • 云管家2.0
  • 翼备份
资源管理
  • 全栈混合云敏捷版(软件)
  • 全栈混合云敏捷版(一体机)
行业应用
  • 翼电子教室
  • 翼智慧显示一体化解决方案

合作伙伴

天翼云携手合作伙伴,共创云上生态,合作共赢
天翼云生态合作中心
  • 天翼云生态合作中心
天翼云渠道合作伙伴
  • 天翼云代理渠道合作伙伴
天翼云服务合作伙伴
  • 天翼云集成商交付能力认证
天翼云应用合作伙伴
  • 天翼云云市场合作伙伴
  • 天翼云甄选商城合作伙伴
天翼云技术合作伙伴
  • 天翼云OpenAPI中心
  • 天翼云EasyCoding平台
天翼云培训认证
  • 天翼云学堂
  • 天翼云市场商学院
天翼云合作计划
  • 云汇计划
天翼云东升计划
  • 适配中心
  • 东升计划
  • 适配互认证

开发者

开发者相关功能入口汇聚
技术社区
  • 专栏文章
  • 互动问答
  • 技术视频
资源与工具
  • OpenAPI中心
开放能力
  • EasyCoding敏捷开发平台
培训与认证
  • 天翼云学堂
  • 天翼云认证
魔乐社区
  • 魔乐社区

支持与服务

为您提供全方位支持与服务,全流程技术保障,助您轻松上云,安全无忧
文档与工具
  • 文档中心
  • 新手上云
  • 自助服务
  • OpenAPI中心
定价
  • 价格计算器
  • 定价策略
基础服务
  • 售前咨询
  • 在线支持
  • 在线支持
  • 工单服务
  • 建议与反馈
  • 用户体验官
  • 服务保障
  • 客户公告
  • 会员中心
增值服务
  • 红心服务
  • 首保服务
  • 客户支持计划
  • 专家技术服务
  • 备案管家

了解天翼云

天翼云秉承央企使命,致力于成为数字经济主力军,投身科技强国伟大事业,为用户提供安全、普惠云服务
品牌介绍
  • 关于天翼云
  • 智算云
  • 天翼云4.0
  • 新闻资讯
  • 天翼云APP
基础设施
  • 全球基础设施
  • 信任中心
最佳实践
  • 精选案例
  • 超级探访
  • 云杂志
  • 分析师和白皮书
  • 天翼云·创新直播间
市场活动
  • 2025智能云生态大会
  • 2024智算云生态大会
  • 2023云生态大会
  • 2022云生态大会
  • 天翼云中国行
天翼云
  • 活动
  • 智算服务
  • 产品
  • 解决方案
  • 应用商城
  • 合作伙伴
  • 开发者
  • 支持与服务
  • 了解天翼云
      • 文档
      • 控制中心
      • 备案
      • 管理中心

      【内存】TLB缓存是个神马鬼,如何查看TLB miss?

      首页 知识中心 存储 文章详情页

      【内存】TLB缓存是个神马鬼,如何查看TLB miss?

      2025-02-26 07:21:49 阅读次数:11

      页表

      Linux在v2.6.11以后,最终采用的方案是4级页表,分别是:
      - PGD:page Global directory(47-39), 页全局目录
      - PUD:Page Upper Directory(38-30),页上级目录
      - PMD:page middle directory(29-21),页中间目录
      - PTE:page table entry(20-12),页表项

      这样,一个64位的虚拟空间,就需要:2^9 个PGD + 2^9 个PUD + 2^9 个PMD + 2^9 个PTE = 2048个页表数据结构。现在的页表数据结构被扩展到了8byte。仅仅需要(2048*8=)16K就可以支持起(2^48 =)256T的进程地址空间。

      页表带来的问题

      处理器引入MMU后,读取指令、数据需要访问两次内存:

      首先通过查询页表得到物理地址,然后访问该物理地址读取指令、数据。

      既由于页表存放在主存中,因此程序每次访存至少需要两次(单级页表):一次访存获取物理地址,第二次访存才获得数据。

      虽然16K的页表数据支持起了256T的地址空间寻址。但是,这也带来了额外的问题,页表是存在内存里的。那就是一次内存IO光是虚拟地址到物理地址的转换就要去内存查4次页表(4级),再算上真正的内存访问,竟然需要5次内存IO才能获取一个内存数据!!

      TLB应运而生

      为了减少因为MMU导致的处理器性能下降,引入了TLB,TLB是Translation Lookaside Buffer的简称,可翻译为“地址转换后援缓冲器”,也可简称为“快表”。

      简单地说,TLB就是页表的Cache,其中存储了当前最可能被访问到的页表项,其内容是部分页表项的一个副本。只有在TLB无法完成地址翻译任务时,才会到内存中查询页表,这样就减少了页表查询导致的处理器性能下降。

      TLB原理

      当cpu要访问一个虚拟地址/线性地址时,CPU会首先根据虚拟地址的高20位(20是x86特定的,不同架构有不同的值)在TLB中查找。如果是表中没有相应的表项,称为TLB miss,需要通过访问慢速RAM中的页表计算出相应的物理地址。同时,物理地址被存放在一个TLB表项中,以后对同一线性地址的访问,直接从TLB表项中获取物理地址即可,称为TLB hit。

      归纳如下:

      • 1.CPU产生一个虚拟地址
      • 2.MMU从TLB中获取页表,翻译成物理地址
      • 3.MMU把物理地址发送给L1/L2/L3/内存
      • 4.L1/L2/L3/内存将地址对应数据返回给CPU

      由于第2步是类似于寄存器的访问速度,所以如果TLB能命中,则虚拟地址到物理地址的时间开销几乎可以忽略。如果想了解TLB更详细的工作机制,请参考《深入理解计算机系统-第9章虚拟内存》

      想像一下x86_32架构下没有TLB的存在时的情况,对线性地址的访问,首先从PGD中获取PTE(第一次内存访问),在PTE中获取页框地址(第二次内存访问),最后访问物理地址,总共需要3次RAM的访问。如果有TLB存在,并且TLB hit,那么只需要一次RAM访问即可。

      如何查看TLB miss

      既然TLB缓存命中很重要,那么有什么工具能够查看你的系统里的命中率呢? 还真有

      # perf stat -e dTLB-loads,dTLB-load-misses,iTLB-loads,iTLB-load-misses -p $PID

      Performance counter stats for process id '21047':
      
      627,809 dTLB-loads
      
      8,566 dTLB-load-misses # 1.36% of all dTLB cache hits
      
      2,001,294 iTLB-loads
      
      3,826 iTLB-load-misses # 0.19% of all iTLB cache hits

      iTLB-loads可大于也可小于iTLB-load-misses:https:///questions/49933319/how-to-interpret-perf-itlb-loads-itlb-load-misses

      On your Broadwell processor, perf maps iTLB-loads to ITLB_MISSES.STLB_HIT, which represents the event of a TLB lookup that misses the L1 ITLB but hits the unified TLB for all page sizes, and iTLB-load-misses to ITLB_MISSES.MISS_CAUSES_A_WALK, which represents the event of a TLB lookup that misses both the L1 ITLB and the unified TLB (causing a page walk) for all page sizes. Therefore, iTLB-load-misses can be larger or smaller than or equal to iTLB-loads. They are independent events.

      扩展

      因为TLB并不是很大,只有4k,而且现在逻辑核又造成会有两个进程来共享。所以可能会有cache miss的情况出现。而且一旦TLB miss造成的后果可比物理地址cache miss后果要严重一些,最多可能需要进行5次内存IO才行。建议你先用上面的perf工具查看一下你的程序的TLB的miss情况,如果确实不命中率很高,那么Linux允许你使用大内存页,很多大牛包括PHP7作者鸟哥也这样建议。这样将会大大减少页表项的数量,所以自然也会降低TLB cache miss率。所要承担的代价就是会造成一定程度的内存浪费。在Linux里,大内存页默认是不开启的。

      perf 统计 内存相关event (https:///mrpre/article/details/83537311)


      perf 可探测 的所有 event ,均可以使用命令perf list获得。

      本文举几个和内存相关的性能的几个event例子

      探测 进程 的缺页中断数(page fault)
      perf stat -e faults ./mem
      能够统计 ./mem 执行 周期内,引发的 缺页中断数。

      Performance counter stats for './mem':

                 100,126      faults                                                      

             0.203315268 seconds time elapsed

      探测正在运行的进程,则使用
      perf stat -e faults -p $PID运行,命令掐断后,打印出命令开始到命令结束时,目标进程的缺页中断数。

      可以 使用 perf record来探测 指定 event 的热点函数,例如
      perf record -e faults ./mem

      使用
      perf report
      输出结果。

      Samples: 655  of event 'faults', Event count (approx.): 100151                                                                               
      Overhead  Command  Shared Object     Symbol                                                                                                  
        99.57%  mem      mem               [.] func
         0.35%  mem      ld-2.17.so        [.] _dl_lookup_symbol_x
         0.06%  mem      ld-2.17.so        [.] _dl_important_hwcaps
         0.01%  mem      ld-2.17.so        [.] _dl_start
         0.00%  mem      ld-2.17.so        [.] _start
         0.00%  mem      [kernel.vmlinux]  [k] __clear_user
         0.00%  mem      [kernel.vmlinux]  [k] copy_user_enhanced_fast_string

      原理
      在内核缺页中断处,有perf的钩子,用于统计缺页中断的次数:

      perf_sw_event(PERF_COUNT_SW_PAGE_FAULTS, 1, regs, address);

      内核源码中搜索 PERF_COUNT_SW_PAGE_FAULTS即可。

      探测 进程 TLB相关event
      perf stat -e dTLB-loads,dTLB-load-misses,iTLB-loads,iTLB-load-misses,L1-icache-load-misses ./mem
      或者指定进程id进行探测
      perf stat -e dTLB-loads,dTLB-load-misses,iTLB-loads,iTLB-load-misses,L1-icache-load-misses -p $PID

      $perf stat -e dTLB-loads,dTLB-load-misses,iTLB-loads,iTLB-load-misses,L1-icache-load-misses ./mem

       Performance counter stats for './mem':

              89,946,326      dTLB-loads                                                    (80.09%)
                  17,030      dTLB-load-misses          #    0.02% of all dTLB cache hits   (40.47%)
                      10      iTLB-loads                                                    (39.96%)
                     137      iTLB-load-misses          #  1370.00% of all iTLB cache hits   (59.80%)
                  98,113      L1-icache-load-misses                                         (79.65%)

             0.201743107 seconds time elapsed

      因为是 硬件event,所以不同的CPU架构,这些值代表的不一样。一样的是,dTLB代表了数据的TLB统计,iTLB代表的是指令的TLB统计。

      版权声明:本文内容来自第三方投稿或授权转载,原文地址:https://blog.csdn.net/bandaoyu/article/details/113385810,作者:bandaoyu,版权归原作者所有。本网站转在其作品的目的在于传递更多信息,不拥有版权,亦不承担相应法律责任。如因作品内容、版权等问题需要同本网站联系,请发邮件至ctyunbbs@chinatelecom.cn沟通。

      上一篇:【内存池】讨论为什么 要自己实现内存池

      下一篇:【RDMA】2. 比较基于Socket与RDMA的通信

      相关文章

      2025-02-26 07:21:49

      【ceph】Messenger的基准测试工具ceph_perf_msgr_server/ceph_perf_msgr_client|性能测试

      【ceph】Messenger的基准测试工具ceph_perf_msgr_server/ceph_perf_msgr_client|性能测试

      2025-02-26 07:21:49
      ceph , client , server
      2025-02-26 07:20:57

      【性能】perf + 火焰图分析软件性能瓶颈

      【性能】perf + 火焰图分析软件性能瓶颈

      2025-02-26 07:20:57
      CPU , record , 调用
      2024-11-07 08:17:34

      详解:Linux内核在arm上的启动过程

      详解:Linux内核在arm上的启动过程

      2024-11-07 08:17:34
      内核 , 页表
      2024-04-16 08:57:13

      操作系统之内存管理概念(中)

      操作系统之内存管理概念(中)

      2024-04-16 08:57:13
      操作系统 , 页表
      2024-03-28 08:57:14

      深入理解Linux内核(2)---内存寻址

      深入理解Linux内核(2)---内存寻址

      2024-03-28 08:57:14
      linux , 内存 , 页表
      2023-05-15 10:01:00

      linux内核源码解析04–用户进程页表创建

      进程是独立的资源空间,每个进程都有自己独立的页表;用户进程创建页表发生在三个时刻:创建进程fork时;缺页异常时;进程切换时;1.创建进程fork核心函数dum_mm函数第一步 分配pgd物理页面pgd_alloc函数mm_init()-&

      2023-05-15 10:01:00
      linux , 内核 , 页表
      查看更多
      推荐标签

      作者介绍

      天翼云小翼
      天翼云用户

      文章

      33561

      阅读量

      5219997

      查看更多

      最新文章

      操作系统之内存管理概念(中)

      2024-04-16 08:57:13

      深入理解Linux内核(2)---内存寻址

      2024-03-28 08:57:14

      查看更多

      热门文章

      深入理解Linux内核(2)---内存寻址

      2024-03-28 08:57:14

      操作系统之内存管理概念(中)

      2024-04-16 08:57:13

      查看更多

      热门标签

      存储 缓存 内存 数据库 数据 redis mysql 服务器 数据恢复 Redis linux java 链表 MySQL sql
      查看更多

      相关产品

      弹性云主机

      随时自助获取、弹性伸缩的云服务器资源

      天翼云电脑(公众版)

      便捷、安全、高效的云电脑服务

      对象存储

      高品质、低成本的云上存储服务

      云硬盘

      为云上计算资源提供持久性块存储

      查看更多

      随机文章

      操作系统之内存管理概念(中)

      深入理解Linux内核(2)---内存寻址

      • 7*24小时售后
      • 无忧退款
      • 免费备案
      • 专家服务
      售前咨询热线
      400-810-9889转1
      关注天翼云
      • 旗舰店
      • 天翼云APP
      • 天翼云微信公众号
      服务与支持
      • 备案中心
      • 售前咨询
      • 智能客服
      • 自助服务
      • 工单管理
      • 客户公告
      • 涉诈举报
      账户管理
      • 管理中心
      • 订单管理
      • 余额管理
      • 发票管理
      • 充值汇款
      • 续费管理
      快速入口
      • 天翼云旗舰店
      • 文档中心
      • 最新活动
      • 免费试用
      • 信任中心
      • 天翼云学堂
      云网生态
      • 甄选商城
      • 渠道合作
      • 云市场合作
      了解天翼云
      • 关于天翼云
      • 天翼云APP
      • 服务案例
      • 新闻资讯
      • 联系我们
      热门产品
      • 云电脑
      • 弹性云主机
      • 云电脑政企版
      • 天翼云手机
      • 云数据库
      • 对象存储
      • 云硬盘
      • Web应用防火墙
      • 服务器安全卫士
      • CDN加速
      热门推荐
      • 云服务备份
      • 边缘安全加速平台
      • 全站加速
      • 安全加速
      • 云服务器
      • 云主机
      • 智能边缘云
      • 应用编排服务
      • 微服务引擎
      • 共享流量包
      更多推荐
      • web应用防火墙
      • 密钥管理
      • 等保咨询
      • 安全专区
      • 应用运维管理
      • 云日志服务
      • 文档数据库服务
      • 云搜索服务
      • 数据湖探索
      • 数据仓库服务
      友情链接
      • 中国电信集团
      • 189邮箱
      • 天翼企业云盘
      • 天翼云盘
      ©2025 天翼云科技有限公司版权所有 增值电信业务经营许可证A2.B1.B2-20090001
      公司地址:北京市东城区青龙胡同甲1号、3号2幢2层205-32室
      • 用户协议
      • 隐私政策
      • 个人信息保护
      • 法律声明
      备案 京公网安备11010802043424号 京ICP备 2021034386号