爆款云主机2核4G限时秒杀,88元/年起!
查看详情

活动

天翼云最新优惠活动,涵盖免费试用,产品折扣等,助您降本增效!
热门活动
  • 618智算钜惠季 爆款云主机2核4G限时秒杀,88元/年起!
  • 免费体验DeepSeek,上天翼云息壤 NEW 新老用户均可免费体验2500万Tokens,限时两周
  • 云上钜惠 HOT 爆款云主机全场特惠,更有万元锦鲤券等你来领!
  • 算力套餐 HOT 让算力触手可及
  • 天翼云脑AOne NEW 连接、保护、办公,All-in-One!
  • 中小企业应用上云专场 产品组合下单即享折上9折起,助力企业快速上云
  • 息壤高校钜惠活动 NEW 天翼云息壤杯高校AI大赛,数款产品享受线上订购超值特惠
  • 天翼云电脑专场 HOT 移动办公新选择,爆款4核8G畅享1年3.5折起,快来抢购!
  • 天翼云奖励推广计划 加入成为云推官,推荐新用户注册下单得现金奖励
免费活动
  • 免费试用中心 HOT 多款云产品免费试用,快来开启云上之旅
  • 天翼云用户体验官 NEW 您的洞察,重塑科技边界

智算服务

打造统一的产品能力,实现算网调度、训练推理、技术架构、资源管理一体化智算服务
智算云(DeepSeek专区)
科研助手
  • 算力商城
  • 应用商城
  • 开发机
  • 并行计算
算力互联调度平台
  • 应用市场
  • 算力市场
  • 算力调度推荐
一站式智算服务平台
  • 模型广场
  • 体验中心
  • 服务接入
智算一体机
  • 智算一体机
大模型
  • DeepSeek-R1-昇腾版(671B)
  • DeepSeek-R1-英伟达版(671B)
  • DeepSeek-V3-昇腾版(671B)
  • DeepSeek-R1-Distill-Llama-70B
  • DeepSeek-R1-Distill-Qwen-32B
  • Qwen2-72B-Instruct
  • StableDiffusion-V2.1
  • TeleChat-12B

应用商城

天翼云精选行业优秀合作伙伴及千余款商品,提供一站式云上应用服务
进入甄选商城进入云市场创新解决方案
办公协同
  • WPS云文档
  • 安全邮箱
  • EMM手机管家
  • 智能商业平台
财务管理
  • 工资条
  • 税务风控云
企业应用
  • 翼信息化运维服务
  • 翼视频云归档解决方案
工业能源
  • 智慧工厂_生产流程管理解决方案
  • 智慧工地
建站工具
  • SSL证书
  • 新域名服务
网络工具
  • 翼云加速
灾备迁移
  • 云管家2.0
  • 翼备份
资源管理
  • 全栈混合云敏捷版(软件)
  • 全栈混合云敏捷版(一体机)
行业应用
  • 翼电子教室
  • 翼智慧显示一体化解决方案

合作伙伴

天翼云携手合作伙伴,共创云上生态,合作共赢
天翼云生态合作中心
  • 天翼云生态合作中心
天翼云渠道合作伙伴
  • 天翼云代理渠道合作伙伴
天翼云服务合作伙伴
  • 天翼云集成商交付能力认证
天翼云应用合作伙伴
  • 天翼云云市场合作伙伴
  • 天翼云甄选商城合作伙伴
天翼云技术合作伙伴
  • 天翼云OpenAPI中心
  • 天翼云EasyCoding平台
天翼云培训认证
  • 天翼云学堂
  • 天翼云市场商学院
天翼云合作计划
  • 云汇计划
天翼云东升计划
  • 适配中心
  • 东升计划
  • 适配互认证

开发者

开发者相关功能入口汇聚
技术社区
  • 专栏文章
  • 互动问答
  • 技术视频
资源与工具
  • OpenAPI中心
开放能力
  • EasyCoding敏捷开发平台
培训与认证
  • 天翼云学堂
  • 天翼云认证
魔乐社区
  • 魔乐社区

支持与服务

为您提供全方位支持与服务,全流程技术保障,助您轻松上云,安全无忧
文档与工具
  • 文档中心
  • 新手上云
  • 自助服务
  • OpenAPI中心
定价
  • 价格计算器
  • 定价策略
基础服务
  • 售前咨询
  • 在线支持
  • 在线支持
  • 工单服务
  • 建议与反馈
  • 用户体验官
  • 服务保障
  • 客户公告
  • 会员中心
增值服务
  • 红心服务
  • 首保服务
  • 客户支持计划
  • 专家技术服务
  • 备案管家

了解天翼云

天翼云秉承央企使命,致力于成为数字经济主力军,投身科技强国伟大事业,为用户提供安全、普惠云服务
品牌介绍
  • 关于天翼云
  • 智算云
  • 天翼云4.0
  • 新闻资讯
  • 天翼云APP
基础设施
  • 全球基础设施
  • 信任中心
最佳实践
  • 精选案例
  • 超级探访
  • 云杂志
  • 分析师和白皮书
  • 天翼云·创新直播间
市场活动
  • 2025智能云生态大会
  • 2024智算云生态大会
  • 2023云生态大会
  • 2022云生态大会
  • 天翼云中国行
天翼云
  • 活动
  • 智算服务
  • 产品
  • 解决方案
  • 应用商城
  • 合作伙伴
  • 开发者
  • 支持与服务
  • 了解天翼云
      • 文档
      • 控制中心
      • 备案
      • 管理中心

      讲一讲Kafka与RocketMQ中零拷贝技术的运用?

      首页 知识中心 其他 文章详情页

      讲一讲Kafka与RocketMQ中零拷贝技术的运用?

      2025-01-17 09:06:45 阅读次数:14

      buffer,copy,socket,拷贝,缓冲区

      讲一讲Kafka与RocketMQ中零拷贝技术的运用?

      什么是零拷贝?

      零拷贝(英语: Zero-copy) 技术是指计算机执行操作时,CPU不需要先将数据从某处内存复制到另一个特定区域。这种技术通常用于通过网络传输文件时节省CPU周期和内存带宽。

      ➢零拷贝技术可以减少数据拷贝和共享总线操作的次数,消除传输数据在存储器之间不必要的中间拷贝次数,从而有效地提高数据传输效率

      ➢零拷贝技术减少了用户进程地址空间和内核地址空间之间因为上:下文切换而带来的开销

      可以看出没有说不需要拷贝,只是说减少冗余[不必要]的拷贝。

      下面这些组件、框架中均使用了零拷贝技术:Kafka、Netty、Rocketmq、Nginx、Apache。

      传统数据传送机制

      比如:读取文件,再用socket发送出去,实际经过四次copy。

      伪码实现如下:

      buffer = File.read()

      Socket.send(buffer)

      1、第一次:将磁盘文件,读取到操作系统内核缓冲区;

      2、第二次:将内核缓冲区的数据,copy到应用程序的buffer;

      3、第三步:将application应用程序buffer中的数据,copy到socket网络发送缓冲区(属于操作系统内核的缓冲区);

      4、第四次:将socket buffer的数据,copy到网卡,由网卡进行网络传输。

      2023-07-16:讲一讲Kafka与RocketMQ中零拷贝技术的运用?

      分析上述的过程,虽然引入DMA来接管CPU的中断请求,但四次copy是存在“不必要的拷贝”的。实际上并不需要第二个和第三个数据副本。应用程序除了缓存数据并将其传输回套接字缓冲区之外什么都不做。相反,数据可以直接从读缓冲区传输到套接字缓冲区。

      显然,第二次和第三次数据copy 其实在这种场景下没有什么帮助反而带来开销(DMA拷贝速度一般比CPU拷贝速度快一个数量级),这也正是零拷贝出现的背景和意义。

      打个比喻:200M的数据,读取文件,再用socket发送出去,实际经过四次copy(2次cpu拷贝每次100ms ,2次DMS拷贝每次10ms)

      传统网络传输的话:合计耗时将有220ms

      mmap内存映射(RocketMQ使用的)

      硬盘上文件的位置和应用程序缓冲区(application buffers)进行映射(建立一种一一对应关系),由于mmap()将文件直接映射到用户空间,所以实际文件读取时根据这个映射关系,直接将文件从硬盘拷贝到用户空间,只进行了一次数据拷贝,不再有文件内容从硬盘拷贝到内核空间的一个缓冲区。

      mmap内存映射将会经历:3次拷贝: 1次cpu copy,2次DMA copy;

      打个比喻:200M的数据,读取文件,再用socket发送出去,如果是使用MMAP实际经过三次copy(1次cpu拷贝每次100ms ,2次DMS拷贝每次10ms)合计只需要120ms

      从数据拷贝的角度上来看,就比传统的网络传输,性能提升了近一倍。

      2023-07-16:讲一讲Kafka与RocketMQ中零拷贝技术的运用?

      RocketMQ源码中的MMAP运用

      RocketMQ源码中,使用MappedFile这个类类进行MMAP的映射

      2023-07-16:讲一讲Kafka与RocketMQ中零拷贝技术的运用?

      2023-07-16:讲一讲Kafka与RocketMQ中零拷贝技术的运用?

      2023-07-16:讲一讲Kafka与RocketMQ中零拷贝技术的运用?

      Kafka中的零拷贝

      Kafka两个重要过程都使用了零拷贝技术,且都是操作系统层面的狭义零拷贝,一是Producer生产的数据存到broker,二是 Consumer从broker读取数据。

      Producer生产的数据持久化到broker,采用mmap文件映射,实现顺序的快速写入;

      Customer从broker读取数据,采用sendfile,将磁盘文件读到OS内核缓冲区后,直接转到socket buffer进行网络发送。

      sendfile

      linux 2.1支持的sendfile

      当调用sendfile()时,DMA将磁盘数据复制到kernel buffer,然后将内核中的kernel buffer直接拷贝到socket buffer。在硬件支持的情况下,甚至数据都并不需要被真正复制到socket关联的缓冲区内。取而代之的是,只有记录数据位置和长度的描述符被加入到socket缓冲区中,DMA模块将数据直接从内核缓冲区传递给协议引擎,从而消除了遗留的最后一次复制。

      一旦数据全都拷贝到socket buffer,sendfile()系统调用将会return、代表数据转化的完成。socket buffer里的数据就能在网络传输了。

      sendfile会经历:3次拷贝,1次CPU copy ,2次DMA copy;硬件支持的情况下,则是2次拷贝,0次CPU copy, 2次DMA copy。

      2023-07-16:讲一讲Kafka与RocketMQ中零拷贝技术的运用?

      版权声明:本文内容来自第三方投稿或授权转载,原文地址:https://blog.51cto.com/moonfdd/6811877,作者:福大大架构师每日一题,版权归原作者所有。本网站转在其作品的目的在于传递更多信息,不拥有版权,亦不承担相应法律责任。如因作品内容、版权等问题需要同本网站联系,请发邮件至ctyunbbs@chinatelecom.cn沟通。

      上一篇:axios 配合maatwebsite/excel完成excel下载的工作

      下一篇:音视频八股文(12)-- ffmpeg 音频重采样

      相关文章

      2025-05-14 10:33:25

      超级好用的C++实用库之环形内存池

      环形内存池是一种高效的内存管理技术,特别适合于高并发、实时性要求高的系统中,比如:网络服务器、游戏引擎、实时音视频等领域。

      2025-05-14 10:33:25
      buffer , CHP , 内存 , 分配 , 加锁
      2025-05-14 10:02:58

      超级好用的C++实用库之字符编码转换

      字符编码转换是指将文本数据从一种字符集编码格式转换为另一种字符集编码格式的过程。

      2025-05-14 10:02:58
      buffer , Unicode , 字符 , 字符集 , 编码
      2025-05-09 08:20:32

      C++:类与对象(2)

      C++:类与对象(2)                                                      

      2025-05-09 08:20:32
      函数 , 拷贝 , 构造函数 , 类型 , 编译器 , 运算符 , 重载
      2025-05-09 08:20:32

      STL:Vector的模拟实现

      STL:Vector的模拟实现

      2025-05-09 08:20:32
      memcpy , pos , vector , 失效 , 扩容 , 拷贝 , 迭代
      2025-05-07 09:12:52

      C语言:内存函数

      C语言:内存函数

      2025-05-07 09:12:52
      memcpy , memmove , 内存 , 函数 , 字节 , 拷贝 , 重叠
      2025-04-22 09:24:51

      随机链表的复制

      随机链表的复制

      2025-04-22 09:24:51
      copy , cur , random , 节点 , 链表
      2025-04-15 09:20:22

      初学Java,IO之使用转换流,读取键盘输入(四十三)

      初学Java,IO之使用转换流,读取键盘输入(四十三)

      2025-04-15 09:20:22
      buffer , import , java , string
      2025-04-14 09:27:25

      31天Python入门——第25天:文件和目录操作

      31天Python入门——第25天:文件和目录操作

      2025-04-14 09:27:25
      new , 拷贝 , 文件 , 目录
      2025-03-28 07:42:34

      带你解析JS深/浅拷贝

      带你解析JS深/浅拷贝

      2025-03-28 07:42:34
      复制 , 拷贝 , 数据
      2025-03-28 07:42:20

      js 实现深拷贝

      js 实现深拷贝

      2025-03-28 07:42:20
      位置 , 元素 , 参数 , 对象 , 拷贝 , 数组
      查看更多
      推荐标签

      作者介绍

      天翼云小翼
      天翼云用户

      文章

      33561

      阅读量

      5266689

      查看更多

      最新文章

      STL:Vector的模拟实现

      2025-05-09 08:20:32

      随机链表的复制

      2025-04-22 09:24:51

      【map的使用——随机链表的复制】用map强关联拷贝与源结点

      2025-03-10 09:52:54

      【socket】 unix域套接字(socketpair )通信|socketpair和pipe的区别|进程间通信-Unix domain socket

      2025-02-25 08:55:16

      【RDMA】技术详解(二):Send Receive操作

      2025-02-21 08:57:19

      【epoll】形象的解释epoll|一句话讲透epoll

      2025-02-11 09:36:24

      查看更多

      热门文章

      python-socket客户服务端的传输原理异常关闭的情况

      2023-03-30 10:14:48

      HackTools————1.简单banner信息捕获

      2023-04-21 03:15:17

      circus 进程以及socket 管理工具&&docker运行

      2023-05-15 10:02:23

      ssh-copy-id使用及非默认22端口时报错

      2023-05-11 06:38:28

      python基于socket进行端口转发实现后门隐藏

      2023-05-18 09:26:39

      socket 的介绍

      2023-05-29 10:48:43

      查看更多

      热门标签

      linux java python javascript 数组 前端 docker Linux vue 函数 shell git 节点 容器 示例
      查看更多

      相关产品

      弹性云主机

      随时自助获取、弹性伸缩的云服务器资源

      天翼云电脑(公众版)

      便捷、安全、高效的云电脑服务

      对象存储

      高品质、低成本的云上存储服务

      云硬盘

      为云上计算资源提供持久性块存储

      查看更多

      随机文章

      【epoll】形象的解释epoll|一句话讲透epoll

      ssh-copy-id使用及非默认22端口时报错

      python的copy拓展库

      STL:Vector的模拟实现

      python-socket客户服务端的传输原理异常关闭的情况

      python—类和对象之浅拷贝和深拷贝详细讲解

      • 7*24小时售后
      • 无忧退款
      • 免费备案
      • 专家服务
      售前咨询热线
      400-810-9889转1
      关注天翼云
      • 旗舰店
      • 天翼云APP
      • 天翼云微信公众号
      服务与支持
      • 备案中心
      • 售前咨询
      • 智能客服
      • 自助服务
      • 工单管理
      • 客户公告
      • 涉诈举报
      账户管理
      • 管理中心
      • 订单管理
      • 余额管理
      • 发票管理
      • 充值汇款
      • 续费管理
      快速入口
      • 天翼云旗舰店
      • 文档中心
      • 最新活动
      • 免费试用
      • 信任中心
      • 天翼云学堂
      云网生态
      • 甄选商城
      • 渠道合作
      • 云市场合作
      了解天翼云
      • 关于天翼云
      • 天翼云APP
      • 服务案例
      • 新闻资讯
      • 联系我们
      热门产品
      • 云电脑
      • 弹性云主机
      • 云电脑政企版
      • 天翼云手机
      • 云数据库
      • 对象存储
      • 云硬盘
      • Web应用防火墙
      • 服务器安全卫士
      • CDN加速
      热门推荐
      • 云服务备份
      • 边缘安全加速平台
      • 全站加速
      • 安全加速
      • 云服务器
      • 云主机
      • 智能边缘云
      • 应用编排服务
      • 微服务引擎
      • 共享流量包
      更多推荐
      • web应用防火墙
      • 密钥管理
      • 等保咨询
      • 安全专区
      • 应用运维管理
      • 云日志服务
      • 文档数据库服务
      • 云搜索服务
      • 数据湖探索
      • 数据仓库服务
      友情链接
      • 中国电信集团
      • 189邮箱
      • 天翼企业云盘
      • 天翼云盘
      ©2025 天翼云科技有限公司版权所有 增值电信业务经营许可证A2.B1.B2-20090001
      公司地址:北京市东城区青龙胡同甲1号、3号2幢2层205-32室
      • 用户协议
      • 隐私政策
      • 个人信息保护
      • 法律声明
      备案 京公网安备11010802043424号 京ICP备 2021034386号