爆款云主机2核4G限时秒杀,88元/年起!
查看详情

活动

天翼云最新优惠活动,涵盖免费试用,产品折扣等,助您降本增效!
热门活动
  • 618智算钜惠季 爆款云主机2核4G限时秒杀,88元/年起!
  • 免费体验DeepSeek,上天翼云息壤 NEW 新老用户均可免费体验2500万Tokens,限时两周
  • 云上钜惠 HOT 爆款云主机全场特惠,更有万元锦鲤券等你来领!
  • 算力套餐 HOT 让算力触手可及
  • 天翼云脑AOne NEW 连接、保护、办公,All-in-One!
  • 中小企业应用上云专场 产品组合下单即享折上9折起,助力企业快速上云
  • 息壤高校钜惠活动 NEW 天翼云息壤杯高校AI大赛,数款产品享受线上订购超值特惠
  • 天翼云电脑专场 HOT 移动办公新选择,爆款4核8G畅享1年3.5折起,快来抢购!
  • 天翼云奖励推广计划 加入成为云推官,推荐新用户注册下单得现金奖励
免费活动
  • 免费试用中心 HOT 多款云产品免费试用,快来开启云上之旅
  • 天翼云用户体验官 NEW 您的洞察,重塑科技边界

智算服务

打造统一的产品能力,实现算网调度、训练推理、技术架构、资源管理一体化智算服务
智算云(DeepSeek专区)
科研助手
  • 算力商城
  • 应用商城
  • 开发机
  • 并行计算
算力互联调度平台
  • 应用市场
  • 算力市场
  • 算力调度推荐
一站式智算服务平台
  • 模型广场
  • 体验中心
  • 服务接入
智算一体机
  • 智算一体机
大模型
  • DeepSeek-R1-昇腾版(671B)
  • DeepSeek-R1-英伟达版(671B)
  • DeepSeek-V3-昇腾版(671B)
  • DeepSeek-R1-Distill-Llama-70B
  • DeepSeek-R1-Distill-Qwen-32B
  • Qwen2-72B-Instruct
  • StableDiffusion-V2.1
  • TeleChat-12B

应用商城

天翼云精选行业优秀合作伙伴及千余款商品,提供一站式云上应用服务
进入甄选商城进入云市场创新解决方案
办公协同
  • WPS云文档
  • 安全邮箱
  • EMM手机管家
  • 智能商业平台
财务管理
  • 工资条
  • 税务风控云
企业应用
  • 翼信息化运维服务
  • 翼视频云归档解决方案
工业能源
  • 智慧工厂_生产流程管理解决方案
  • 智慧工地
建站工具
  • SSL证书
  • 新域名服务
网络工具
  • 翼云加速
灾备迁移
  • 云管家2.0
  • 翼备份
资源管理
  • 全栈混合云敏捷版(软件)
  • 全栈混合云敏捷版(一体机)
行业应用
  • 翼电子教室
  • 翼智慧显示一体化解决方案

合作伙伴

天翼云携手合作伙伴,共创云上生态,合作共赢
天翼云生态合作中心
  • 天翼云生态合作中心
天翼云渠道合作伙伴
  • 天翼云代理渠道合作伙伴
天翼云服务合作伙伴
  • 天翼云集成商交付能力认证
天翼云应用合作伙伴
  • 天翼云云市场合作伙伴
  • 天翼云甄选商城合作伙伴
天翼云技术合作伙伴
  • 天翼云OpenAPI中心
  • 天翼云EasyCoding平台
天翼云培训认证
  • 天翼云学堂
  • 天翼云市场商学院
天翼云合作计划
  • 云汇计划
天翼云东升计划
  • 适配中心
  • 东升计划
  • 适配互认证

开发者

开发者相关功能入口汇聚
技术社区
  • 专栏文章
  • 互动问答
  • 技术视频
资源与工具
  • OpenAPI中心
开放能力
  • EasyCoding敏捷开发平台
培训与认证
  • 天翼云学堂
  • 天翼云认证
魔乐社区
  • 魔乐社区

支持与服务

为您提供全方位支持与服务,全流程技术保障,助您轻松上云,安全无忧
文档与工具
  • 文档中心
  • 新手上云
  • 自助服务
  • OpenAPI中心
定价
  • 价格计算器
  • 定价策略
基础服务
  • 售前咨询
  • 在线支持
  • 在线支持
  • 工单服务
  • 建议与反馈
  • 用户体验官
  • 服务保障
  • 客户公告
  • 会员中心
增值服务
  • 红心服务
  • 首保服务
  • 客户支持计划
  • 专家技术服务
  • 备案管家

了解天翼云

天翼云秉承央企使命,致力于成为数字经济主力军,投身科技强国伟大事业,为用户提供安全、普惠云服务
品牌介绍
  • 关于天翼云
  • 智算云
  • 天翼云4.0
  • 新闻资讯
  • 天翼云APP
基础设施
  • 全球基础设施
  • 信任中心
最佳实践
  • 精选案例
  • 超级探访
  • 云杂志
  • 分析师和白皮书
  • 天翼云·创新直播间
市场活动
  • 2025智能云生态大会
  • 2024智算云生态大会
  • 2023云生态大会
  • 2022云生态大会
  • 天翼云中国行
天翼云
  • 活动
  • 智算服务
  • 产品
  • 解决方案
  • 应用商城
  • 合作伙伴
  • 开发者
  • 支持与服务
  • 了解天翼云
      • 文档
      • 控制中心
      • 备案
      • 管理中心

      【Linux】理解缓冲区

      首页 知识中心 其他 文章详情页

      【Linux】理解缓冲区

      2023-07-26 08:09:46 阅读次数:90

      linux,缓冲区

      一.引入

      【Linux】理解缓冲区

      我们发现 printf 和 fwrite (库函数)都输出了2次,而 write 只输出了一次(系统调用)。为什么呢?肯定和fork有关!

      C接口的函数被打印了两次系统接口前后只是打印了一次:和fork函数有关,fork会创建子进程。在创建子进程的时候,数据会被处理成两份,父子进程发生写时拷贝,我们进行printf调用数据的时候,数据写到显示器外设上,就不属于父进程了,数据没被写到显示器上,依旧属于父进程,而调用printf并不一定把数据刷到显示器上,没有被显示本质就是数据没有从内存到外设,所以这份没有被显示的数据依旧属于这进程,当我们去fork的时候,进程退出要刷新缓冲区,此时刷新的过程就是把数据从内存刷新到外设,刷新到外设的同时,也会把程序内部的缓冲区的数据直接清走,这就是写入,跟写时拷贝有关系

      对于这个现象的问题我们可以直接往下看👇


      二.认识缓冲区

      1.为什么

      缓冲区的本质就是一段内存。在内存空间中预留了一定的存储空间,这些存储空间用来缓冲输入或输出的数据,这部分预留的空间就叫做缓冲区。

      数据如果直接从内存到磁盘,在内存中速度快,但是访问外设效率比较低,那太消耗时间了,属于外设IO,所以缓冲区的意义就是节省进程进行数据IO的时间!进程需要把数据拷贝到缓冲区里:我们并不需要拷贝,而是调用fwrite,与其理解fwrite是写入到文件的函数,倒不如理解fwrite是拷贝函数,将数据从进程拷贝到缓冲区或者外设当中。

      【Linux】理解缓冲区

      数据可以直接拷贝到缓冲区,高速设备不用在等待低速设备,提高计算机的效率。

      2.刷新策略

      缓冲区的刷新策略:如果有一块数据,一次写入到外设(效率最高)vs如果有一块数据,多次少量写入到外设,需要多次IO

      缓冲区一定结合具体的设备定制自己的刷新策略:

      1.立即刷新——无缓冲 ,场景较少,比如调用printf直接fflush

      2.行刷新——行缓冲——显示器 ,数据的printf带上\n就会立马显示到显示器上。显示器为什么是行缓冲:显示器是外设,进程运行时在内存里的,把数据定期要刷新到外设,显示器设备比较特殊,是给用户来看的,从左到右,所以显示器为了保证刷新效率,并且用户体验良好,所以显示器采用行缓冲,满足用户的阅读体验并且在一定程度上效率不至于太低

      3.缓冲区满——全缓冲——磁盘文件,效率最高,只需要一次IO,比如文件读写的时候,直接写到磁盘文件

      但是存在特殊情况:a.用户强制刷新 b,进程退出——一般到要进行缓冲区刷新

      所以对于全缓冲,缓冲区满了采取刷新,减少IO次数,提高效率。

      3.在哪里

      缓冲区的位置究竟在哪里:从上面的例子我们直接往显示器上打印结果为4条,往文件打印为7条,这跟缓冲区有关,同时这也说明了缓冲区一定不在内核中,为什么?如果在内核中write也应该打印两次,write是系统接口。我们之前谈论的所有缓冲区都指的是用户级语言层面提供的缓冲区。这个缓冲区,在stdout,stdin,stderr对应的类型---->FILE*,FILE是一个结构体,里面封装了fd,同时还包括了一个缓冲区!

      FILE结构体缓冲区,所以我们直接要强制刷新的时候fflush(文件指针),关闭文件fclose(文件指针),这是因为传进去的文件指针对应的缓冲区

      从源码出发,我们可以来看一看FILE结构体:

      【Linux】理解缓冲区

      【Linux】理解缓冲区

      所以我们一般所说的缓冲区是语言级别的缓冲区,C语言提供的在FILE结构体里对应的缓冲区。

      现在,我们现在重新来看一看刚开始的现象:

      【Linux】理解缓冲区

      1.如果我们没有进行重定向>,看到了4条消息,stdout默认使用的是行刷新,在进程fork之前,三条C函数已经将数据打印输出到显示器上(外设),你的FILE内部进程内部就不存在对应的数据了。

      2.如果我们进行了重定向>,写入文件不在是显示器,而是普通文件,采用的刷新策略是全缓冲,之前的3条C函数虽然带了\n,但是不足以将stdout缓冲区写满,所以数据并没有刷新! 在执行fork的时候,stdout属于父进程,fork创建子进程紧接着就是进程退出,谁先退出就要进行缓冲区刷新,刷新的本质就是修改,修改的时候发生写时拷贝!所以数据最终会显示两份!上面的过程都和write无关,write没有FILE,而用的是fd,就没有C提供的缓冲区!

      简单总结来说:重定向导致刷新策略发生了改变(由行缓冲变成了全缓冲)。同时发生了写时拷贝,父子进程各自刷新


      三、理解缓冲区

      对于缓冲区的理解我们可以自己通过代码来简单实现:

      FILE_结构体的设计,这里为了避免与FILE发生冲突,我们命名为FILE_:

      #define SIZE 1024
      typedef struct _FILE
      {
          int flags;//刷新方式
          int fileno;//文件描述符
          int cap;//buffer的总容量
          int size;//buffer当前使用量
          char buffer[SIZE];//缓冲区                                                                              }FILE_;               
      

      主函数:

      int main()        
      {         
          //打开
          FILE_ *fp = fopen_("./log.txt","w");
          //打开失败
          if(fp==NULL)                        
          {                                   
              return 1;
          }            
          int cnt = 10;
          const char*masg = "hello world ";
          while(1)                         
          {
              //写入
              fwrite_(masg,strlen(masg),fp);
              //刷新
              fflush_(fp);
              //睡眠
              sleep(1);                     
              printf("count:%d\n",cnt);
              cnt--;                   
              if(cnt==0) break;        
          }   
          //关闭
          fclose_(fp);                                                                               
          return 0;                                                                                  
      }                                                                                              
      

      对于C语言来说,文件接口一旦打开成功,其余接口要带上FILE*,因为FILE结构体里包含了各种数据:

      下面是我们需要自己实现的文件接口:

      //打开
      FILE_ * fopen_(const char*path_name,const char*mode);
      //以下的接口都需要带上FILE_*
      void  fwrite_(const void *ptr,int num, FILE_*fp);
      
      void fflush_(FILE_*fp);
      
      void fclose_(FILE_* fp);
      

      fopen_:打开我们需要去判断具体是按什么方式打开:

      FILE_ *fopen_(const char *path_name, const char *mode)
      {
          int flags = 0;
          int defaultMode=0666; //设置默认权限
          //读方式
          if(strcmp(mode, "r") == 0)
          {
              flags |= O_RDONLY;
          }
          //写方式
          else if(strcmp(mode, "w") == 0)
          {
              flags |= (O_WRONLY | O_CREAT |O_TRUNC);
          }
          //追加方式
          else if(strcmp(mode, "a") == 0)
          {
              flags |= (O_WRONLY | O_CREAT |O_APPEND);
          }
          //其他
          else
          {
              //其他方式这里就不展开了
          }
          int fd = 0;
      
          if(flags & O_RDONLY) fd = open(path_name, flags);
          else fd = open(path_name, flags, defaultMode);
          //处理打开失败
          if(fd < 0)
          {
              const char *err = strerror(errno);
              write(2, err, strlen(err));
              return NULL; 
          }
          //打开成功
          FILE_ *fp = (FILE_*)malloc(sizeof(FILE_));
          assert(fp);
      
          fp->flags = SYNC_LINE; //默认设置成为行刷新
          fp->fileno = fd;
          fp->cap = SIZE;
          fp->size = 0;
          memset(fp->buffer, 0 , SIZE);
          return fp; 
      }
      

      fwrite_:

      void fwrite_(const void *ptr, int num, FILE_ *fp)
      {
          // 写入到缓冲区中
          memcpy(fp->buffer+fp->size, ptr, num); //不考虑缓冲区溢出的问题
          fp->size += num;
          // 判断是否刷新
          if(fp->flags & SYNC_NOW)
          {
              write(fp->fileno, fp->buffer, fp->size);
              fp->size = 0; //清空缓冲区
          }
          else if(fp->flags & SYNC_FULL)
          {
              if(fp->size == fp->cap)
              {
                  write(fp->fileno, fp->buffer, fp->size);
                  fp->size = 0;
              }
          }
          else if(fp->flags & SYNC_LINE)
          {
              if(fp->buffer[fp->size-1] == '\n') // abcd\nefg在这个地方不考虑
              {
                  write(fp->fileno, fp->buffer, fp->size);
                  fp->size = 0;
              }
          }
          else{
          }
      }
      

      fclose:

      void fclose_(FILE_ * fp)
      {
          fflush_(fp);
          close(fp->fileno);
      }
      

      fflush_:这里将数据强制要求操作系统进行外设刷新要用到fsync:

      void fflush_(FILE_ *fp)
      {
          if( fp->size > 0) write(fp->fileno, fp->buffer, fp->size);
          fsync(fp->fileno); //将数据,强制要求OS进行外设刷新!
          fp->size = 0;
      }
      
      版权声明:本文内容来自第三方投稿或授权转载,原文地址:https://blog.csdn.net/weixin_60478154/article/details/128663761,作者:平凡的人1,版权归原作者所有。本网站转在其作品的目的在于传递更多信息,不拥有版权,亦不承担相应法律责任。如因作品内容、版权等问题需要同本网站联系,请发邮件至ctyunbbs@chinatelecom.cn沟通。

      上一篇:【Linux】静态库和动态库

      下一篇:【Linux】shell命令行简单解释器

      相关文章

      2025-05-19 09:04:53

      查看RISC-V版本的gcc中默认定义的宏

      查看RISC-V版本的gcc中默认定义的宏

      2025-05-19 09:04:53
      c++ , linux
      2025-04-01 10:28:37

      小课2:筛选信息命令

      小课2:筛选信息命令

      2025-04-01 10:28:37
      bash , linux , 升序 , 服务器 , 运维
      2025-03-26 09:31:12

      shell脚本实现查询代码中定义了多少宏的方法

      shell脚本实现查询代码中定义了多少宏的方法

      2025-03-26 09:31:12
      bash , linux , 运维
      2025-03-12 09:31:27

      【git】git 客户端设置本地缓冲区大小

      【git】git 客户端设置本地缓冲区大小

      2025-03-12 09:31:27
      git , 客户端 , 报错 , 缓冲区 , 设置
      2025-03-06 09:16:11

      C语言入坑指南-缓冲区溢出

      C语言入坑指南-缓冲区溢出

      2025-03-06 09:16:11
      溢出 , 程序 , 缓冲区
      2025-03-06 09:15:26

      spring cloud系统安装涉及的技术说明

      spring cloud系统安装涉及的技术说明

      2025-03-06 09:15:26
      docker , linux , 安装 , 技术
      2025-03-05 09:24:43

      【Python】使用numpy库实现Tic-Tac-Toe井字棋

      【Python】使用numpy库实现Tic-Tac-Toe井字棋

      2025-03-05 09:24:43
      linux , 右键 , 安装 , 打开 , 输入
      2025-03-05 09:22:35

      【安全编码】代码质量|C语言安全编码---增加中

      【安全编码】代码质量|C语言安全编码---增加中

      2025-03-05 09:22:35
      buffer , 使用 , 函数 , 字符串 , 文件 , 缓冲区 , 默认值
      2025-02-21 08:57:19

      【RDMA】技术详解(二):Send Receive操作

      【RDMA】技术详解(二):Send Receive操作

      2025-02-21 08:57:19
      RDMA , 缓冲区 , 队列
      2025-02-13 08:41:02

      深入浅出 Python MemoryView:一种高效操作大数据的秘密武器

      memoryview 是 Python 提供的一个内置对象,允许你在不复制对象的情况下直接操作对象的内存缓冲区。简单来说,它可以让你对支持缓冲区协议的对象(例如 bytes、bytearray 或 numpy 数组)进行切片、访问和修改,而不需要创建新的数据副本。

      2025-02-13 08:41:02
      Python , 内存 , 对象 , 操作 , 数据 , 缓冲区
      查看更多
      推荐标签

      作者介绍

      天翼云小翼
      天翼云用户

      文章

      33561

      阅读量

      5252159

      查看更多

      最新文章

      查看RISC-V版本的gcc中默认定义的宏

      2025-05-19 09:04:53

      【RDMA】技术详解(二):Send Receive操作

      2025-02-21 08:57:19

      【epoll】形象的解释epoll|一句话讲透epoll

      2025-02-11 09:36:24

      讲一讲Kafka与RocketMQ中零拷贝技术的运用?

      2025-01-17 09:06:45

      SSH port forwarding: bind: Cannot assign requested

      2024-11-20 09:46:57

      linux从入门到精通—— vim使用

      2024-11-06 07:16:52

      查看更多

      热门文章

      Linux crontab 任务误删恢复及备份步骤

      2023-03-20 08:19:07

      Linux 趣味小知识--软硬连接以及应用

      2023-04-23 09:32:49

      Linux常用命令总结

      2023-05-12 07:20:42

      linux-压缩与解压缩

      2023-05-15 10:03:24

      linux基本命令(47)——iostat命令

      2023-05-12 07:21:43

      Linux中文本搜索命令grep用法详解

      2023-06-07 07:36:41

      查看更多

      热门标签

      linux java python javascript 数组 前端 docker Linux vue 函数 shell git 节点 容器 示例
      查看更多

      相关产品

      弹性云主机

      随时自助获取、弹性伸缩的云服务器资源

      天翼云电脑(公众版)

      便捷、安全、高效的云电脑服务

      对象存储

      高品质、低成本的云上存储服务

      云硬盘

      为云上计算资源提供持久性块存储

      查看更多

      随机文章

      Linux命令之获得帮助信息man

      Linux——修改root用户密码

      Linux命令之删除文件或目录rm

      Linux之杀死进程(kill)

      linux-U盘的识别-卸载-挂载操作

      shell基础(一)

      • 7*24小时售后
      • 无忧退款
      • 免费备案
      • 专家服务
      售前咨询热线
      400-810-9889转1
      关注天翼云
      • 旗舰店
      • 天翼云APP
      • 天翼云微信公众号
      服务与支持
      • 备案中心
      • 售前咨询
      • 智能客服
      • 自助服务
      • 工单管理
      • 客户公告
      • 涉诈举报
      账户管理
      • 管理中心
      • 订单管理
      • 余额管理
      • 发票管理
      • 充值汇款
      • 续费管理
      快速入口
      • 天翼云旗舰店
      • 文档中心
      • 最新活动
      • 免费试用
      • 信任中心
      • 天翼云学堂
      云网生态
      • 甄选商城
      • 渠道合作
      • 云市场合作
      了解天翼云
      • 关于天翼云
      • 天翼云APP
      • 服务案例
      • 新闻资讯
      • 联系我们
      热门产品
      • 云电脑
      • 弹性云主机
      • 云电脑政企版
      • 天翼云手机
      • 云数据库
      • 对象存储
      • 云硬盘
      • Web应用防火墙
      • 服务器安全卫士
      • CDN加速
      热门推荐
      • 云服务备份
      • 边缘安全加速平台
      • 全站加速
      • 安全加速
      • 云服务器
      • 云主机
      • 智能边缘云
      • 应用编排服务
      • 微服务引擎
      • 共享流量包
      更多推荐
      • web应用防火墙
      • 密钥管理
      • 等保咨询
      • 安全专区
      • 应用运维管理
      • 云日志服务
      • 文档数据库服务
      • 云搜索服务
      • 数据湖探索
      • 数据仓库服务
      友情链接
      • 中国电信集团
      • 189邮箱
      • 天翼企业云盘
      • 天翼云盘
      ©2025 天翼云科技有限公司版权所有 增值电信业务经营许可证A2.B1.B2-20090001
      公司地址:北京市东城区青龙胡同甲1号、3号2幢2层205-32室
      • 用户协议
      • 隐私政策
      • 个人信息保护
      • 法律声明
      备案 京公网安备11010802043424号 京ICP备 2021034386号