爆款云主机2核4G限时秒杀,88元/年起!
查看详情

活动

天翼云最新优惠活动,涵盖免费试用,产品折扣等,助您降本增效!
热门活动
  • 618智算钜惠季 爆款云主机2核4G限时秒杀,88元/年起!
  • 免费体验DeepSeek,上天翼云息壤 NEW 新老用户均可免费体验2500万Tokens,限时两周
  • 云上钜惠 HOT 爆款云主机全场特惠,更有万元锦鲤券等你来领!
  • 算力套餐 HOT 让算力触手可及
  • 天翼云脑AOne NEW 连接、保护、办公,All-in-One!
  • 中小企业应用上云专场 产品组合下单即享折上9折起,助力企业快速上云
  • 息壤高校钜惠活动 NEW 天翼云息壤杯高校AI大赛,数款产品享受线上订购超值特惠
  • 天翼云电脑专场 HOT 移动办公新选择,爆款4核8G畅享1年3.5折起,快来抢购!
  • 天翼云奖励推广计划 加入成为云推官,推荐新用户注册下单得现金奖励
免费活动
  • 免费试用中心 HOT 多款云产品免费试用,快来开启云上之旅
  • 天翼云用户体验官 NEW 您的洞察,重塑科技边界

智算服务

打造统一的产品能力,实现算网调度、训练推理、技术架构、资源管理一体化智算服务
智算云(DeepSeek专区)
科研助手
  • 算力商城
  • 应用商城
  • 开发机
  • 并行计算
算力互联调度平台
  • 应用市场
  • 算力市场
  • 算力调度推荐
一站式智算服务平台
  • 模型广场
  • 体验中心
  • 服务接入
智算一体机
  • 智算一体机
大模型
  • DeepSeek-R1-昇腾版(671B)
  • DeepSeek-R1-英伟达版(671B)
  • DeepSeek-V3-昇腾版(671B)
  • DeepSeek-R1-Distill-Llama-70B
  • DeepSeek-R1-Distill-Qwen-32B
  • Qwen2-72B-Instruct
  • StableDiffusion-V2.1
  • TeleChat-12B

应用商城

天翼云精选行业优秀合作伙伴及千余款商品,提供一站式云上应用服务
进入甄选商城进入云市场创新解决方案
办公协同
  • WPS云文档
  • 安全邮箱
  • EMM手机管家
  • 智能商业平台
财务管理
  • 工资条
  • 税务风控云
企业应用
  • 翼信息化运维服务
  • 翼视频云归档解决方案
工业能源
  • 智慧工厂_生产流程管理解决方案
  • 智慧工地
建站工具
  • SSL证书
  • 新域名服务
网络工具
  • 翼云加速
灾备迁移
  • 云管家2.0
  • 翼备份
资源管理
  • 全栈混合云敏捷版(软件)
  • 全栈混合云敏捷版(一体机)
行业应用
  • 翼电子教室
  • 翼智慧显示一体化解决方案

合作伙伴

天翼云携手合作伙伴,共创云上生态,合作共赢
天翼云生态合作中心
  • 天翼云生态合作中心
天翼云渠道合作伙伴
  • 天翼云代理渠道合作伙伴
天翼云服务合作伙伴
  • 天翼云集成商交付能力认证
天翼云应用合作伙伴
  • 天翼云云市场合作伙伴
  • 天翼云甄选商城合作伙伴
天翼云技术合作伙伴
  • 天翼云OpenAPI中心
  • 天翼云EasyCoding平台
天翼云培训认证
  • 天翼云学堂
  • 天翼云市场商学院
天翼云合作计划
  • 云汇计划
天翼云东升计划
  • 适配中心
  • 东升计划
  • 适配互认证

开发者

开发者相关功能入口汇聚
技术社区
  • 专栏文章
  • 互动问答
  • 技术视频
资源与工具
  • OpenAPI中心
开放能力
  • EasyCoding敏捷开发平台
培训与认证
  • 天翼云学堂
  • 天翼云认证
魔乐社区
  • 魔乐社区

支持与服务

为您提供全方位支持与服务,全流程技术保障,助您轻松上云,安全无忧
文档与工具
  • 文档中心
  • 新手上云
  • 自助服务
  • OpenAPI中心
定价
  • 价格计算器
  • 定价策略
基础服务
  • 售前咨询
  • 在线支持
  • 在线支持
  • 工单服务
  • 建议与反馈
  • 用户体验官
  • 服务保障
  • 客户公告
  • 会员中心
增值服务
  • 红心服务
  • 首保服务
  • 客户支持计划
  • 专家技术服务
  • 备案管家

了解天翼云

天翼云秉承央企使命,致力于成为数字经济主力军,投身科技强国伟大事业,为用户提供安全、普惠云服务
品牌介绍
  • 关于天翼云
  • 智算云
  • 天翼云4.0
  • 新闻资讯
  • 天翼云APP
基础设施
  • 全球基础设施
  • 信任中心
最佳实践
  • 精选案例
  • 超级探访
  • 云杂志
  • 分析师和白皮书
  • 天翼云·创新直播间
市场活动
  • 2025智能云生态大会
  • 2024智算云生态大会
  • 2023云生态大会
  • 2022云生态大会
  • 天翼云中国行
天翼云
  • 活动
  • 智算服务
  • 产品
  • 解决方案
  • 应用商城
  • 合作伙伴
  • 开发者
  • 支持与服务
  • 了解天翼云
      • 文档
      • 控制中心
      • 备案
      • 管理中心

      IO模型解惑

      首页 知识中心 物联网 文章详情页

      IO模型解惑

      2023-02-24 10:08:59 阅读次数:478

      the public

      本文基于《构建高性能网站》整理。之前对于各种IO模型的理解不是很清晰,发现这本书里整理得比较好,这里记录下相关要点。

      IO操作根据设备类型一般分为内存IO,网络IO,和磁盘IO。其中内存IO的速度大大快于后两者,计算机的性能瓶颈一般不在于内存IO. 尽管网络IO可通过购买独享带宽和高速网卡来提升速度,可以使用RAID磁盘阵列来提升磁盘IO的速度,但是由于IO操作都是由系统内核调用来完成,而系统调用是通过cpu来调度的,而cpu的速度远远快于IO操作,导致会浪费cpu的宝贵时间来等待慢速的IO操作。为了让cpu和慢速的IO设备更好的协调工作,减少CPU在IO调用上的消耗,逐渐发展出各种IO模型。

      同步阻塞I/O

      阻塞是指当前发起IO操作的进程被阻塞。同步阻塞IO是指当进程调用某些IO操作的系统调用或者库函数时,比如accept(),send(),revc()等,进程会暂停下来,等待IO操作结束后再继续运行。

      这种IO模型比较简单,可以和多进程结合起来有效的利用CPU资源,但这样的代价是需要多进程的内存开销。

      同步非阻塞I/O

      同步阻塞IO中,进程的等待时间可能包括两个部分,一个是等待数据就绪,比如等待数据可以读和可以写;另一个是等待数据的复制,当数据准备好后,读写操作的耗时。

      同步非阻塞IO的调用的区别在于,不会去等待数据的就绪,如果数据不可读或者不可写,相关系统调用会立即告诉进程(立即返回)。 比如使用非阻塞recv()接受网络数据后,函数就及时返回,告诉进程没有数据可读了。

      其好处是如果结合反复轮询来尝试数据是否就绪,那么在一个进程里可以同时处理多个IO操作。问题在于需要进程来轮询查看数据是否就绪,进程处于忙碌等待状态。

      非阻塞IO一般只针对网络IO有效,当我们在socket的选项设置中使用O_NONBLOCK时,这个socket的send()或者recv()就会采用非阻塞方式。 对于磁盘IO非阻塞IO并不产生效果。

      多路I/O就绪通知

      多路IO就绪通知模型下,允许进程通过一种方法来同时监视所有文件描述符,并且可以快速获得所有就绪的文件描述符,然后只针对这些描述符来进行数据访问。它提供了对大量文件描述符就绪检查的高性能方案。

      要注意的是,IO就绪模型只是解决了快速获得就绪的文件描述符的问题,在得知数据就绪后,就数据访问本身而言,还是需要选择阻塞或者非阻塞的访问方式。

      由于平台和历史的原因,多路IO就绪通知有多种不同的实现,性能也存在一定的差异。

      • select

      select最早出现于1983年4.2BSD中,通过一个select()系统调用来监视包含多个文件描述符的数组,当select()返回后,这个数组中就绪的文件描述符会被内核修改标志位,使得进程可以获得这些文件描述符从而进行后续的读写操作。

      其缺点在于单个进程能够监视的文件描述符的数量存在最大限制,在linux上一般为1024,不过可以通过修改宏定义或者重新编译内核的方式提升这一限制。所以假如使用的select()的服务器已经维持了1024个连接,后续的请求可能会被拒绝。

      另外,select()维护着的存储大量文件描述符的数据结构,随着文件描述符数量的增长,其复制开销也线性增长。

      另一方面,由于网络延迟使得大量tcp连接处于非活跃状态,但调用select()会对所有socket进行一次线性扫描,会浪费一定的开销。

      • poll

      poll在1986年诞生于System V Release3.显然unix不愿意直接沿用BSD的select,而是重新实现了一遍。poll和select在本质上没有太多区别,但是poll没有最大文件描述符数量的限制。

      poll和select的一个共同缺点是,包含大量文件描述符的数组在用户态和内核的地址空间被整体复制,而不论这些文件描述符是否就绪,其开销随文件描述符数量的增加而线性增长。

      另外,select()和poll()将就绪的文件描述符告诉进程后,如果进程没有对其进行IO操作,那么下次调用select()或者poll()时会再次报告这些文件描述符, 所以他们一般不会丢失就绪的消息,这种方式成为水平触发(Level Triggered)。

      • SIGIO

      linux2.4上提供了SIGIO, 它通过实时信号(Real Time Signal)来实现select/poll的通知方法。不同在于,select/poll告诉我们哪些文件描述符是就绪的,直到我们读写它之前,每次select/poll都会告诉我们;而SIGIO则仅仅告诉我们哪些文件描述符刚刚变为就绪状态,它之说一遍,如果我们没有采取行动,SIGIO不会再次告知,这种方式被称为边缘触发(Edge Triggered). SIGIO几乎是linux2.4下性能最好的多路IO就绪通知方法。

      SIGIO的缺点在于,代表事件信号由内核中的事件队列来维护,信号按照顺序执行通知,这可能导致一个信号到达时,该事件已经过期,其所描述的文件描述符已经被关闭。另一方面,事件队列的长度是有限制的,有可能被事件装满,很容易发生事件丢失,所以需要采用其他方法来弥补损失。

      • /dev/poll

      sun在Salaris中提供了新的实现方法,它使用虚拟的/dev/poll设备,我们可以将需要监视的文件描述符数组写入这个设备,然后调用loctl()来等待时间通知。当loctl()返回就绪的文件描述符后,我们可以从/dev/poll中读取所有就绪的文件描述符数组,这点类似SIGIO节省了扫描所有文件描述符的开销。

      在linux下有很多方法可以实现类似/dev/poll的设备,但都没有提供直接的内核支持,这些方法在服务器负载较大时性能不够稳定。

      • /dev/epoll

      名为/dev/epoll的设备以补丁的形式出现在linux2.4上,它提供了类似/dev/poll的功能,而且增加了内存映射(mmap)技术,在一定程度上提高了性能。

      但是/dev/epoll仍然只是一个补丁,linux2.4并没有将它的实现加入内核。

      • epoll

      linux2.6出现了由内核直接支持的实现方法epoll,它几乎具备了之前所说的一切优点,被公认为是linux2.6下性能最好的多路IO就绪通知方法。

      epoll可以同时支持水平触发和边缘触发,理论上边缘触发的性能会高一些,但是代码实现相当复杂,因为任何意外的丢失事件都会造成请求处理错误。在默认情况下epoll采用水平触发,如果使用边缘触发,则需要在事件注册时增加EPOLLET选项。

      在Lighttpd中的epoll模型代码中注释掉了EPOLLET,没有使用边缘触发方式:

      ee.events |= EPOLLIN|EPOLLOUT /|EPOLLET*/;*

      而在nginx的epoll模型代码里使用了边缘触发:

      ee.events = EPOLLIN|EPOLLOUT|EPOLLET;

      在epoll中同样只告知那些就绪的文件描述符,而且当我们调用epoll_wait()获得就绪文件描述符时并不是返回实际的描述符,而是一个代表就绪描述符数量的值,需要取epoll指定的一个数组中依次取的相应数量的文件描述符。这里也使用了内存映射技术,这样便彻底省掉了在系统调用时复制这些文件描述符的开销。

      另一个本质的改进在于epoll采用基于时间的通知方式。在select/poll中,进程只有在调用一定的方法后,内核才将所有的文件描述符进行扫描。而epoll事先通过epoll_ctl()来注册每一个文件描述符,一旦某个文件描述符就绪,内核会采用类似callback的回调机制,迅速激活这个文件描述符,当进程调用epoll_wait()时就会获得通知。

      • kqueue

      FreeBSD中实现了kqueue,kqueue像epoll一样可设置水平触发或者边缘触发,同时kqueue可以用来监视磁盘文件和目录,但是它的api在很多平台上不支持,而且文档匮乏。kqueue和epoll的性能非常接近。

      版权声明:本文内容来自第三方投稿或授权转载,原文地址:http://ifeve.com/io%e6%a8%a1%e5%9e%8b%e8%a7%a3%e6%83%91/,作者:并发编程网,版权归原作者所有。本网站转在其作品的目的在于传递更多信息,不拥有版权,亦不承担相应法律责任。如因作品内容、版权等问题需要同本网站联系,请发邮件至ctyunbbs@chinatelecom.cn沟通。

      上一篇:RBAC基于角色的访问控制权限的基本模型

      下一篇:Django入门:第五章、模型建立与迁移

      相关文章

      2024-06-27 09:20:52

      谈谈架构和微服务

      不知从何时起,与同事,面试者,面试官谈起架构理念,总是绕不开微服务。甚至有时候听到这三个字的时候,脑壳会痛,相似的还有中台, 总觉得是旧瓶装新酒。 当然此时的盛行是有其原因的,猜测主要原因是容器化的盛行。

      2024-06-27 09:20:52
      String , the public
      2023-03-21 10:32:27

      Java中的状态模式实例教程

      状态模式是一种行为设计模式。适用于当对象的内在状态改变它自身的行为时。如果想基于对象的状态来改变自身的行为,通常利用对象的状态变量

      2023-03-21 10:32:27
      the public
      2023-03-21 10:32:27

      并发性能优化 – 降低锁粒度

      在高负载多线程应用中性能是非常重要的。为了达到更好的性能,开发者必须意识到并发的重要性。当我们需要使用并发时, 常常有一个

      2023-03-21 10:32:27
      java在线 , the public
      2023-03-21 10:32:27

      跟着实例学习ZooKeeper的用法: Curator框架应用

      前面的几篇文章介绍了一些ZooKeeper的应用方法, 本文将介绍Curator访问ZooKeeper的一些基本方法, 而不仅仅限于指定的Recipes, 你可以使用Curator API任意的访问ZooKeeper。CuratorFram

      2023-03-21 10:32:27
      the public
      2023-03-21 10:32:09

      Adopt Open JDK官方文档(五) Docker镜像

      5.1 复制镜像镜像可以从别的设备复制并导入本地的Docker仓库。保存镜像的命令为:或者保存镜像示例或者或者openjdk9-base-image.tar 和 openjdk9-base-image.tar.gz 的镜像已默认保

      2023-03-21 10:32:09
      java在线 , the public
      2023-03-21 10:31:48

      Java IO 之 InputStream源码

      一、InputStreamInputStream是一个抽象类,即表示所有字节输入流实现类的基类。它的作用就是抽象地表示所有从不同数据源产生输入的类,例如常见的FileInputStream、FilterInputStre

      2023-03-21 10:31:48
      the public
      2023-03-21 10:31:48

      Java构造器必知必会

      在面向对象编程中,编程人员应该在意“资源”。比如 在代码中,我们很在意在内存中String类型的hello,它是有一个生命周期的。在它生命周期中,初始化(initializ

      2023-03-21 10:31:48
      the public , 多线程同步
      2023-03-21 10:31:48

      《Java并发编程从入门到精通》显示锁Lock和ReentrantLock

      显示锁Lock和ReentrantLockLock是一个接口提供了无条件的、可轮询的、定时的、可中断的锁获取操作,所有加锁和解锁的方法都是显式的。包路径是:java.util.

      2023-03-21 10:31:48
      多线程同步 , the public
      2023-03-21 10:31:10

      Java注解全面解析

      1.基本语法注解定义看起来很像接口的定义。事实上,与其他任何接口一样,注解也将会编译成class文件。@Target(ElementType.Method)@Retention(RetentionPolicy.RUNTIME)public

      2023-03-21 10:31:10
      the public
      2023-03-16 08:48:22

      JVM优化之逃逸分析及锁消除

      逃逸分析——我们在上一篇文章中所介绍的由编译器完成的一项的分析技术——使得删除锁的优化成为了可能。如果它能确认某个加锁的对象不会逃逸出局部作用域,就可以进行锁删除。这意味着这个对象同时只可能被一个线程访问,因此也就没有必要防止其它线程对它进

      2023-03-16 08:48:22
      the public
      查看更多
      推荐标签

      作者介绍

      技术风云
      天翼云用户

      文章

      12

      阅读量

      4343

      查看更多

      热门标签

      模型 生成 python 训练 django 图像 学习
      查看更多

      相关产品

      弹性云主机

      随时自助获取、弹性伸缩的云服务器资源

      天翼云电脑(公众版)

      便捷、安全、高效的云电脑服务

      对象存储

      高品质、低成本的云上存储服务

      云硬盘

      为云上计算资源提供持久性块存储

      • 7*24小时售后
      • 无忧退款
      • 免费备案
      • 专家服务
      售前咨询热线
      400-810-9889转1
      关注天翼云
      • 旗舰店
      • 天翼云APP
      • 天翼云微信公众号
      服务与支持
      • 备案中心
      • 售前咨询
      • 智能客服
      • 自助服务
      • 工单管理
      • 客户公告
      • 涉诈举报
      账户管理
      • 管理中心
      • 订单管理
      • 余额管理
      • 发票管理
      • 充值汇款
      • 续费管理
      快速入口
      • 天翼云旗舰店
      • 文档中心
      • 最新活动
      • 免费试用
      • 信任中心
      • 天翼云学堂
      云网生态
      • 甄选商城
      • 渠道合作
      • 云市场合作
      了解天翼云
      • 关于天翼云
      • 天翼云APP
      • 服务案例
      • 新闻资讯
      • 联系我们
      热门产品
      • 云电脑
      • 弹性云主机
      • 云电脑政企版
      • 天翼云手机
      • 云数据库
      • 对象存储
      • 云硬盘
      • Web应用防火墙
      • 服务器安全卫士
      • CDN加速
      热门推荐
      • 云服务备份
      • 边缘安全加速平台
      • 全站加速
      • 安全加速
      • 云服务器
      • 云主机
      • 智能边缘云
      • 应用编排服务
      • 微服务引擎
      • 共享流量包
      更多推荐
      • web应用防火墙
      • 密钥管理
      • 等保咨询
      • 安全专区
      • 应用运维管理
      • 云日志服务
      • 文档数据库服务
      • 云搜索服务
      • 数据湖探索
      • 数据仓库服务
      友情链接
      • 中国电信集团
      • 189邮箱
      • 天翼企业云盘
      • 天翼云盘
      ©2025 天翼云科技有限公司版权所有 增值电信业务经营许可证A2.B1.B2-20090001
      公司地址:北京市东城区青龙胡同甲1号、3号2幢2层205-32室
      • 用户协议
      • 隐私政策
      • 个人信息保护
      • 法律声明
      备案 京公网安备11010802043424号 京ICP备 2021034386号