爆款云主机2核4G限时秒杀,88元/年起!
查看详情

活动

天翼云最新优惠活动,涵盖免费试用,产品折扣等,助您降本增效!
热门活动
  • 618智算钜惠季 爆款云主机2核4G限时秒杀,88元/年起!
  • 免费体验DeepSeek,上天翼云息壤 NEW 新老用户均可免费体验2500万Tokens,限时两周
  • 云上钜惠 HOT 爆款云主机全场特惠,更有万元锦鲤券等你来领!
  • 算力套餐 HOT 让算力触手可及
  • 天翼云脑AOne NEW 连接、保护、办公,All-in-One!
  • 中小企业应用上云专场 产品组合下单即享折上9折起,助力企业快速上云
  • 息壤高校钜惠活动 NEW 天翼云息壤杯高校AI大赛,数款产品享受线上订购超值特惠
  • 天翼云电脑专场 HOT 移动办公新选择,爆款4核8G畅享1年3.5折起,快来抢购!
  • 天翼云奖励推广计划 加入成为云推官,推荐新用户注册下单得现金奖励
免费活动
  • 免费试用中心 HOT 多款云产品免费试用,快来开启云上之旅
  • 天翼云用户体验官 NEW 您的洞察,重塑科技边界

智算服务

打造统一的产品能力,实现算网调度、训练推理、技术架构、资源管理一体化智算服务
智算云(DeepSeek专区)
科研助手
  • 算力商城
  • 应用商城
  • 开发机
  • 并行计算
算力互联调度平台
  • 应用市场
  • 算力市场
  • 算力调度推荐
一站式智算服务平台
  • 模型广场
  • 体验中心
  • 服务接入
智算一体机
  • 智算一体机
大模型
  • DeepSeek-R1-昇腾版(671B)
  • DeepSeek-R1-英伟达版(671B)
  • DeepSeek-V3-昇腾版(671B)
  • DeepSeek-R1-Distill-Llama-70B
  • DeepSeek-R1-Distill-Qwen-32B
  • Qwen2-72B-Instruct
  • StableDiffusion-V2.1
  • TeleChat-12B

应用商城

天翼云精选行业优秀合作伙伴及千余款商品,提供一站式云上应用服务
进入甄选商城进入云市场创新解决方案
办公协同
  • WPS云文档
  • 安全邮箱
  • EMM手机管家
  • 智能商业平台
财务管理
  • 工资条
  • 税务风控云
企业应用
  • 翼信息化运维服务
  • 翼视频云归档解决方案
工业能源
  • 智慧工厂_生产流程管理解决方案
  • 智慧工地
建站工具
  • SSL证书
  • 新域名服务
网络工具
  • 翼云加速
灾备迁移
  • 云管家2.0
  • 翼备份
资源管理
  • 全栈混合云敏捷版(软件)
  • 全栈混合云敏捷版(一体机)
行业应用
  • 翼电子教室
  • 翼智慧显示一体化解决方案

合作伙伴

天翼云携手合作伙伴,共创云上生态,合作共赢
天翼云生态合作中心
  • 天翼云生态合作中心
天翼云渠道合作伙伴
  • 天翼云代理渠道合作伙伴
天翼云服务合作伙伴
  • 天翼云集成商交付能力认证
天翼云应用合作伙伴
  • 天翼云云市场合作伙伴
  • 天翼云甄选商城合作伙伴
天翼云技术合作伙伴
  • 天翼云OpenAPI中心
  • 天翼云EasyCoding平台
天翼云培训认证
  • 天翼云学堂
  • 天翼云市场商学院
天翼云合作计划
  • 云汇计划
天翼云东升计划
  • 适配中心
  • 东升计划
  • 适配互认证

开发者

开发者相关功能入口汇聚
技术社区
  • 专栏文章
  • 互动问答
  • 技术视频
资源与工具
  • OpenAPI中心
开放能力
  • EasyCoding敏捷开发平台
培训与认证
  • 天翼云学堂
  • 天翼云认证
魔乐社区
  • 魔乐社区

支持与服务

为您提供全方位支持与服务,全流程技术保障,助您轻松上云,安全无忧
文档与工具
  • 文档中心
  • 新手上云
  • 自助服务
  • OpenAPI中心
定价
  • 价格计算器
  • 定价策略
基础服务
  • 售前咨询
  • 在线支持
  • 在线支持
  • 工单服务
  • 建议与反馈
  • 用户体验官
  • 服务保障
  • 客户公告
  • 会员中心
增值服务
  • 红心服务
  • 首保服务
  • 客户支持计划
  • 专家技术服务
  • 备案管家

了解天翼云

天翼云秉承央企使命,致力于成为数字经济主力军,投身科技强国伟大事业,为用户提供安全、普惠云服务
品牌介绍
  • 关于天翼云
  • 智算云
  • 天翼云4.0
  • 新闻资讯
  • 天翼云APP
基础设施
  • 全球基础设施
  • 信任中心
最佳实践
  • 精选案例
  • 超级探访
  • 云杂志
  • 分析师和白皮书
  • 天翼云·创新直播间
市场活动
  • 2025智能云生态大会
  • 2024智算云生态大会
  • 2023云生态大会
  • 2022云生态大会
  • 天翼云中国行
天翼云
  • 活动
  • 智算服务
  • 产品
  • 解决方案
  • 应用商城
  • 合作伙伴
  • 开发者
  • 支持与服务
  • 了解天翼云
      • 文档
      • 控制中心
      • 备案
      • 管理中心

      nginx高并发优化之upstream模块设置

      首页 知识中心 软件开发 文章详情页

      nginx高并发优化之upstream模块设置

      2024-10-30 09:01:26 阅读次数:26

      hash,nginx

      一、配置

      http { 
      upstream http_backend {
      hash $remote_addr consistent;
      server 192.168.10.131:3306 max_fails=2 fail_timeout=10s weight=1;
      server 192.168.10.132:3306 max_fails=2 fail_timeout=10s weight=1;
      keepalive 32;
      keepalive_timeout 60s;
      }
      server {
      listen 8000;
      location /http/ {
      proxy_pass http://http_backend;
      proxy_http_version 1.1;
      proxy_set_header Connection "";
      }
      }

      二、说明

      1、hash一致性

      hash $remote_addr consistent;
      在一个upstream配置块中,如果有hash指令,且它只带一个参数,则使用的负载均衡算法为哈希算法,比如:hash $remote_addr;
      在一个upstream配置块中,如果有hash指令,且它带了两个参数,且第二个参数为consistent,则使用的负载均衡算法为一致性哈希算法,
      比如:hash $remote_addr consistent;
      如果consistent指定了参数,则将使用ketama 一致的哈希方法。该方法确保在将服务器添加到组或从组中删除时,只有少数密钥将重新映
      射到不同的服务器。这有助于为缓存服务器实现更高的缓存命中率

      hash
      nginx的负载均衡时有一个hash $request_uri的选项,这个是类似于LVS的dh。是针对客户端访问的uri来做的绑定。这样客户端访问同一个
      uri的时候,会被分配到同一个服务器上去。这样提高了缓存的命中率。
      过程:每个uri进行hash计算得到一个数值,这个数值除以整个节点数量取余数。(取模算法)
      缺点:如果一个节点挂了,那么整个全局都会乱掉。因为整个的节点数变了,因为除数变了
      一致性hash
      一致性hash的采用的是除数特别大,假设有一个hash环。是个闭环。把32位二进制的整数转换为十进制后均匀分布在整个环上。hash结果是
      除以2的32次方-1(hash是除以). 那么结果一定是落在环上的。那么,这个点靠近谁,就缓存在谁那里。假设a节点坏了。那么下一次的计
      算结果就是旁边的邻居。但是邻居的缓存不会受到影响。只是坏掉的A节点会从新去缓存。

      一致性哈希算法能够帮助我们缓解由于宕机或者扩容时我们的路由不发生大规模的变化,当我们的上游服务使用缓存的时候,不会导致大范围
      的缓存失效.它不能使得扩容或者宕机之后所有的路由都不发生变化,但是能使得小范围的缓存失效而缓解由于扩容或宕机带来的问题.

      nginx高并发优化之upstream模块设置

      2、其他参数

      1、keepalive   
      激活缓存以连接到上游服务器。
      该connections参数设置每个工作进程的缓存中保留到上游服务器的最大空闲保持连接数。当超过这个数字时,最近最少使用的连接将被关闭。
      需要特别注意的是,该keepalive指令并没有限制一个nginx worker进程可以打开的上游服务器的连接总数。该connections参数应设置为足
      够小的数字,以使上游服务器也能处理新的传入连接。
      使用默认循环方法以外的负载平衡方法时,需要在keepalive指令之前激活它们。
      配置keepalive的主要意图:解决在高延迟网络上建立TCP连接的延迟问题。
      当nginx与上游服务器之间需要持续保持一定数量的连接时,keepalive很有用。
      开启Keep-Alive连接对性能有很大的影响:减少了打开和关闭连接所需的CPU和网络开销。
      通过在nginx中启用HTTP keepalive,降低了nginx连接上游服务器的延迟,从而提高了性能,并减少了nginx耗尽临时端口的可能性。
      nginx将重用现有的TCP连接,而不创建新的TCP,
      这可以极大地减少繁忙服务器上TIME_WAIT TCP连接中的套接字数量(减少操作系统建立新连接的工作,减少网络上的数据包)
      注意: 仅在HTTP/1.1时支持Keep-Alive连接。

      2、keepalived_requests
      设置可以通过一个保持连接提供服务的最大请求数。发出最大请求数后,连接将关闭。
      定期关闭连接对于释放每个连接的内存分配是必要的。因此,使用过高的最大请求数可能会导致过多的内存使用,因此不推荐使用。
      在 1.19.10 版本之前,默认值为 100,最新版本默认值是1000

      3、keepalive_timeout
      设置超时,webserver在处理完一个请求后保持这个TCP连接的打开状态。指定每个TCP连接最多可以保持多长时间。

      4、proxy_http_version
      因为http 1.0协议是不支持keepalive长连接的,为了防止用户发来的是http 1.0协议我们需要重置http_version为1.1,这样一直可以使用keepalive长连接

      5、proxy_set_header Connection "";
      为了防止用户connection头部给我们传入的是closed而不是keepalived,我们需要主动设置向上游发的Connection值为Connection ""。

      版权声明:本文内容来自第三方投稿或授权转载,原文地址:https://blog.51cto.com/u_13236892/5856806,作者:哭泣的馒头,版权归原作者所有。本网站转在其作品的目的在于传递更多信息,不拥有版权,亦不承担相应法律责任。如因作品内容、版权等问题需要同本网站联系,请发邮件至ctyunbbs@chinatelecom.cn沟通。

      上一篇:突破代码:克服编程学习中的挫折感

      下一篇:nginx高并发优化之缓存配置

      相关文章

      2025-05-16 09:15:24

      Redis Hash哈希

      Redis Hash哈希

      2025-05-16 09:15:24
      field , hash , Redis , value , 哈希
      2025-05-08 09:03:29

      前后端分离项目中nginx部署的相关配置

      前后端分离项目中nginx部署的相关配置

      2025-05-08 09:03:29
      nginx , Nginx , 部署 , 项目
      2025-04-23 08:18:27

      nginx结合前后端分离项目springboot+vue的配置

      项目采用的是前后端分离springboot+vue,通过nginx监听,转发到对应的前端页面或者后台接口调用

      2025-04-23 08:18:27
      nginx , springboot , vue , 分离 , 配置
      2025-04-18 07:11:32

      编译运行,读取日志配置看图

      编译运行,读取日志配置看图

      2025-04-18 07:11:32
      nginx , 编译 , 配置
      2025-04-18 07:10:38

      linux常用命令-yum命令详解(超详细)

      yum 命令是一种在基于 RPM 包管理系统的 Linux 发行版中用于包管理的命令行工具。它提供了方便的方式来安装、更新、删除和搜索软件包,以及管理软件包仓库和依赖关系。

      2025-04-18 07:10:38
      nginx , yum , 仓库 , 命令 , 安装 , 软件包 , 选项
      2025-03-28 07:41:55

      路由实现原理

      路由实现原理

      2025-03-28 07:41:55
      hash , history , mode , URL , 浏览器 , 路由
      2025-03-18 08:27:10

      nginx:400 Bad RequestThe plain HTTP request

      nginx:400 Bad RequestThe plain HTTP request

      2025-03-18 08:27:10
      HTTP , nginx
      2025-03-18 08:27:03

      nginx前端负载均衡主配置文件

      nginx前端负载均衡主配置文件

      2025-03-18 08:27:03
      cat , conf , nginx , usr , 配置文件
      2025-03-17 07:49:59

      非openresty方式安装Nginx + Lua + Redis 环境

      非openresty方式安装Nginx + Lua + Redis 环境

      2025-03-17 07:49:59
      lua , nginx , Nginx , redis , 模块
      2025-03-06 09:17:42

      【nginx】starrocks通过nginx实现负载均衡、故障转移与flink运行SR实战

      【nginx】starrocks通过nginx实现负载均衡、故障转移与flink运行SR实战

      2025-03-06 09:17:42
      flink , nginx , 请求
      查看更多
      推荐标签

      作者介绍

      天翼云小翼
      天翼云用户

      文章

      33561

      阅读量

      5247165

      查看更多

      最新文章

      linux常用命令-yum命令详解(超详细)

      2025-04-18 07:10:38

      【C++滚动哈希 滑动窗口】2156. 查找给定哈希值的子串|1947

      2025-02-18 07:30:03

      HashMap原理详解及常用API介绍

      2024-11-25 09:19:33

      nginx高并发优化之模板

      2024-11-07 08:17:34

      nginx高并发优化之缓存配置

      2024-10-30 09:01:36

      nginx高并发优化之缓冲配置

      2024-10-30 09:01:36

      查看更多

      热门文章

      Python魔法方法(10):__hash__(self) 方法

      2023-04-23 09:45:10

      (二十)高并发redis学习笔记:hash slot算法浅谈

      2023-05-22 03:34:34

      Icon_hash在渗透测试中的作用

      2023-08-04 07:26:27

      用lua做nginx扩展开发1

      2023-06-30 08:13:42

      linux篇-Parse error: syntax error, unexpected ‘new’ (T_NEW) in /usr/local/nginx/html/cacti/lib/adodb

      2023-05-30 08:04:45

      前后端分离时,跨域问题如何解决?

      2023-04-06 09:56:21

      查看更多

      热门标签

      java Java python 编程开发 代码 开发语言 算法 线程 Python html 数组 C++ 元素 javascript c++
      查看更多

      相关产品

      弹性云主机

      随时自助获取、弹性伸缩的云服务器资源

      天翼云电脑(公众版)

      便捷、安全、高效的云电脑服务

      对象存储

      高品质、低成本的云上存储服务

      云硬盘

      为云上计算资源提供持久性块存储

      查看更多

      随机文章

      linux篇-Parse error: syntax error, unexpected ‘new’ (T_NEW) in /usr/local/nginx/html/cacti/lib/adodb

      HashMap原理详解及常用API介绍

      nginx高并发优化之模板

      Linux:nginx基础搭建(源码包)

      linux篇-linux下源码安装nginx

      用lua做nginx扩展开发1

      • 7*24小时售后
      • 无忧退款
      • 免费备案
      • 专家服务
      售前咨询热线
      400-810-9889转1
      关注天翼云
      • 旗舰店
      • 天翼云APP
      • 天翼云微信公众号
      服务与支持
      • 备案中心
      • 售前咨询
      • 智能客服
      • 自助服务
      • 工单管理
      • 客户公告
      • 涉诈举报
      账户管理
      • 管理中心
      • 订单管理
      • 余额管理
      • 发票管理
      • 充值汇款
      • 续费管理
      快速入口
      • 天翼云旗舰店
      • 文档中心
      • 最新活动
      • 免费试用
      • 信任中心
      • 天翼云学堂
      云网生态
      • 甄选商城
      • 渠道合作
      • 云市场合作
      了解天翼云
      • 关于天翼云
      • 天翼云APP
      • 服务案例
      • 新闻资讯
      • 联系我们
      热门产品
      • 云电脑
      • 弹性云主机
      • 云电脑政企版
      • 天翼云手机
      • 云数据库
      • 对象存储
      • 云硬盘
      • Web应用防火墙
      • 服务器安全卫士
      • CDN加速
      热门推荐
      • 云服务备份
      • 边缘安全加速平台
      • 全站加速
      • 安全加速
      • 云服务器
      • 云主机
      • 智能边缘云
      • 应用编排服务
      • 微服务引擎
      • 共享流量包
      更多推荐
      • web应用防火墙
      • 密钥管理
      • 等保咨询
      • 安全专区
      • 应用运维管理
      • 云日志服务
      • 文档数据库服务
      • 云搜索服务
      • 数据湖探索
      • 数据仓库服务
      友情链接
      • 中国电信集团
      • 189邮箱
      • 天翼企业云盘
      • 天翼云盘
      ©2025 天翼云科技有限公司版权所有 增值电信业务经营许可证A2.B1.B2-20090001
      公司地址:北京市东城区青龙胡同甲1号、3号2幢2层205-32室
      • 用户协议
      • 隐私政策
      • 个人信息保护
      • 法律声明
      备案 京公网安备11010802043424号 京ICP备 2021034386号