爆款云主机2核4G限时秒杀,88元/年起!
查看详情

活动

天翼云最新优惠活动,涵盖免费试用,产品折扣等,助您降本增效!
热门活动
  • 618智算钜惠季 爆款云主机2核4G限时秒杀,88元/年起!
  • 免费体验DeepSeek,上天翼云息壤 NEW 新老用户均可免费体验2500万Tokens,限时两周
  • 云上钜惠 HOT 爆款云主机全场特惠,更有万元锦鲤券等你来领!
  • 算力套餐 HOT 让算力触手可及
  • 天翼云脑AOne NEW 连接、保护、办公,All-in-One!
  • 中小企业应用上云专场 产品组合下单即享折上9折起,助力企业快速上云
  • 息壤高校钜惠活动 NEW 天翼云息壤杯高校AI大赛,数款产品享受线上订购超值特惠
  • 天翼云电脑专场 HOT 移动办公新选择,爆款4核8G畅享1年3.5折起,快来抢购!
  • 天翼云奖励推广计划 加入成为云推官,推荐新用户注册下单得现金奖励
免费活动
  • 免费试用中心 HOT 多款云产品免费试用,快来开启云上之旅
  • 天翼云用户体验官 NEW 您的洞察,重塑科技边界

智算服务

打造统一的产品能力,实现算网调度、训练推理、技术架构、资源管理一体化智算服务
智算云(DeepSeek专区)
科研助手
  • 算力商城
  • 应用商城
  • 开发机
  • 并行计算
算力互联调度平台
  • 应用市场
  • 算力市场
  • 算力调度推荐
一站式智算服务平台
  • 模型广场
  • 体验中心
  • 服务接入
智算一体机
  • 智算一体机
大模型
  • DeepSeek-R1-昇腾版(671B)
  • DeepSeek-R1-英伟达版(671B)
  • DeepSeek-V3-昇腾版(671B)
  • DeepSeek-R1-Distill-Llama-70B
  • DeepSeek-R1-Distill-Qwen-32B
  • Qwen2-72B-Instruct
  • StableDiffusion-V2.1
  • TeleChat-12B

应用商城

天翼云精选行业优秀合作伙伴及千余款商品,提供一站式云上应用服务
进入甄选商城进入云市场创新解决方案
办公协同
  • WPS云文档
  • 安全邮箱
  • EMM手机管家
  • 智能商业平台
财务管理
  • 工资条
  • 税务风控云
企业应用
  • 翼信息化运维服务
  • 翼视频云归档解决方案
工业能源
  • 智慧工厂_生产流程管理解决方案
  • 智慧工地
建站工具
  • SSL证书
  • 新域名服务
网络工具
  • 翼云加速
灾备迁移
  • 云管家2.0
  • 翼备份
资源管理
  • 全栈混合云敏捷版(软件)
  • 全栈混合云敏捷版(一体机)
行业应用
  • 翼电子教室
  • 翼智慧显示一体化解决方案

合作伙伴

天翼云携手合作伙伴,共创云上生态,合作共赢
天翼云生态合作中心
  • 天翼云生态合作中心
天翼云渠道合作伙伴
  • 天翼云代理渠道合作伙伴
天翼云服务合作伙伴
  • 天翼云集成商交付能力认证
天翼云应用合作伙伴
  • 天翼云云市场合作伙伴
  • 天翼云甄选商城合作伙伴
天翼云技术合作伙伴
  • 天翼云OpenAPI中心
  • 天翼云EasyCoding平台
天翼云培训认证
  • 天翼云学堂
  • 天翼云市场商学院
天翼云合作计划
  • 云汇计划
天翼云东升计划
  • 适配中心
  • 东升计划
  • 适配互认证

开发者

开发者相关功能入口汇聚
技术社区
  • 专栏文章
  • 互动问答
  • 技术视频
资源与工具
  • OpenAPI中心
开放能力
  • EasyCoding敏捷开发平台
培训与认证
  • 天翼云学堂
  • 天翼云认证
魔乐社区
  • 魔乐社区

支持与服务

为您提供全方位支持与服务,全流程技术保障,助您轻松上云,安全无忧
文档与工具
  • 文档中心
  • 新手上云
  • 自助服务
  • OpenAPI中心
定价
  • 价格计算器
  • 定价策略
基础服务
  • 售前咨询
  • 在线支持
  • 在线支持
  • 工单服务
  • 建议与反馈
  • 用户体验官
  • 服务保障
  • 客户公告
  • 会员中心
增值服务
  • 红心服务
  • 首保服务
  • 客户支持计划
  • 专家技术服务
  • 备案管家

了解天翼云

天翼云秉承央企使命,致力于成为数字经济主力军,投身科技强国伟大事业,为用户提供安全、普惠云服务
品牌介绍
  • 关于天翼云
  • 智算云
  • 天翼云4.0
  • 新闻资讯
  • 天翼云APP
基础设施
  • 全球基础设施
  • 信任中心
最佳实践
  • 精选案例
  • 超级探访
  • 云杂志
  • 分析师和白皮书
  • 天翼云·创新直播间
市场活动
  • 2025智能云生态大会
  • 2024智算云生态大会
  • 2023云生态大会
  • 2022云生态大会
  • 天翼云中国行
天翼云
  • 活动
  • 智算服务
  • 产品
  • 解决方案
  • 应用商城
  • 合作伙伴
  • 开发者
  • 支持与服务
  • 了解天翼云
      • 文档
      • 控制中心
      • 备案
      • 管理中心

      后端服务太多,且涉及多种语言,如何进行高效管理?

      首页 知识中心 软件开发 文章详情页

      后端服务太多,且涉及多种语言,如何进行高效管理?

      2024-09-24 06:30:51 阅读次数:52

      Nginx,ZooKeeper

      从本章开始,我们开始聊聊微服务内容。这里我们还是从场景入手,逐步展开说明,达到快速掌握微服务的一些组件实现原理,最终理解微服务架构的本质。

      一、业务场景(八)

      当前公司已经拥有了50多个服务,并且服务之间存在调用关系,而这些服务是使用各种语言编写的,比如Java、Go、Node.js。

      因为跨语言,而目前流行的 Spring Cloud、Dubbo 都是针对 Java 语言的,所以我们没有使用 Spring Cloud、Dubbo 这些微服务框架。

      那么,我们是如何配置各个服务之间的调用关系的呢?我们一起还原下当时的配置过程。

      因为这 50 个服务都有负载均衡,所以我们首先需要把服务的地址和负载均衡全部配置在 Nginx 上,类似这样:

      upstream user-servers {
      
        server 192.168.5.150:80;
      
        server 192.168.5.151:80;
      
      }
      
      upstream order-servers {
      
        server 192.168.5.153:80;
      
        server 192.168.5.152:80;
      
      }
      
      …
      
      server{
      
        listen 80;
      
        server_name user-servers;
      
        location / {
      
          proxy_pass 
      
          proxy_set_header Host $host;
      
          proxy_set_header X-Real-IP $remote_addr;
      
          proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
      
        }
      
      }
      
      server{
      
        listen 80;
      
        server_name order-servers;
      
        location / {
      
          proxy_pass
          proxy_set_header Host $host;
      
          proxy_set_header X-Real-IP $remote_addr;
      
          proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
      
        }
      
      }
      

      而服务之间的调用关系主要通过本地配置文件配置,如下代码所示:

      user.api.host
      order.api.host
      

      配置过程说明:我们先通过本地配置文件获取需要调用的服务的主机地址,再在代码中加上 URI 组装成 URL,然后所有服务之间的调用都通过 Nginx 代理,调用关系的架构图如下图所示:

      后端服务太多,且涉及多种语言,如何进行高效管理?

      那么,在以上这种架构中,我们到底会遇到哪些问题呢?

      二、旧架构会出现的问题

      1、配置烦琐,上线容易出错

      上线部署时这个问题经常发生,因为每次增服务/加机器/减机器时,Nginx 都需要手工配置,而且每个环境都不一样,这样就很容易出错。

      因此,服务器迁移或网络变动时,我们需要把这些配置重新捋一遍,并进行多轮测试才能确保没问题,要是我们没有进行详细检查,某些节点负载均衡出错了可能还不知道。

      2、加机器要重

      公司的流量起来后,通过监控我们发现有些服务需要增加机器,这个时候最考验系统的抗压性了。因为这个过程需要手工配置,稍不留神系统就会出错,比如一不小心按到了键盘多输了一个字符或没输对 IP。

      而系统一旦出错,我们就需要重启 Nginx。我们设想下如果你是运维,请问那时你敢重启吗?要是重启失败了,那就完蛋了。因此,我们需要在短时间内确保配置准确无误,因为加机器是一件很急的事情,不会留给我们太多时间进行检查。

      3、Nginx 单点

      因为所有的服务都需要经过 Nginx 代理,所以 Nginx 很容易成为瓶颈。而如果 Nginx 配置出了问题,所有的服务就都不能用了,风险很大。好,那我们就让每个服务拥有自己的 Nginx ,而不是所有后台服务共用 1 个 Nginx 。这种方法可是可以,不过这种方式也很坑爹,当配置多了,运维出错概率也大了。

      4、管理困难

      在实际工作中,因为合规的要求,我们经常需要对全系统调用库进行升级,为了保证所有服务不遗漏,这就要求我们必须有一个后台服务清单。

      考虑到后台服务清单都是通过手工进行维护的,所以我们需要定期对其进行整理,这着实是个苦力活。为了解决这个问题,我们尝试了不少解决方案,现在我分享 3 种有效的解决思路。

      **(1)**将所有后台服务的服务清单及每种服务的服务器节点列表推送到所有的后台服务后,后台服务会自己控制调用哪个服务的哪个节点,这就是 Spring Cloud 和 Dubbo 的做法。 **(2)**将所有的服务部署到容器上,然后利用 Kubernetes 的 Service 与 Pod 的特性进行服务注册发现。 后端服务太多,且涉及多种语言,如何进行高效管理?

      具体操作:我们先在部署 User 服务的 Pod 上打上“User-App”标签,K8s 上就可以启动多个 User 的 Pod,其中 1 个 Service 叫 User Service,专门处理标签为“User-App”的 Pod,从 Client 过来的请求首先会到 User Service,再自动负载均衡到某个 User 服务的 Pod。(为了便于你理解,这里介绍的比较简单,如果你对 Kubernetes 感兴趣可以深入了解下。)

      **(3)**每个服务会自动将服务和 IP 注册到协调服务(比如 ZooKeeper),然后设计一个工具自动获取 ZooKeeper 中后台服务的机器列表,最终根据列表自动更新 Nginx 的配置,更新完后再重启。

      最终我们的方案采用的是第一种解决思路。

      不用第二种解决思路的原因是那时我们对容器不熟悉,且几年前,容器的生产环境还没有那么成熟,如果需要我们把所有的服务迁移到容器,代价跟风险都太大。

      而不使用第三种解决思路的原因是它并没有解决 Nginx 单点瓶颈、加机器后需要重启的问题。

      因此,最终我们的解决思路如下图所示:

      后端服务太多,且涉及多种语言,如何进行高效管理?

      通过这张架构示意图,我们发现整个解决思路过程分为这么几个步骤:

      1. 每个后台服务自动把服务类型和 IP 注册到中心存储;
      2. 中心存储将服务列表推送到每个后台服务;
      3. 后台服务在本地做负载均衡,轮流访问同服务的不同节点。

      解决思路出来了,接下来我们看看都有哪些注意点需要考虑。这里,我总结了四点注意事项,希望对你有所帮助。

      三、注意事项

      1、中心存储使用啥技术?

      其实通过上面内容的介绍,我们发现这个问题使用一个Redis就可以解决了,但还需要考虑以下两个需求:

      • 服务变更的需求,实时推送所有后台服务。比如我们新增了一个服务器节点,服务器节点启动时会自动连接中央存储,当后台列表更新其他后台服务如何实时收到更新请求?
      • 随时监听所有后台服务的状态,如果某个服务宕机了,及时通知其他服务。

      对于以上两点需求,分布式协调服务这个中间件,刚好能全部满足,所以最终我们选择使用分布式协调服务来存储服务器列表。

      2、到底使用哪个分布式协调服务?

      关于到底使用哪个分布式协调服务技术的问题,网络上存在如下一个技术对比表格,内容超级详细,大家可以参考了解下。

      后端服务太多,且涉及多种语言,如何进行高效管理?

      看到这里,大家应该知道怎么选了吗?其实,在实际技术选型过程中,我们不光需要考虑技术本身,还需要考虑组织的背景。比如我们公司那时已经在使用 ZooKeeper,对于运维团队而言,他们一般不会同时维护 2 种协调服务中间件,所以我们最终没有选择 ZooKeeper 以外的协调服务。

      1. 基于 ZooKeeper 需要实现哪些功能?

      我们这边需要实现的几个要点就是:

      • 服务启动的时候,将信息注册到 ZooKeeper;

      • 将所有的后台服务信息从 Zookeeper 拉取下来;

      • 监听 ZooKeeper 事件,如果后台服务信息出现变更,就更新本地列表;

      • 调用其他服务时,如果需要实现 1 个负载均衡策略,一般用轮询(Ribbon)就可以了。

      上面几个要点整体来说,我们实现起来一点儿也不复杂。

      1. ZooKeeper 宕机了怎么办?

      因为后台服务都是多台部署,比如某个节点宕机了,我们需要保证同服务的其他节点还可以正常工作,所以我们的重点是保证 Zookeeper 集群的高可用。(ZooKeeper 本身就有集群的能力,我们就不赘述了。)

      ZooKeeper 设计本身为了一致性牺牲了高可用性,它同时兼着 Leader、Follower 和 Observer 三种角色,如果 Leader 或半数的 Follower 宕机了,Zookeeper 就会傲娇地进入漫长的恢复模式。而在这段时间里,Zookeeper 不接受客户端的任何请求,这就容易出现以下三种问题。

      • 假设后台服务之前已经在本地已经有所有后台服务的清单,这个时候算运气好,后续你只需要保证这段时间新的后台服务器没有变更就行。

      • 假设这段时间服务器刚好变更了,那就可能出现调用失败的情况。

      • 假设后台服务在 ZooKeeper 恢复期间启动了,它便连不上 Zookeeper,也获取不到后台服务清单,这个最惨了。

      听起来这个坑还挺大的,遇到以上问题我们该怎么办呢?

      当时我们的做法是每次通过某个特定服务把所有服务清单同步一份到配置中心,新的后台服务获取不到服务清单时,再从配置中心获取。这个做法虽然没法解决 100% 的问题,但是已经算是一个性价比不错的方案了,而且到目前为止,我们的这个方案还没发生过以上说的那些问题。(也是运气好。)

      四、总结

      其实这个架构有点类似于自己造轮子,因为注册发现明明就是 Spring Cloud 或 Dubbo 已经实现的功能。不过,本篇文章意义在于可以帮助你从另外几个角度理解微服务中服务注册发现的实现原理。

      版权声明:本文内容来自第三方投稿或授权转载,原文地址:https://blog.51cto.com/jiangyi/2716634,作者:我爱哇哈哈,版权归原作者所有。本网站转在其作品的目的在于传递更多信息,不拥有版权,亦不承担相应法律责任。如因作品内容、版权等问题需要同本网站联系,请发邮件至ctyunbbs@chinatelecom.cn沟通。

      上一篇:利用Java代码保存corporate wiki源代码

      下一篇:FastAPI文件FileResponse对外http下载服务器,python

      相关文章

      2025-05-08 09:03:29

      前后端分离项目中nginx部署的相关配置

      前后端分离项目中nginx部署的相关配置

      2025-05-08 09:03:29
      nginx , Nginx , 部署 , 项目
      2025-03-28 07:40:32

      Nginx、Tomcat等项目部署问题及解决方案详解

      Nginx、Tomcat等项目部署问题及解决方案详解

      2025-03-28 07:40:32
      Nginx , 打包 , 日志 , 环境 , 端口 , 部署 , 配置文件
      2025-03-17 07:49:59

      非openresty方式安装Nginx + Lua + Redis 环境

      非openresty方式安装Nginx + Lua + Redis 环境

      2025-03-17 07:49:59
      lua , nginx , Nginx , redis , 模块
      2025-03-04 09:11:34

      Nginx配置文件说明

      Nginx配置文件说明

      2025-03-04 09:11:34
      conf , nginx , Nginx , 配置文件
      2025-02-28 09:27:44

      【微服务】zookeeper,dubbo和Nginx的区别

      【微服务】zookeeper,dubbo和Nginx的区别

      2025-02-28 09:27:44
      Nginx , ZooKeeper , 服务 , 服务器 , 负载
      2024-12-19 09:33:37

      Nginx第二天学习笔记-Nginx的负载均衡

      Nginx的负载均衡功能是其核心特性之一,它可以轻松处理高并发的请求,使得Web应用能够应付大规模的访问。Nginx通过upstream模块来实现负载均衡,可以配置多个后端服务器,并定义负载均衡策略,如轮询、IP哈希等。

      2024-12-19 09:33:37
      Nginx , SSL , TCP , 均衡 , 模块 , 缓存 , 负载
      2024-12-19 08:43:17

      Nginx学习笔记 - 文件描述符限制(worker_rlimit_nofile)

      在Nginx中,worker_rlimit_nofile指令用于设置Nginx工作进程可打开的最大文件描述符数量。文件描述符是操作系统用来追踪打开的文件和其他资源(如网络连接)的引用标识符。在高并发的Web服务器环境中,Nginx可能会同时处理大量的网络连接和文件操作,因此这个设置对于Nginx的性能至关重要。

      2024-12-19 08:43:17
      Nginx , worker , 处理 , 并发 , 描述符 , 文件 , 设置
      2024-12-19 08:43:17

      Nginx学习笔记 - Nginx配置参数详细说明与整理

      Nginx学习笔记 - Nginx配置参数详细说明与整理

      2024-12-19 08:43:17
      Nginx , Web , 学习 , 并发 , 源码 , 配置
      2024-12-19 08:43:17

      Nginx学习笔记 - Nginx的worker进程

      在Nginx中,worker进程是处理请求的核心。Nginx采用了多worker进程的方式,每个worker进程都是独立的,并且每个worker进程只包含一个主线程。这种方式使得Nginx能够充分利用多核CPU的性能,提高并发处理能力。

      2024-12-19 08:43:17
      Nginx , worker , 处理 , 模块 , 请求 , 进程 , 邮件
      2024-12-19 08:43:17

      Nginx学习笔记 - Nginx配置深入理解

      在Nginx的配置中,worker_connections和worker_processes是两个非常重要的参数。worker_processes定义了Nginx的工作进程数量,而worker_connections则决定了每个工作进程可以打开的最大连接数。这两个参数的设置直接影响到Nginx的性能和并发处理能力。

      2024-12-19 08:43:17
      Nginx , worker , 性能 , 服务器 , 负载
      查看更多
      推荐标签

      作者介绍

      天翼云小翼
      天翼云用户

      文章

      33561

      阅读量

      5244704

      查看更多

      最新文章

      Nginx学习笔记 - 文件描述符限制(worker_rlimit_nofile)

      2024-12-19 08:43:17

      Nginx学习笔记 - Nginx配置参数详细说明与整理

      2024-12-19 08:43:17

      Java后端微服务架构下的负载均衡:Nginx与HAProxy

      2024-11-27 03:28:56

      Java服务端负载均衡:Nginx与HAProxy的配置

      2024-10-25 07:15:55

      Nginx查找耗时的接口

      2024-09-24 06:31:17

      yum install nginx-没有可用软件包 nginx。

      2024-07-01 01:31:47

      查看更多

      热门文章

      yum install nginx-没有可用软件包 nginx。

      2024-07-01 01:31:47

      Nginx查找耗时的接口

      2024-09-24 06:31:17

      nginx配置基于域名转发到内网IP不同端口

      2024-04-26 08:03:54

      主nginx和子nginx-------域名-端口-解答

      2024-05-27 09:14:52

      Java服务端负载均衡:Nginx与HAProxy的配置

      2024-10-25 07:15:55

      Java后端微服务架构下的负载均衡:Nginx与HAProxy

      2024-11-27 03:28:56

      查看更多

      热门标签

      java Java python 编程开发 代码 开发语言 算法 线程 Python html 数组 C++ 元素 javascript c++
      查看更多

      相关产品

      弹性云主机

      随时自助获取、弹性伸缩的云服务器资源

      天翼云电脑(公众版)

      便捷、安全、高效的云电脑服务

      对象存储

      高品质、低成本的云上存储服务

      云硬盘

      为云上计算资源提供持久性块存储

      查看更多

      随机文章

      主nginx和子nginx-------域名-端口-解答

      Nginx学习笔记 - Nginx配置参数详细说明与整理

      nginx配置基于域名转发到内网IP不同端口

      Nginx查找耗时的接口

      Java服务端负载均衡:Nginx与HAProxy的配置

      yum install nginx-没有可用软件包 nginx。

      • 7*24小时售后
      • 无忧退款
      • 免费备案
      • 专家服务
      售前咨询热线
      400-810-9889转1
      关注天翼云
      • 旗舰店
      • 天翼云APP
      • 天翼云微信公众号
      服务与支持
      • 备案中心
      • 售前咨询
      • 智能客服
      • 自助服务
      • 工单管理
      • 客户公告
      • 涉诈举报
      账户管理
      • 管理中心
      • 订单管理
      • 余额管理
      • 发票管理
      • 充值汇款
      • 续费管理
      快速入口
      • 天翼云旗舰店
      • 文档中心
      • 最新活动
      • 免费试用
      • 信任中心
      • 天翼云学堂
      云网生态
      • 甄选商城
      • 渠道合作
      • 云市场合作
      了解天翼云
      • 关于天翼云
      • 天翼云APP
      • 服务案例
      • 新闻资讯
      • 联系我们
      热门产品
      • 云电脑
      • 弹性云主机
      • 云电脑政企版
      • 天翼云手机
      • 云数据库
      • 对象存储
      • 云硬盘
      • Web应用防火墙
      • 服务器安全卫士
      • CDN加速
      热门推荐
      • 云服务备份
      • 边缘安全加速平台
      • 全站加速
      • 安全加速
      • 云服务器
      • 云主机
      • 智能边缘云
      • 应用编排服务
      • 微服务引擎
      • 共享流量包
      更多推荐
      • web应用防火墙
      • 密钥管理
      • 等保咨询
      • 安全专区
      • 应用运维管理
      • 云日志服务
      • 文档数据库服务
      • 云搜索服务
      • 数据湖探索
      • 数据仓库服务
      友情链接
      • 中国电信集团
      • 189邮箱
      • 天翼企业云盘
      • 天翼云盘
      ©2025 天翼云科技有限公司版权所有 增值电信业务经营许可证A2.B1.B2-20090001
      公司地址:北京市东城区青龙胡同甲1号、3号2幢2层205-32室
      • 用户协议
      • 隐私政策
      • 个人信息保护
      • 法律声明
      备案 京公网安备11010802043424号 京ICP备 2021034386号