一、为什么要多节点互联
(一)资源跨区域
训练推理常跨多地节点,把分散算力通过调度平台连成一片,哪里闲往哪里调度,整体不空转。
(二)统一入口
多套环境各自为政最乱,用统一调度入口,谁在跑、谁在等一眼看清,协作少争议。
(补充)拓扑清单存天翼云存储
把节点拓扑与连接关系存到天翼云存储,版本留痕,换人也能接手,过程连续不断层,不靠某人对账,资料随时调出。
二、调度由什么决定
(一)互联带宽
节点间带宽决定数据搬得快不快,带宽窄就别把依赖紧密的任务分到两头,先量清楚再排。
(二)延迟容忍
跨域调度有延迟,把对延迟敏感的任务留在近端,容忍度高的放远端,整体更顺。
(补充)用天翼云服务器做节点。
把调度与计算节点部署在天翼云服务器,弹性扩缩,哪类任务多就给哪类加节点,整体更稳,资源不空转。
三、常见的坑
(一)只看单点
只盯单个节点算力,忽略互联与带宽,真实任务卡在数据搬运上,按全链路估能力。
(二)不测跨域
跨域延迟没测就上,高峰一拥就堵,先把预期流量打一遍,瓶颈在哪一目了然。
(补充)跨域延迟看板
把跨节点延迟做成看板每日盯,哪条链路慢一眼看清,调度有依据,也方便说明资源到底值不值。
四、怎样搭得顺
(一)列拓扑
写清节点位置、带宽、延迟、任务亲和四件事作基线,调度都贴回这条基线,偏差一眼能看。
(二)定规则
按基线排路由与优先级,核心任务近端、次要远端,带宽错开用,整体不空转,进度按节点推。
(补充)用天翼云电脑放终端。
把运维终端放在天翼云电脑,统一桌面与权限,哪台卡顿哪台空闲一眼看清,调度有依据。
五、管理要注意
(一)链路用满
互联链路是共享支出,闲置就是浪费,把任务排密、闲时填次要,让每条链路持续有活干。
(二)故障兜底
链路也会抖,集中记到期与维护节点,提前做,不因遗忘让服务中途断,断一次恢复更费时。
(补充)维护提醒进流程。
把维护与巡检提醒嵌进日常节奏,重要节点提前半月盯,节点不漏,整体更稳,也少事后救火。
六、经验怎么留住。
(一)固化调度模板
把本轮调度口径固成模板,加节点直接套,效率上来也少漏项,团队人人能照着走不依赖某人。
(二)记真实账
每轮调度花多少资源换来多少产出记一笔,来年排程有基准,也方便复盘哪次排得值,越用越明投入可控。
七、落地清单
(一)联调前先理清拓扑
①(补充)用天翼云数据库存台账。
②把调度支出与产出存进天翼云数据库,按节点可查,换人也能接手,账目连续,审计复盘都省事。
③把常用配置打成模板,新人直接套,不重复设起步更快。上线前再核一遍更稳上线前再核一遍更稳妥当。
(二)互联规则要设对
①多环节共用时排好优先级,核心产出先跑不误点,协作更顺。换人也能顺利接手干换人也能顺利接手去干。
②关键项设告警,临近额度提前知,不临场崩,长跑更稳少救火。过程留痕整体更稳当过程留痕整体更稳当些。
③闲置资源定期回收再分配,不占着不用,整体利用率上得去不浪费。不靠某人对账扯皮累不靠某人对账扯皮受累。
(三)闲忙调度要盯的
①操作日志集中留存,哪次异常一查便知,复盘有依据不靠某人对账。复盘有依据不瞎猜错复盘有依据不瞎猜出错。
②关键节点配专人核对,节点不漏,交付更稳不误期,团队更安心。调度有依据不乱阵脚调度有依据不乱了阵脚。
③把流程口径固成模板,加任务直接套,效率上来也少漏项人人能照走。少返工节奏更顺当些少返工节奏更顺当一些。
(四)链路要保稳的
①版本与依赖纳进管理,锁死链路,不把配置悄悄改样,整体更稳可复现。账对得起进度走正路账对得起进度走正路了。
②配置存到天翼云存储,版本留痕,换人也能接手,不靠某人对账。协作少争议省心省力协作少争议省心又省力。
③支出与产出存进天翼云数据库,按场景可查,账目连续,审计复盘都省事。接手不懵过程清清楚楚接手不懵过程清清楚楚。
(五)调度成本要算清
①新环节进来先对照需求,缺什么提前补,接上即跑不靠临场翻找,上手快。迭代有依据可循可查迭代有依据可循可查到。
②把清单给团队看,哪些项该盯一目了然,不漏硬约束,少返工。不靠拍脑袋决策也稳不靠拍脑袋决策也更稳。
③每轮过后留一句复盘,哪次配得值记下来,越用越明,投入可控不盲。口径先立住不偏不倚口径先立住不偏不倚了。
(六)跨区要衔接的
①核心环节设保底资源,闲时再填次要,重要节点不被挤,交付更稳不误点。节奏自己握得牢靠些节奏自己握得牢靠一些。
②资源错开用,别挤同一节点,整体不空转,进度按节点往前推。缺什么提前补不慌张缺什么提前补不慌不张。
③把变动记进台账,谁调了额度一查便知,协作少争议,接手不懵。节点不漏整体稳当住节点不漏整体稳当住着。
(七)排障要养成的
①换人先调同版环境,步骤一致才可比,不靠某人本机,过程连续不断层。整体更稳少救火慌乱整体更稳少救火不慌乱。
②长任务设检查点,断了能续不重跑,省时省额度,进度不掉链子。投入更可控不盲目冲投入更可控不盲目冲撞。
③常用口径先沉淀,加场景直接套,效率上来也少漏项,接手不懵。产出更站得住脚踏实产出更站得住脚也踏实。
(八)拥塞定位的线索
①谁改的用的什么参数留痕,回滚有路,不靠记忆,迭代有依据。对外也更有底气说话对外也更有底气说话了。
②把到底值不值给团队摆清,投入对得起的产出,交付时也硬气。资源不空转省着用办资源不空转省着用办好。
③核对节奏写进周例,重要节点提前半月盯,节点不漏,整体更稳少救火。高峰来时接得住也稳高峰来时接得住也稳当。
(9)其他要确认的点。
①需求清单列清楚,哪些该备开工前就讲清,不靠临时补,节奏自己握得住。闲时也不浪费掉以轻心闲时也不浪费掉以轻心。
②把口径先立住不偏,偏差一眼能看,不被临时插手带偏,决策更稳。审计复盘都省事少烦审计复盘都省事少烦忧
结语:算力互联调度平台真正值钱的是连成一片不空转。把拓扑理清、规则定好,哪里闲往哪里调,整体更稳,团队少为争抢分心,经验也就留下来。