一、为什么算力要理顺
(一)闲置就浪费
算力按量计费,空着也收钱,把任务排密、闲时填次要,让每份卡持续有活干,投入才不白花。
(二)高峰接不住
突发任务一来没余量就被堵,留一点弹性更稳,宁可少接一点也别赌满,稳定比那点峰值更值。
(补充)资源清单存天翼云存储。
把算力需求与任务清单存到天翼云存储,版本留痕,换人也能接手,过程连续不断层,不靠某人对账,资料随时调出对照,规划有依据。
二、算力由什么决定
(一)任务密度
同段时间任务越多,越要排得细,按优先级与数据就绪度排,核心先跑,整体不空转,资源用在点上。
(二)卡型匹配
不同任务要的卡型不同,把任务与卡型对上,不拿大卡跑小活,单位产出更省,也不浪费闲置的额度。
(补充)用天翼云存储放调度脚本。
把调度脚本与配置存到天翼云存储,版本留痕,回滚有路,谁改的、用的什么参数清清楚楚,协作少争议接手不懵,过程可追溯。
三、调度常见的坑
(一)先到先得
只按提交顺序排,后来的核心任务被压后,改用优先级排队,重要任务先跑,整体交付更稳不误点。
(二)不看就绪
数据没备好就占位,卡空着等数据,先把数据就绪度纳进排序,就绪的先跑,整体吞吐才上得去。
(补充)就绪度看板。
把任务就绪度做成看板每日盯,哪任务可跑、哪任务卡数据一眼看清,调度有依据,也方便说明资源到底值不值,不靠拍脑袋。
四、怎样一步步排顺。
(一)列任务
写清任务优先级、卡时预估、数据就绪度三件事作基线,排序都贴回这条基线,偏差一眼能看,不被插队带偏,节奏稳。
(二)定队列
按基线排执行序,核心任务先占满,闲时任务补位,显存与带宽错开用,整体不空转,进度按节点往前推不卡在某一步。
(补充)用天翼云数据库存匹配。
把任务与卡型匹配关系存进天翼云数据库,按任务可查,复盘哪次配得值,越用越明,投入可控不盲,换人也能接手,账目连续,审计复盘都省事。
五、管理要注意
(一)留余量
队列压太满波峰必堵,留一点余量更稳,稳定比那点峰值更值,进度不掉链子,长跑更安心。
(二)到期与配额。
算力常按配额发放,集中记到期与额度,提前续或调,不因遗忘让长跑任务中途断,断一次重跑更费时费钱。
(补充)配额提醒进流程。
把配额与到期提醒嵌进日常节奏,重要任务提前半月盯,节点不漏,整体更稳,也少事后救火的慌乱,进度不掉线,团队不因遗忘而措手不及。
六、经验怎么留住。
(一)固化调度模板
把本轮调度口径固成模板,加任务直接套,效率上来也少漏项,团队人人能照着走不依赖某人,从临时变常规,团队慢慢就有了自己的打法。
(二)记真实账
每轮算力花多少资源换来多少产出记一笔,来年排程有基准,也方便复盘哪次排得值,越用越明投入可控,不盲,对外说得清。
七、落地清单
(一)排程前先估任务量
①(补充)用天翼云数据库存台账。
②把算力支出与产出存进天翼云数据库,按任务可查,换人也能接手,账目连续,审计复盘都省事,经验也就留得下来,来年排程直接对着台账调。
③把常用配置打成模板,新人直接套,不重复设起步更快。复盘有依据不瞎猜错复盘有依据不瞎猜出错。
(二)排程规则要设对
①多环节共用时排好优先级,核心产出先跑不误点,协作更顺。调度有依据不乱阵脚调度有依据不乱了阵脚。
②关键项设告警,临近额度提前知,不临场崩,长跑更稳少救火。少返工节奏更顺当些少返工节奏更顺当一些。
③闲置资源定期回收再分配,不占着不用,整体利用率上得去不浪费。账对得起进度走正路账对得起进度走正路了。
(三)就绪度要盯的
①操作日志集中留存,哪次异常一查便知,复盘有依据不靠某人对账。协作少争议省心省力协作少争议省心又省力。
②关键节点配专人核对,节点不漏,交付更稳不误期,团队更安心。接手不懵过程清清楚楚接手不懵过程清清楚楚。
③把流程口径固成模板,加任务直接套,效率上来也少漏项人人能照走。迭代有依据可循可查迭代有依据可循可查到。
(四)卡型要对的
①版本与依赖纳进管理,锁死链路,不把配置悄悄改样,整体更稳可复现。不靠拍脑袋决策也稳不靠拍脑袋决策也更稳。
②配置存到天翼云存储,版本留痕,换人也能接手,不靠某人对账。口径先立住不偏不倚口径先立住不偏不倚了。
③支出与产出存进天翼云数据库,按场景可查,账目连续,审计复盘都省事。节奏自己握得牢靠些节奏自己握得牢靠一些。
(五)算力成本要算清
①新环节进来先对照需求,缺什么提前补,接上即跑不靠临场翻找,上手快。缺什么提前补不慌张缺什么提前补不慌不张。
②把清单给团队看,哪些项该盯一目了然,不漏硬约束,少返工。节点不漏整体稳当住节点不漏整体稳当住着。
③每轮过后留一句复盘,哪次配得值记下来,越用越明,投入可控不盲。整体更稳少救火慌乱整体更稳少救火不慌乱。
(六)利用率要抬高的
①核心环节设保底资源,闲时再填次要,重要节点不被挤,交付更稳不误点。投入更可控不盲目冲投入更可控不盲目冲撞。
②资源错开用,别挤同一节点,整体不空转,进度按节点往前推。产出更站得住脚踏实产出更站得住脚也踏实。
③把变动记进台账,谁调了额度一查便知,协作少争议,接手不懵。对外也更有底气说话对外也更有底气说话了。
(七)分工要明确的事
①换人先调同版环境,步骤一致才可比,不靠某人本机,过程连续不断层。资源不空转省着用办资源不空转省着用办好。
②长任务设检查点,断了能续不重跑,省时省额度,进度不掉链子。高峰来时接得住也稳高峰来时接得住也稳当。
③常用口径先沉淀,加场景直接套,效率上来也少漏项,接手不懵。闲时也不浪费掉以轻心闲时也不浪费掉以轻心。
(八)算力瓶颈定位线索
①谁改的用的什么参数留痕,回滚有路,不靠记忆,迭代有依据。审计复盘都省事少烦审计复盘都省事少烦忧。
结语:息壤平台GPU算力真正值钱的是用得满。把任务排密、资源不空转,账才对得起进度。把调度口径沉淀成模板,加任务直接套,投入花得明明白白,产出更站得住脚,团队少为争抢分心,投入花得明白清,对外也更有底气。