一、先分清利用率低的四类根源

第一类是申请不还。任务结束了实例没释放，或者人为留着环境方便下次直接用，这类闲置成分单一，回收动作就能解决。第二类是长占短用。资源分配出去的时长与实际使用的时长差距大：申请了一个月的窗口，真正跑满的只有一周。根源常在申请机制——按月或按项目申请，而不是按任务申请，于是使用者倾向多要时间以防万一。第三类是碎片。整卡、整机被零散占用，剩余的资源凑不出一个完整请求：有人要八卡互联的整机，现存的空闲卡分散在多台机器上，谁都排不进去。第四类是错配。忙的忙闲的闲：某些规格的卡排长队，另一些规格空着，任务与资源没有对上。四类根源的解法不同，回收解决第一类，申请机制与配额解决第二类，装箱与整合解决第三类，标签路由解决第四类。动手前先花一周统计四类各占多少，力气才花在刀刃上。

二、口径不定对，优化就是空转

利用率的定义看似简单，实际有几个坑。第一个坑是分母：按分配算还是按实际使用算。有人申请了八张卡只用四张，按分配算利用率是满的，按实际使用算只有一半。要提升真实产能，得分母用实际在算的量，分配与使用之间的差值单独列出来，那正是回收要瞄准的部分。第二个坑是时段：按全天算会把夜间低谷摊进来，看起来处处不高；按业务活跃时段算，才能反映真实紧张程度。两个口径都要有，前者看总量，后者看瓶颈。第三个坑是忙而不干：卡的使用率很高，任务却在空转——数据读不上来、通信在等待，算力空烧。这类假忙要靠结合吞吐指标识别，单看使用率会被误导。口径定对之后，建议先跑两周做基线：整体利用率多少、分配与使用的差值多少、各规格的排队时长多少。没有基线，后面的每一步都无法证明有效。基线数据建议按周更新并公示，让改善过程看得见，也让持怀疑态度的同事能自己核对。

三、闲置回收怎么做

回收是把到期或闲置的资源收回再分配，做法上有五条要领。第一，申请时写明期限：每个任务或资源申请都带一个到期时间，到期自动进入待回收状态。期限怎么定有讲究，按任务预估时长上浮五成比较稳妥，既留了余量又不至于无限期。第二，提前通知：到期前若干天发提醒给申请人，确认是否续期，续期要填理由，让多占资源变成一个需要说明的动作。第三，宽限期与硬性回收：到期后先给一个短暂宽限，之后直接收回；对超过宽限期仍未处理又联系不上的，不必无限等。第四，回收不等于销毁：实例先停机快照，环境与数据保留一段时间，使用者回来还能恢复，这一条能大幅降低回收的阻力，多数抵触情绪来自怕丢环境。第五，回收的前提是任务可续跑：长任务的检查点要落盘、能从中断处继续，否则一回收就是几天心血白费。所以在推回收之前，先检查团队的任务是否普遍支持续跑，不支持的要先补这一课。

四、优先级与配额的配套机制

回收解决存量，机制解决增量。第一套机制是优先级：把任务分级，在线服务与关键项目为高优先级，试验与批处理为低优先级；资源紧张时，低优先级任务可以被暂时停下、让位给高优先级任务，等资源空出来再续跑。这套机制要跑得顺，同样依赖续跑能力与事先的规则公示，突然被停的任务如果没有任何预警，抵触会很直接。规则公示之外，被暂停的任务要有自动通知与恢复时间预估，把不确定性降到可控。第二套机制是配额借用：每个团队有保底配额，保底之内随时可用；超出保底的部分进入公共池按需申请。闲置的配额在一段时间后自动回流公共池，别人能用，原团队需要时再申请回来。借用机制的本质是把囤积变成流动，它生效的前提是申请回来的流程足够快，如果还回来之后再要要等三天审批，谁都不愿意还，借还机制就成了摆设。第三套是申请模板：申请资源时必须填任务描述、预估时长、规格理由，让申请带着信息量，调度侧才有判断依据，也给了申请人一个自查的机会。

五、碎片从哪来、怎么整

碎片的主要来源是拓扑约束。多卡训练要求卡在同一台机器上、走机内高速互联；大规模任务要求多台机器组网，网络拓扑有要求。这些约束使得资源不能任意拼凑：三十张空闲卡分散在十台机器上，一个要八卡整机的任务就是用不上。应对碎片有三层做法。第一层是装箱优化：调度时把小任务填进剩余的零散资源，大任务集中占整机，装箱算法的目标是让整块资源尽早空出来。第二层是重排窗口：选一个业务低峰，把分散的任务集中迁移、归拢到少数机器上，腾出几台完整的机器给大任务；迁移依赖任务的快照与恢复能力，重排前要确认。第三层是规格分层：把资源池划分成整机区、多卡区、单卡区，不同规格的任务进不同的区，防止大任务的需求把小任务的地盘搅乱。三层可以叠加，通常先做第三层，成本几乎为零，见效也直接；前两层需要调度能力配合，作为二期推进。

六、让边角资源产生价值

整合之外还有一条思路：与其消灭碎片，不如利用碎片。第一类用法是弹性推理：在线推理服务对拓扑不敏感，单卡就能跑，把零散的卡做成推理实例池，专门承接这类任务。第二类用法是小任务填缝：数据处理、特征生成、批量评测这类见效快的活，调度到零散资源上，跑完就释放。第三类用法是错峰批处理：把不着急的批任务安排在夜间低谷，白天紧张的整机留给在线与训练。第四类用法是池化伸缩：把一部分资源做成可快起快停的池子，需求来了拉起、用完释放，比长期占用整机的形态灵活。四类用法的共同点是给不同形态的活找到合适的位置，而不是让所有任务挤同一种资源。做这套安排时要注意隔离：填缝任务不能影响整机的预留计划，临近大任务窗口时，填缝任务要能被清场。四类用法的收益要分开记账：填缝省下的整机时间、错峰削掉的高峰排队，各自折算成卡时，按季度汇总一次，让碎片利用的贡献看得见。

七、推进次序与阻力管理

利用率优化的阻力往往不在技术而在人，次序设计要照顾这一点。第一步，先度量后动手：跑两周基线，把四类根源的占比、分配与使用的差值摆出来，用数据代替指责。第二步，从没有争议的动作开始：到期提醒、申请模板、口径统一，这三件事不碰任何人的存量利益，先立规矩。第三步，推快照与续跑：把技术前提补齐，让回收不等于丢环境，这一步是回收能否推行的关键。第四步，温和回收：从超过宽限期时间已久、联系不上的资源开始，一批一批来，每批都公示。第五步，进阶机制：优先级、配额借用、装箱重排，在信任建立之后逐步上。全程要配一个公开的成效面板：回收了多少、排队时长降了多少、碎片率变化，让参与的人看到收益而不是只有约束。优化到一定程度会进入停滞期，剩下的低利用率往往是合理的余量，不必追到极限——留一点缓冲给突发需求，比账面数字好看更重要。

结语

提利用率，先定对口径，再按四类根源各下各的药：申请不还靠到期与回收，长占短用靠按任务申请与配额借用，碎片靠规格分层、装箱与重排，错配靠标签路由。回收要配上快照与续跑，让交出资源没有痛感；机制要配上申请模板与公开面板，让多占资源变成需要说明的动作。推进按度量、立规矩、补技术前提、温和回收、进阶机制五步走，每步用数据说话。利用率优化的目标不是把数字追到顶，而是在保住突发余量的前提下，让资源待在该待的地方。