一、先分清三种计费口径
理解释放与计费的关系,第一步是分清口径。常见的计费口径有三类。
第一类是按量结算,也就是按卡时计费。用多少算多少,任务运行期间产生费用,任务结束或暂停后不再产生。这种口径灵活,适合负载波动大、任务间歇性强的团队,单价相对高一些。
第二类是整包预留,也就是按周期预留一定数量的资源。预留期间无论是否跑满,费用按预留量计。这种口径单价更低,适合用量稳定、长期有训练任务的团队,代价是灵活性下降。
第三类是按任务量折算,适合批处理类工作,按完成的任务量或消耗量结算。
三种口径没有绝对的优劣,只看是否匹配自己的调用曲线。息壤同时提供多种口径,团队可以按项目分头混用:稳态的训练任务走预留,突发的实验任务走按量,批处理任务走任务量折算。选对口径,比在单一口径里抠细节更能省钱。
二、按量口径下:释放即停止计费
在按量结算的口径下,释放与计费的关系是直接的:任务运行时计费,任务结束或暂停后停止计费。这意味着释放动作做得及时,账单就能立刻止住。
这一点对训练过程特别友好。长周期训练中,团队常常需要在中途暂停来调整超参、检查中间结果或补充数据。如果暂停期间仍在计费,这种必要的调试动作就会变得昂贵;而在按量口径下,暂停期间的算力费用不再产生,团队可以更从容地把模型调好再继续。
需要注意的是,"停止计费"的前提是资源真正回到了资源池。如果任务进程还在、卡还被占用,只是没有实际计算,那么费用依然在走。因此释放必须是明确的动作,而不是心里以为结束了。
三、预留口径下:占用即计费
在整包预留的口径下,逻辑不同。预留的本质是"这批资源在这段时间内归你",无论你用不用,它都不能给别人。因此预留期间的闲置,费用照常产生——这不是多收费,而是预留这种交易形态本身的约定:你用更低的单价换取了确定性,代价就是要为这份确定性全程付费。
所以如果选择了预留口径,就要认真评估自己的实际用量。预留量高于实际需求,节省下来的那部分就变成了浪费;预留量低于需求,又要在高峰期额外购买按量资源来补。判断的依据是历史用量曲线:把过去几个月的卡时消耗按天铺开,看稳态基线落在哪里,预留量贴近基线,波动部分交给按量,是常见且稳妥的组合。
四、闲置为什么仍在悄悄产生支出
即便在按量口径下,闲置成本依然可能悄悄累积,原因有几种。
一种是资源已申请、任务未就绪。镜像还在准备、数据还在搬运、脚本还在改,卡已经分配下来了,账就开始了。按整卡计费时,空转与满负荷的支出完全一样,这是最典型也最容易规避的浪费。
一种是任务失败但资源未回收。训练任务异常退出后,如果流程里没有自动释放的动作,资源会一直挂着,直到有人发现。长周期训练中出现硬件故障的概率并不低,没有自动回收机制,一次异常就可能空挂很久。
一种是利用率长期偏低。任务在跑,但算卡大部分时间在等待——数据供给跟不上、切分配置不合理、批次太小导致通信占比过高。这类闲置藏在账单里不易察觉,表现为"任务跑了很久但进度很慢"。
还有一种是低峰期不缩容。推理服务在夜间流量骤降,若资源没有跟着缩减,支出就与业务量脱钩了。
五、怎么释放才彻底
释放要变成一个明确的、可验证的动作,而不是一个念头。可以从四处入手。
第一,申请前置。把镜像、数据与脚本准备就绪之后再提交资源申请。环境与数据是能提前做完的工作,没有必要占用算卡去做。养成"先准备好再申请"的习惯,是最直接的一条降本措施。
第二,自动释放。任务正常结束或异常失败时,都应自动触发释放动作,把资源归还资源池。这条规则要写进流程由系统执行,而不是靠人记忆——人会忘,系统不会。
第三,闲置告警。对持续处于低利用率的任务发出提醒,由负责人确认是继续还是释放。告警的价值在于把看不见的浪费变成看得见的提示,让决策发生在浪费还小的时候。
第四,释放后核对。释放动作完成后,确认资源确实已经归还、账单不再增长。这一步常被跳过,却是验证释放是否真正生效的唯一方法。
六、把算力成本管住的六条做法
其一,分清口径再下单。稳态负载走预留拿低单价,波动负载走按量拿灵活性,批处理走任务量折算。按项目分头配置,而不是全团队统一一种口径。
其二,把利用率当作核心指标。名义卡时与有效卡时之间存在差额,差额来自排队、环境调试、数据等待、异常中断与利用率不足。规模越大,这部分差额的绝对值越高。定期核算这个差额,能看出钱具体漏在哪一段。
其三,小规模实测再横向比较。同一代产品的不同规格,性价比曲线并不线性。高显存版本单价更高,但可以省掉模型切分带来的通信开销;低配版本单价低,却可能需要更多卡数与更长时间。先用小规模任务实测吞吐,把单位产出的成本算出来,再比较几种规格,比只看卡时单价可靠。
其四,让资源与流程联动。把"申请前置、任务结束即释放、闲置告警"三件事做成默认流程,新成员进来自然就照做,不需要额外培训成本。
其五,用好弹性伸缩。对推理服务而言,业务低峰期自动缩减资源、高峰期快速扩容,让支出与流量曲线同步起伏。对训练任务而言,利用暂停不计费的特性,把调试与等待安排在暂停状态。
其六,定期复盘账单。按月把卡时消耗、利用率、闲置时长与失败重跑次数摊开看一遍,找出占比最高的浪费项,下个月针对性改进。成本治理是滚动的过程,走两三轮,结构就会明显收敛。
结语
算力能不能释放、释放后还计不计费用,答案取决于口径:按量结算下释放即停止计费,整包预留下占用期内持续计费。真正需要警惕的不是规则本身,而是那些悄悄发生的闲置——申请了没用、失败了没还、跑着却不满、低峰却不缩。把申请前置、自动释放、闲置告警与账单复盘做成固定动作,算力支出就能与业务产出真正对齐。