1 按需付费算力行业背景介绍
1.1 按需付费算力概念释义
按需付费算力,是一种资源使用模式,用户不用长期固定占用计算资源,在执行任务的时候申领算力资源,按照实际资源使用时长、资源消耗量核算费用,任务结束释放资源之后不再产生费用。该模式可以适配 AI 业务波动特征,训练实验、短期推理任务都可以采用这种资源模式。
1.2 AI 项目传统资源模式存在的问题
①如果选择长期固定占用算力,当项目处在间歇期、业务访问低谷的时候,算力硬件依旧保持占用,产生持续成本。
②自建硬件模式,不管业务忙闲,硬件采购折旧、机房电力运维都需要持续投入。
③很多 AI 项目研发阶段,任务断断续续,不会 7×24 小时跑满算力,固定资源模式会出现不少资源浪费。
2 天翼云息壤按需付费算力产品能力
2.1 资源申领释放机制
天翼云息壤平台支持按需付费算力模式,用户提交训练、推理、仿真任务的时候,平台分配对应 GPU 等计算资源;任务执行完毕,系统直接回收算力资源,停止计费。用户可以根据任务紧急程度、算力规模选择对应实例规格,不用预先锁定大量闲置资源。该模式同时支持训练类离线任务,也可以搭配弹性策略用于线上推理业务。
2.2 按需付费算力适用业务场景
①算法迭代实验场景:研发人员做多组对照实验,任务断断续续,任务完成释放算力,不需要长期占用实例。
②短期科研课题:课题项目有明确起止时间,课题结束不再消耗算力。
③流量波动大的推理业务,业务波峰启用算力,波峰结束释放,减少闲置开销。
④创业企业原型开发,前期业务规模不确定,避免大额固定投入。
3 使用按需付费算力成本管控小技巧
3.1 设置任务自动停止规则
针对训练、仿真任务,配置任务结束自动释放资源,避免任务异常挂起,持续消耗算力产生额外开销。
3.2 区分任务选择资源模式
①对于 7×24 小时稳定运行的核心线上业务,可以搭配周期资源。
②对于实验、短期任务,使用按需付费算力,两种模式互相搭配,平衡性能和成本。
结语 按需付费算力顺应 AI 业务资源消耗波动的特点,改变了必须长期占用算力的传统思路,帮助团队减少无效算力开销。天翼云息壤按需付费算力给研发、科研、创业团队提供灵活的资源选项。实际业务之中,把按需模式和周期模式合理搭配,做好任务生命周期管理,就可以在保障业务运行的前提下,实现算力成本的合理管控。