1 算力互联调度行业背景知识
1.1 什么是算力互联调度
算力互联调度,是把分布各处的智算硬件资源打通统一管理,根据任务的类型、资源需求,自动分配匹配算力的平台能力。不再把算力局限在单套服务器或者单一机房,跨池化调度硬件,适配大模型多样化的作业需求,让硬件资源利用率得到提升。
1.2 多场景算力使用遇到的现实阻碍
①不同业务错峰运行,推理业务白天负载高,训练任务多在夜间执行,资源相互割裂造成部分硬件空闲。
②国产异构硬件型号繁杂,不同芯片适配难度高,任务很难自动流转到合适的计算节点。
③机构同时存在公有云、本地私有化两套环境,两边资源无法打通,业务切换操作繁琐。
④突发大算力任务来临,本地硬件上限不足,无法快速调取外部算力进行补充。
2 天翼云息壤算力互联调度核心产品能力
2.1 跨池化资源调度能力
天翼云息壤平台支持异构算力统一纳管调度,可打通本地一体机资源与公有云算力池。任务提交之后,平台识别作业对显存、网络的要求,自动匹配合适计算节点,无需人工手动挑选硬件。面对瞬时爆发算力需求,可以弹性调取外部算力,补足本地资源的短板。
2.2 算力互联调度典型落地场景
①混合云大模型业务,核心敏感数据在本地一体机,大算力训练任务调用公有云算力资源。
②科研院所多课题组共用智算资源,多组实验错峰调度,提升集群整体利用率。
③互联网 AI 业务,线上推理流量高峰时期,调度闲置训练算力临时承接推理请求。
④政务多单位共享智算底座,各单位任务错峰执行,减少重复硬件采购投入。
3 算力互联调度落地实操要点
3.1 梳理业务任务资源基线
统计各类任务最低显存、网络带宽需求,梳理清楚训练、推理、仿真任务的资源基线,便于调度引擎做智能分配。
3.2 做好权限与资源配额管控
多租户共用算力池时,配置好各部门资源配额,防止单类任务抢占全部算力,保障多业务平稳运行。
结语
算力互联调度打破算力资源孤岛,充分释放硬件的价值。天翼云息壤平台实现异构、跨环境算力统一调度,适配混合云、多租户共享等复杂业务形态。机构梳理自身业务负载特征,搭配合理的配额管控,就可以最大化算力利用率,降低整体建设投入。