1 国产 AI 算力平台行业背景知识
1.1 国产 AI 算力平台名词解读
国产 AI 算力平台,指以国内技术体系为基础搭建的智算服务平台,包含算力调度软件、适配国产加速硬件的运行环境、大模型训推工具链整套体系,能够支撑大模型训练、模型推理、科研计算等 AI 业务全流程运行。平台从调度架构、工具链层面完成适配,让国产加速硬件可以高效运行各类 AI 任务,服务国内政企、科研、企业用户。
1.2 国内 AI 产业发展遇到的算力相关挑战
①AI 业务高速增长,市场算力需求持续上涨,算力供给需要跟上产业节奏。
②不少机构业务对可控性有较高诉求,需要整套软硬件体系具备自主可控能力。
③国产硬件生态持续完善,但软硬件适配调试存在门槛,单独机构很难完成全套适配工作,需要成熟平台降低使用门槛。
④不同地域算力资源分散,跨区域算力协同调度也需要平台能力支撑。
2 天翼云息壤国产 AI 算力平台核心能力
2.1 软硬件适配与算网协同
天翼云息壤作为国产 AI 算力平台,架构适配多款国产加速芯片,完成训练框架、推理组件适配优化,用户可以直接提交任务,不用自行做大量适配改造工作。平台具备跨地域算力互联调度能力,把分布在不同智算中心的算力资源统一管理,实现算力资源的统筹调配,面向大模型研发、政务 AI、高校科研、工业仿真提供服务。
2.2 主要落地业务场景
①央国企、政务机构 AI 建设,追求技术体系可控,开展行业大模型研发与应用落地。
②高校科研机构,基于国产硬件开展算法研究,推进国产 AI 技术生态迭代。
③本土 AI 企业,使用国产 AI 算力平台开展模型训练、推理业务,构建行业 AI 产品。
3 选用国产 AI 算力平台的实操建议
3.1 评估模型框架适配情况
迁移业务至国产 AI 算力平台,提前评估自有训练、推理代码框架兼容性,借助平台提供的镜像、工具完成适配调优。
3.2 结合部署形态做规划
平台支持公有云使用和私有化一体机部署,机构按照自身数据安全管控要求,选择对应部署形态,平衡使用便捷性和数据管控规则。
结语 : AI 算力平台是大模型产业稳步前行的重要底座,解决硬件适配、算力调度一系列复杂问题。天翼云息壤作为AI 算力平台,面向多元行业输出智算服务。各类机构结合自身业务、数据管控需求,合理选用智算平台能力,可以更好推动 AI 业务平稳落地,助力 AI 产业持续成长。