AI与大模型
公有云
内容生产
AI与大模型
公有云
内容生产

息壤智算一体化

天翼云基于多个单集群万卡智算中心项目实践,整合原计算加速平台云骁、智算服务平台慧聚和算力服务平台息壤,从算力基础设施到算力平台一体化构建了基础大模型训练解决方案。
立即开通
咨询专家
立即开通
咨询专家
我们能帮您解决以下问题
性能和成本挑战
智算项目中,大模型训练推理耗费算力多,对性能要求高,算力利用率理论优化空间很大。常用的GPU、服务器价格高昂,单次训练、推理任务占用的成本高
稳定性挑战
大模型训练时间长、集群规模大、技术架构复杂,GPU、RDMA网卡、服务器、磁盘、内存等硬件故障,计算挂起、通信故障、梯度故障等软件故障,都会导致集群不稳定、业务中断
平台搭建挑战
智算平台集群构建复杂。以十几台服务器的小型集群为例,部署管理服务器,整合打通算存网,配置安全加固措施,可能需要2-3天的时间部署,人力投入和时间成本高
国产化适配挑战
国产化的场景,对智算集群的GPU、服务器、网络、操作系统、软件都提出了适配挑战,除了完成基本的国产化智算集群搭建,还需要持续优化国产化智算集群的性能与效率
息壤智算一体化的核心优势
两弹一优AIDC

底座由弹性DC模块舱、分布式磁悬浮制冷系统、一体化HVDC电源、智慧IDC平台等部分构成,采用能源弹性、制冷弹性、气流优化,具备成本极致、安全可靠、绿色低碳、高效智能四大优势

自研紫金系列基础硬件

推出自主可控、行业领先的紫金山JDM服务器,内置400G紫金DPU产品、紫金桥白盒交换机等设备,实现智算算力的弹性供给和云服务的高性能接入

超大规模异构算力集群

建设国内首个万卡全液冷智算集群,采用超大规模集群调度技术,异构算力统一管理和调度;超大规模集群加速技术,读写、存储、RDMA网络通信全面加速;超大规模集群运营管理,集群长稳运行

高效运维,快速排障

运维监控能力丰富,沉淀大模型场景百余种故障,训前软硬件一体化健康检查、训中流量路径观测、训练中断故障快速定位;慢节点检测,卡级的精准故障定位;Hash碰撞、拥塞时可用带宽不下降

多样化的解决方案应用场景
超大规模训练
行业模型训推一体服务
超大规模训练

通过异构算力统一纳管、跨域调度与并行文件系统加速,解决“万卡级集群难调度、数据读写慢、断点续训难”三大瓶颈、让千亿参数模型训得更快、更稳、更省

满足更大算力需求
一个万亿参数大模型训练至少单集群6000卡,配套同等规模亚毫秒延时的RDMA网络,训练中有PB级数据存取,这些都需要在算力层进行突破和解决
提供更高性能需求
解决训练中生成的checkpoint文件大,读写慢;大规模的分布式训练中算力、存储、网络协同难;性能问题导致大模型训练综合效率低等问题
支撑高高稳定需求
规避AI基础设施软硬件软件栈复杂,硬件故障率高,故障发现难,恢复慢,严重影响大模型训练效率等风险
天翼云产品,支撑您的各类上云业务场景
即刻开启,您的简单上云第一步
立即咨询
免费试用