基本概念 本节介绍智算套件基本概念。 基本概念关键术语说明断点续训基于 CheckPoint 的“故障检测→秒级定位→分钟级恢复→自动重调度→断点续训”机制,有效保障训练任务的连续性,将故障导致的损失(时间、算力)降至最低 。AI网关AI网关通过“优化请求、智能调度、减少重复计算”三大核心能力,将推理服务从“被动响应请求”转变为“主动优化流量”,大幅提升推理效率。KVCache通过“跨节点协同管理缓存”+“多级缓存”的组合策略,突破单节点容量限制,平衡访问速度与存储成本,实现系统吞吐量的数量级提升。