算力虚拟化
更新时间 2025-12-16 18:01:25
最近更新时间: 2025-12-16 18:01:25
当开启“自定义分配”表示对资源配额内的资源虚拟化切分使用(当前仅支持在英伟达专属集群下使用)。
当前平台采用显存隔离的虚拟化策略,开启后多个eGPU实例会优先调度于同一物理GPU上;算力切分策略支持算力(最低1%)与显存(最低1MB)的细粒度切分。当开启自定义分配之后,可以根据自己的任务情况输入当前需要切分的虚拟卡配置:
虚拟卡数量:不可超过当前节点的物理卡总量,单张物理卡可切分的虚拟化卡数上限由显存切分的粒度决定(例如,一张128G显存的物理卡,每张虚拟卡申请16G显存,则最多可切分8张虚拟卡);可用显存总量=虚拟卡数量*单卡显存。
虚拟单卡显存:每张虚拟卡的显存,大于等于1且小于等于单张物理卡显存。
根据用户输入的显存值,会自动计算出虚拟卡的单卡CPU和内存推荐值:默认推荐值=单张物理卡CPU或内存*显存占比。默认展示系统推荐最佳值,谨慎修改,若修改可能会增加碎片降低算力卡使用效率。可以点击”恢复推荐值“快速返回系统推荐值。