2026年4月24日，DeepSeek V4-Pro和DeepSeek V4-Flash正式发布并开源，模型上下文处理长度由原有的128K显著扩展至1M，实现近10倍的容量提升，首次增加了KV Cache滑窗和压缩算法，大幅减少Attention计算和访存开销，并通过模型架构创新更好地支持了Agent和Coding场景。
2026年7月31日，DeepSeek V4-Flash 发布0731正式版。
资源要求
管理节点：1 台云主机，建议规格不低于 8 核 CPU、16GB 内存（例如 c7.2xlarge.2）.
计算节点：1 台沐曦 C588 GPU 的节点（每节点 8 × 128GB 沐曦 C588，HBM2e 显存）。
共享存储：根据资源池选择 OceanFS 或 SFS Turbo，容量需满足启动日志及脚本需求（默认500GB）。
网络：节点间使用 RoCE 或高速以太网连接，管理节点绑定 EIP 用于公网访问，EIP 避免直接暴露在公网，具体可参照安全防护。
环境准备
1.集群开通
天翼云高性能计算集群（HCC）平台拥有基础版和大模型精简版两种集群版本，根据开通机器类型建议选择大模型精简版 ：
高性能计算集群（HCC） 大模型精简版
功能定位：包含Slurm调度系统、Apptainer高性能容器，实现Deepseek服务一键启停。
开通步骤：
登录天翼云控制台，进入“弹性高性能计算”产品页面，选择“高性能计算集群”，点击进入集群控制台。
点击“创建集群”，在集群类型中选择“大模型精简版”。
依次配置各项参数，包括计费模式、地域、可用区、集群名称、虚拟私有云、安全组、共享存储（ SFS 或 OceanFS）、管理节点和计算节点的对应规格、镜像、磁盘、子网、登录密码。
注意
创建虚拟私有云时，需打开“VPC和扩展选项”。
管理节点的镜像请选择有“MUXI”标识的镜像，如（CTyunOS 25.05-MUXI3.8.5）,计算节点选择沐曦机型，并选择有“MUXI”标识的镜像，设置对应的磁盘、子网、登录密码。
确认所有配置无误后，提交订单并完成集群创建，等待节点纳管完成，直至集群页面显示“可用”“配置完成”状态。
点击已创建的集群，选择左侧“节点”栏，删除配置的计算节点，仅保留管理节点即可。
2.集群初始化
本章节需管理员权限，请以root权限登录集群进行环境配置。
# 请在集群的管理节点操作，需要修改为实际的hostname
ssh root@<clustername>master0001使用cthpc一键安装工具，秒级快速下发集群初始化脚本：
cthpc script makecache
cthpc script install C588-setup --dir /home脚本会下发并解压到/home/C588-setup 路径。
执行如下命令：
cd /home/C588-setup
sh run.sh batch # batch 需修改为集群中计算节点所在的队列名该脚本会初始化所有计算队列（batch）中的沐曦C588物理机，将服务器上的nvme0n1和nvme2n1两块 NVMe 盘分别挂载至/mnt/nvme0n1和/mnt/nvme2n1目录，并对每个计算节点创建：
/mnt/nvme0n1/apptainer/ 和 /mnt/nvme2n1/model/，并配置路径相应的访问权限。
3.说明
本指南中部署将统一使用以下路径：
1. 高速容器存储路径：/mnt/nvme0n1/apptainer/
2. 模型权重参数路径：/mnt/nvme2n1/model/
建议将权重参数放在单独的nvme盘中，启动加载时更快
3. 服务部署工作路径：/home/galaxy/C588-1-DeepSeek-V4-Flash-0731-W8A8/
物料准备
本章节仅需普通用户权限，请以galaxy账户登录集群登录到计算节点进行配置。
# 切换到galaxy用户
su - galaxy
# 登录到计算节点，需要修改为实际的hostname
ssh galaxy@<clustername>compute00011.模型文件获取
方式一：（极速）使用cthpc一键安装工具，分钟级快速下发模型：
# 使用 cthpc 工具极速下发
cthpc model makecache
cthpc model install metax-tech/DeepSeek-V4-Flash-0731-W8A8 --dir /mnt/nvme2n1/model/方式二：（传统方式速度慢）基于modelscope、魔乐社区、huggingface平台，使用对应工具直接下载（不推荐，受限于公网EIP订阅的带宽大小）
# 使用 module管理工具 加载 modelscope
module load modelscope
modelscope download --model metax-tech/DeepSeek-V4-Flash-0731-W8A8 --local_dir /mnt/nvme2n1/model/metax-tech/DeepSeek-V4-Flash-0731-W8A82.推理脚本获取
使用cthpc一键安装工具，秒级快速下发推理服务任务脚本：
# 使用 cthpc 工具极速下发
cthpc script makecache
cthpc script install C588-1-DeepSeek-V4-Flash-0731-W8A8 --dir /home/galaxy脚本会下发并解压到/home/galaxy/C588-1-DeepSeek-V4-Flash-0731-W8A8 路径
脚本更新说明
天翼云会根据沐曦的适配情况，持续更新脚本，优化推理性能与兼容性。更新时只需重新获取脚本包即可，可通过脚本包中srun.sh文件中定义的环境变量VLLM_IMG，了解并获取启动依赖的容器镜像。
3.高性能容器SIF文件获取
基于Apptainer（原 Singularity）封装的沐曦推理加速包，高性能计算集群产品将持续迭代优化，原生适配沐曦GPU硬件、无权限壁垒、极致轻量化、生产级稳定。
使用cthpc一键安装工具，秒级快速下发apptainer高性能容器灌装：
# 使用 cthpc 工具极速下发
cthpc apptainer makecache
cthpc apptainer install sglang_0.5.14-maca.ai3.8.4.6-torch2.10-py312-ubuntu22.04-amd64 --dir /mnt/nvme0n1/apptainer/镜像更新说明
沐曦会持续更新sglang包，优化推理性能与兼容性。更新时只需重新下载最新 SIF 镜像，替换旧文件即可，无需修改部署配置。
推理服务启停
本章节仅需普通用户权限，请以galaxy账户登录集群任意节点进行配置。
1.服务启动
# 进入部署目录
cd /home/galaxy/C588-1-DeepSeek-V4-Flash-0731-W8A8
# 启动 DeepSeek 服务
sbatch srun.sh
# 查看GPU运行状态（需要在GPU节点执行）
mx-smi 2.服务停止
# 查看实例和作业运行信息
squeue
# 示例输出
# JOBID PARTITION NAME USER ST TIME NODES NODELIST(REASON)
# 1 batch deepseek galaxy R 1:00:00 1 compute0001
# 停止一项服务
# scancel [JOBID]，根据上文deepseek服务的JOBID为1
scancel 1
# 停止全部服务
scancel --me服务验证与运维
本章节仅需普通用户权限，请以galaxy账户登录集群进行配置。
1.推理服务验证
测试方法：向大模型问一个简单的问题，准备如下脚本并保存到check.sh
#!/bin/bash
curl http://localhost:11025/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{
"model": "DeepSeek-V4-Flash",
"messages": [
{"role":"user","content":"你是谁？"}
],
"extra": {"openai_proxy":true}
}'成功响应示例：
sh check.sh
# {"id":"5630059b21b046d18214aef7b00f79ac","object":"chat.completion","created":1793612208,"model":"DeepSeek-V4-Flash","choices":[{"index":0,"message":{"role":"assistant","content":"嗨！我是DeepSeek，由深度求索公司创造的AI助手！😊\n\n简单介绍一下我自己：\n- **免费使用**，无论是网页端还是手机App都不收费\n- **支持超长上下文**（1M tokens），可以一次性处理三体三部曲那么厚的书籍\n- **多种能力**：文本对话、文件上传（图片、PDF、Word、Excel等）、联网搜索（需要手动开启）、语音输入\n- **知识储备**：我的知识截止到2025年5月\n\n我的使命就是帮你解答问题、提供建议、处理文档，做你的智能小助手！有什么我可以帮你的吗？尽管问，我会热情地为你服务！✨","reasoning_content":null,"tool_calls":null},"logprobs":null,"finish_reason":"stop","matched_stop":1}],"usage":{"prompt_tokens":6,"total_tokens":150,"completion_tokens":144,"prompt_tokens_details":null,"reasoning_tokens":0},"metadata":{"weight_version":"default"}}2.推理日志查看
若服务异常，可通过日志排查问题：
# 查看作业输出日志
tail -f /home/galaxy/C588-1-DeepSeek-V4-Flash-0731-W8A8/logs/log.$JOBID.${节点编号}.out
# 查看错误日志
tail -f /home/galaxy/C588-1-DeepSeek-V4-Flash-0731-W8A8/logs/llog.$JOBID.${节点编号}.err其中JOBID可通过squeue命令查看，节点编号格式为0.x，x从0开始，表示第一个节点。
注意事项
模型版本管理：建议对模型权重、SIF 镜像进行版本化管理，避免更新后无法回滚。
安全防护：生产环境建议配置安全组IP 白名单，减少公网暴露面，并通过天翼云 WAF 防护恶意攻击，推荐以下5种安全组网方案：
ELB+VPN
ELB+NAT 网关。
DDoS+WAF+ELB+NATGW+VPN。
DDoS+WAF+ELB+SDWAN。
DDoS+WAF+ELB+专线
