昇腾 910B 物理机使用Galaxy镜像部署DeepSeek指南(单机版) 2.1 服务配置 2.1.1 核心参数设置 根据具体使用的模型,修改run.sh 中的内容: export MODELDIR/mnt/nvme1n1/model/DeepSeekR1DistillLlama70B export MINDIEIMGmindie2.0.T6.B023800IA2py3.11openeuler24.03ltsaarch64.sif 其中: MODELDIR 为模型本地盘中的具体路径 MINDIEIMG为使用的mindie容器 设定服务启动主节点,修改config.json的内容: ... "ServerConfig" : { "ipAddress" : "192.168.0.3", "managementIpAddress" : "192.168.0.3", ... 将这里192.168.0.3 改为本机IP地址。 2.2 DeepSeek服务启动 仅需如下3条命令,即可启动服务(根据模型大小,启动服务需等待530分钟不等) cd /mnt/nvme0n1/deepseek sh run.sh INFO: instance started successfully 查看logds目录下的out文件,当出现如下信息时,表示服务启动成功: tail f logds/webui20250320160926.out Daemon start success! 2.3 查看DeepSeek状态 查看容器实例作业运行信息命令 apptainer instance list 2.4 DeepSeek服务停止 停止DeepSeek服务命令 apptainer instance stop appmindie 三、运维验证 检查项 验证命令 预期结果 NPU设备状态 watch n 1 npusmi info 显示所有NPU状态为OK 容器运行状态 apptainer instance list appmindie状态为running 服务端口监听 netstat tunlpgrep xxx xxx端口处于LISTEN状态