昇腾 910B 物理机大EP推理方案部署指南 三、服务起停 3.1 配置 DeepSeek 大 EP 服务 需在/home/lsepdeepseek目录下修改lsepstart.sh脚本,配置 coordinator 与 controller 的执行节点: plaintext $ cd /home/lsepdeepseek $ vim lsepstart.sh export IPCOORDINATOR[IP1] export IPCONTROLLER[IP2] 其中: [IP1]需替换为部署 coordinator 服务的服务器 IP 地址 [IP2]需替换为部署 controller 服务的服务器 IP 地址 注意 集群推理服务的 API 接口使用的 IP 为[IP1]。 coordinator 与 controller 服务需部署在不同的服务器上。 3.2 启动 DeepSeek 大 EP 服务 执行以下命令即可启动大 EP 服务(启动过程约需 5 分钟): plaintext $ cd /home/lsepdeepseek $ sh lsepstart.sh IPCOORDINATOR 192.168.0.24 IPCONTROLLER 192.168.0.42 Submitted srunp.sh, Job ID: 889 Submitted srunp.sh, Job ID: 890 Submitted srund.sh, Job ID: 891 Created symlink: ranktablep1.json > ranktable.889.json Created symlink: ranktablep2.json > ranktable.890.json Created symlink: ranktabled.json > ranktable.891.json Submitted sruncoordinator.sh, Job ID: 892 Submitted sruncontroller.sh, Job ID: 893 服务启动后,可查看logs目录下的mscoordinatorrunlog.txt文件,当出现以下信息时,说明服务启动成功: plaintext $ tail f logs/mscoordinatorrunlog.txt ... MindIEMS coordinator is ready!!! 可通过以下命令进行服务检测(向 DeepSeek 模型发送提问): plaintext $ curl i location ' header 'ContentType: application/json' data '{ "model": "DeepSeekR1", "stream": false, "messages": [ {"role": "user", "content": "你是谁"} ] }' HTTP/1.1 200 OK Server: MindIEMS ContentType: application/json; charsetutf8 ContentLength: 4939 {"id":"14721165810121334024","object":"chat.completion","created":1753083070,"model":"DeepSeekR1","choices":[{"index":0,"message":{"role":"assistant","content":" n嗯,用户问了一个非常基础但也很关键的问题——“你是谁”。这通常是用户第一次接触助手时的开场白,可能带着好奇或试探的心态。nn用户可能刚打开聊天界面,想确认自己在和什么样的AI交流。ta需要快速建立对助手的认知框架:是工具还是伙伴?专业还是亲切?甚至可能隐含“你能帮我到什么程度”的期待。nn考虑到这是初遇场景,回复要同时完成三个目标:明确身份(DeepSeekR1)、传递功能边界(知识截止2024年7月)、建立亲和力(表情符号和开放结尾)。用“小伙伴”的比喻降低距离感,但“知识丰富”又暗示专业性。nn最后那句“有什么可以帮你”的开放式提问很重要——既承接了身份介绍,又把主动权交还给用户,避免初遇时单方面输出造成的压迫感。那个笑脸表情应该能缓解新用户的紧张情绪吧?n n你好呀!我是 DeepSeekR1,由中国的「深度求索」团队研发的一款智能助手。你可以把我当作一个知识丰富、乐于助人的小伙伴~😊nn我的主要能力包括:nn 回答各种知识类问题(历史、科技、文化、生活常识等) n 帮你写作、改文案、写报告、写代码 n 阅读和分析你上传的文档(PDF、Word、Excel等) n 陪你聊天、解闷、出主意、做计划 nn目前我是纯文字助手,还不支持语音或识图,但我会尽力用文字给你最贴心的帮助! n📚 我的知识更新到 2024年7月,所以对之前的事情了解得比较多~nn有什么我可以帮你的吗?😄","toolcalls":null},"logprobs":null,"finishreason":"stop"}],"usage":{"prompttokens":4,"completiontokens":359,"totaltokens":363,"batchsize":[1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1]}