Flash(2) 4.3 服务启动与停止 plaintext 进入部署目录 cd /mnt/nvme0n1/deepseek 新建日志目录(启动后会根据启动时间戳在目录中记录vllmascend日志 mkdir p /mnt/nvme0n1/deepseek/logs 启动 DeepSeek 服务 sh rundeepseek.sh 查看npu运行状态 npusmi info 查看实例和作业运行信息 apptainer instance list 示例输出 INSTANCE NAME PID IP IMAGE deepseek 4105355 /mnt/nvme1n1/apptainer/vllmascendv0.13.0rc3.sif 停止服务 apptainer instance stop deepseek 五、服务验证与运维 5.1 推理服务验证 测试方法:向大模型问一个简单的问题,准备如下脚本并保存到check.sh plaintext !/bin/bash curl H "ContentType: application/json" d '{ "model": "DeepSeekV4", "messages": [ {"role":"user","content":"你是谁?"} ], "extra": {"openaiproxy":true} }' 成功响应示例: plaintext sh check.sh {"id":"chatcmplbadd14778df1c172","object":"chat.completion","created":1777055526,"model":"DeepSeekV4","choices":[{"index":0,"message":{"role":"assistant","content":"你好!我是DeepSeek,由深度求索公司创造的AI助手。很高兴认识你!😊nn我是一个纯文本模型,擅长回答各种问题、协助写作、编程、分析数据等。我的一些特点包括:nn✨ 完全免费 没有任何收费计划n📚 超长上下文 支持1M上下文,可以一次性处理像《三体》三部曲那么大体量的内容n📎 文件上传 支持上传图片、PDF、Word、Excel、PPT等文件,从中提取文字信息n🔍 联网搜索 可以联网获取最新信息(需要手动开启)n🎙️ 语音输入 App端支持语音输入功能nn我的知识截止于2025年5月,会尽我所能为你提供准确、有用的帮助。有什么我可以为你做的吗?无论是学习、工作还是生活中的问题,都欢迎随时问我!💪","refusal":null,"annotations":null,"audio":null,"functioncall":null,"toolcalls":[],"reasoning":null,"reasoningcontent":null},"logprobs":null,"finishreason":"stop","stopreason":null,"tokenids":null}],"servicetier":null,"systemfingerprint":null,"usage":{"prompttokens":6,"totaltokens":196,"completiontokens":190,"prompttokensdetails":null},"promptlogprobs":null,"prompttokenids":null,"kvtransferparams":null}
来自: