ECI加载DeepSeek R1 本文为您介绍如何使用ECI加载DeepSeek R1。 DeepSeek R1介绍 DeepSeekR1 是一款强化学习(RL)驱动的推理模型,解决了模型中的重复性和可读性问题。在 RL 之前,DeepSeekR1 引入了冷启动数据,进一步优化了推理性能。它在数学、代码和推理任务中与 OpenAIo1 表现相当,并且通过精心设计的训练方法,提升了整体效果。 使用限制 模型 推荐规格(云主机) 支持资源池 DeepSeekR1:1.5b 内存:4GB起 所有ECI已上线资源池 DeepSeekR1:7b 内存:16GB起 所有ECI已上线资源池 DeepSeekR1:8b 内存:16GB起 所有ECI已上线资源池 DeepSeekR1:14b 内存:32GB起 所有ECI已上线资源池 DeepSeekR1:32b 内存:64GB起 起临时存储空间:100GB起 所有ECI已上线资源池 DeepSeekR1:70b 内存:128GB起 临时存储空间:150GB起 所有ECI已上线资源池 ECI弹性容器实例接入DeepSeek R1最佳实践 1. 订购弹性容器实例,以最小模型1.5b为例。 2. 选择开源容器镜像(opensource/openwebuideepseekr1) 。 3. 打开容器高级设置,自定义环境变量。 其中PORT代表Open WebUI服务暴露的端口,ENABLEOPENAIAPI代表是否启用OpenAI的API,RAGEMBEDDINGENGINE代表RAG(Retrieval Augmented Generation:检索增强生成)使用的嵌入式引擎。 说明 国内环境建议按照示例配置。 4. 点击下一步,绑定弹性IP。支持自动创建或绑定已有EIP。 5. 确认订单,等待容器实例Running。 6. 检查端口连通性。 7. 安全组放开指定端口(PORT环境变量)。 8. 通过浏览器访问Open WebUI,如 EIP:PORT,点击Get started。 9. 创建管理员帐号/密码登入。 10. 进入主界面。 11. 模型验证。
来自: