活动

天翼云最新优惠活动,涵盖免费试用,产品折扣等,助您降本增效!
热门活动
  • 618智算钜惠季 爆款云主机2核4G限时秒杀,88元/年起!
  • 免费体验DeepSeek,上天翼云息壤 NEW 新老用户均可免费体验2500万Tokens,限时两周
  • 云上钜惠 HOT 爆款云主机全场特惠,更有万元锦鲤券等你来领!
  • 算力套餐 HOT 让算力触手可及
  • 天翼云脑AOne NEW 连接、保护、办公,All-in-One!
  • 中小企业应用上云专场 产品组合下单即享折上9折起,助力企业快速上云
  • 息壤高校钜惠活动 NEW 天翼云息壤杯高校AI大赛,数款产品享受线上订购超值特惠
  • 天翼云电脑专场 HOT 移动办公新选择,爆款4核8G畅享1年3.5折起,快来抢购!
  • 天翼云奖励推广计划 加入成为云推官,推荐新用户注册下单得现金奖励
免费活动
  • 免费试用中心 HOT 多款云产品免费试用,快来开启云上之旅
  • 天翼云用户体验官 NEW 您的洞察,重塑科技边界

智算服务

打造统一的产品能力,实现算网调度、训练推理、技术架构、资源管理一体化智算服务
智算云(DeepSeek专区)
科研助手
  • 算力商城
  • 应用商城
  • 开发机
  • 并行计算
算力互联调度平台
  • 应用市场
  • 算力市场
  • 算力调度推荐
一站式智算服务平台
  • 模型广场
  • 体验中心
  • 服务接入
智算一体机
  • 智算一体机
大模型
  • DeepSeek-R1-昇腾版(671B)
  • DeepSeek-R1-英伟达版(671B)
  • DeepSeek-V3-昇腾版(671B)
  • DeepSeek-R1-Distill-Llama-70B
  • DeepSeek-R1-Distill-Qwen-32B
  • Qwen2-72B-Instruct
  • StableDiffusion-V2.1
  • TeleChat-12B

应用商城

天翼云精选行业优秀合作伙伴及千余款商品,提供一站式云上应用服务
进入甄选商城进入云市场创新解决方案
办公协同
  • WPS云文档
  • 安全邮箱
  • EMM手机管家
  • 智能商业平台
财务管理
  • 工资条
  • 税务风控云
企业应用
  • 翼信息化运维服务
  • 翼视频云归档解决方案
工业能源
  • 智慧工厂_生产流程管理解决方案
  • 智慧工地
建站工具
  • SSL证书
  • 新域名服务
网络工具
  • 翼云加速
灾备迁移
  • 云管家2.0
  • 翼备份
资源管理
  • 全栈混合云敏捷版(软件)
  • 全栈混合云敏捷版(一体机)
行业应用
  • 翼电子教室
  • 翼智慧显示一体化解决方案

合作伙伴

天翼云携手合作伙伴,共创云上生态,合作共赢
天翼云生态合作中心
  • 天翼云生态合作中心
天翼云渠道合作伙伴
  • 天翼云代理渠道合作伙伴
天翼云服务合作伙伴
  • 天翼云集成商交付能力认证
天翼云应用合作伙伴
  • 天翼云云市场合作伙伴
  • 天翼云甄选商城合作伙伴
天翼云技术合作伙伴
  • 天翼云OpenAPI中心
  • 天翼云EasyCoding平台
天翼云培训认证
  • 天翼云学堂
  • 天翼云市场商学院
天翼云合作计划
  • 云汇计划
天翼云东升计划
  • 适配中心
  • 东升计划
  • 适配互认证

开发者

开发者相关功能入口汇聚
技术社区
  • 专栏文章
  • 互动问答
  • 技术视频
资源与工具
  • OpenAPI中心
开放能力
  • EasyCoding敏捷开发平台
培训与认证
  • 天翼云学堂
  • 天翼云认证
魔乐社区
  • 魔乐社区

支持与服务

为您提供全方位支持与服务,全流程技术保障,助您轻松上云,安全无忧
文档与工具
  • 文档中心
  • 新手上云
  • 自助服务
  • OpenAPI中心
定价
  • 价格计算器
  • 定价策略
基础服务
  • 售前咨询
  • 在线支持
  • 在线支持
  • 工单服务
  • 建议与反馈
  • 用户体验官
  • 服务保障
  • 客户公告
  • 会员中心
增值服务
  • 红心服务
  • 首保服务
  • 客户支持计划
  • 专家技术服务
  • 备案管家

了解天翼云

天翼云秉承央企使命,致力于成为数字经济主力军,投身科技强国伟大事业,为用户提供安全、普惠云服务
品牌介绍
  • 关于天翼云
  • 智算云
  • 天翼云4.0
  • 新闻资讯
  • 天翼云APP
基础设施
  • 全球基础设施
  • 信任中心
最佳实践
  • 精选案例
  • 超级探访
  • 云杂志
  • 分析师和白皮书
  • 天翼云·创新直播间
市场活动
  • 2025智能云生态大会
  • 2024智算云生态大会
  • 2023云生态大会
  • 2022云生态大会
  • 天翼云中国行
天翼云
  • 活动
  • 智算服务
  • 产品
  • 解决方案
  • 应用商城
  • 合作伙伴
  • 开发者
  • 支持与服务
  • 了解天翼云
      • 文档
      • 控制中心
      • 备案
      • 管理中心
      文档中心

      函数计算

      函数计算

        • 产品公告
        • 【产品变更】函数计算服务正式商业化公告
        • 产品动态
        • DeepSeek专题
        • DeepSeek专题导航
        • 图解:DeepSeek与公有云深度融合
        • 从基础设施到智能中枢:DeepSeek如何重塑公有云服务价值链
        • 高性能GPU云主机助力DeepSeek深度应用
        • 天翼云SD-WAN与DeepSeek超强联动,开启云上高效互联新时代
        • 实践指南:DeepSeek驱动高效能云生态
        • GPU云主机/弹性云主机:零基础搭建DeepSeek云端环境指南
        • GPU物理机:物理机搭建DeepSeek指南
        • SD-WAN跨境:SD-WAN助力DeepSeek模型定向加速
        • 智算容器:云容器引擎与DeepSeek融合实践
        • 函数计算:天翼云函数计算与DeepSeek大模型
        • 天翼云函数计算一键部署DeepSeek大模型
        • Q&A:典型问题解析与策略应对
        • 产品介绍
        • 什么是函数计算
        • 应用场景
        • 基本概念
        • 产品功能
        • 产品优势
        • 计费说明
        • 计费概述
        • 按量付费
        • 资源包
        • 试用资源包
        • 欠费说明
        • 计费FAQ
        • 快速入门
        • 新手入门
        • 用户指南
        • 应用管理
        • 应用中心简介
        • 管理应用
        • 管理环境
        • 管理流水线
        • 函数创建
        • 标准运行时函数创建
        • 自定义运行时函数创建
        • 容器镜像函数创建
        • 函数配置
        • 版本管理
        • 别名管理
        • 配置环境变量
        • 配置层
        • 配置网络
        • 配置固定公网IP地址
        • 配置存储
        • 配置ZOS对象存储
        • 配置NAS文件存储
        • 配置预留实例
        • 配置单实例并发度
        • 代码开发
        • 代码开发概述
        • Node.js
        • 环境说明
        • 请求处理程序(Handler)
        • 上下文
        • 部署代码包
        • 日志
        • 错误处理
        • Python
        • 环境说明
        • 请求处理程序(Handler)
        • 上下文
        • 部署代码包
        • 日志
        • 错误处理
        • Java
        • 环境说明
        • 请求处理程序(Handler)
        • 上下文
        • 部署代码包
        • 日志
        • 错误处理
        • Go
        • 环境说明
        • 请求处理程序(Handler)
        • 上下文
        • 部署代码包
        • 日志
        • 错误处理
        • C#
        • 环境说明
        • 请求处理程序(Handler)
        • 上下文
        • 部署代码包
        • 日志
        • 错误处理
        • PHP
        • 环境说明
        • 请求处理程序(Handler)
        • 上下文
        • 部署代码包
        • 日志
        • 错误处理
        • 自定义运行时
        • 环境说明
        • 基本原理
        • Web函数
        • 上下文和日志格式
        • 容器镜像函数
        • 容器镜像函数介绍
        • 创建容器镜像函数
        • 上下文及日志格式
        • 事件触发
        • 触发器简介
        • 触发器管理
        • 触发器事件消息格式
        • 定时触发器
        • HTTP触发器
        • 云原生网关触发器
        • Kafka触发器
        • RocketMQ触发器
        • RabbitMQ触发器
        • 事件总线类触发器
        • 概述
        • 日志触发器
        • 对象存储触发器
        • MQTT触发器
        • 函数调用
        • 访问函数
        • 同步调用
        • 异步调用
        • 功能概览
        • 重试策略
        • 结果回调
        • 异步任务
        • 函数实例
        • 实例类型及使用模式
        • 可观测性
        • 监控指标
        • 实例指标
        • 函数指标
        • 日志
        • 配置日志
        • 打印函数日志
        • 高级功能
        • 域名管理
        • 配置自定义域名
        • 为自定义域名配置JWT认证鉴权
        • 层管理
        • 创建自定义层
        • 官方层使用示例
        • 自定义层使用示例
        • 弹性管理
        • 并发实例上限配置
        • 实例伸缩规则及限制
        • 安全与合规
        • IAM访问控制
        • 身份管理
        • 基于身份的权限策略
        • 服务内联委托
        • 权限访问管理
        • 授权函数计算访问其他云函数
        • 授权事件源访问函数计算
        • 常见问题
        • 开通类
        • 通用类
        • 应该什么时候使用函数计算,什么时候使用弹性云主机?
        • 是否可以访问运行函数的机器?
        • 代码开发
        • 可以使用什么语言编写函数?
        • 如何保证代码的安全?
        • 运行环境中所依赖的包如何自动安装?
        • 函数管理
        • 什么是VPC?
        • 如何监控函数执行?
        • 如何用函数访问VPC内的资源?
        • 函数可以访问多少个VPC?
        • 在VPC中的函数如何访问公网?
        • 函数运行时间超过函数最大Timeout时间怎么办?
        • 函数执行超时,报错Function time out after怎么办?
        • 事件触发
        • 触发器不能正常触发函数执行怎么办?
        • 函数实例
        • 如何弹性扩展函数的执行?
        • 如何让实例一直存活不销毁,消除冷启动延时的影响?
        • 如何通过ipv6网络访问函数?
        • 访问其他服务
        • 在函数中如何访问其他服务?
        • 最佳实践
        • 通过函数计算访问VPC内的MySQL实例
        • 函数计算Java冷启动优化最佳实践
        • 通过函数计算部署通义千问
        • API参考
        • API使用说明
        • 相关协议
        • 函数计算产品服务协议
        • 函数计算服务等级协议
          无相关产品

          本页目录

          帮助中心函数计算DeepSeek专题实践指南:DeepSeek驱动高效能云生态函数计算:天翼云函数计算与DeepSeek大模型天翼云函数计算一键部署DeepSeek大模型
          天翼云函数计算一键部署DeepSeek大模型
          更新时间 2025-03-05 15:02:29
          • 新浪微博
          • 微信
            扫码分享
          • 复制链接
          最近更新时间: 2025-03-05 15:02:29
          分享文章
          • 新浪微博
          • 微信
            扫码分享
          • 复制链接

          前言

          随着 DeepSeek 新春爆火,带动又一轮大模型热潮;用户访问量突增导致 DeepSeek 服务器繁忙,卡顿或无响应导致用户体验不佳;如何顺畅的体验使用这些大模型服务成为一个挑战。

          本文介绍如何使用天翼云函数计算服务快速部署 DeepSeek-R1 大模型,构建个人私有的 AI 大模型应用;通过 OpenWebUI 页面与 Ollama 运行的本地大模型交互,体验到极致流畅的 DeepSeek 能力。

          关键名词

          • OpenWebUI 是一个开源可扩展、功能丰富且用户友好的自托管 AI 平台,专为生成式人工智能模型的交互而设计;它支持多种大型语言模型(LLM)运行器,兼容 Ollama 和 OpenAI 兼容的 API;还支持自定义模型创建,集成特定提示词、知识库等;并内置了 RAG 推理引擎;旨在实现完全离线运行。
          • Ollama 是一款开源工具(大模型管理工具),旨在简化大型语言模型(LLM)在本地计算机上的运行、部署和交互;它支持多种流行的预训练模型,如 LLaMA 2、Gemma 等;可以有效降低打语音模型的使用门槛,推动 AI 技术的普惠。
          • 天翼云函数计算(FAAS)是一项由事件驱动的全托管 Serverless 计算服务,用户无需管理基础设施,只需编写上传代码;由平台负责计算资源与代码运行,并提供高弹性、高可用、安全稳定、免运维、按需付费的云计算服务。FAAS 平台提供 GPU 函数支持一键创建部署大模型应用,帮助用户快速体验最新大模型。

          大模型部署难点

          大模型的部署面临诸多挑战,这些难点主要集中在硬件资源、数据处理、模型优化、安全性以及实际应用的适配等多个方面。个人用户想部署大模型主要有下列难点:

          • 硬件资源成本大:大模型的训练和推理需要强大的硬件支持,通常需要高性能的 GPU/TPU 集群;例如推理时可能需要 A100、H100 等高端 GPU。即使是较小的模型(如1.5B参数),也需要至少4GB显存的GPU和16GB内存。
          • 软件环境与配置难:部署需要搭建复杂的软件环境,涉及操作系统、AI 框架等,配置错误可能导致模型无法运行。部署过程中可能遇到依赖环境不兼容或缺失的问题,例如 Python、CUDA 版本不匹配。
          • 缺乏中文支持:许多部署工具(如Ollama、Docker)不提供中文支持,进一步增加了模型部署门槛。
          • 技术支持不足:本地部署需要掌握一定的专业支持,特别是故障排除和模型优化;依靠个人自查解决问题难度很大,且效率低下。

          FAAS平台部署DeepSeek

          接下来将分别从平台优势、部署架构、操作步骤等几个方面,为您详细展示如何通过天翼云 FAAS 平台快速部署 DeepSeek 大模型,构建私有的 AI 智能问答应用。

          平台优势

          • 免运维:FAAS 提供全托管 Serverless 计算服务,无需管理维护基础设施;用户只需要指定GPU资源规格,平台就会置备好计算资源即刻使用;同时 24h 服务的技术支持团队,随时为用户提供专业支持和答疑解惑。
          • 低成本:FAAS 平台采用极低的按量计费模式,根据用户实际使用的资源量进行收费;用户不再需要承担高额的 GPU 硬件购买、租用、这就成本,甚至能够以最低的费用使用到最新的 GPU 卡。
          • 开箱即用:FAAS 平台开箱即用,省去了复杂的软件环境、操作系统、框架配置等操作;提供多种 AI应用模板、GPU函数模板,帮助用户快速构建部署AI应用和大模型。
          • 高弹性:FAAS 平台支持实时弹性伸缩和动态负载均衡,秒级扩缩容能力灵活调度计算资源;保障应用服务稳定高可用,相比于人工扩缩容提效显著。

          部署架构

          通过应用模板快速创建模型服务,将 OpenWebUI 和 Ollama 以函数的形式部署在 FAAS 平台。

          • OpenWebUI 通过 Http 触发器供用户访问,提供聊天问答等交互。

          • OpenWebUI 和 Ollama 直接通过 Ollama API 进行交互。

          • NAS文件服务管理大模型相关文件供 Ollama 调用,同时也可存储知识库。

            企业微信截图_17400374212566.png

          操作步骤

          下面将详细介绍如何从零到一部署构建DeepSeek大模型的智能问答应用。

          注意

          您需要请交提官网工单申请加入FAAS平台的GPU函数白名单,方可体验后续流程。

          1、创建虚拟私有云(VPC)

          1. 依次进入天翼云“控制中心>网络控制台>虚拟私有云”,点击右上方“创建虚拟私有云”。

          2. 在创建页面“VPC基本信息”部分,地域选择华东 - 华东1,VPC名称、子网等根据实际需求填写。

          3. 点击下一步确认配置并创建。

          2、创建弹性文件服务(SFS)

          创建弹性文件服务SFS Turbo实例,用于存储大模型相关文件,以及私有知识库。

          1. 依次进入天翼云“控制中心>存储控制台>文件存储>文件系统列表”,点击右上方“创建SFS Turbo实例”。

          2. 在创建页面,地域选择华东 - 华东1,网络选择我们上一步创建的虚拟私有云实例,协议类型选择NFS,其余字段可以根据实际需求填写。

          3. 点击下一步确认配置并创建。

          3、配置自定义域名

          配置自定义域名用于后续应用通过Web访问。

          进入天翼云函数计算控制台>高级功能>域名管理”页面创建域名。具体配置规则请参考文档:配置自定义域名

          注意

          当前天翼云函数计算服务可提供试用域名给用户体验试用(不可用于生产正式用途),如有需求请通过天翼云官网提交工单至函数计算平台加白处理。

          4、部署DeepSeek-R1模型应用

          通过函数计算平台提供的应用模板快速创建大模型应用,并一键部署相关服务。

          1. 依次进入天翼云“控制中心>函数计算>应用”,点击左上方“创建应用”。

          2. 创建方式选择应用模板,并找到DeepSeek R1模板,点击“立即创建”。

          3. 在“基础配置”部分,相关字段可以根据实际需求填写。

          4. 在“高级配置”部分,地域选择 华东1,VPC和NAS分别选择前面步骤创建的虚拟私有云实例、弹性文件服务SFS Turbo实例,远端目录、函数本地目录等其余字段可以根据实际需求选择填写,然后点击“创建应用”完成操作。

          5. 应用部署成功后,在函数列表页面可以看到如下3个函数:

          • xxx-webui:OpenWebUI 是一个可扩展的、功能丰富、用户友好的自托管 AI 平台,专为完全离线运行而设计。兼容Ollama、OpenAI的API。
          • xxx-download:Download函数用于将对应的DeepSeek R1模型下载到NAS,以便后续Ollama快速加载。
          • xxx-ollama:Ollama 是一个开源的大型语言模型(LLM)平台,专注于简化大语言模型的本地部署和使用。

          5、访问 OpenWebUI 开始对话

          待应用和函数部署成功后,回到应用列表页面查看应用;点击应用名称进入详情页,点击“默认环境>环境信息>访问域名”。

          然后跳转至Open WebUI界面进行对话:

          更多高级玩法

          1、开启联网搜索

          OpenWebUI支持配置开启联网搜索能力,使用博查Web Search API;操作如下:

          1. 点击 博查AI开放平台 | Search API, Reranker API 链接在博查 AI 开放平台创建 API KEY。

          2. 在Open WebUI“管理员设置>联网搜索”配置博查API KEY。

          3. 回到Open WebUI对话界面,点击开启“联网搜索”。

          2、扩展模型知识库

          OpenWebUI支持添加文档知识库,提供给大模型学习之后就可以进行知识库答疑;操作如下:

          1. 在Open WebUI“工作空间>知识库”界面,创建知识库并上传相关文档,例如:

          2. 回到Open WebUI对话界面,在输入框键入“#”可以选择对应的知识库进行对话:

          3、配置预留实例提高应用性能

          FAAS 平台支持配置预留实例,通过预先启动模型服务实例,确保用户请求能够立即响应,进而提高大模型应用的响应速度。您只需要进入目标模型函数的详情配置页面,点击“预留实例配置”创建预留实例数策略即可。相关说明请参考文档《预留实例模式》

          4、通过云原生网关访问函数

          FAAS 平台支持配置云原生网关访问函数,详见官网最佳实践文档《通过云原生网关访问函数》

          5、管理DeepSeek R1模型

          可以通过 download 函数的触发器调用 Ollama API 进行模型管理,操作步骤如下:

          1. 在download函数详情页面“配置”选项卡,找到触发器以及触发器的公网访问地址。

          2. 通过触发器的公网访问地址调用ollama的API。

          • 下载模型:POST /api/pull

          • 拷贝模型:POST /api/copy

          • 删除模型:DELETE /api/delete

            其它API以及详细的定义请参考:https://github.com/ollama/ollama/blob/main/docs/api.md

          1. 调用API。

            以下载DeepSeek R1 7B模型为例,执行如下命令(将your-http-trigger替换为触发器的公网访问地址):

            curl -X POST http://your-http-trigger/api/pull -d '{"model": "modelscope.cn/unsloth/DeepSeek-R1-Distill-Qwen-7B-GGUF"}'
            
            注意

            Ollama默认从Hugging Face下载模型,这里我们选择ModelScope平台以加速模型的下载。

          6、接入天翼云慧聚一站式智算服务平台API

          天翼云慧聚一站式智算服务平台提供了671B参数大小DeepSeek-R1等大语言模型,我们也可以通过配置息壤平台的模型接口到OpenWebUI:

          image.png

          返回DeepSeek专题导航。

          文档反馈

          建议您登录后反馈,可在建议与反馈里查看问题处理进度

          鼠标选中文档,精准反馈问题

          选中存在疑惑的内容,即可快速反馈问题,我们会跟进处理

          知道了

          上一篇 :  函数计算:天翼云函数计算与DeepSeek大模型
          下一篇 :  Q&A:典型问题解析与策略应对
          搜索 关闭
          ©2025 天翼云科技有限公司版权所有 增值电信业务经营许可证A2.B1.B2-20090001
          公司地址:北京市东城区青龙胡同甲1号、3号2幢2层205-32室
          备案 京公网安备11010802043424号 京ICP备 2021034386号
          ©2025天翼云科技有限公司版权所有
          京ICP备 2021034386号
          备案 京公网安备11010802043424号
          增值电信业务经营许可证A2.B1.B2-20090001
          用户协议 隐私政策 法律声明