一站式智算服务平台为您提供优质的服务体验,本文带您了解平台产品优势。 全流程开发工具 提供训练数据管理、模型开发（代码式开发工具、预置大模型、预置开发环境）、模型训练、模型精调、模型管理、模型评估、服务部署到模型服务调用的全链路功能。集成分布式训练调度技术、多种训练加速方法和高性能存储，支撑大模型训练，并极大降低训练和应用模型成本、缩短训练时长。 兼顾各类用户需求 面向需要开发复杂模型的用户，提供完整的代码式开发工具、预置大模型、预置开发环境等，满足用户的各种复杂模型开发需求。面向希望能快速、便捷建模的用户，则充分利用大模型微调训练的特点，提供快速微调工具，只需选择数据、配置参数即可完成大模型微调，降低大模型训练的使用门槛。 部署快捷，适配广泛 集成分布式算力调度、模型并行推理和多种运算加速能力，提升模型推理性能，实现推理服务的快捷部署。同时，适配多种模型结构，灵活支持用户各类复杂推理应用需求。 集成多种AI框架 集成多种AI框架，包括国产AI框架，支持各种主流大模型。 安全可信 符合数据监管要求，不设置数据埋点，不收集存储用户的入参和出参数据，从根本上保证了用户的数据隐私安全。

本章节为您简单介绍数据安全运营中心内容。 天翼云数据安全运营中心是一个针对大数据汇聚、流动及交换共享过程中产生的数据安全风险推出的数据全流域安全管控方案，管控平台利用复杂系统建模方法和大数据智能分析，提供流动数据风险治理、数据安全合规监管能力。从数据、接口、人员三个视角建立规则模型，对数据归集、处理、共享、交换场景下的数据风险进行全域治理和合规监管，对发现的网络风险和数据安全风险进行及时预警和通报，建立适应数据动态流动的安全管控机制。 以管控平台为基础工具，可以建立数据层面从【资产识别】→【风险分析】→【监测预警】→【响应处置】→【工单管理】的数据安全监督管控闭环。

前置条件 1. 使用前，您的租户账号需在天翼云存储控制台开通并创建相应的存储 ，详见++对象存储快速入门++、++并行文件服务快速入门++。 2. 已在本平台完成相关产品的委托授权。 操作说明 基础数据集的存储方式包括普通存储和智算存储： 普通存储（ZOS）： 账号自有存储：指租户在天翼云官网同资源池下开通的对象存储，用于数据长期存储和备份，完成委托授权后您可在本平台直接使用。 平台共享存储：本平台赠予您体验的存储，默认集群额度为 300G，是所有用户共享的存储，您的用量受限且不支持扩容，超出用量后需自行前往对象存储购买自有存储。平台后续将逐渐废弃此类存储，建议您直接使用自有存储。 智算存储（HPFS）： 账号自有存储：指租户在天翼云官网同资源池下开通的HPFS存储，常用于大模型的开发和训练等数据密集性的高性能计算场景，完成委托授权后您可在本平台直接使用。如需使用开发机和训练任务功能，请提前将数据、模型、代码导入智算存储中。训练时需要与文件存储频繁交互，请确保存储状态可用且充足。 平台共享存储：本平台赠予您体验的存储，默认集群额度为 512 G，是所有用户共享的存储，您的用量受限且不支持扩容，超出用量后需自行前往HPFS购买自有存储。平台后续将逐渐废弃此类存储，建议您直接使用自有存储。

配置 说明 服务名称 用于唯一标识一个后端服务 大模型供应商 支持的大模型供应商有：DeepSeek、OpenAI兼容(OpenAI Compatible)、百炼、息壤、火山方舟、千帆等 需特别说明，本AI服务所集成的大模型能力并非由云原生API网关直接提供。您在接入使用前，需自行确认该服务是否匹配您的业务需求并评估其可靠性，同时应确保严格遵循国家法律法规及平台产品协议的相关约定。若因未合规使用引发任何纠纷或不良后果，我方不承担相应责任。 服务地址(baseurl) 选定大模型供应商后会自动载入标准接口，其中OpenAI兼容的供应商需要自行填写服务地址 APIKEY 该APIKEY用于在云原生API网关和大模型服务之间进行身份认证。APIKEY的获取请咨询对应服务供应商。

本章节主要介绍如何使用函数流实现流式大文件处理。 背景与价值 Serverless Workflow由于自身可编排、有状态、持久化、可视化监控、异常处理、云服务集成等特性，适用于很多应用场景，比如： 复杂度高需要抽象的业务（订单管理，CRM 等） 业务需要自动中断 / 恢复能力，如多个任务之间需要人工干预的场景（人工审批，部署流水线等） 业务需要手动中断 / 恢复（数据备份 / 恢复等） 需要详细监控任务执行状态的场景 流式处理（日志分析，图片 / 视频处理等）当前大部分 Serverless Workflow 平台更多关注控制流程的编排，忽视了工作流中数据流的编排和高效传输，上述场景创建函数流触发器中，由于数据流相对简单，所以各大平台支持都比较好，但是对于文件转码等存在超大数据流的场景，当前各大平台没有给出很好的解决方案。FunctionGraph函数工作流针对该场景，提出了 Serverless Streaming 的流式处理方案，支持毫秒级响应文件处理。 技术原理 FunctionGraph函数工作流提出 Serverless Streaming 的流式可编排的文件处理解决方案，步骤与步骤之间通过数据流驱动，更易于用户理解。本章通过图片处理的例子解释该方案的实现机制。 如果需要驱动一个工作流执行，工作流系统需要处理两个部分： 控制流：控制工作流的步骤间流转，以及步骤对应的 Serverless 函数的执行。确保步骤与步骤之间有序执行。 数据流：控制整个工作流的数据流转，通常来说上一个步骤的输出是下一个步骤的输入，比如上述图片处理工作流中，图片压缩的结果是打水印步骤的输入数据。 在普通的服务编排中，由于需要精准控制各个服务的执行顺序，所以控制流是工作流的核心部分。然而在文件处理等流式处理场景中，对控制流的要求并不高，以上述图片处理场景举例，可以对大图片进行分块处理，图片压缩和加水印的任务不需要严格的先后顺序，图片压缩处理完一个分块可以直接流转到下一个步骤，而不需要等待图片压缩把所有分块处理完再开始加水印的任务。 基于上述理解，FunctionGraph工作流的 Serverless Streaming 方案架构设计如下图所示： 在 Serverless Streaming 的流程中，弱化控制流中步骤之间的先后执行顺序，允许异步同时执行，步骤与步骤之间的交互通过数据流驱动。其中数据流的控制通过 Stream Bridge 组件来实现。同时函数 SDK 增加流式数据返回接口，用户不需要将整个文件内容返回，而是通过 gRPC Stream 的方式将数据写入到 Stream Bridge，Stream Bridge 用来分发数据流到下一个步骤的函数 Pod 中。

二、测试过程 2.1 环境变量配置 进入部署过程中启动的容器内，使用以下命令配置环境变量。 2.2 导入数据集 导入文本推理数据集：testdatagsm8k.jsonl 示例： {"question": " 你是中国电信星辰语义大模型，英文名是TeleChat，你是由中电信人工智能科技有限公司和中国电信人工智能研究院（TeleAI）研发的人工智能助手。n n你是一位擅长文本生成的智能助手，能够从多轮对话中理解上下文关系并提炼出用户的完整问题。请按照以下步骤处理用户的对话内容：nn1. 【识别上下文关系】：判断多轮对话问题之间是否存在关联。如果对话之间存在关联，则返回true，如果对话之间相互独立，则返回false。用【hasContext】来表示。n2. 【关联对话轮次】：将相互关联的对话轮次分组，并存储在列表中。每组应该包含相关的对话轮次。如果没有上下文关系，则直接返回空列表，用【mergeRound】来表示。n3. 【总结用户问题】：根据每组轮次的内容，概括总结出用户的完整问题。注意总结时仅关注该组的对话内容，尽量足够精简不要重复，用【contextAnswer】来表示。n4. 【构建JSON】：返回一个JSON字符串，格式如下：n {n "hasContext": "表示是否存在上下文关系", n "mergeRound": "表示需要合并的轮次",n "contextAnswer": "表示概括总结的完整问题"n }nn下面是 【河北省】 用户的多轮对话内容：n第1轮对话：我的宽带协议到期，8月1日。再续协议怎么办理？n第2轮对话：你查一下我用好多年了nn【输出结果】：n ", "answer": "{"hasContext": "true", "mergeRound": [[1, 2]], "contextAnswer": ["宽带到期怎么续约"]}"}

换了个地方使用，云电脑响应变慢了怎么办？ 云电脑订购时，根据所选“常用地区”就近匹配资源，切换使用地可能导致网络传输距离变长，服务响应变慢。如因使用地变化大导致时延增加，建议重新订购，暂不支持切换地域。 云电脑内的游戏存档和数据如何保留？ 每台游戏云电脑提供独占的系统盘或数据盘（如有订购），关机后数据保留； 在云电脑有效期内，用户数据不丢失，且数据仅可由当台云电脑访问，无需担心账号、数据泄露； 可通过如第三方游戏平台提供的存档云同步功能进行跨端同步。 当前包月周期的可用时长不够了怎么办？ 可参考++订购操作指引++中【升级套餐说明】部分，通过升级套餐增加可用时长。 云电脑到期冻结了怎么办？ 可参考++订购操作指引++中【到期、续订说明】部分，及时续订云电脑。 游戏中出现鼠标卡视角、不断旋转等问题怎么办？ 请升级云电脑客户端，确保版本不低于v2.9.0。详细设置可参考上文“++鼠标模式自由视角++”功能说明。

本页介绍天翼云TeleDB数据库的数据类型，包括数字类型、字符类型、二进制数据类型、日期类型和布尔类型。 数字类型 名字 存储尺寸 描述 范围 smallint 2字节 小范围整数 小范围整数 smallint 2字节 小范围整数 smallint 2字节 小范围整数 32768 到+32767 integer 4字节 整数的典型选择 2147483648 到+2147483647 bigint 8字节 大范围整数 大范围整数 bigint 8字节 大范围整数 bigint 8字节 大范围整数 9223372036854775808 到+9223372036854775807 decimal 可变 用户指定精度，精确 最高小数点前131072位，以及小数点后16383位 numeric 可变 用户指定精度，精确 最高小数点前131072位，以及小数点后16383位 real 4字节 可变精度，不精确 6位十进制精度 double precision 8字节 可变精度，不精确 15位十进制精度 smallserial 2字节 自动增加的小整数 1到32767 serial 4字节 自动增加的整数 1到2147483647 bigserial 8字节 自动增长的大整数 1到9223372036854775807

本页介绍天翼云TeleDB数据库的数据类型，包括数字类型、字符类型、二进制数据类型、日期类型和布尔类型。 数字类型 名字 存储尺寸 描述 范围 smallint 2字节 小范围整数 小范围整数 smallint 2字节 小范围整数 smallint 2字节 小范围整数 32768 到+32767 integer 4字节 整数的典型选择 2147483648 到+2147483647 bigint 8字节 大范围整数 大范围整数 bigint 8字节 大范围整数 bigint 8字节 大范围整数 9223372036854775808 到+9223372036854775807 decimal 可变 用户指定精度，精确 最高小数点前131072位，以及小数点后16383位 numeric 可变 用户指定精度，精确 最高小数点前131072位，以及小数点后16383位 real 4字节 可变精度，不精确 6位十进制精度 double precision 8字节 可变精度，不精确 15位十进制精度 smallserial 2字节 自动增加的小整数 1到32767 serial 4字节 自动增加的整数 1到2147483647 bigserial 8字节 自动增长的大整数 1到9223372036854775807

本页介绍天翼云TeleDB数据库产品介绍。 产品概述 TeleDB 是天翼云自主研发的分布式数据库系统，集高扩展性、高SQL兼容度、完整的分布式事务支持、多级容灾能力等能力于一身，采用无共享的集群架构，提供容灾、备份、恢复、监控、安全、审计等全套解决方案，适用于GB级 PB级的海量数据场景。 数据库资源与生命周期管理平台TeleDB资源全生命周期管理则致力于为客户提供极致体验的数据库资源管理一体化平台，支持用户对云数据库TeleDB进行全生命周期管理。 该平台提供租户用户管理、资源管理、实例管理、监控告警中心、安全中心等核心功能，使用者可以在TeleDB控制台上执行实例开通、维护管理、参数组管理、备份恢复管理、监控告警管理、数据库空间管理、任务管理、日志管理、资源管理、用户管理等操作，实现数据库资源集中管理和高效率使用，数据库运维自动化和智能化，帮助客户快速便捷使用数据库以满足业务高速增长的IT支撑需求，是客户私有化部署的最佳实践。 产品功能 实例管理 提供各类数据库实例的查看、停止、恢复、注销、扩容、缩容等操作，可查看实例详情，实例名称、引擎版本、产品规格、创建时间等，以及实例部署的主机类型及配置信息。 安装部署 多种数据库引擎自动安装部署，包含实例开通和工单管理模块，可选择数据库引擎、规格、主机及配置参数，开通对应实例，并可通过工单管理模块，查看实例开通情况。 资源管理 包含主机和VIP管理模块，可添加主机并测试联通、检测主机配置，添加主机标签，并可进行修改密码、删除操作，添加主机后可对主机进行监控，查看监控总览。 监控中心 实时监控，提供不同维度的主机和数据库运⾏指标监控及变化趋势分析，可自由选择不同时间段，开启自动刷新，通过对指标的平均值、最大最小值查看，能够实时监控运维，及时发现问题。 告警中心 提供灵活的告警配置，自定义告警模板，自定义通知对象，可实时推送告警消息，帮助运维人员及时把握数据库运行状态，及时发现风险问题，并快速定位。 安全中心 提供完整的租户用户管理，可灵活支撑企业组织架构和业务分类的资源隔离需要，超级管理员可以创建不同租户，租户管理员可添加移除用户，其他用户可自定义配置角色权限，进行有限的操作。同时，安全中心提供用户访问日志管理，可用于运维监控和问题排查。 标签管理 提供自定义标签管理，包括设置标签的键值，可在主机、实例管理里打上标签，进行分类筛选。 诊断优化 提供数据库巡检，可进行一次性、周期性巡检，生成巡检报告，可查看/下载巡检报告，方便运维管理。 服务订阅 用户通过线下方式确定需要提供的数据库服务，销售人员生成所订阅的信息并导入到服务订阅模块，后续根据用户使用情况更新订阅信息，方便用户管理订阅内容。

本文带您了解什么是训推服务。 训推服务是大模型一站式、可视化、全流程AI开发训练平台，为用户提供AI建模的一站式解决方案。具备开箱即用、通用性强、大模型适用和安全可靠的优势。 功能模块 数据集管理：将训练模型所需要的各种数据，导入到数据集管理中，以便于更清晰、方便地管理训练数据，加快训练速度。支持数据集共享，在线标注等。 模型开发管理：使用多种方式设计模型和训练，启动训练任务并为训练任务分配算力资源。 训练任务管理：查看和管理启动的所有训练任务。从已完成的训练中，挑选满意的训练结果发布为模型。 模型管理和评估：导入和管理所有模型，对模型进行版本管理、导入导出、评估、分享。 模型压缩：在保证模型效果的前提下压缩模型大小，进而提升模型在推理调用时的性能。 线上服务管理：将模型部署为我的服务，供应用方调用。 功能特性 简化训练和部署的复杂流程 开箱即用，降低调优成本 平台化全流程管理

本文主要介绍云专线的产品优势。 稳定时延 专线接入提供了高可靠的服务保证，单线接入可用性高，满足您的网络连接需求。 高安全性 用户通过云专线接入，用户独占网络链路，无惧数据泄露风险。 对上层应用透明承载，可承载数据、语音、视频等综合应用。 多端口多协议 天翼云专线接入支持100M、10G二种接入端口，支持MSTP、IPRAN、MPLS等多种接入协议，满足您多样网路接入需求。 支持大带宽 天翼云专线接入单线路最大支持10Gbps带宽连接。 稳定可靠 提供中国电信高质量链路，提供冗余方案，运营商级网络保障。 专用网络传数据，免去拥堵或故障绕行带来的时延，传输速率更有保障，传输更稳定。 接入方便 客户侧可选择IP虚拟专网、点到点专线等多种接入方式，可根据业务需求灵活选择。 每种接入方式均可与互联网接入同时使用，实现管理流量、业务流量分离。

本文介绍在应用托管中搭建Dify和部署MCP Server,以及在Dify中集成基于部署的MCP Server。 概述 Dify介绍 Dify 是一站式大模型应用开发平台。它能便捷接入各类数据并管理，支持模型微调与多模型调用。通过可视化界面和低代码工具，用户无需深厚技术背景，就能快速搭建如聊天机器人、智能客服等应用。可用于客户服务、内容创作等场景，具有降低开发门槛、提升效率、灵活可扩展等优势，助力企业高效落地大模型应用。 前置说明 1. 本文档旨在指导用户如何通过应用托管控制台，体验将MCP Server集成至Dify。 2. 本产品中的模型由第三方主体提供，尽管云公司已尽最大努力进行识别和维护，但仍无法保证模型的可用性。请客户按照该产品的服务协议使用该产品，做好甄别工作，并对自行选择的服务承担相应责任。 使用前准备 1. 天翼云账号注册：使用应用托管平台须具备天翼云官网账号。已有天翼云账号的直接登录即可，如无天翼云账号需先注册，注册流程可参考：注册账号。 2. 使用前提：如需使用服务请先完成实名认证，请参考账号中心实名认证。如需使用按需服务，请确认账号余额≥100 元。

Dify介绍 Dify 是一站式大模型应用开发平台。它能便捷接入各类数据并管理，支持模型微调与多模型调用。通过可视化界面和低代码工具，用户无需深厚技术背景，就能快速搭建如聊天机器人、智能客服等应用。可用于客户服务、内容创作等场景，具有降低开发门槛、提升效率、灵活可扩展等优势，助力企业高效落地大模型应用。 前置说明 1. 该文档为应用托管控制台通过应用市场体验Dify+DeepSeekR1模型搭建私有知识库的说明，通过应用托管控制台，打开应用市场，创建对应的Dify应用，使用 Dify构建本地知识库。 2. 本产品中的模型由第三方主体提供，尽管云公司已尽最大努力进行识别和维护，但仍无法保证模型的可用性。请客户按照该产品的服务协议使用该产品，做好甄别工作，并对自行选择的服务承担相应责任。 使用前准备 1. 天翼云账号注册：使用应用托管平台须具备天翼云官网账号。已有天翼云账号的直接登录即可，如无天翼云账号需先注册，注册流程可参考：注册账号。 2. 使用前提：如需使用服务请先完成实名认证，请参考账号中心实名认证。如需使用按需服务，请确认账号余额≥100 元。

本文旨在向您介绍一站式智算服务平台断点续训的功能。 产品背景 大模型训练过程往往比较长，根据业界数据，平均约两天，大模型训练会中断一次，经常遇到的问题例如： 程序出现故障 节点出现故障 loss数据恶化，需要手动暂停，调参重训 服务器故障、网络中断、开发平台故障等 断点续训过程需要排查节点、隔离节点、重新启动上一次CKPT，浪费了资源和训练时间，是大模型训练的重要痛点之一。针对这一问题，平台提供了断点续训能力并支持配置客户需要的策略。 断点续训 平台对节点故障、集群故障、程序故障等多种场景，支持故障感知、故障定位、故障修复。目前支持PyTorch、Mindspore框架。 支持以下故障类型： 网络故障：当网卡链接出现故障或状态异常（link status: DOWN）后，可正常触发重调度，实现断点续训 节点心跳故障：当节点因Label异常等原因导致心跳丢失后，可正常触发重调度，实现断点续训 节点Shutdown/Reboot故障：当节点被关闭或重启后，可正常触发重调度，实现断点续训 芯片PCIE故障：当节点发生芯片丢失等异常后，可正常触发重调度，实现断点续训 断点故障：当错误发生时断点正在写入，未正常完成保存即断点保存不完整时，可正常恢复至上一完整断点，实现断点续训

第6章 服务地点 高可用与故障演练服务为远程交付，购买现场服务的客户需提供现场服务地址。 第7章 服务内容 服务内容 服务描述 交付物 现状调研 业务现状、业务架构、客户目标调研 需求分析 客户业务目标和现有架构梳理及分析 高可用方案输出 提供高可用方案，包括应用高可用、数据库高可用、存储高可用等。 高可用方案 故障演练方案输出 提供故障演练方案，包括演练环境创建、故障注入、业务切换等。 故障演练方案 技术支持 在交付期内，为高可用架构落地和故障演练实施提供技术支持 服务说明： 专属架构师作为天翼云高可用与故障演练服务的统一接口，对接客户的高可用与故障演练工作。 天翼云为客户提供高可用与故障演练服务群，可按客户习惯提供微信群、企业微信群或钉钉群中的一种。 天翼云不负责非天翼云平台（如第三方平台、软件、应用）的高可用与故障演练工作。 第8章 服务规格 高可用与故障演练服务规格列表如下： 产品规格 服务方式及时间 电信标准价 高可用与故障演练服务 远程支持，工作日9:0018:00 20000/天/人 现场服务（可选） 现场支持，工作日9:0018:00 15000/天/人（应在高可用与故障演练服务期内） 实例数020，2天以上；实例数20100，10天以上；实例数100200，15天以上；实例数200500，30天以上；实例数500以上，50天以上。

数据库专家服务对行业有限制吗？ 数据库专家服务没有行业限制。 我们的专家团队深耕数据库领域，拥有电信、政务、物联网、新能源、医疗等不同行业的丰富经验，能帮助用户解决各种数据库问题，给用户提供业内优秀的解决方案和经验。 数据库专家服务仅限于使用云数据库的用户吗？ 数据库专家服务不限于使用云数据库的用户。 不管您是否使用云数据库，我们都可以为您提供服务，使用云服务器自建数据库、私有云环境自建数据库等各类场景均适用。 实施数据库专家服务会影响到生产业务吗？ 大多数服务不会影响生产业务，实施服务前我们会和您充分沟通可能的各类风险。 如果在实施数据库专家服务的过程中确实会影响到生产业务，专家团队会在实施服务前为您提供相应的建议和解决方案。 数据库专家服务完成后，会留下哪些技术资料？ 我们会在知识转移的过程中向用户提供不涉及版权的工具和双方约定的相关文档、资料。 例如：安装部署报告、健康巡检报告、性能分析报告、数据库架构设计文档、数据库上云方案、升级扩容方案、迁移方案、数据备份恢复方案、容灾方案等等。

本节介绍天翼云息壤一体化智算服务平台的应用场景。 天翼云息壤一体化智算平台，根据不同场景化，提供产品组合解决方案。 调度运营分散算力管理 场景1：拥有分散的多种算力，需要建设统一纳管调度平台，高效利用资源。 场景2：拥有多余算力，希望纳入算力联盟，进行统一管理与运营，实现资源变现。 解决方案：息壤·算力互联调度平台+定制化开发+业务运营。 深度自研自建智算资源池 场景1：开发能力强，自己有训推平台，仅做智算设备纳管及资源调度。 解决方案：息壤·一体化计算加速平台，实现GPU与NPU服务器的管理与容器化，提供众多运维管理功能。 场景2：在纳管智算设备基础上还需要PAAS能力跑训推任务。 解决方案1：息壤·一体化计算加速平台+息壤·一站式智算服务平台。 解决方案2：息壤·一站式智算服务平台（轻量化）。 提供全链路智算平台，实现大模型训练与推理任务的全程管控。 敏捷开发弹性租用资源 场景：根据使用需求调用算力资源和训推平台能力。 解决方案1：息壤·一体化计算加速平台，基于云公有云资源池，按需租用所需的计算、存储等资源。 解决方案2：息壤·一体化智算服务平台，基于公有云资源，使用平台运行训练和推理任务。 解决方案3：息壤·算力互联调度平台（+息壤·一体化智算服务平台） 接入算力联盟，按需调用供应方资源。

本节介绍天翼云息壤一体化智算服务平台的应用场景。 天翼云息壤一体化智算平台，根据不同场景化，提供产品组合解决方案。 调度运营分散算力管理 场景1：拥有分散的多种算力，需要建设统一纳管调度平台，高效利用资源。 场景2：拥有多余算力，希望纳入算力联盟，进行统一管理与运营，实现资源变现。 解决方案：息壤·算力互联调度平台+定制化开发+业务运营。 深度自研自建智算资源池 场景1：开发能力强，自己有训推平台，仅做智算设备纳管及资源调度。 解决方案：息壤·一体化计算加速平台，实现GPU与NPU服务器的管理与容器化，提供众多运维管理功能。 场景2：在纳管智算设备基础上还需要PAAS能力跑训推任务。 解决方案1：息壤·一体化计算加速平台+息壤·一站式智算服务平台。 解决方案2：息壤·一站式智算服务平台（轻量化）。 提供全链路智算平台，实现大模型训练与推理任务的全程管控。 敏捷开发弹性租用资源 场景：根据使用需求调用算力资源和训推平台能力。 解决方案1：息壤·一体化计算加速平台，基于云公有云资源池，按需租用所需的计算、存储等资源。 解决方案2：息壤·一体化智算服务平台，基于公有云资源，使用平台运行训练和推理任务。 解决方案3：息壤·算力互联调度平台（+息壤·一体化智算服务平台） 接入算力联盟，按需调用供应方资源。

物理机服务广泛应用于多种场景,本文带您更快了解物理机服务经典应用场景。 高安全性和监管要求 国防、银行、金融机构以及具有高度合规性要求的行业，如医疗和保险，对于数据安全和监管合规性有严格的要求。天翼云物理机提供了物理隔离和独享资源的能力，通过采用物理机部署、网络隔离和专线接入等方式，确保数据的安全性和隐私保护，满足这些行业的高要求。 关键业务核心数据库 企业核心业务的关键数据库，如客户关系管理（CRM）、企业资源计划（ERP）和大型交易系统等，通常对性能、可靠性和数据安全有较高的要求。天翼云物理机提供了专属的计算资源和本地存储，保证高负载和复杂查询的需求，并确保数据的隔离和可靠性，为企业提供稳定可靠的关键业务支持。 大数据分析 互联网、电商、社交媒体等行业需要处理海量数据并进行实时分析。天翼云物理机提供高带宽、大容量的存储和计算资源，满足大规模数据处理、分布式计算和实时分析的需求，助力企业做出准确决策和优化业务运营，挖掘数据中的价值。 容器场景 电商平台、游戏等业务弹性要求较高、性能要求更高的场景，可采用物理机部署容器的方案。相比在云主机中容器，物理机中部署容器提供更高的部署密度、更低的资源开销和更加敏捷的部署效率。基于云原生技术，帮助客户实现降低云化成本的目标，满足业务快速发展和高性能要求。

本节先简要介绍DeepSeek的基本信息,接着详述了如何在GPU云主机中运行DeepseekR132B模型,最后对不同模型的硬件配置进行推荐。 什么是DeepSeek DeepSeek 是一个基于 Transformer 架构的大型语言模型（LLM），由深度求索（DeepSeek）公司开发。它能够处理自然语言理解、生成、翻译、问答等多种任务。在目前大模型主流榜单中，DeepSeekV3 在开源模型中位列榜首，与世界上最先进的闭源模型不分伯仲。在对话模型典型任务方面的评测效果如下： 当前 DeepSeek 模型有多个版本，参数量从 1.5B、 70B到671B不等，适用于不同的应用场景和计算资源。参数量越多，资源消耗越多，使用者可以根据自己实际需求选择不同模型版本。 注意 为维护良好的网络环境和公共秩序，天翼云平台特规定如下使用条款：禁止任何用户或机构利用平台进行违法活动、传播不良信息或违反社会公序良俗的行为。若发生此类行为，天翼云将依法采取必要措施，停止相关服务功能，并依法追究责任。 模型由DeepSeek公司提供。模型的结果仅供参考，并可能因不同的环境、数据或操作条件而有所不同，我们不对模型的任何结果负责。 快速体验DeepSeek vLLM 是一个专为本地运行大语言模型（LLMs）而设计的工具，并提供了简单易用的命令行接口。这里，我们以DeepseekR132B模型为例，讲解如何在天翼云使用vLLM运行 DeepSeek模型，读者可以根据自己实际需求修改云主机模型和云主机配置。

智算一体机集成一站式智算服务平台，提供大模型训练、推理、应用等全栈AI工具链服务。包含数据管理、模型开发与训练、模型评估、模型管理、服务部署等模块。 序号 主要功能/性能 解决客户问题 1 数据集管理 实现创建数据集、导入数据、管理数据和数据标注功能，帮助用户操作管理数据。 2 模型开发与训练管理 & 模型精调 实现快速微调、模型开发管理、训练任务管理、开发环境管理功能。提供多种开发工具和开发环境，也支持用户上传开发环境。客户可根据自身情况，灵活选择模型开发方式，进行模型训练迭代。 3 模型管理 实现导入模型、管理模型、模型评估功能。帮助客户对模型进行版本管理，性能测评。 4 模型部署 实现模型服务的部署、管理和密钥的管理。解决客户在训练迭代大模型后，在线测试模型推理、上下文理解等性能。 5 模型广场 一站式智算服务平台支持多种主流开源大模型API调用，为客户提供在线试用体验。 6 模型服务 实现账户的模型服务开通、应用的模型服务权限管理，支持查看调用情况和告警信息。方便客户管理模型服务权限。 7 运营运维平台 实现用户运营、资源运营、监控调度、配额及权限设置功能。方便客户进行运营运维操作。 8 AI算力 解决AI应用中所需要的算力资源，包含昇腾、英伟达等多样算力。

本章节主要介绍数据治理中心DataArts Studio的产品定义。 数据治理中心 DataArts Studio，是为了应对企业数据管理问题、针对企业数字化运营诉求提供的数据全生命周期管理、具有智能数据管理能力的一站式治理运营平台。 数据治理中心 DataArts Studio包含数据集成、数据开发等功能，支持行业知识库智能化建设，支持大数据存储、大数据计算分析引擎等数据底座，帮助企业快速构建从数据接入到数据分析的端到端智能数据系统，消除数据孤岛，统一数据标准，加快数据变现，实现数字化转型。

2.2 文本生成模式 在Default标签页我们可以利用大模型进行文本生成创作。 注意 原版Llama27bchat模型对中文支持较弱，可以补充下载其他基于Llama27bchat的中文LoRA小模型，或换用其他中文的基础大模型，例如电信星辰（telechat）大模型。 2.3 生成方向控制 大语言模型生成方向可以在Parameters标签页的Generation标签下进行调整，但需要您具有一定的大语言模型背景知识。这里仅对其中部分基础参数进行介绍。 注意 大模型中token的概念：文本中最小的语义单元。例如在英文中一个简单单词(love)可能是一个token，一个复杂单词(transformer)可能是多个token的组合(trans + former)； 在中文中一个字(爱)可能是一个token，多个字(爱情)也可能组成一个token。 maxnewtokens：生成token的最大数量。 temperature：在生成下一个token时，控制各个候选token被选择的概率的平滑程度。 temperature取值越大，每个候选token的概率越相似。 topp： 在生成下一个token时，按候选token的概率从大到小计算累计概率， 达到p后丢弃后续的候选token，控制候选token的数量。 topk：在生成下一个token时， 按候选token的概率从大到小，只取前k个候选token，控制候选token的数量。 repetitionpenalty：重复惩罚，控制生成结果中文字的重复次数。

本文带您了解AI Store四大类服务的应用场景。 算力服务 智能算力 聚焦人工智能、大模型训练、科研仿真等“高并发、高浮点、高宽带”的需求，提供GPU/TPU/NPU等异构加速资源，助力AI创新从“可用”走向“好用”。 主要面向客户：大模型预训练、AIGC、多模态理解等AI企业与算法公司，高校与科研院所，自动驾驶团队以及医疗影像AI厂商等客户。 通用算力 面向Web服务、ERP、数据库、开发测试、办公协同等常规业务，以“按需付费、秒级开通”模式提供高性价比的基础算力。 主要面向客户：中小企业、初创团队、政府及事业单位（如一网通办、公共数据平台、政务云开发测试环境）等客户。 模型服务 模型推理 提供高性能的模型调用服务，可以通过标准的API接口将平台提供的大模型服务集成到自己的业务系统中，提供模型推理一站式部署服务。 主要面向用户：各种软件开发商，特别是行业软件开发商，以及科研院所、大专院校和教育机构、政府、金融机构、工业企业、科技单位、医院等行业客户。 模型应用 大模型与插件工具的结合能够有效拓展其在复杂任务中的实用性，支持接入私有知识库增强领域应答，集成联网搜索获取实时信息。 主要面向用户：需要组合模型和工具提供智能办公、智能客服、智能运维能力以及业务主要为知识密集型场景和特定内容生成的企业。 AI应用服务 搭建专属的智能体应用：基于应用广场筛选快速定位所需行业应用，一键部署，简化传统应用安装与配置的复杂流程。实现应用部署、运维和治理的全生命周期管理能力。 主要面向客户：需要快速集成AI能力形成垂直SaaS服务的行业服务集成商，电商/新媒体运营团队，初创公司与个人开发者等客户。

流程 子任务 说明 详细指导 数据集准备与处理 创建基础数据集 可上传基础数据集到ZOS或HPFS 数据集准备与处理 创建标注数据集 创建标注数据集，可对数据集进行标注，并发布为新的数据集 数据集准备与处理 数据清洗 可以对数据 镜像准备 预置镜像 预置镜像即平台预先设置的完整镜像，可直接用于创建任务时使用 镜像准备 自定义镜像 可以通过开发机自主制作镜像或通过天翼云容器镜像服务将镜像服务内的容器共享给训推智算服务平台 镜像准备 他人分享镜像 可将自己的镜像分享给他人使用 代码准备 导入代码包 将代码上传到平台 模型准备 导入模型 可将用户自己的模型或在平台训练、精调好的模型导入到平台进行版本管理、评估及部署 AI作业 模型开发 可通过启动和管理在线JupyterLab或VSCode集成开发环境在线编程进行模型开发 AI作业 模型训练 创建自定义创建训练任务，支持单机和多机分布式训练 AI作业 模型精调 零代码快速创建和管理精调任务，提供全参微调和lora微调两种精调方式。基于平台的基础大模型，选择训练数据集和算力即可快速启动精调任务。 AI作业 模型评估 可对模型进行评估，自动评估打分，生成评估报告 AI作业 模型压缩 不减少模型效果的前提下压缩模型大小，进而提升模型在推理调用时的性能 AI作业 模型部署 部署模型，提供推理服务

《天翼云账号注销条款》（“本条款”）系您与中国电信就您主动注销您的天翼云网门户账号（“天翼云账号”）相关事宜订立的有效协议。 特别提示： 《天翼云账号注销条款》（“本条款”）系您与中国电信就您主动注销您的天翼云网门户账号（“天翼云账号”）相关事宜订立的有效协议。 请您在提交账号注销申请前务必仔细阅读本条款及《注销提醒》，如有任何疑问，请您通过客服电话：400 810 9889联系咨询中国电信。 您勾选本条款并提交账号注销申请，即视为您已充分阅读、理解并同意本条款的全部内容。如果您不同意本条款的任何内容或者无法准确理解本条款任何内容，请不要提交账号注销申请。 自您提交账号注销申请时起，天翼云网门户将按照本条款对您的申请进行检查。对于不符合天翼云账号注销条件的，天翼云网门户将拒绝您的账号注销申请。 1. 账号注销条件 您申请注销天翼云账号应当满足下面全部条件： 1.1 拟注销的天翼云账号不存在下列任一情形，或者您已就相关事宜与天翼云达成一致： 欠费、欠票、待付费用，或者有可用余额； 尚未履行完毕的合同，生效中的订单、服务项目任何其他申请中的业务（包含但不限于正在申请新订单、正在申请退订/提现等）； 与任何天翼云代理商/服务商/分销商账号建立了关联关系； 与任何企业主账号、企业子账号建立了关联关系； 主用户账号下有关联子用户。 1.2 拟注销的天翼云账号不存在未缴纳的税款及其他依照法律法规要求应当履行而未履行的义务等情形； 1.3 您使用拟注销的天翼云账号以及通过该账号做出的一切行为和活动，不存在任何违反法律法规规定或违反您与中国电信约定的情形； 1.4 您拟注销的天翼云账号不存在被他人投诉，或被国家机关调查，或正处于诉讼、仲裁程序中的情形。 2. 注销方式 2.1 自助注销。为了保护您的天翼云账号安全，天翼云网门户仅向满足条件的用户提供自助注销服务。满足本条款第1条账号注销条件的用户可以通过本条款第3条列明的步骤自助注销天翼云账号。 2.2 其他方式注销。当您的天翼云账号不满足注销条件或因其他原因您无法自助注销天翼云账号的，而您又希望注销天翼云账号的，敬请联系天翼云网门户咨询和处理。 3. 自助账号注销步骤 3.1 您的自查 您提交账号注销申请前，请您自查是否满足本条款第1条的全部条件，否则您的账号注销申请可能因不满足注销条件而被拒绝。 3.2 账号注销应当由账号实名登记的用户本人提出。任何通过天翼云账号登录并提交的账号注销申请均被视为用户本人作出的行为。 3.3 您同意并确认，截至账号注销申请提交时，中国电信已按您与中国电信之间的《中国电信天翼云用户协议》及相关规则、具体产品/服务协议（含订单）的约定提供服务，不存在任何违约情形。 3.4 提出注销申请 在满足账号注销条件的前提下，您可以通过登录天翼云网门户，在 账号中心安全设置 页面点击“注销账号”、阅读并接受本条款，提交账号注销申请。 您应当保证，您注销天翼云账号并非为了规避、逃避正在或即将发生的纠纷，或主管部门的监管或执法机关的执法行动，或法律法规的相关规定等。 3.5 初次检查 （1）您提交账号注销申请后，天翼云网门户将实时、自动对您的申请是否满足注销条件进行系统内初次检查。 （2）初次检查结果将在天翼云网门户初次检查结果页面显示。 提示：天翼云网门户对申请仅进行初步、形式检查，您的账号注销申请通过天翼云网门户的初步检查，不代表中国电信放弃其依法或者根据相关合同约定而应享有的权利，也不意味着中国电信同意豁免、减轻或放弃追究账号注销前通过账号作出的所有行为而产生的责任，包括但不限于您因拟注销账号下存在的任何欠费、未缴纳税款而产生的责任。 （3）初次检查通过 对于通过初次检查的申请，经您在初次检查结果页面点击“确认”后，将进行身份验证，以确保是您本人操作。验证通过将进入下一步注销进程（见第4条）。但是，初次检查通过至注销完毕期间，如果您的天翼云账号出现不满足账号注销条件的任何情形，天翼云网门户有权拒绝您的账号注销申请、自行终止您账号注销进程而无需您同意。 （4）初步检查不通过 对于未通过初次检查的申请，初次检查结果页面将显示未通过检查的项目。账号注销申请未通过初次检查的，账号注销进程终止。如果您希望继续注销天翼云账号的，应当重新提起账号注销申请。 4. 关闭期 4.1 初次检查通过后并经您在初次检查结果页面点击“确认”和身份验证后，账号即进入48小时关闭期。 4.2 关闭期内，天翼云网门户将会对您的申请进行最终检查，再次检查您的申请是否满足注销条件。您可以在48小时关闭期届满后在天翼云网门户最终检查结果页面查看结果，并手动选择立即注销。 提示：天翼云网门户仅对您的申请进行形式检查，您的账号注销申请通过天翼云网门户的最终检查，不代表中国电信放弃其依法或者根据相关合同约定而应享有的权利，也不意味着中国电信同意豁免、减轻或放弃追究账号注销前通过账号作出的所有行为而产生的您的责任，包括但不限于您因拟注销账号下存在的任何欠费、未缴纳税款而产生的责任。 4.3 账号关闭期间，除以下服务外，您将无法使用天翼云网门户的服务（包括但不限于不可进行充值、订购、提现、下单、实名认证和变更等业务操作）： 登录天翼云网门户、查看账号信息和历史费用信息等； 浏览天翼云网门户内容，使用自助工具，如文档、智能客服。 4.4 关闭期内，您无法自助终止注销进程、恢复账号功能。您仅可以通过提交工单的方式联系天翼云网门户并经天翼云网门户同意后方可以终止注销进程、恢复账号功能。 5. 保留期 5.1 关闭期满账号即进入90天保留期。 5.2 账号保留期内，除以下服务外，您将无法使用天翼云网门户的服务（包括但不限于不可进行充值、订购、提现、下单、实名认证和变更等业务操作，云服务资源会被系统释放）： 登录天翼云网门户、查看账号信息和历史费用信息等； 浏览天翼云网门户内容，使用自助工具，如文档、智能客服。 5.3 保留期内，您可以通过点击“恢复账号”按钮自助终止注销进程、恢复账号功能。 5.4保留期内，您可以选择立即注销账号。您选择立即注销账号后，账号将被立即注销，账号注销的后果请见本条款第6条。 5.5 保留期届满，账号立即注销, 账号注销的法律后果请见本条款第6条。 5.6 注销后的账号关联信息（手机、邮箱等），在遵守《中国电信天翼云用户协议》及相关规则的前提下可以用于重新注册新账号。 6. 账号注销的后果 6.1 账号注销后（包括保留期满注销、您在保留期内选择立即注销以及通过其他方式注销账号的情形）的后果包括但不限于如下： 您将无法再次以此账号登录天翼云网门户、使用天翼云网门户的服务； 您将无法进行基于账号权限进行的其他操作； 您将无法找回该账号下的数据，包括但不限于用户信息、交易记录、业务数据、历史信息等； 天翼云网门户通过账号向您提供的服务终止。 6.2账号注销不代表您在业务注销前的所有相关行为和责任得到豁免或减轻。 6.3账号一旦注销即无法找回 。在提交账号注销申请前，您应当确保天翼云账号相关的所有数据（包括但不限于账号关联的用户信息、交易记录以及存储在天翼云网门户上的业务数据）均已迁出并妥善备份，或您同意完全放弃保留和找回该等数据的权利。您的账号注销后，天翼云网门户将根据《中国电信天翼云隐私政策》和法律法规要求，采取合理步骤以安全的方式销毁与您账号相关的数据或使其不可识别并不可被再次编辑、修改、使用，您将不能找回该等数据且无权要求天翼云网门户找回、恢复该等数据。因您未进行数据备份而造成数据或信息丢失的，天翼云网门户不承担任何责任。 7. 其他 7.1 本条款构成《中国电信天翼云用户协议》不可分割的一部分，本条款未约定的事项，应当以中国电信与您签订的《中国电信天翼云用户协议》或其他合同为准。 7.2本条款仅适用于您主动申请的情形，但不适用于天翼云网门户根据《中国电信天翼云用户协议》约定或法律法规要求注销账号的情形。

高级配置——微服务治理 在微服务云应用平台中部署的SpringCloud和Dubbo应用能够无侵入对接云原生Stack中微服务治理中心的能力。微服务云应用平台支持您在创建和部署应用时为应用配置注册中心实例和无损上线。 注册中心是在Java微服务架构中用于实现服务的注册与发现，能够屏蔽、解耦服务之间的相互依赖，以便对微服务进行动态管理的。目前微服务云应用平台只支持从云原生Stack中订购的注册配置中心nacos产品实例。 无损上线是微服务治理中心产品提供的一种能力。针对应用启动的多个阶段提供了相应的保护能力，具体功能包含服务预热、服务延迟注册以及无损滚动发布等。 无损上线参数名称 无损上线参数含义 预热时长 应用实例下一次启动的预热时间。 预热曲线 基于已配置的预热时长，被预热的应用流量权重会根据配置的预热曲线呈指数型增长。 在指定预热时长内，预热曲线值越大被预热应用刚启动时分配的流量权重越小，以满足需要较长时间进行预热的复杂应用的预热需求。 默认为2（适合于一般预热场景），表示在预热周期内服务提供者的流量接收曲线形状呈2次曲线形状。 预热曲线设置范围为0~20。相同预热时间，预热曲线值越大，表示预热开始将接收的流量越小，临近预热结束时接收的流量增幅越大。 延迟注册时间 延迟注册到注册中心实例的时长。 无损滚动发布 通过就绪检查前完成服务注册：为应用无侵入提供54199端口用于检查微服务是否已经完成注册，如果已注册完成，端口返回200，否则返回500。 通过就绪检查前完成服务预热：为应用无侵入提供54199端口用于检查微服务是否已经完成预热，如果已预热完成，端口返回200，否则返回500。

数据类型 支持的数据 传统型数据库 Oracle、DB2、MySQL、MariaDB、SQLServer（MsSQL）、PostgreSQL、Informix、Sybase、CacheDB、HANA 非关系型数据库 ElasticSearch、MongoDB、ClickHouse 云数据库+大数据组件 ODPS(MaxCompute)、GaussDB、Teradata、Greenplum、Hive、Hbase、CDH、TDH、IMPALA、DRDS、RDS、Vertica、PolarDB、天翼云Mysql、天翼云PostgreSQL、天翼云MSSQL 国产数据库 高斯DBT（GAUSS100）、高斯DBA（GAUSS200）、达梦（DM）、南大通用（GBASE）、人大金仓（KINGBASE）、OceanBase、TiDB、优炫数据库（UXDB） 结构化/非结构化数据 DOCX、DOC、TXT、PDF、CSV、XLSX、XLS 说明 上述数据支持的协议：FTP、SFTP、Local（仅本地上传）

本节介绍天翼云息壤一体化智算服务平台的应用场景。 天翼云息壤一体化智算服务平台，根据不同应用场景可提供不同产品组合解决方案。 调度运营分散算力管理 场景1：拥有分散的多种算力，需建设统一纳管调度平台，高效利用资源。 场景2：拥有多余算力，希望纳入算力联盟，进行统一管理与运营，实现资源变现。 解决方案：息壤·公共算力服务+定制化开发+业务运营。 科研实训高阶智算服务 场景：适用于高校或科研机构等进行科学计算，广泛应用于科研教育、影视视频渲染、生物数据分析、高性能计算等领域。 解决方案1：基于公有云，快速使用息壤·科研助手，针对仿真、流体计算、材料化学、数学计算等科研场景，可灵活调度各类计算资源，并搭载常用科研软件，支持一键部署、开箱即用。 解决方案2：基于私有化，息壤·科研助手+算力网关，纳管智算设备基础上进行科研训练，搭载常用科研软件，开箱即用。 深度自研大模型训推 场景：用户有大模型训推需求，需调用算力资源和训推平台能力。 解决方案1：基于公有云，快速使用息壤·训推服务平台；或基于私有化，以息壤·科研助手+算力网关的搭配形式，纳管智算设备基础上以IDE开发的形式使用平台运行训练和推理任务，对用户的专业水准有一定要求。 解决方案2：基于公有云，息壤·模型推理服务平台，以低代码形式使用平台运行训练和推理任务，操作的专业门槛较低 。 解决方案3：息壤·智算一体机，低成本落地小型化训推一体化。

本章节主要介绍翼MapReduce服务的产品优势。 翼MapReduce（简称：“翼MR”）服务，历经集团和云公司的大规模集群和业务打磨，提供全年多级用户SLA保障。 翼MR具有如下优势： 高安全 翼MR服务拥有企业级的大数据多租户权限管理能力，拥有企业级的大数据安全管理特性；使用Kerberos和Ranger安全技术实现全组件的认证和授权；支持库、表、字段级数据权限管控。 优开源 基于Hadoop3.3.3等开源最新组件，保证版本性能的同时，优化了底层资源占用，对任务和引擎进行定制化管控。 高可靠 完成对开源组件100+次的代码及配置优化，实现高SLA；支持节点组采用反亲和技术，虚拟机分布在不同物理机上，以保证服务高可用。 易运维 翼MR提供可视化的大数据集群运维管理平台，全链路可视化操作降低运维门槛，助力实现90%日常运维场景便捷操作，提升运维效率。 低成本 翼MR集群基于多样化的云基础设施，提供了丰富的计算、存储设施的选择，可以用时再创建、用时再扩容，用完就销毁，确保成本最优。

本文主要介绍云日志服务的售前常见问题。 什么是云日志服务？ 云日志服务是天翼云打造的一款云原生日志观测分析平台产品，可为应用的海量日志数据提供大规模、低成本、集中式的平台化服务，具备一站式的日志采集、加工、查询分析、可视化、告警、投递消费等能力，全面满足应用研发、运维、服务监控与业务分析等应用场景。 云日志服务包含什么功能? 日志采集：支持从云主机、容器应用、微服务应用以及其他组件中采集日志。采集规则支持动态配置，提供单行/多行全文、正则、分隔符、JSON等日志结构化解析方式。 日志检索：对于采集到的日志数据，支持模糊查询、全文查询、字段查询、时间范围、上下文查询。 统计分析：支持各类统计分析场景。 数据加工：支持对日志数据进行加工，包括数据的规整、脱敏和过滤。 日志转储：支持日志数据投递转储至对象存储。 日志告警：支持对一个或多个日志单元设置自定义告警规则，告警规则将按照设定的周期执行监控任务。 如何开始使用云日志服务？ 在使用云日志服务前，您需要完成天翼云账号注册并实名认证。完成实名认证后，打开产品详情页，点击【立即开通】，按照指引开通云日志服务。详情请查看快速入门。