本章节主要介绍如何使用函数流实现流式大文件处理。 背景与价值 Serverless Workflow由于自身可编排、有状态、持久化、可视化监控、异常处理、云服务集成等特性，适用于很多应用场景，比如： 复杂度高需要抽象的业务（订单管理，CRM 等） 业务需要自动中断 / 恢复能力，如多个任务之间需要人工干预的场景（人工审批，部署流水线等） 业务需要手动中断 / 恢复（数据备份 / 恢复等） 需要详细监控任务执行状态的场景 流式处理（日志分析，图片 / 视频处理等）当前大部分 Serverless Workflow 平台更多关注控制流程的编排，忽视了工作流中数据流的编排和高效传输，上述场景创建函数流触发器中，由于数据流相对简单，所以各大平台支持都比较好，但是对于文件转码等存在超大数据流的场景，当前各大平台没有给出很好的解决方案。FunctionGraph函数工作流针对该场景，提出了 Serverless Streaming 的流式处理方案，支持毫秒级响应文件处理。 技术原理 FunctionGraph函数工作流提出 Serverless Streaming 的流式可编排的文件处理解决方案，步骤与步骤之间通过数据流驱动，更易于用户理解。本章通过图片处理的例子解释该方案的实现机制。 如果需要驱动一个工作流执行，工作流系统需要处理两个部分： 控制流：控制工作流的步骤间流转，以及步骤对应的 Serverless 函数的执行。确保步骤与步骤之间有序执行。 数据流：控制整个工作流的数据流转，通常来说上一个步骤的输出是下一个步骤的输入，比如上述图片处理工作流中，图片压缩的结果是打水印步骤的输入数据。 在普通的服务编排中，由于需要精准控制各个服务的执行顺序，所以控制流是工作流的核心部分。然而在文件处理等流式处理场景中，对控制流的要求并不高，以上述图片处理场景举例，可以对大图片进行分块处理，图片压缩和加水印的任务不需要严格的先后顺序，图片压缩处理完一个分块可以直接流转到下一个步骤，而不需要等待图片压缩把所有分块处理完再开始加水印的任务。 基于上述理解，FunctionGraph工作流的 Serverless Streaming 方案架构设计如下图所示： 在 Serverless Streaming 的流程中，弱化控制流中步骤之间的先后执行顺序，允许异步同时执行，步骤与步骤之间的交互通过数据流驱动。其中数据流的控制通过 Stream Bridge 组件来实现。同时函数 SDK 增加流式数据返回接口，用户不需要将整个文件内容返回，而是通过 gRPC Stream 的方式将数据写入到 Stream Bridge，Stream Bridge 用来分发数据流到下一个步骤的函数 Pod 中。

换了个地方使用，云电脑响应变慢了怎么办？ 云电脑订购时，根据所选“常用地区”就近匹配资源，切换使用地可能导致网络传输距离变长，服务响应变慢。如因使用地变化大导致时延增加，建议重新订购，暂不支持切换地域。 云电脑内的游戏存档和数据如何保留？ 每台游戏云电脑提供独占的系统盘或数据盘（如有订购），关机后数据保留； 在云电脑有效期内，用户数据不丢失，且数据仅可由当台云电脑访问，无需担心账号、数据泄露； 可通过如第三方游戏平台提供的存档云同步功能进行跨端同步。 当前包月周期的可用时长不够了怎么办？ 可参考++订购操作指引++中【升级套餐说明】部分，通过升级套餐增加可用时长。 云电脑到期冻结了怎么办？ 可参考++订购操作指引++中【到期、续订说明】部分，及时续订云电脑。 游戏中出现鼠标卡视角、不断旋转等问题怎么办？ 请升级云电脑客户端，确保版本不低于v2.9.0。详细设置可参考上文“++鼠标模式自由视角++”功能说明。

本文旨在向您介绍一站式智算服务平台断点续训的功能。 产品背景 大模型训练过程往往比较长，根据业界数据，平均约两天，大模型训练会中断一次，经常遇到的问题例如： 程序出现故障 节点出现故障 loss数据恶化，需要手动暂停，调参重训 服务器故障、网络中断、开发平台故障等 断点续训过程需要排查节点、隔离节点、重新启动上一次CKPT，浪费了资源和训练时间，是大模型训练的重要痛点之一。针对这一问题，平台提供了断点续训能力并支持配置客户需要的策略。 断点续训 平台对节点故障、集群故障、程序故障等多种场景，支持故障感知、故障定位、故障修复。目前支持PyTorch、Mindspore框架。 支持以下故障类型： 网络故障：当网卡链接出现故障或状态异常（link status: DOWN）后，可正常触发重调度，实现断点续训 节点心跳故障：当节点因Label异常等原因导致心跳丢失后，可正常触发重调度，实现断点续训 节点Shutdown/Reboot故障：当节点被关闭或重启后，可正常触发重调度，实现断点续训 芯片PCIE故障：当节点发生芯片丢失等异常后，可正常触发重调度，实现断点续训 断点故障：当错误发生时断点正在写入，未正常完成保存即断点保存不完整时，可正常恢复至上一完整断点，实现断点续训

本文带您了解AI Store四大类服务的应用场景。 算力服务 智能算力 聚焦人工智能、大模型训练、科研仿真等“高并发、高浮点、高宽带”的需求，提供GPU/TPU/NPU等异构加速资源，助力AI创新从“可用”走向“好用”。 主要面向客户：大模型预训练、AIGC、多模态理解等AI企业与算法公司，高校与科研院所，自动驾驶团队以及医疗影像AI厂商等客户。 通用算力 面向Web服务、ERP、数据库、开发测试、办公协同等常规业务，以“按需付费、秒级开通”模式提供高性价比的基础算力。 主要面向客户：中小企业、初创团队、政府及事业单位（如一网通办、公共数据平台、政务云开发测试环境）等客户。 模型服务 模型推理 提供高性能的模型调用服务，可以通过标准的API接口将平台提供的大模型服务集成到自己的业务系统中，提供模型推理一站式部署服务。 主要面向用户：各种软件开发商，特别是行业软件开发商，以及科研院所、大专院校和教育机构、政府、金融机构、工业企业、科技单位、医院等行业客户。 模型应用 大模型与插件工具的结合能够有效拓展其在复杂任务中的实用性，支持接入私有知识库增强领域应答，集成联网搜索获取实时信息。 主要面向用户：需要组合模型和工具提供智能办公、智能客服、智能运维能力以及业务主要为知识密集型场景和特定内容生成的企业。 AI应用服务 搭建专属的智能体应用：基于应用广场筛选快速定位所需行业应用，一键部署，简化传统应用安装与配置的复杂流程。实现应用部署、运维和治理的全生命周期管理能力。 主要面向客户：需要快速集成AI能力形成垂直SaaS服务的行业服务集成商，电商/新媒体运营团队，初创公司与个人开发者等客户。 MCP服务 MCP（Model Context Protocol）即模型上下文协议，它为应用程序与大语言模型（LLM）之间的数据、工具和上下文交互提供了统一的接口和标准。 AI Store的MCP市场涵盖内容生成、网页搜索、效率工具等多种类型，全面支撑企业各类智能应用场景。以网页搜索为例，智能体可借助MCP网页搜索功能，通过自然语言提问，就能获取最新的网络信息。 主要面向客户：AI开发者、企业用户、科研人员和普通个人用户等，更有效的利用AI大模型完成各种任务。

本页介绍天翼云TeleDB数据库产品介绍。 产品概述 TeleDB 是天翼云自主研发的分布式数据库系统，集高扩展性、高SQL兼容度、完整的分布式事务支持、多级容灾能力等能力于一身，采用无共享的集群架构，提供容灾、备份、恢复、监控、安全、审计等全套解决方案，适用于GB级 PB级的海量数据场景。 数据库资源与生命周期管理平台TeleDB资源全生命周期管理则致力于为客户提供极致体验的数据库资源管理一体化平台，支持用户对云数据库TeleDB进行全生命周期管理。 该平台提供租户用户管理、资源管理、实例管理、监控告警中心、安全中心等核心功能，使用者可以在TeleDB控制台上执行实例开通、维护管理、参数组管理、备份恢复管理、监控告警管理、数据库空间管理、任务管理、日志管理、资源管理、用户管理等操作，实现数据库资源集中管理和高效率使用，数据库运维自动化和智能化，帮助客户快速便捷使用数据库以满足业务高速增长的IT支撑需求，是客户私有化部署的最佳实践。 产品功能 实例管理 提供各类数据库实例的查看、停止、恢复、注销、扩容、缩容等操作，可查看实例详情，实例名称、引擎版本、产品规格、创建时间等，以及实例部署的主机类型及配置信息。 安装部署 多种数据库引擎自动安装部署，包含实例开通和工单管理模块，可选择数据库引擎、规格、主机及配置参数，开通对应实例，并可通过工单管理模块，查看实例开通情况。 资源管理 包含主机和VIP管理模块，可添加主机并测试联通、检测主机配置，添加主机标签，并可进行修改密码、删除操作，添加主机后可对主机进行监控，查看监控总览。 监控中心 实时监控，提供不同维度的主机和数据库运⾏指标监控及变化趋势分析，可自由选择不同时间段，开启自动刷新，通过对指标的平均值、最大最小值查看，能够实时监控运维，及时发现问题。 告警中心 提供灵活的告警配置，自定义告警模板，自定义通知对象，可实时推送告警消息，帮助运维人员及时把握数据库运行状态，及时发现风险问题，并快速定位。 安全中心 提供完整的租户用户管理，可灵活支撑企业组织架构和业务分类的资源隔离需要，超级管理员可以创建不同租户，租户管理员可添加移除用户，其他用户可自定义配置角色权限，进行有限的操作。同时，安全中心提供用户访问日志管理，可用于运维监控和问题排查。 标签管理 提供自定义标签管理，包括设置标签的键值，可在主机、实例管理里打上标签，进行分类筛选。 诊断优化 提供数据库巡检，可进行一次性、周期性巡检，生成巡检报告，可查看/下载巡检报告，方便运维管理。 服务订阅 用户通过线下方式确定需要提供的数据库服务，销售人员生成所订阅的信息并导入到服务订阅模块，后续根据用户使用情况更新订阅信息，方便用户管理订阅内容。

智算一体机集成一站式智算服务平台，提供大模型训练、推理、应用等全栈AI工具链服务。包含数据管理、模型开发与训练、模型评估、模型管理、服务部署等模块。 序号 主要功能/性能 解决客户问题 1 数据集管理 实现创建数据集、导入数据、管理数据和数据标注功能，帮助用户操作管理数据。 2 模型开发与训练管理 & 模型精调 实现快速微调、模型开发管理、训练任务管理、开发环境管理功能。提供多种开发工具和开发环境，也支持用户上传开发环境。客户可根据自身情况，灵活选择模型开发方式，进行模型训练迭代。 3 模型管理 实现导入模型、管理模型、模型评估功能。帮助客户对模型进行版本管理，性能测评。 4 模型部署 实现模型服务的部署、管理和密钥的管理。解决客户在训练迭代大模型后，在线测试模型推理、上下文理解等性能。 5 模型广场 一站式智算服务平台支持多种主流开源大模型API调用，为客户提供在线试用体验。 6 模型服务 实现账户的模型服务开通、应用的模型服务权限管理，支持查看调用情况和告警信息。方便客户管理模型服务权限。 7 运营运维平台 实现用户运营、资源运营、监控调度、配额及权限设置功能。方便客户进行运营运维操作。 8 AI算力 解决AI应用中所需要的算力资源，包含昇腾、英伟达等多样算力。

本文介绍在应用托管中搭建Dify和部署MCP Server,以及在Dify中集成基于部署的MCP Server。 概述 Dify介绍 Dify 是一站式大模型应用开发平台。它能便捷接入各类数据并管理，支持模型微调与多模型调用。通过可视化界面和低代码工具，用户无需深厚技术背景，就能快速搭建如聊天机器人、智能客服等应用。可用于客户服务、内容创作等场景，具有降低开发门槛、提升效率、灵活可扩展等优势，助力企业高效落地大模型应用。 前置说明 1. 本文档旨在指导用户如何通过应用托管控制台，体验将MCP Server集成至Dify。 2. 本产品中的模型由第三方主体提供，尽管云公司已尽最大努力进行识别和维护，但仍无法保证模型的可用性。请客户按照该产品的服务协议使用该产品，做好甄别工作，并对自行选择的服务承担相应责任。 使用前准备 1. 天翼云账号注册：使用应用托管平台须具备天翼云官网账号。已有天翼云账号的直接登录即可，如无天翼云账号需先注册，注册流程可参考：注册账号。 2. 使用前提：如需使用服务请先完成实名认证，请参考账号中心实名认证。如需使用按需服务，请确认账号余额≥100 元。

Dify介绍 Dify 是一站式大模型应用开发平台。它能便捷接入各类数据并管理，支持模型微调与多模型调用。通过可视化界面和低代码工具，用户无需深厚技术背景，就能快速搭建如聊天机器人、智能客服等应用。可用于客户服务、内容创作等场景，具有降低开发门槛、提升效率、灵活可扩展等优势，助力企业高效落地大模型应用。 前置说明 1. 该文档为应用托管控制台通过应用市场体验Dify+DeepSeekR1模型搭建私有知识库的说明，通过应用托管控制台，打开应用市场，创建对应的Dify应用，使用 Dify构建本地知识库。 2. 本产品中的模型由第三方主体提供，尽管云公司已尽最大努力进行识别和维护，但仍无法保证模型的可用性。请客户按照该产品的服务协议使用该产品，做好甄别工作，并对自行选择的服务承担相应责任。 使用前准备 1. 天翼云账号注册：使用应用托管平台须具备天翼云官网账号。已有天翼云账号的直接登录即可，如无天翼云账号需先注册，注册流程可参考：注册账号。 2. 使用前提：如需使用服务请先完成实名认证，请参考账号中心实名认证。如需使用按需服务，请确认账号余额≥100 元。

本章节主要介绍数据治理中心DataArts Studio的产品定义。 数据治理中心 DataArts Studio，是为了应对企业数据管理问题、针对企业数字化运营诉求提供的数据全生命周期管理、具有智能数据管理能力的一站式治理运营平台。 数据治理中心 DataArts Studio包含数据集成、数据开发等功能，支持行业知识库智能化建设，支持大数据存储、大数据计算分析引擎等数据底座，帮助企业快速构建从数据接入到数据分析的端到端智能数据系统，消除数据孤岛，统一数据标准，加快数据变现，实现数字化转型。

12 隐私权保护 天翼云不收集客户在TeleDB数据库中存储的信息。为了更好地改进产品和服务，用户同意天翼云代理可以收集、维护、处理和使用客户在使用本产品过程中产生的诊断性、技术性、使用及相关信息， 包括但不限于定期搜集系统日志、独特的系统或硬件识别码（“诊断信息”）。为便于本公司和第三方开发商改善其设计配合本产品使用的产品、硬件和服务，本公司并可向任何此类伙伴或第三方开发商提供与该伙伴或第三方开发商的产品、硬件和/或服务有关的诊断信息子集。如根据有关法律法规的规定导致天翼云不得再按照上述方式处理诊断信息，天翼云将按照有关法律法规的规定变更数据处理方式，并将通过满足法律法规的要求且在商业上合理的方式通知您，并获得您的同意。 13 免责与责任限制 1. 本产品经过详细的测试，但不能保证与提供的技术清单外的，所有的软硬件系统完全兼容，不能保证本产品完全没有错误。 2. 使用本产品风险由用户自行承担，在适用法律允许的最大范围内，对因使用或不能使用本产品所产生的损害及风险，包括但不限于直接或间接的数据丢失、个人损害、商业赢利的丧失、贸易中断、商业信息的丢失或任何其它经济损失，本公司不承担任何责任。 3. 对于因电信系统或互联网网络故障、计算机故障或病毒、信息损坏或丢失、计算机系统问题或其它任何不可抗力原因而产生损失，本公司不承担任何责任。 4. 用户违反本协议规定，对本公司造成损害的。本公司有权采取包括但不限于中断使用许可、停止提供服务、限制使用、法律追究等措施。 5. 对于从非本公司指定站点下载的本产品以及从非本公司发行的介质上获得的本产品，本公司无法保证该产品是否感染计算机病毒、是否隐藏有伪装的木马程序或者黑客产品，使用此类产品，将可能导致不可预测的风险，建议用户不要轻易下载、安装、使用，本公司不承担任何由此产生的任何法律责任。 6. 本《协议》所述明示担保，为担保的全部内容。在适用法律所允许的最大范围内，天翼云及其供应商提供的本“产品”和支持服务（如有）均为按现状及包含所有瑕疵状况下提供，不允诺其它不论是明示的、暗示的还是法定的任何保证和担保：包括但不限于本“产品”对特殊应用目的适销性或适应性，反应的精确性，结果的完整性，不含病毒及疏忽，针对本“产品”提供或不提供支持服务。

物理机服务广泛应用于多种场景,本文带您更快了解物理机服务经典应用场景。 高安全性和监管要求 国防、银行、金融机构以及具有高度合规性要求的行业，如医疗和保险，对于数据安全和监管合规性有严格的要求。天翼云物理机提供了物理隔离和独享资源的能力，通过采用物理机部署、网络隔离和专线接入等方式，确保数据的安全性和隐私保护，满足这些行业的高要求。 关键业务核心数据库 企业核心业务的关键数据库，如客户关系管理（CRM）、企业资源计划（ERP）和大型交易系统等，通常对性能、可靠性和数据安全有较高的要求。天翼云物理机提供了专属的计算资源和本地存储，保证高负载和复杂查询的需求，并确保数据的隔离和可靠性，为企业提供稳定可靠的关键业务支持。 大数据分析 互联网、电商、社交媒体等行业需要处理海量数据并进行实时分析。天翼云物理机提供高带宽、大容量的存储和计算资源，满足大规模数据处理、分布式计算和实时分析的需求，助力企业做出准确决策和优化业务运营，挖掘数据中的价值。 容器场景 电商平台、游戏等业务弹性要求较高、性能要求更高的场景，可采用物理机部署容器的方案。相比在云主机中容器，物理机中部署容器提供更高的部署密度、更低的资源开销和更加敏捷的部署效率。基于云原生技术，帮助客户实现降低云化成本的目标，满足业务快速发展和高性能要求。

本节介绍天翼云息壤一体化智算服务平台的应用场景。 天翼云息壤一体化智算服务平台，根据不同应用场景可提供不同产品组合解决方案。 调度运营分散算力管理 场景1：拥有分散的多种算力，需建设统一纳管调度平台，高效利用资源。 场景2：拥有多余算力，希望纳入算力联盟，进行统一管理与运营，实现资源变现。 解决方案：息壤·公共算力服务+定制化开发+业务运营。 科研实训高阶智算服务 场景：适用于高校或科研机构等进行科学计算，广泛应用于科研教育、影视视频渲染、生物数据分析、高性能计算等领域。 解决方案1：基于公有云，快速使用息壤·科研助手，针对仿真、流体计算、材料化学、数学计算等科研场景，可灵活调度各类计算资源，并搭载常用科研软件，支持一键部署、开箱即用。 解决方案2：基于私有化，息壤·科研助手+算力网关，纳管智算设备基础上进行科研训练，搭载常用科研软件，开箱即用。 深度自研大模型训推 场景：用户有大模型训推需求，需调用算力资源和训推平台能力。 解决方案1：基于公有云，快速使用息壤·训推服务平台；或基于私有化，以息壤·科研助手+算力网关的搭配形式，纳管智算设备基础上以IDE开发的形式使用平台运行训练和推理任务，对用户的专业水准有一定要求。 解决方案2：基于公有云，息壤·模型推理服务平台，以低代码形式使用平台运行训练和推理任务，操作的专业门槛较低 。 解决方案3：息壤·智算一体机，低成本落地小型化训推一体化。

高级配置——微服务治理 在微服务云应用平台中部署的SpringCloud和Dubbo应用能够无侵入对接云原生Stack中微服务治理中心的能力。微服务云应用平台支持您在创建和部署应用时为应用配置注册中心实例和无损上线。 注册中心是在Java微服务架构中用于实现服务的注册与发现，能够屏蔽、解耦服务之间的相互依赖，以便对微服务进行动态管理的。目前微服务云应用平台只支持从云原生Stack中订购的注册配置中心nacos产品实例。 无损上线是微服务治理中心产品提供的一种能力。针对应用启动的多个阶段提供了相应的保护能力，具体功能包含服务预热、服务延迟注册以及无损滚动发布等。 无损上线参数名称 无损上线参数含义 预热时长 应用实例下一次启动的预热时间。 预热曲线 基于已配置的预热时长，被预热的应用流量权重会根据配置的预热曲线呈指数型增长。 在指定预热时长内，预热曲线值越大被预热应用刚启动时分配的流量权重越小，以满足需要较长时间进行预热的复杂应用的预热需求。 默认为2（适合于一般预热场景），表示在预热周期内服务提供者的流量接收曲线形状呈2次曲线形状。 预热曲线设置范围为0~20。相同预热时间，预热曲线值越大，表示预热开始将接收的流量越小，临近预热结束时接收的流量增幅越大。 延迟注册时间 延迟注册到注册中心实例的时长。 无损滚动发布 通过就绪检查前完成服务注册：为应用无侵入提供54199端口用于检查微服务是否已经完成注册，如果已注册完成，端口返回200，否则返回500。 通过就绪检查前完成服务预热：为应用无侵入提供54199端口用于检查微服务是否已经完成预热，如果已预热完成，端口返回200，否则返回500。

本节先简要介绍DeepSeek的基本信息,接着详述了如何在GPU云主机中运行DeepseekR132B模型,最后对不同模型的硬件配置进行推荐。 什么是DeepSeek DeepSeek 是一个基于 Transformer 架构的大型语言模型（LLM），由深度求索（DeepSeek）公司开发。它能够处理自然语言理解、生成、翻译、问答等多种任务。在目前大模型主流榜单中，DeepSeekV3 在开源模型中位列榜首，与世界上最先进的闭源模型不分伯仲。在对话模型典型任务方面的评测效果如下： 当前 DeepSeek 模型有多个版本，参数量从 1.5B、 70B到671B不等，适用于不同的应用场景和计算资源。参数量越多，资源消耗越多，使用者可以根据自己实际需求选择不同模型版本。 注意 为维护良好的网络环境和公共秩序，天翼云平台特规定如下使用条款：禁止任何用户或机构利用平台进行违法活动、传播不良信息或违反社会公序良俗的行为。若发生此类行为，天翼云将依法采取必要措施，停止相关服务功能，并依法追究责任。 模型由DeepSeek公司提供。模型的结果仅供参考，并可能因不同的环境、数据或操作条件而有所不同，我们不对模型的任何结果负责。 快速体验DeepSeek vLLM 是一个专为本地运行大语言模型（LLMs）而设计的工具，并提供了简单易用的命令行接口。这里，我们以DeepseekR132B模型为例，讲解如何在天翼云使用vLLM运行 DeepSeek模型，读者可以根据自己实际需求修改云主机模型和云主机配置。

二、测试过程 2.1 环境变量配置 进入部署过程中启动的容器内，使用以下命令配置环境变量。 2.2 导入数据集 导入文本推理数据集：testdatagsm8k.jsonl 示例： {"question": " 你是中国电信星辰语义大模型，英文名是TeleChat，你是由中电信人工智能科技有限公司和中国电信人工智能研究院（TeleAI）研发的人工智能助手。n n你是一位擅长文本生成的智能助手，能够从多轮对话中理解上下文关系并提炼出用户的完整问题。请按照以下步骤处理用户的对话内容：nn1. 【识别上下文关系】：判断多轮对话问题之间是否存在关联。如果对话之间存在关联，则返回true，如果对话之间相互独立，则返回false。用【hasContext】来表示。n2. 【关联对话轮次】：将相互关联的对话轮次分组，并存储在列表中。每组应该包含相关的对话轮次。如果没有上下文关系，则直接返回空列表，用【mergeRound】来表示。n3. 【总结用户问题】：根据每组轮次的内容，概括总结出用户的完整问题。注意总结时仅关注该组的对话内容，尽量足够精简不要重复，用【contextAnswer】来表示。n4. 【构建JSON】：返回一个JSON字符串，格式如下：n {n "hasContext": "表示是否存在上下文关系", n "mergeRound": "表示需要合并的轮次",n "contextAnswer": "表示概括总结的完整问题"n }nn下面是 【河北省】 用户的多轮对话内容：n第1轮对话：我的宽带协议到期，8月1日。再续协议怎么办理？n第2轮对话：你查一下我用好多年了nn【输出结果】：n ", "answer": "{"hasContext": "true", "mergeRound": [[1, 2]], "contextAnswer": ["宽带到期怎么续约"]}"}

一站式智算服务平台广泛应用于多种场景,本文带您更快了解一站式智算服务平台经典应用场景。 模型训练 向下纳管智算硬件资源，提供技术运维及训练加速。向上通过模型开发平台提供大模型训练全链路功能，简化操作，提升效率。封装训练所需的底层技术，缩小训练者所需掌握的技术范围，降低大模型开发技术门槛。 主要用户包括各基础大模型厂商，各种拥有行业和场景专业知识与数据的行业客户，如科研院所、大专院校和教育机构、政府、金融机构、工业企业、科技单位、医院等。 模型推理 向下纳管智算硬件资源，提供技术运维服务及推理加速。向上通过模型服务平台提供部署好的模型服务，并集成丰富配套工具，提供模型推理一站式部署服务。 主要用户包括各种软件开发商，特别是行业软件开发商，以及科研院所、大专院校和教育机构、政府、金融机构、工业企业、科技单位、医院等行业客户。 算力运营 智算平台可部署在客户的智算资源上，对算力资源进行统一管理、统一调度，赋能客户算力运营能力，帮助客户通过算力运营和销售取得收益。 主要客户包括各种算力运营商，如各行业大型企业集团、政府旗下的基建投资公司等。

本文介绍执行命令时出现20010004错误码原因及解决方法 20010004错误码的含义是执行命令超时 可能的原因： （1）发起执行耗时的操作，比如删大对象，批量获取数据、存取大报文数据等，此时在管理平台监控界面查看超时操作类型、分组号、ip等信息、以及报文大小是否超过32K； （2）系统过载繁忙，通过监控界面看到的请求量巨大，伴随少量超时错误率返回，一般小于万分之一； （3）应用程序出现full gc。 解决方法: （1）优化应用程序逻辑，增加客户端超时时间，如请求报文过大，建议拆小； （2）根据监控系统错误码来自接入层还是存储层，对瓶颈节点进行系统扩容。

流程 子任务 说明 详细指导 数据集准备与处理 创建基础数据集 可上传基础数据集到ZOS或HPFS 数据集准备与处理 创建标注数据集 创建标注数据集，可对数据集进行标注，并发布为新的数据集 数据集准备与处理 数据清洗 可以对数据 镜像准备 预置镜像 预置镜像即平台预先设置的完整镜像，可直接用于创建任务时使用 镜像准备 自定义镜像 可以通过开发机自主制作镜像或通过天翼云容器镜像服务将镜像服务内的容器共享给训推智算服务平台 镜像准备 他人分享镜像 可将自己的镜像分享给他人使用 代码准备 导入代码包 将代码上传到平台 模型准备 导入模型 可将用户自己的模型或在平台训练、精调好的模型导入到平台进行版本管理、评估及部署 AI作业 模型开发 可通过启动和管理在线JupyterLab或VSCode集成开发环境在线编程进行模型开发 AI作业 模型训练 创建自定义创建训练任务，支持单机和多机分布式训练 AI作业 模型精调 零代码快速创建和管理精调任务，提供全参微调和lora微调两种精调方式。基于平台的基础大模型，选择训练数据集和算力即可快速启动精调任务。 AI作业 模型评估 可对模型进行评估，自动评估打分，生成评估报告 AI作业 模型压缩 不减少模型效果的前提下压缩模型大小，进而提升模型在推理调用时的性能 AI作业 模型部署 部署模型，提供推理服务

本文主要介绍云专线的产品优势。 稳定时延 专线接入提供了高可靠的服务保证，单线接入可用性高，满足您的网络连接需求。 高安全性 用户通过云专线接入，用户独占网络链路，无惧数据泄露风险。 对上层应用透明承载，可承载数据、语音、视频等综合应用。 多端口多协议 天翼云专线接入支持100M、10G二种接入端口，支持MSTP、IPRAN、MPLS等多种接入协议，满足您多样网路接入需求。 支持大带宽 天翼云专线接入单线路最大支持10Gbps带宽连接。 稳定可靠 提供中国电信高质量链路，提供冗余方案，运营商级网络保障。 专用网络传数据，免去拥堵或故障绕行带来的时延，传输速率更有保障，传输更稳定。 接入方便 客户侧可选择IP虚拟专网、点到点专线等多种接入方式，可根据业务需求灵活选择。 每种接入方式均可与互联网接入同时使用，实现管理流量、业务流量分离。

本节主要介绍将摄像头接入智能视图服务前的前置确认联网操作。 将摄像头接入平台前，可以先快速确认该摄像头是否可以访问互联网，以海康和大华为例。 海康摄像头联网确认 登录设备自身的管理控制台，通常地址为设备IP地址，查看摄像头是否支持萤石云。打开【配置】【网络】【高级配置】【平台接入】选择【萤石云】，勾选【启用】后点击【保存】，如下图，10~15秒后刷新界面，注册状态为“在线”则表示摄像头已接入到互联网。 大华摄像头联网确认 登录设备自身的管理控制台，查看摄像头是否支持乐橙云。打开【设置】【网络设置】【平台接入】【P2P】，勾选【使能】，点击【确定】，10~15秒后刷新界面，注册状态为在线则表示摄像头已接入到互联网。

本节主要介绍将摄像头接入智能视图服务前的前置确认联网操作。 将摄像头接入平台前，可以先快速确认该摄像头是否可以访问互联网，以海康和大华为例。 海康摄像头联网确认 登录设备自身的管理控制台，通常地址为设备IP地址，查看摄像头是否支持萤石云。打开【配置】【网络】【高级配置】【平台接入】选择【萤石云】，勾选【启用】后点击【保存】，如下图，10~15秒后刷新界面，注册状态为“在线”则表示摄像头已接入到互联网。 大华摄像头联网确认 登录设备自身的管理控制台，查看摄像头是否支持乐橙云。打开【设置】【网络设置】【平台接入】【P2P】，勾选【使能】，点击【确定】，10~15秒后刷新界面，注册状态为在线则表示摄像头已接入到互联网。

本文主要介绍云日志服务的售前常见问题。 什么是云日志服务？ 云日志服务是天翼云打造的一款云原生日志观测分析平台产品，可为应用的海量日志数据提供大规模、低成本、集中式的平台化服务，具备一站式的日志采集、加工、查询分析、可视化、告警、投递消费等能力，全面满足应用研发、运维、服务监控与业务分析等应用场景。 云日志服务包含什么功能? 日志采集：支持从云主机、容器应用、微服务应用以及其他组件中采集日志。采集规则支持动态配置，提供单行/多行全文、正则、分隔符、JSON等日志结构化解析方式。 日志检索：对于采集到的日志数据，支持模糊查询、全文查询、字段查询、时间范围、上下文查询。 统计分析：支持各类统计分析场景。 数据加工：支持对日志数据进行加工，包括数据的规整、脱敏和过滤。 日志转储：支持日志数据投递转储至对象存储。 日志告警：支持对一个或多个日志单元设置自定义告警规则，告警规则将按照设定的周期执行监控任务。 如何开始使用云日志服务？ 在使用云日志服务前，您需要完成天翼云账号注册并实名认证。完成实名认证后，打开产品详情页，点击【立即开通】，按照指引开通云日志服务。详情请查看快速入门。

子账号使用流程 前置条件 子账号为IAM普通用户角色且已登录到一站式智算平台 主账号使用流程 若子账号为IAM管理员角色，则其拥有全部操作权限，操作流程和主账号别无二致，故角色为IAM管理员的子账号使用流程参见主账号使用流程章节；角色为IAM普通用户的子账号，使用流程如下： 子账号的使用流程主要是为了进行任务作业，具体步骤如下： 流程 子任务 说明 详细指导 数据集准备与处理 创建基础数据集 可上传基础数据集到ZOS或HPFS 基础数据集 数据集准备与处理 创建标注数据集 创建标注数据集，可对数据集进行标注，并发布为新的数据集 标注数据集 数据集准备与处理 数据清洗 可以对数据 数据处理 镜像准备 预置镜像 预置镜像即平台预先设置的完整镜像，可直接用于创建任务时使用 预置镜像 镜像准备 自定义镜像 可以通过开发机自主制作镜像或通过天翼云容器镜像服务将镜像服务内的容器共享给一体化智算平台 自定义镜像 镜像准备 他人分享镜像 可将自己的镜像分享给他人使用 镜像分享 代码准备 导入代码包 将代码上传到平台 我的代码包 模型准备 导入模型 可将用户自己的模型或在平台训练、精调好的模型导入到平台进行版本管理、评估及部署 我的模型 AI作业 模型开发 可通过启动和管理在线JupyterLab或VSCode集成开发环境在线编程进行模型开发 开发机 AI作业 模型训练 创建自定义创建训练任务，支持单机和多机分布式训练 训练任务 AI作业 模型精调 零代码快速创建和管理精调任务，提供全参微调和lora微调两种精调方式。基于平台的基础大模型，选择训练数据集和算力即可快速启动精调任务。 模型精调 AI作业 模型评估 可对模型进行评估，自动评估打分，生成评估报告 模型评估 AI作业 模型压缩 不减少模型效果的前提下压缩模型大小，进而提升模型在推理调用时的性能 模型压缩 AI作业 模型部署 部署模型，提供推理服务 模型服务 AI作业 体验模型 可以对预置模型和自己部署的模型进行体验 体验中心 综合管理 工作空间管理 查看工作空间相关信息，若是工作空间的管理员可以进行相关操作 工作空间 综合管理 操作审计 对平台操作事件进行跟踪 操作审计

本章节主要介绍翼MapReduce服务的产品优势。 翼MapReduce（简称：“翼MR”）服务，历经集团和云公司的大规模集群和业务打磨，提供全年多级用户SLA保障。 翼MR具有如下优势： 高安全 翼MR服务拥有企业级的大数据多租户权限管理能力，拥有企业级的大数据安全管理特性；使用Kerberos和Ranger安全技术实现全组件的认证和授权；支持库、表、字段级数据权限管控。 优开源 基于Hadoop3.3.3等开源最新组件，保证版本性能的同时，优化了底层资源占用，对任务和引擎进行定制化管控。 高可靠 完成对开源组件100+次的代码及配置优化，实现高SLA；支持节点组采用反亲和技术，虚拟机分布在不同物理机上，以保证服务高可用。 易运维 翼MR提供可视化的大数据集群运维管理平台，全链路可视化操作降低运维门槛，助力实现90%日常运维场景便捷操作，提升运维效率。 低成本 翼MR集群基于多样化的云基础设施，提供了丰富的计算、存储设施的选择，可以用时再创建、用时再扩容，用完就销毁，确保成本最优。

本节主要介绍产品定义。 GeminiDB Influx接口是一款基于计算存储分离架构，兼容InfluxDB生态的云原生NoSQL时序数据库。在云计算平台高性能、高可用、高可靠、高安全、可弹性伸缩的基础上，提供了一键部署、快速备份恢复、计算存储独立扩容、监控告警等服务能力。广泛应用于资源监控、业务监控分析、物联网设备实时监控、工业生产监控、生产质量评估和故障回溯等。提供大并发的时序数据读写，压缩存储和类SQL查询，并且支持多维聚合计算和数据可视化分析能力。 GeminiDB Influx接口具有高写入、灵活弹性、高压缩率和高查询的特点。 高写入性能 数据按“时间Range + 时间线Hash”两层打散，分布式并行写入,且最高每天处理万亿级时间点写入。 灵活弹性 计算独立按需扩展、扩容不迁移数据，分钟级完成集群节点扩缩容。 高压缩率 列式存储布局和专用压缩算法，相比开源版本压缩率可以提升5~10倍左右。 高查询性能 多节点多线程并行查询，可高效处理高并发大数据量分析任务。 典型应用 IoT传感器时序数据分析 物联网应用，规模和可靠性至关重要。GeminiDB Influx接口提供了高吞吐量和并发性，您可以通过快速的响应时间来支持大量的连接。因此非常适合要求苛刻的物联网应用。 优势 ： 超强写入：小批量写入场景性能为开源版本InfluxDB的4.5倍，大批量写入场景性能为开源版本InfluxDB的3.3倍。 弹性扩展：基于计算存储分离的分布式架构，分钟级计算节点扩容，应对业务高峰期。

本页介绍天翼云TeleDB数据库的数据类型，包括数字类型、字符类型、二进制数据类型、日期类型和布尔类型。 数字类型 名字 存储尺寸 描述 范围 smallint 2字节 小范围整数 小范围整数 32768 到+32767 integer 4字节 整数的典型选择 2147483648 到+2147483647 bigint 8字节 大范围整数 大范围整数 9223372036854775808 到+9223372036854775807 decimal 可变 用户指定精度，精确 最高小数点前131072位，以及小数点后16383位 numeric 可变 用户指定精度，精确 最高小数点前131072位，以及小数点后16383位 real 4字节 可变精度，不精确 6位十进制精度 double precision 8字节 可变精度，不精确 15位十进制精度 smallserial 2字节 自动增加的小整数 1到32767 serial 4字节 自动增加的整数 1到2147483647 bigserial 8字节 自动增长的大整数 1到9223372036854775807 字符类型 名字 描述 character varying(n),varchar(n) 有限制的变长 character(n),char(n) 定长，空格填充 text 1GB

本文旨在向您介绍训推服务平台断点续训的功能,支持对英伟达和升腾芯片多个故障场景的断点续训。 产品背景 大模型训练过程往往比较长，根据业界数据，平均约两天，大模型训练会中断一次，经常遇到的问题例如： 程序出现故障 节点出现故障 loss数据恶化，需要手动暂停，调参重训 服务器故障、网络中断、开发平台故障等 断点续训过程需要排查节点、隔离节点、重新启动上一次CKPT，浪费了资源和训练时间，是大模型训练的重要痛点之一。针对这一问题，平台提供了断点续训能力并支持配置客户需要的策略。 断点续训 平台对英伟达和昇腾芯片的节点故障、集群故障、程序故障等多种故障场景，支持故障感知、故障定位、故障修复。目前支持PyTorch、Mindspore框架。 支持以下故障类型： 网络故障：当网卡链接出现故障或状态异常（link status: DOWN）后，可正常触发重调度，实现断点续训 节点心跳故障：当节点因Label异常等原因导致心跳丢失后，可正常触发重调度，实现断点续训 节点Shutdown/Reboot故障：当节点被关闭或重启后，可正常触发重调度，实现断点续训 芯片PCIE故障：当节点发生芯片丢失等异常后，可正常触发重调度，实现断点续训 断点故障：当错误发生时断点正在写入，未正常完成保存即断点保存不完整时，可正常恢复至上一完整断点，实现断点续训

本文为您展示升腾环境下模型训练的最佳实践。 概述 本指南旨在为用户提供一套全面、高效的模型训练最佳实践，涵盖从环境登录到多机分布式训练的全过程。通过系统化的步骤指引，用户可以快速熟悉并掌握在平台上进行模型训练的操作流程，充分利用平台的强大工具，完成大模型的高效训练任务。无论是单机训练还是多机分布式训练，本指南均提供了详细的操作步骤与注意事项，帮助用户快速上手并解决可能遇到的问题。 前置条件 执行本文操作之前， 请完成以下准备工作： 注册天翼云账号，并完成实名认证。 确保天翼云账户余额大于100元。 说明 为了方便演示，本文中涉及资源开通的情形，均默认选择按量付费模式。 平台体验：++ 环境介绍：本次使用昇腾910B环境进行操作 CPU： 鲲鹏920 448192 内存：1536GB NPU: 昇腾910B 8 主机（风冷机）：Atlas 800A2 训练准备 开发机 在进行大规模模型训练之前，确保所有的开发环境、模型代码、依赖库、权重文件以及数据集都已准备妥当是至关重要的一步。通过平台提供的开发机工具，您可以轻松实现可视化的IDE操作，简化训练环境的搭建与管理。

本文为您展示升腾环境下模型训练的最佳实践。 概述 本指南旨在为用户提供一套全面、高效的模型训练最佳实践，涵盖从环境登录到多机分布式训练的全过程。通过系统化的步骤指引，用户可以快速熟悉并掌握在平台上进行模型训练的操作流程，充分利用平台的强大工具，完成大模型的高效训练任务。无论是单机训练还是多机分布式训练，本指南均提供了详细的操作步骤与注意事项，帮助用户快速上手并解决可能遇到的问题。 前置条件 执行本文操作之前， 请完成以下准备工作： 注册天翼云账号，并完成实名认证。 确保天翼云账户余额大于100元。 说明 为了方便演示，本文中涉及资源开通的情形，均默认选择按量付费模式。 平台体验：< 环境介绍：本次使用昇腾910B环境进行操作 CPU： 鲲鹏920 448192 内存：1536GB NPU: 昇腾910B 8 主机（风冷机）：Atlas 800A2 训练准备 开发机 在进行大规模模型训练之前，确保所有的开发环境、模型代码、依赖库、权重文件以及数据集都已准备妥当是至关重要的一步。通过平台提供的开发机工具，您可以轻松实现可视化的IDE操作，简化训练环境的搭建与管理。

训推服务广泛应用于多种场景,本文带您更快了解训推服务经典应用场景。 模型训练 向下纳管智算硬件资源，提供技术运维及训练加速。向上通过模型开发平台提供大模型训练全链路功能，简化操作，提升效率。封装训练所需的底层技术，缩小训练者所需掌握的技术范围，降低大模型开发技术门槛。 主要用户包括各基础大模型厂商，各种拥有行业和场景专业知识与数据的行业客户，如科研院所、大专院校和教育机构、政府、金融机构、工业企业、科技单位、医院等。 模型推理 向下纳管智算硬件资源，提供技术运维服务及推理加速。向上通过模型服务平台提供部署好的模型服务，并集成丰富配套工具，提供模型推理一站式部署服务。 主要用户包括各种软件开发商，特别是行业软件开发商，以及科研院所、大专院校和教育机构、政府、金融机构、工业企业、科技单位、医院等行业客户。 算力运营 智算平台可部署在客户的智算资源上，对算力资源进行统一管理、统一调度，赋能客户算力运营能力，帮助客户通过算力运营和销售取得收益。 主要客户包括各种算力运营商，如各行业大型企业集团、政府旗下的基建投资公司等。

第6章 服务地点 高可用与故障演练服务为远程交付，购买现场服务的客户需提供现场服务地址。 第7章 服务内容 服务内容 服务描述 交付物 现状调研 业务现状、业务架构、客户目标调研 需求分析 客户业务目标和现有架构梳理及分析 高可用方案输出 提供高可用方案，包括应用高可用、数据库高可用、存储高可用等。 高可用方案 故障演练方案输出 提供故障演练方案，包括演练环境创建、故障注入、业务切换等。 故障演练方案 技术支持 在交付期内，为高可用架构落地和故障演练实施提供技术支持 服务说明： 专属架构师作为天翼云高可用与故障演练服务的统一接口，对接客户的高可用与故障演练工作。 天翼云为客户提供高可用与故障演练服务群，可按客户习惯提供微信群、企业微信群或钉钉群中的一种。 天翼云不负责非天翼云平台（如第三方平台、软件、应用）的高可用与故障演练工作。 第8章 服务规格 高可用与故障演练服务规格列表如下： 产品规格 服务方式及时间 电信标准价 高可用与故障演练服务 远程支持，工作日9:0018:00 20000/天/人 现场服务（可选） 现场支持，工作日9:0018:00 15000/天/人（应在高可用与故障演练服务期内） 实例数020，2天以上；实例数20100，10天以上；实例数100200，15天以上；实例数200500，30天以上；实例数500以上，50天以上。

本文介绍了如何在科研助手中使用 AnythingLLM 搭建 DeepSeek 知识库。 概述 DeepSeekR1 DeepSeekR1 是幻方量化旗下 AI 公司深度求索（DeepSeek）研发的一款高性能推理模型。该模型使用强化学习技术进行后训练，专注于提升在数学、代码和自然语言推理等复杂任务上的表现。 DeepSeekR1 在需要逻辑推理、思维链推理和实时决策的任务中表现出色，如解决高级数学问题、生成复杂代码、解析复杂科学问题等。在类似 Codeforces 的挑战场景中获得了2029 Elo 评分；在复杂推理基准测试中，表现与 OpenAI 的 o1 模型相当。尽管总共有6710亿的庞大参数，但每次前向传递时仅激活370亿个参数，比大多数大模型更加高效的利用资源。 AnythingLLM AnythingLLM 是一款开源平台，以简单易用为显著特点，它为没有深厚技术背景的用户敞开了大语言模型应用开发的大门，凭借直观界面让开发变得轻松。其具备高度可定制性，用户能按需灵活调整模型参数、功能逻辑等，还拥有强大的集成能力，可与多种数据源及工具无缝对接。在功能上，它涵盖模型管理、数据处理和应用部署等方面，支持多模型选择与更新，可有效处理数据以提升模型效果，并能以多种方式将应用快速推向生产环境。广泛适用于智能客服提升服务效率、内容创作辅助产出优质文案以及数据分析提供决策洞察等多元场景。 当前在科研助手的社区镜像中，我们已经为您提前部署好了基于 AnythingLLM 搭建的DeepSeek 知识库平台，方便您即刻体验，开箱即用。 前置说明 1. 该文档为在科研助手上使用 AnythingLLM 搭建 DeepSeek 知识库的说明； 2. 本产品中的模型由第三方主体提供，尽管云公司已尽最大努力进行识别和维护，但仍无法保证模型的可用性。请客户按照该产品的服务协议使用该产品，做好甄别并对自行选择的服务负责 准备环境