对本地上传的代码包进行统一管理。 支持直接上传本地文件、本地压缩包。单次上传文件最多支持5个。 对于文件数量较多，建议使用压缩包上传。 上传完成后操作列点【在线编码】即可进入JupyterLab或VSCode进行编码。 说明 存储目录：/work目录可以被用作统一的文件管理，同时开发机中不同的实例或容器任务可以共享这个目录。 其中/work/mount目录是用于使用和挂载平台上的数据集模型、代码文件的，创建界面选择对应数据集和模型后，系统自动分配挂载路径，打开开发机即可看到这些路径，写代码直接读取这些路径即可读取数据和模型： a)存储时间:只在开发机运行中可使用，开发机关闭后mount目录会和容器取消挂载，也无法读取。 b)目录隔离:在不同开发机的目录内容是隔离的，每启动一个开发机都是自己的一套mount。 c)存储策略:mount 目录为挂载使用，用户在 mount 对应子目录下写入的代码或者拖入的文件会自动转存回原始数据集、代码包或者模型存储中。 【注意】: 自动转存的前提为文件或者文件夹写入到平台自动挂载的目录下，在/work/mount 目录下手动创建的目录(比如:/work/mount/abc)不会做自动转存，同时开发机销毁后自动清理。

微服务云应用平台用户使用指南.pdf 微服务云应用平台用户开发指南.pdf

子账号使用流程 前置条件 子账号为IAM普通用户角色且已登录到一站式智算平台 主账号使用流程 若子账号为IAM管理员角色，则其拥有全部操作权限，操作流程和主账号别无二致，故角色为IAM管理员的子账号使用流程参见主账号使用流程章节；角色为IAM普通用户的子账号，使用流程如下： 子账号的使用流程主要是为了进行任务作业，具体步骤如下： 流程 子任务 说明 详细指导 数据集准备与处理 创建基础数据集 可上传基础数据集到ZOS或HPFS 基础数据集 数据集准备与处理 创建标注数据集 创建标注数据集，可对数据集进行标注，并发布为新的数据集 标注数据集 数据集准备与处理 数据清洗 可以对数据 数据处理 镜像准备 预置镜像 预置镜像即平台预先设置的完整镜像，可直接用于创建任务时使用 预置镜像 镜像准备 自定义镜像 可以通过开发机自主制作镜像或通过天翼云容器镜像服务将镜像服务内的容器共享给一体化智算平台 自定义镜像 镜像准备 他人分享镜像 可将自己的镜像分享给他人使用 镜像分享 代码准备 导入代码包 将代码上传到平台 我的代码包 模型准备 导入模型 可将用户自己的模型或在平台训练、精调好的模型导入到平台进行版本管理、评估及部署 我的模型 AI作业 模型开发 可通过启动和管理在线JupyterLab或VSCode集成开发环境在线编程进行模型开发 开发机 AI作业 模型训练 创建自定义创建训练任务，支持单机和多机分布式训练 训练任务 AI作业 模型精调 零代码快速创建和管理精调任务，提供全参微调和lora微调两种精调方式。基于平台的基础大模型，选择训练数据集和算力即可快速启动精调任务。 模型精调 AI作业 模型评估 可对模型进行评估，自动评估打分，生成评估报告 模型评估 AI作业 模型压缩 不减少模型效果的前提下压缩模型大小，进而提升模型在推理调用时的性能 模型压缩 AI作业 模型部署 部署模型，提供推理服务 模型服务 AI作业 体验模型 可以对预置模型和自己部署的模型进行体验 体验中心 综合管理 工作空间管理 查看工作空间相关信息，若是工作空间的管理员可以进行相关操作 工作空间 综合管理 操作审计 对平台操作事件进行跟踪 操作审计

本文介绍科研助手的产品特性。 开发环境 云原生的资源使用和开发工具链的集成，为不同类型的开发、探索、教学的科研用户，提供更好云化开发体验。 并行计算 平台一键下发并行计算任务，用户无需关心底层资源部署和配置，为高校科学计算提供了全新体验。 存储管理 支持对接多种类型存储源，兼容性强，提供了更灵活丰富的选择。 数据集管理 丰富的数据集来源，包括不限于本地数据集、网盘数据集和共享数据集，提供可视化交互操作。

智算一体机集成一站式智算服务平台，提供大模型训练、推理、应用等全栈AI工具链服务。包含数据管理、模型开发与训练、模型评估、模型管理、服务部署等模块。 序号 主要功能/性能 解决客户问题 1 数据集管理 实现创建数据集、导入数据、管理数据和数据标注功能，帮助用户操作管理数据。 2 模型开发与训练管理 & 模型精调 实现快速微调、模型开发管理、训练任务管理、开发环境管理功能。提供多种开发工具和开发环境，也支持用户上传开发环境。客户可根据自身情况，灵活选择模型开发方式，进行模型训练迭代。 3 模型管理 实现导入模型、管理模型、模型评估功能。帮助客户对模型进行版本管理，性能测评。 4 模型部署 实现模型服务的部署、管理和密钥的管理。解决客户在训练迭代大模型后，在线测试模型推理、上下文理解等性能。 5 模型广场 一站式智算服务平台支持多种主流开源大模型API调用，为客户提供在线试用体验。 6 模型服务 实现账户的模型服务开通、应用的模型服务权限管理，支持查看调用情况和告警信息。方便客户管理模型服务权限。 7 运营运维平台 实现用户运营、资源运营、监控调度、配额及权限设置功能。方便客户进行运营运维操作。 8 AI算力 解决AI应用中所需要的算力资源，包含昇腾、英伟达等多样算力。

本文介绍科研助手的相关术语解释。 资源池 资源池是科研助手服务所需要使用的计算资源的集合，科研助手的资源池为用户提供了多个可用区和多种实例规格，用户可灵活切换使用。 实例 每个任务可以有一个或多个执行实例（Instance）。同一任务的各个实例并行处理各自的输入数据。实例是科研助手调度与执行的最小单元，这些实例会动态的运行在系统分配的节点上。 开发环境 开发环境是云原生的资源使用和开发工具链的集成，为不同类型开发、探索、教学用户，提供更好云化开发体验。 集群 集群是容器运行所需云资源的集合，包含了若干台服务器节点、虚拟私有云等云资源。 镜像 镜像是一个模板，用于打包应用程序及其依赖环境的标准格式。 存储源 科研助手平台支持将用户的文件存储/对象存储作为存储源接入，科研助手平台将存储的共享目录或者存储桶挂载到容器中。 数据集 科研助手通过数据集将文件系统中存在的某个目录或者对象存储中的bucket与容器内部的文件系统上的某一目录建立绑定关系。这就意味着，当我们在容器中的这个目录下写入数据时，容器会将其内容直接写入到存储源中。

前置条件 1. 使用前，您的租户账号需在天翼云存储控制台开通并创建相应的存储 ，详见++对象存储快速入门++、++并行文件服务快速入门++。 2. 已在本平台完成相关产品的委托授权。 操作说明 基础数据集的存储方式包括普通存储和智算存储： 普通存储（ZOS）： 账号自有存储：指租户在天翼云官网同资源池下开通的对象存储，用于数据长期存储和备份，完成委托授权后您可在本平台直接使用。 平台共享存储：本平台赠予您体验的存储，默认集群额度为 300G，是所有用户共享的存储，您的用量受限且不支持扩容，超出用量后需自行前往对象存储购买自有存储。平台后续将逐渐废弃此类存储，建议您直接使用自有存储。 智算存储（HPFS）： 账号自有存储：指租户在天翼云官网同资源池下开通的HPFS存储，常用于大模型的开发和训练等数据密集性的高性能计算场景，完成委托授权后您可在本平台直接使用。如需使用开发机和训练任务功能，请提前将数据、模型、代码导入智算存储中。训练时需要与文件存储频繁交互，请确保存储状态可用且充足。 平台共享存储：本平台赠予您体验的存储，默认集群额度为 512 G，是所有用户共享的存储，您的用量受限且不支持扩容，超出用量后需自行前往HPFS购买自有存储。平台后续将逐渐废弃此类存储，建议您直接使用自有存储。

本节介绍如何制作和使用开发机镜像。 平台提供通过控制台基于开发机制作镜像能力，可将当前开发机容器的文件系统（除挂载的数据集目录之外）及配置等打包推送到智算套件创建的私有镜像仓库。 定制开发机镜像 在开发机中安装软件包或者python库文件 保存开发机镜像 在 “AI应用开发” 列表中，在对应的开发机列表 “操作” 栏中点击 “保存镜像”，保存镜像的过程中会暂停当前的开发机容器。 填写保存的镜像名称和镜像版本等信息 查看镜像保存任务列表 等待任务成功后会将该镜像自动推送到容器镜像仓库。 使用开发机镜像 创建开发机私有框架，在 “AI应用管理>AI框架>私有框架>创建框架” 。 填写框架元数据信息，注意业务场景选择 “notebook”，框架类型选择 “JupyterLab”（如果是基于VSCode开发机保存的镜像则选择VSCode），以便在创建开发机时可以正确筛选到该私有框架，镜像选择保存开发机镜像时填写的镜像名。 创建开发机，选择创建好的私有框架

根据实际情况配置权重保存、权重加载、词表、数据集路径 MMDATA"./examples/qwen2.5vl/data32b.json" 数据集路径 MMMODEL"./examples/qwen2.5vl/model32b.json" 模型参数路径 MMTOOL"./mindspeedmm/tools/tools.json" mm工具路径，可不修改 LOADPATH"./modelweights/qwen25vl32btp2pp8" 2.2.4中转换好的权重加载路径 SAVEPATH"./ckpt/qwen25vl32bfulltp2pp8" 新权重保存路径 ... GPUSPERNODE8 DISTRIBUTEDARGS" nprocpernode $GPUSPERNODE nnodes $PETNNODES 由平台提供的系统变量自动配置 noderank $PETNODERANK 由平台提供的系统变量自动配置 masteraddr $PETMASTERADDR 由平台提供的系统变量自动配置 masterport $PETMASTERPORT 由平台提供的系统变量自动配置 " GPTARGS" usemcoremodels ... numworkers 8 lorar 8 lora参数，全参微调场景下需剔除 loraalpha 16 lora参数，全参微调场景下需剔除 loratargetmodules linearqkv linearproj linearfc1 linearfc2 lora参数，全参微调场景下需剔除 " OUTPUTARGS" loginterval 1 saveinterval 50 权重保存间隔，即训练多少个iterations保存一个权重 evalinterval 50 验证间隔，即训练多少个iterations验证一次 evaliters 20 每次验证的iterations数 save $SAVEPATH ckptformat torch " 3.2.3 创建任务 多节点集群训练可使用训练任务工具创建多机多卡训练任务，创建任务可通过以下两种方式创建： 方法一：通过开发机任务创建 在开发机任务页面中创建训练任务，点击“开始训练”系统会自动选择与开发机一致的镜像版本，保证环境一致性。 方法二：通过训练任务工具创建 打开平台左侧“训练任务”选项卡，点击“新建任务”按钮。

本文介绍如何申请免费体验包。 注意 免费体验开发机使用须知： 免费体验包仅供试用，7天后开发机会自动关机，所产生的数据将被清空，请勿存放重要数据，请您知悉； 停机前请务必完成数据备份与镜像保存操作，避免数据丢失； 若需持续使用开发机服务，请通过平台创建「按需付费开发机」（免费体验实例不支持直接续期）。 操作步骤 1.在科研助手主页面中，点击【免费体验7天】，即可创建免费体验的开发机。 2.点击【开发机】可看到新创建的开发机，等待启动完成后，点击【打开】即可开始使用。 免费体验内容 免费体验规格：CPU:10核 内存:20GB GPU:gn3.m1.12gb1 免费体验镜像：pytorchjupyter:cuda11.1torch1.9.0multikernel 免费体验时长：7天 常见问题 1. 试用期限是多久？ 您可以享受7天的免费体验。 2. 试用期结束后如何收费？ 试用期结束后，开发机将自动关机并释放。 3. 使用的是什么镜像？ 默认提供的是多内核Jupyter WebIDE，免费7天的开发机支持更换镜像。

本章节主要介绍DataArts Studio的开发一个Hive SQL作业流程。 本章节介绍如何在数据开发模块上进行Hive SQL开发。 场景说明 数据开发模块作为一站式大数据开发平台，支持多种大数据工具的开发。Hive是基于Hadoop的一个数据仓库工具，可以将结构化的数据文件映射为一张数据库表，并提供简单的SQL查询功能；可以将SQL语句转换为MapReduce任务进行运行。 环境准备 已开通MapReduce服务MRS，并创建MRS集群，为Hive SQL提供运行环境。 MRS集群创建时，组件要包含Hive。 已开通数据集成CDM，并创建CDM集群，为数据开发模块提供数据开发模块与MRS通信的代理。 CDM集群创建时，需要注意：虚拟私有云、子网、安全组与MRS集群保持一致，确保网络互通。 建立Hive的数据连接 开发Hive SQL前，我们需要在“管理中心 > 数据连接”模块中建立一个到MRS Hive的连接，数据连接名称为“hive1009”。 关键参数说明： 集群名：已创建的MRS集群。 绑定Agent：已创建的CDM集群。 开发Hive SQL脚本 在“数据开发 > 脚本开发”模块中创建一个Hive SQL脚本，脚本名称为“hivesql”。在编辑器中输入SQL语句，通过SQL语句来实现业务需求。 开发脚本 关键说明： 上图中的脚本开发区为临时调试区，关闭脚本页签后，开发区的内容将丢失。您可以通过“提交”来保存并提交脚本版本。 数据连接：建立Hive的数据连接创建的连接。

全面管理用户从开发、训练到评估完成的模型生命周期，该模块不仅提供模型文件的安全存储功能，还具备精细化的版本管理，确保每一阶段的模型变更都有迹可循。 新建模型及版本 1. 在我的模型菜单页面中，点击【新建模型】，输入模型名称、模型描述以及来源。支持2种来源： 1. 导入至平台存储：上传模式，您可以将本地文件上传至平台提供的共享ZOS空间内，该模式对模型文件有2GB的大小限制； 2. 自有存储挂载（推荐使用）：挂载模式，需要您在天翼云官网同资源池下开通自有存储并完成委托授权等前置操作。选择自有存储挂载模式后，可创建的模型大小不再受平台限制，您只需填写已有存储的路径，平台将在任务中自动挂载该路径。目前已支持自有ZOS、自有HPFS、自有其他存储类型，您可在创建版本时切换顶部集群查看该集群下支持的存储类型。其中， 1. 自有ZOS：是指您租户在天翼云官网同资源池下开通的对象存储，用于数据长期存储和备份，完成委托授权后您可在本平台直接使用； 2. 自有HPFS：指租户在天翼云官网同资源池下开通的HPFS存储，常用于大模型的开发和训练等数据密集性的高性能计算场景，完成委托授权后您可在本平台直接使用。训练时需要与文件存储频繁交互，请确保存储状态可用且充足； 3. 自有其他存储：天翼云的集群分为两类：天翼云自建集群、与合作伙伴共营的其他集群，自建集群对应自有存储，其他集群对应其他存储。其他存储便是指其他集群中对应配置的存储。该存储与集群强相关，您在开通相应的集群后平台会自动打通与存储的关联，不需要进行委托授权步骤。 2. 新建模型后，点击模型卡片，进入模型详情页，您可在此处创建版本，版本是具体可操作的对象。 1. 模型来源为导入至平台存储： 当前平台导入：支持从平台上运行完成的模型调优和训练任务中导入(分别参见模型精调和训练任务)、也可以从JupyterLab和VSCode的目录中导入(参见模型开发)。 本地上传：支持从本地电脑导入不超过2G的模型文件。 口令导入：支持输入训推智算服务平台其他账户分享的口令完成导入，参见[模型分享与导出章节](

类型 微服务 普通应用 开发 每个微服务的体量相对较小，业界的two pizza团队和“2周即可全部重写全部代码”等都可以作为微服务划分的参考。 在开发时期，需注意服务接口的定义以与周边微服务进行配合，“基于契约”的开发方式是非常推荐的。 微服务开发，请参考“帮助中心 > 微服务云应用平台 > 开发指南 > 微服务开发指南 > 开发微服务应用”章节。 普通应用逻辑复杂、模块耦合、代码臃肿、修改难度大、版本迭代效率低下。 部署 微服务组成的应用系统通常比较复杂，在一次性部署的时候，需要进行编排部署。 微服务应用部署，请参考 部署组件 。 普通应用可能会比较大，构建和部署时间也相应地比较长，不利于频繁部署，阻碍持续交付。 在移动应用开发中，这个问题会显得尤为严重。 运维 在原来的指标监控、日志收集之外还非常强调治理。 其核心理念是在运行时期通过对线上系统的各种调整以达到系统整体健康度要求的效果。 应用运维，请参考 应用运维 。 普通应用线上问题修复周期长，任何一个线上问题修复都需要对整个应用系统进行全面升级。

本节介绍天翼云息壤一体化智算服务平台的应用场景。 天翼云息壤一体化智算服务平台，根据不同应用场景可提供不同产品组合解决方案。 调度运营分散算力管理 场景1：拥有分散的多种算力，需建设统一纳管调度平台，高效利用资源。 场景2：拥有多余算力，希望纳入算力联盟，进行统一管理与运营，实现资源变现。 解决方案：息壤·公共算力服务+定制化开发+业务运营。 科研实训高阶智算服务 场景：适用于高校或科研机构等进行科学计算，广泛应用于科研教育、影视视频渲染、生物数据分析、高性能计算等领域。 解决方案1：基于公有云，快速使用息壤·科研助手，针对仿真、流体计算、材料化学、数学计算等科研场景，可灵活调度各类计算资源，并搭载常用科研软件，支持一键部署、开箱即用。 解决方案2：基于私有化，息壤·科研助手+算力网关，纳管智算设备基础上进行科研训练，搭载常用科研软件，开箱即用。 深度自研大模型训推 场景：用户有大模型训推需求，需调用算力资源和训推平台能力。 解决方案1：基于公有云，快速使用息壤·训推服务平台；或基于私有化，以息壤·科研助手+算力网关的搭配形式，纳管智算设备基础上以IDE开发的形式使用平台运行训练和推理任务，对用户的专业水准有一定要求。 解决方案2：基于公有云，息壤·模型推理服务平台，以低代码形式使用平台运行训练和推理任务，操作的专业门槛较低 。 解决方案3：息壤·智算一体机，低成本落地小型化训推一体化。

本章节主要介绍数据治理中心的数据开发概述。 数据开发是一个一站式的大数据协同开发平台，提供全托管的大数据调度能力。它可管理多种大数据服务，极大降低用户使用大数据的门槛，帮助您快速构建大数据处理中心。 数据开发模块曾被称为数据湖工厂（Data Lake Factory，后简称DLF）服务，因此在本文中，“数据湖工厂”、“DLF”均可用于指代“数据开发”模块。 数据开发简介 使用数据开发模块，用户可进行数据管理、脚本开发、作业开发、作业调度、运维监控等操作，轻松完成整个数据的处理分析流程。 详见下图：数据开发模块架构 数据开发的主要功能 下表 数据开发的主要功能 支持的功能 说明 数据管理 支持管理DWS、DLI、MRS Hive等多种数据仓库。 支持可视化和DDL方式管理数据库表。 脚本开发 提供在线脚本编辑器，支持多人协作进行SQL、Shell、Python脚本在线代码开发和调测。 支持使用变量和函数。 作业开发 提供图形化设计器，支持拖拉拽方式快速构建数据处理工作流。 预设数据集成、SQL、Shell等多种任务类型，通过任务间依赖完成复杂数据分析处理。 支持导入和导出作业。 资源管理 支持统一管理在脚本开发和作业开发使用到的file、jar、archive类型的资源。 作业调度 支持单次调度、周期调度和事件驱动调度，周期调度支持分钟、小时、天、周、月多种调度周期。 运维监控 支持对作业进行运行、暂停、恢复、终止等多种操作。 支持查看作业和其内各任务节点的运行详情。 支持配置多种方式报警，作业和任务发生错误时可及时通知相关人，保证业务正常运行。

一站式智算服务平台为您提供优质的服务体验,本文带您了解平台产品优势。 全流程开发工具 提供训练数据管理、模型开发（代码式开发工具、预置大模型、预置开发环境）、模型训练、模型精调、模型管理、模型评估、服务部署到模型服务调用的全链路功能。集成分布式训练调度技术、多种训练加速方法和高性能存储，支撑大模型训练，并极大降低训练和应用模型成本、缩短训练时长。 兼顾各类用户需求 面向需要开发复杂模型的用户，提供完整的代码式开发工具、预置大模型、预置开发环境等，满足用户的各种复杂模型开发需求。面向希望能快速、便捷建模的用户，则充分利用大模型微调训练的特点，提供快速微调工具，只需选择数据、配置参数即可完成大模型微调，降低大模型训练的使用门槛。 部署快捷，适配广泛 集成分布式算力调度、模型并行推理和多种运算加速能力，提升模型推理性能，实现推理服务的快捷部署。同时，适配多种模型结构，灵活支持用户各类复杂推理应用需求。 集成多种AI框架 集成多种AI框架，包括国产AI框架，支持各种主流大模型。 安全可信 符合数据监管要求，不设置数据埋点，不收集存储用户的入参和出参数据，从根本上保证了用户的数据隐私安全。

本节描述了ECX的定义、边缘计算的定义、边缘计算的特点等。 ECX的定义 智能边缘云(Edge Cloud X, ECX)是将传统的云计算中心移向了网络边缘，以降低延迟、提升响应速度和性能，满足行业数字化中的敏捷连接、实时业务、应用智能等关键需求。 什么是边缘计算 在深入了解ECX前，您需要先了解什么是边缘计算。 边缘计算是一种分布式计算架构，它将数据处理、存储和服务功能移近数据产生的边缘位置，即接近数据源和用户的位置，而不是依赖中心化的数据中心或云计算平台。通过将计算移动到边缘设备，可以更快速地处理数据，并在本地存储和分析数据，从而减少对中心云计算数据中心的依赖。同时，边缘计算还可以提高安全性和隐私性，因为数据不需要传输到中心云上进行处理。 边缘计算的应用场景包括边缘推理、智慧园区、云游戏、内容分发网络CDN、视频监控、工业物联网等，其中智慧园区、视频监控、工业物联网可划属于2B业务，云游戏可划属于2C业务。边缘计算应用场景使用的关键能力主要包括：海量网络联接与管理、实时数据采集与处理、本地业务自治、 边云协同、图像识别与视频分析、AR/VR、游戏渲染与呈现，以及数据安全与隐私保护等。

混合云一体机推理基础版集成一站式云管理平台，提供大模型推理、应用等AI工具链服务。包含Agent开发、模型纳管、知识库挂载、监控等模块。 序号 主要功能 解决客户问题 1 Agent开发 支持用户创建智能问答。 2 知识库 支持用户挂在个人知识库，同时支持管理员创建企业知识库共享给不同的用户组，实现知识库的分权分域。 3 模型纳管 实现多模纳管、模型切换。 4 监控 实现对底层硬件资源的监控及Agent监控。

本最佳实践文档旨在为用户提供一个基于升腾通用推理镜像的自定义部署样例,流程涵盖代码包准备、模型准备、部署流程等关键维度。 一、引言 本文围绕昇腾通用推理镜像的自定义部署展开最佳实践梳理，旨在从代码包准备、模型准备、部署流程等关键维度，提供一套可复用的最佳实践。通过标准化的操作指南，帮助开发者快速掌握昇腾推理镜像的自定义部署方法。 二、模型准备 1.开发机完成推理代码开发和调试 开发机界面启动VSCode。 编写推理服务代码 推理服务代码要满足openai api接口规范，当前平台支持的接口能力请参考【训推服务平台】帮助手册【推理服务API】< IDE内启动推理服务准备验证 调用/验证推理服务接口 2. 保存代码包 在VSCode列表页面保存开发机中的代码到代码包。

功能模块 功能详情 运营对象 集中对数据类、数据类类型、分类映射等运营对象进行管理。 剧本编排 支持对剧本、流程、资产连接、实例的全生命周期管理。 页面布局 提供安全可视化低代码开发平台，基于此平台可自定义安全分析报告、告警管理、事件管理、漏洞管理、基线管理、威胁情报指标库管理等页面布局。 插件管理 支持将安全编排流程中使用的插件进行统一管理。

本文带您了解什么是一站式智算服务平台。 一站式智算服务平台是为大模型训练、推理、应用提供全栈工具链的智算服务平台，包含数据管理、模型开发与训练、模型评估、模型管理、服务部署等模块。预置丰富的基座大模型和数据集，支持国产化等异构算力，提供算子加速与模型加速，极大提升大模型训练推理效率。通过全链路监控，形成稳定性优势，平台服务可用率不低于99%。 功能模块 数据集管理：将训练模型所需要的各种数据，导入到数据集管理中，以便于更清晰、方便地管理训练数据，加快训练速度。支持数据集共享，在线标注等。 模型开发管理：使用多种方式设计模型和训练，启动训练任务并为训练任务分配算力资源。 训练任务管理：查看和管理启动的所有训练任务。从已完成的训练中，挑选满意的训练结果发布为模型。 模型管理和评估：导入和管理所有模型，对模型进行版本管理、导入导出、评估、分享。 模型压缩：在保证模型效果的前提下压缩模型大小，进而提升模型在推理调用时的性能。 线上服务管理：将模型部署为在线服务，供应用方调用。 功能特性 简化训练和部署的复杂流程 开箱即用，降低调优成本 平台化全流程管理

一站式智算服务平台广泛应用于多种场景,本文带您更快了解一站式智算服务平台经典应用场景。 模型训练 向下纳管智算硬件资源，提供技术运维及训练加速。向上通过模型开发平台提供大模型训练全链路功能，简化操作，提升效率。封装训练所需的底层技术，缩小训练者所需掌握的技术范围，降低大模型开发技术门槛。 主要用户包括各基础大模型厂商，各种拥有行业和场景专业知识与数据的行业客户，如科研院所、大专院校和教育机构、政府、金融机构、工业企业、科技单位、医院等。 模型推理 向下纳管智算硬件资源，提供技术运维服务及推理加速。向上通过模型服务平台提供部署好的模型服务，并集成丰富配套工具，提供模型推理一站式部署服务。 主要用户包括各种软件开发商，特别是行业软件开发商，以及科研院所、大专院校和教育机构、政府、金融机构、工业企业、科技单位、医院等行业客户。 算力运营 智算平台可部署在客户的智算资源上，对算力资源进行统一管理、统一调度，赋能客户算力运营能力，帮助客户通过算力运营和销售取得收益。 主要客户包括各种算力运营商，如各行业大型企业集团、政府旗下的基建投资公司等。

云应用引擎CAE（Cloud App Engine）是一个容器应用全托管平台，提供微服务应用托管和治理运维能力；帮助用户简化微服务应用容器化改造流程，提高业务效率和系统可靠性。作为Serverless架构的重要组成部分，云应用引擎负责微服务类复杂应用的管理；它允许用户将应用托管至平台进行运维部署，对于处理复杂的业务逻辑尤为重要。它不仅提高了开发效率，降低了运维复杂度，还能通过事件驱动和可自动化拓展，提升了复杂应用的可用性和弹性。 产品架构 底层基于Kubernetes，实现了Serverless架构与微服务架构的完美结合。 支持Spring Cloud多种微服务框架、多种部署方式（ZIP包、镜像）和多种技术栈语言（Java、PHP、Python等）。 产品功能 功能 说明 应用全生命周期管理 提供从创建到运行的应用全生命周期管理服务 无侵入应用监控 提供无侵入的应用监控和告警能力，支持任意语言和任意框架。 无侵入微服务治理 支持Spring Cloud零代码改造迁移至云应用引擎。提供服务注册与发现、环境隔离、配置管理、限流降级、应用无损上下线、服务鉴权、全链路灰度等能力。 一键启停开发测试环境 中大型企业包含多套环境，测试环境如果长期保有应用实例，会导致闲置浪费高。云应用引擎提供逻辑隔离运行环境，通过一键启停开发测试环境能力，有效节省硬件成本。

本文带您了解什么是训推服务。 训推服务是大模型一站式、可视化、全流程AI开发训练平台，为用户提供AI建模的一站式解决方案。具备开箱即用、通用性强、大模型适用和安全可靠的优势。 功能模块 数据集管理：将训练模型所需要的各种数据，导入到数据集管理中，以便于更清晰、方便地管理训练数据，加快训练速度。支持数据集共享，在线标注等。 模型开发管理：使用多种方式设计模型和训练，启动训练任务并为训练任务分配算力资源。 训练任务管理：查看和管理启动的所有训练任务。从已完成的训练中，挑选满意的训练结果发布为模型。 模型管理和评估：导入和管理所有模型，对模型进行版本管理、导入导出、评估、分享。 模型压缩：在保证模型效果的前提下压缩模型大小，进而提升模型在推理调用时的性能。 线上服务管理：将模型部署为我的服务，供应用方调用。 功能特性 简化训练和部署的复杂流程 开箱即用，降低调优成本 平台化全流程管理

功能类别 功能描述 模型适配前机器环境检查确认 硬件环境检查：服务器、存储、网络等硬件型号及环境检查。 软件环境检查（系统软件）：操作系统、HDK固件驱动、CANN版本、镜像等版本检查。 软件环境检查（模型训推软件）：训练推理框架、Python、运行库等版本检查。 NPU健康状态检查：NPU卡数、型号、显存容量及运行状态检查。 网络检查（功能）：网络连通性检查，设备防火墙检查。 网络检查（性能）：P2P、D2H、H2D、D2H带宽检查。 HCCL功能性能检查：单多机HCCL allreduce、allgather带宽检查。 Aicore、HBM压测：Aicore、HBM压测。 HPFS存储检查：HPFS存储空间，挂载路径检查。 镜像及容器检查：docker镜像及容器启动功能检查。 模型训练集群验证：验证集群环境下开源模型单多机训练功能性能，包括loss，TPS及MFU指标。 模型适配 适配模型GPU基准验证：待适配模型在GPU环境下的基准验证，收集loss曲线，计算MFU、TPS等模型指标，计算模型训练效果的算法性能指标（如准确率、召回率、PPL、Rouge等）。 模型NPU适配度验证评估：评估待适配模型是否有不支持算子，评估该模型训练框架、依赖库的软件版本范围和约束。 模型算子开发：待适配模型算子开发及算子优化。 模型预训练适配（预训练）。 模型微调训练适配（全量微调）。 模型微调训练适配（lora微调）。 模型在线推理适配：适配模型在线推理代码、模板开发及验证。 模型极致调优：从训练框架、数据前后处理，算子亲和性等方面提升模型的MFU、TPS、训练精度等关键指标。 训练平台侧功能支持：训练平台侧运行脚本、log日志功能支持。 模型适配交付物提供：提供模型适配的开发代码、镜像、模型及技术文档。 客户交付过程中故障排查以及技术支持 基础环境运行故障定位、问题排查及支撑解决。 训练框架运行故障定位、问题排查及支撑解决。 模型训练中断问题定位、排查及支撑解决。 模型训练精度问题及支撑解决。 模型训练效率问题及支撑解决。 模型在线推理问题及支撑解决。 训练数据处理问题及支撑解决。 平台侧训练问题及支撑解决。 模型训练性能极致调优服务支撑：模型训练效率如MFU、TPS等指标的深度分析及极致优化。 模型训练算法效果服务支撑。 模型运行版本、训练配置差异化验证服务支撑。

训推服务为您提供优质的服务体验,本文带您了解平台产品优势。 简单易用 开通后无需额外的配置或调试，3步操作实现零代码多机多卡微调，减少安装组件、下载模型和数据的重复操作。 功能全面 集成多种加速及并行技术，满足模型训练推理业务需求。支持断点续训、优雅容错等管理功能。 性能优异 万卡算力集群纳管，训推综合性能提升30%。相对于裸机运行，稳定运行时长提升50%。 生态开放 引入20+生态大模型、闭源模型和电信大模型。专业团队开发模型及算子库，助力客户完成昇腾迁移适配。 全流程开发工具 提供训练数据管理、模型开发（代码式开发工具、预置大模型、预置开发环境）、模型训练、模型精调、模型管理、模型评估、服务部署到模型服务调用的全链路功能。集成分布式训练调度技术、多种训练加速方法和高性能存储，支撑大模型训练，并极大降低训练和应用模型成本、缩短训练时长。 兼顾各类用户需求 面向需要开发复杂模型的用户，提供完整的代码式开发工具、预置大模型、预置开发环境等，满足用户的各种复杂模型开发需求。面向希望能快速、便捷建模的用户，则充分利用大模型微调训练的特点，提供快速微调工具，只需选择数据、配置参数即可完成大模型微调，降低大模型训练的使用门槛。

3.8飞书机器人接入验证 配置好飞书机器人的AppID 与 AppSecret后，在已接入通道列表确保您的飞书通道已完成添加。 可在飞书中与已对接 OpenClaw 的机器人单独发起对话。若机器人能正常以 AI 形式回复，即表示 OpenClaw 已成功接入飞书机器人。 以电脑版飞书软件为例（手机端飞书的操作类似），登录飞书后，在飞书搜索栏中搜索机器人应用名称。 在搜索框中输入前面步骤中创建的飞书机器人的应用名称，输入回车进行搜索。 与该机器人进行对话，若机器人能正常以 AI 形式回复，即表示 OpenClaw 已成功接入飞书机器人。 4.OpenClaw快速接入钉钉配置 4.1登录钉钉开放平台 进入钉钉开发者平台官网，使用具有管理员权限的账号登录平台。 4.2创建钉钉应用 在钉钉开发者平台进入应用开发钉钉应用管理页面，点击创建应用，填写“应用名称”和“应用描述”，完成应用创建。

多层级资源管理指的是在训推平台内,可以通过工作空间能力+账号权限体系,匹配客户自身组织层级结构,实现多层级资源管理,进行AI作业。通过对客户组织层级的调研,客户使用训推平台大致有如下几种组织层级,请各客户根据自身实际情况来进行多层级资源管理。 一、 扁平化组织 扁平化组织是以各个AI项目为核心，直接由管理员进行工作空间创建，资源配额创建，然后让具体项目成员加入工作空间进行AI作业。其对应关系如下图： 管理员：对应客户内部负责管理该训推业务的负责人，将其账号赋予“admin”用户组(即管理员角色)，其将拥有平台全部权限(参见《准备工作章节》)。训推平台引入了“工作空间”概念，即使用训推平台进行AI作业时，需要在工作空间内进行，在空间内，项目所有成员之间,数据、资源共享，各个空间之间数据和资源是互相隔离的。故需要由管理员为各个需要使用训推平台的项目创建其对应的工作空间和资源配额，管理员可以设置项目负责人为此工作空间的管理员，项目负责人(工作空间管理员)可以将项目其他成员添加进工作空间，并赋予其工作空间内的角色(如算法开发、运维角色)，若管理员未给工作空间添加资源配额，则项目负责人(工作空间管理员)可以自己为工作空间添加资源配额(只有为工作空间添加资源配额后，工作空间成员在进行AI作业时才能正常使用资源)，此时工作空间成员可以基于工作空间关联的资源配额进行AI作业，如模型开发、模型训练，推理部署等。工作空间的创建、工作空间成员的添加、以及为工作空间添加资源配额详见《工作空间章节》，资源配额的创建详见《资源配额章节》。

前置条件 1. 使用前，您的租户账号需在天翼云存储控制台开通并创建相应的存储 ，详见++对象存储快速入门++、++并行文件服务快速入门++。 2. 已在本平台完成相关产品的委托授权。 操作说明 基础数据集统一走挂载模式，需要您提前在存储的管理面完成数据导入、记录路径等前置操作，您在本平台只需填写已有存储的路径，平台将在任务中自动挂载该路径。基础数据集的存储方式包括普通存储、智算存储与其他存储： 普通存储（ZOS）： 账号自有存储：指租户在天翼云官网同资源池下开通的对象存储，用于数据长期存储和备份，完成委托授权后您可在本平台直接使用。 平台共享存储：本平台赠予您体验的存储，默认集群额度为 300G，是所有用户共享的存储，您的用量受限且不支持扩容，超出用量后需自行前往对象存储购买自有存储。平台后续将逐渐废弃此类存储，建议您直接使用自有存储。 智算存储（HPFS）： 账号自有存储：指租户在天翼云官网同资源池下开通的HPFS存储，常用于大模型的开发和训练等数据密集性的高性能计算场景，完成委托授权后您可在本平台直接使用。如需使用开发机和训练任务功能，请提前将数据、模型、代码导入智算存储中。训练时需要与文件存储频繁交互，请确保存储状态可用且充足。 平台共享存储：您在本平台开通的共享存储，默认集群额度为 512 G，是所有用户共享的存储，您的用量受限且不支持扩容，超出用量后需自行前往HPFS购买自有存储。平台后续将逐渐废弃此类存储，建议您直接使用自有存储。 其他存储：天翼云的集群分为两类：天翼云自建集群、与合作伙伴共营的其他集群，其中，自建集群对应自有存储，其他集群对应其他存储。其他存储便是指其他集群中对应配置的存储。该存储与集群强相关，您在开通相应的集群后平台会自动打通与存储的关联，不需要进行委托授权步骤。 上述可使用的存储类型都与集群强相关，例如集群A支持自有ZOS、自有HPFS，集群B支持自有其他存储，您不能在集群B下使用自有ZOS。您可切换顶部集群查看该集群支持的存储类型，也可事先联系您的客户经理了解集群的存储类型支持情况。

本章节主要介绍数据治理中心 DataArts Studio主要应用场景。 云上数据平台快速搭建 快速将线下数据迁移上云，将数据集成到云上大数据服务中，并在DataArts Studio的界面中就可以进行快速的数据开发工作，让企业数据体系的建设变得如此简单。 优势 数据集成一键式操作 通过在服务界面配置化操作，可实现线上线下数据快速集成到云数据仓库。 支持多种数仓服务类型 根据需求，可以灵活选择数据服务类型，可以选择DWS服务建数仓，也可以选择MRS服务等数据平台。 安全稳定、降低成本 一站式的服务能力和稳定的数仓服务，让云上数据万无一失；免自建大数据集群、免运维，极大降低企业建设数仓成本。 详见下图：云上数据平台

物理机服务广泛应用于多种场景,本文带您更快了解物理机服务经典应用场景。 高安全性和监管要求 国防、银行、金融机构以及具有高度合规性要求的行业，如医疗和保险，对于数据安全和监管合规性有严格的要求。天翼云物理机提供了物理隔离和独享资源的能力，通过采用物理机部署、网络隔离和专线接入等方式，确保数据的安全性和隐私保护，满足这些行业的高要求。 关键业务核心数据库 企业核心业务的关键数据库，如客户关系管理（CRM）、企业资源计划（ERP）和大型交易系统等，通常对性能、可靠性和数据安全有较高的要求。天翼云物理机提供了专属的计算资源和本地存储，保证高负载和复杂查询的需求，并确保数据的隔离和可靠性，为企业提供稳定可靠的关键业务支持。 大数据分析 互联网、电商、社交媒体等行业需要处理海量数据并进行实时分析。天翼云物理机提供高带宽、大容量的存储和计算资源，满足大规模数据处理、分布式计算和实时分析的需求，助力企业做出准确决策和优化业务运营，挖掘数据中的价值。 容器场景 电商平台、游戏等业务弹性要求较高、性能要求更高的场景，可采用物理机部署容器的方案。相比在云主机中容器，物理机中部署容器提供更高的部署密度、更低的资源开销和更加敏捷的部署效率。基于云原生技术，帮助客户实现降低云化成本的目标，满足业务快速发展和高性能要求。

训推服务广泛应用于多种场景,本文带您更快了解训推服务经典应用场景。 模型训练 向下纳管智算硬件资源，提供技术运维及训练加速。向上通过模型开发平台提供大模型训练全链路功能，简化操作，提升效率。封装训练所需的底层技术，缩小训练者所需掌握的技术范围，降低大模型开发技术门槛。 主要用户包括各基础大模型厂商，各种拥有行业和场景专业知识与数据的行业客户，如科研院所、大专院校和教育机构、政府、金融机构、工业企业、科技单位、医院等。 模型推理 向下纳管智算硬件资源，提供技术运维服务及推理加速。向上通过模型服务平台提供部署好的模型服务，并集成丰富配套工具，提供模型推理一站式部署服务。 主要用户包括各种软件开发商，特别是行业软件开发商，以及科研院所、大专院校和教育机构、政府、金融机构、工业企业、科技单位、医院等行业客户。 算力运营 智算平台可部署在客户的智算资源上，对算力资源进行统一管理、统一调度，赋能客户算力运营能力，帮助客户通过算力运营和销售取得收益。 主要客户包括各种算力运营商，如各行业大型企业集团、政府旗下的基建投资公司等。