本章节主要介绍数据治理中心DataArts Studio产品的优势。 一站式数据运营平台 贯穿数据全流程的一站式治理运营平台，提供全域数据集成、标准规范设计、连接并萃取数据价值、全流程数据质量监控、统一数据资产管理、数据开发服务等，帮助企业构建完整的数据中台解决方案。 丰富的数据开发类型 支持多人在线协作开发，脚本开发可支持SQL、Shell在线编辑、实时查询；作业开发可支持CDM、SQL、MR、Shell、MLS、Spark等多种数据处理节点，提供丰富的调度配置策略与海量的作业调度能力。 统一调度和运维 全面托管的调度，支持按时间、事件触发的任务触发机制，支持分钟、小时、天、周和月等多种调度周期。 可视化的任务运维中心，监控所有任务的运行，支持配置各类报警通知，便于责任人实时获取任务的情况，保证业务正常运行。

更快速的启动时间 传统的虚拟机技术启动应用服务往往需要数分钟，而Docker容器应用，由于直接运行于宿主内核，无需启动完整的操作系统，因此可以做到秒级、甚至毫秒级的启动时间。大大的节约了开发、测试、部署的时间。 一致的运行环境 开发过程中一个常见的问题是环境一致性问题。由于开发环境、测试环境、生产环境不一致，导致有些bug并未在开发过程中被发现。而Docker的镜像提供了除内核外完整的运行时环境，确保了应用运行环境一致性。 持续交付和部署 对开发和运维（DevOps）人员来说，最希望的就是一次创建或配置，可以在任意地方正常运行。 使用Docker可以通过定制应用镜像来实现持续集成、持续交付、部署。开发人员可以通过Dockerfile来进行镜像构建，并结合持续集成（Continuous Integration）系统进行集成测试，而运维人员则可以直接在生产环境中快速部署该镜像，甚至结合持续部署（Continuous Delivery/Deployment） 系统进行自动部署。 而且使用Dockerfile使镜像构建透明化，不仅开发团队可以理解应用运行环境，也方便运维团队理解应用运行所需条件，帮助更好的生产环境中部署该镜像。 更轻松的迁移 由于Docker确保了执行环境的一致性，使得应用的迁移更加容易。Docker可以在很多平台上运行，无论是物理机、虚拟机，甚至是笔记本，其运行结果是一致的。因此用户可以很轻易地将在一个平台上运行的应用，迁移到另一个平台上，而不用担心运行环境的变化导致应用无法正常运行的情况。

本节介绍如何创建VSCode开发机。 创建VSCode开发机 在智算套件控制台页面选择“AI应用开发”，单击“创建Notebook”。 由于开发机会单独创建eip用于暴露服务，因此在创建时会出现 “此功能会自动帮您创建弹性IP和弹性负载均衡用于服务暴露，因此会产生一定的费用。” 的提示，确认需要启用后点击“确定”。 配置基本信息 选择开发机类型，支持JupyterLab和VSCode类型的开发机，选择对应的命名空间、描述等信息。 选择开发机框架，平台内置了公共的VSCode框架。 配置工作空间 “工作空间目录配置” 默认打开，数据集挂载第一条默认为工作空间目录的配置，且只能选择私有数据集（私有数据集具有读写权限，公共数据集为只读权限）进行配置，平台会将此工作空间数据集映射到容器的/home/jovyan目录，后续使用过程中用户工作空间的持久化数据将保存到该数据集内。 “工作空间目录配置”可选择关闭，关闭后如果该开发机容器故障用户工作空间内的数据将会丢失，请谨慎选择。 数据集支持多条配置，需要确保多条不同数据集的挂载路径不会重叠、重复。

本文为您展示升腾环境下模型训练的最佳实践。 概述 本指南旨在为用户提供一套全面、高效的模型训练最佳实践，涵盖从环境登录到多机分布式训练的全过程。通过系统化的步骤指引，用户可以快速熟悉并掌握在平台上进行模型训练的操作流程，充分利用平台的强大工具，完成大模型的高效训练任务。无论是单机训练还是多机分布式训练，本指南均提供了详细的操作步骤与注意事项，帮助用户快速上手并解决可能遇到的问题。 前置条件 执行本文操作之前， 请完成以下准备工作： 注册天翼云账号，并完成实名认证。 确保天翼云账户余额大于100元。 说明 为了方便演示，本文中涉及资源开通的情形，均默认选择按量付费模式。 平台体验：++ 环境介绍：本次使用昇腾910B环境进行操作 CPU： 鲲鹏920 448192 内存：1536GB NPU: 昇腾910B 8 主机（风冷机）：Atlas 800A2 训练准备 开发机 在进行大规模模型训练之前，确保所有的开发环境、模型代码、依赖库、权重文件以及数据集都已准备妥当是至关重要的一步。通过平台提供的开发机工具，您可以轻松实现可视化的IDE操作，简化训练环境的搭建与管理。

本文为您展示升腾环境下模型训练的最佳实践。 概述 本指南旨在为用户提供一套全面、高效的模型训练最佳实践，涵盖从环境登录到多机分布式训练的全过程。通过系统化的步骤指引，用户可以快速熟悉并掌握在平台上进行模型训练的操作流程，充分利用平台的强大工具，完成大模型的高效训练任务。无论是单机训练还是多机分布式训练，本指南均提供了详细的操作步骤与注意事项，帮助用户快速上手并解决可能遇到的问题。 前置条件 执行本文操作之前， 请完成以下准备工作： 注册天翼云账号，并完成实名认证。 确保天翼云账户余额大于100元。 说明 为了方便演示，本文中涉及资源开通的情形，均默认选择按量付费模式。 平台体验：< 环境介绍：本次使用昇腾910B环境进行操作 CPU： 鲲鹏920 448192 内存：1536GB NPU: 昇腾910B 8 主机（风冷机）：Atlas 800A2 训练准备 开发机 在进行大规模模型训练之前，确保所有的开发环境、模型代码、依赖库、权重文件以及数据集都已准备妥当是至关重要的一步。通过平台提供的开发机工具，您可以轻松实现可视化的IDE操作，简化训练环境的搭建与管理。

本节介绍如何创建JupyterLab开发机。 创建JupyterLab开发机 在智算套件控制台页面选择“AI应用开发”，单击“创建Notebook”。 由于开发机会单独创建EIP用于暴露服务，因此在创建时会出现 “此功能会自动帮您创建弹性IP和弹性负载均衡用于服务暴露，因此会产生一定的费用。” 的提示，确认需要启用后点击“确定”。 配置基本信息 选择开发机类型，支持JupyterLab和VSCode类型的开发机，并选择需要创建的命名空间、填写描述信息等。 选择开发机框架，平台内置了多个公共的JupyterLab框架，其中有包含PyTorch、TensorFlow的CUDA镜像可供选择。 配置工作空间 “工作空间目录配置” 默认打开，数据集挂载第一条默认为工作空间目录的配置，且只能选择私有数据集（私有数据集具有读写权限，公共数据集为只读权限）进行配置，平台会将此工作空间数据集映射到容器的/home/jovyan目录，后续使用过程中用户工作空间的持久化数据将保存到该数据集内。 “工作空间目录配置”可选择关闭，关闭后如果该开发机容器故障用户工作空间内的数据将会丢失，请谨慎选择。 数据集支持多条配置，需要确保多条不同数据集的挂载路径不会重叠、重复。

支持在线镜像制作和镜像共享。 预置镜像 平台预置了一些常用镜像，可以在创建任务时直接使用 自定义镜像 平台允许通过开发机和使用天翼云容器镜像服务来制作镜像，具体步骤如下： 使用开发机制作镜像 1. 启动在线制作环境：进入模型定制模块，选择开发机，点击【JupyterLab】>【创建JupyterLab】或【VSCode】>【创建VSCode】，选择一个系统内置镜像，选择运行环境，提交后操作列点击启动 2. 镜像制作：等待启动成功，当创建的JupyterLab或VSCode的状态显示【运行中】后即可点击操作列【打开】，在开发环境中安装自己需要的软件和环境，退出，选中创建的JupyterLab或VSCode，操作列点【更多】>【制作镜像】，即可将容器中的操作环境打包成新的镜像，并出现在自定义镜像列表中，可参见开发机制作镜像模块内容 镜像共享 1. 登陆天翼云容器镜像服务，访问地址（ /dashboard），在【同资源池】下，按需创建【个人版】或【企业版】，进入实例详情创建属于您自己的命名空间和镜像仓库。 2. 有了镜像仓库后，根据实例详情访问凭证中的指引通过公网地址将您的镜像上传至仓库中。 3. 进入镜像共享，创建镜像共享，将您希望使用的镜像共享至一站式智算服务平台，共享目标用户填入【huijuprod】，共享后您就可以在一站式智算服务平台的自定义镜像中看到此镜像。 注意 1、如果您想在模型开发JupyterLab和VSCode中使用自定义镜像，需要将对应的软件安装包打包进您的自定义镜像中。 方法1：在docker file中具体执行命令：

智算一体机集成一站式智算服务平台，提供大模型训练、推理、应用等全栈AI工具链服务。包含数据管理、模型开发与训练、模型评估、模型管理、服务部署等模块。 序号 主要功能/性能 解决客户问题 1 数据集管理 实现创建数据集、导入数据、管理数据和数据标注功能，帮助用户操作管理数据。 2 模型开发与训练管理 & 模型精调 实现快速微调、模型开发管理、训练任务管理、开发环境管理功能。提供多种开发工具和开发环境，也支持用户上传开发环境。客户可根据自身情况，灵活选择模型开发方式，进行模型训练迭代。 3 模型管理 实现导入模型、管理模型、模型评估功能。帮助客户对模型进行版本管理，性能测评。 4 模型部署 实现模型服务的部署、管理和密钥的管理。解决客户在训练迭代大模型后，在线测试模型推理、上下文理解等性能。 5 模型广场 一站式智算服务平台支持多种主流开源大模型API调用，为客户提供在线试用体验。 6 模型服务 实现账户的模型服务开通、应用的模型服务权限管理，支持查看调用情况和告警信息。方便客户管理模型服务权限。 7 运营运维平台 实现用户运营、资源运营、监控调度、配额及权限设置功能。方便客户进行运营运维操作。 8 AI算力 解决AI应用中所需要的算力资源，包含昇腾、英伟达等多样算力。

对本地上传的代码包进行统一管理。 支持直接上传本地文件、本地压缩包。单次上传文件最多支持5个。 对于文件数量较多，建议使用压缩包上传。 上传完成后操作列点【在线编码】即可进入JupyterLab或VSCode进行编码。 说明 存储目录：/work目录可以被用作统一的文件管理，同时开发机中不同的实例或容器任务可以共享这个目录。 其中/work/mount目录是用于使用和挂载平台上的数据集模型、代码文件的，创建界面选择对应数据集和模型后，系统自动分配挂载路径，打开开发机即可看到这些路径，写代码直接读取这些路径即可读取数据和模型： a)存储时间:只在开发机运行中可使用，开发机关闭后mount目录会和容器取消挂载，也无法读取。 b)目录隔离:在不同开发机的目录内容是隔离的，每启动一个开发机都是自己的一套mount。 c)存储策略:mount 目录为挂载使用，用户在 mount 对应子目录下写入的代码或者拖入的文件会自动转存回原始数据集、代码包或者模型存储中。 【注意】: 自动转存的前提为文件或者文件夹写入到平台自动挂载的目录下，在/work/mount 目录下手动创建的目录(比如:/work/mount/abc)不会做自动转存，同时开发机销毁后自动清理。

本文介绍科研助手的产品特性。 开发环境 云原生的资源使用和开发工具链的集成，为不同类型的开发、探索、教学的科研用户，提供更好云化开发体验。 并行计算 平台一键下发并行计算任务，用户无需关心底层资源部署和配置，为高校科学计算提供了全新体验。 存储管理 支持对接多种类型存储源，兼容性强，提供了更灵活丰富的选择。 数据集管理 丰富的数据集来源，包括不限于本地数据集、网盘数据集和共享数据集，提供可视化交互操作。

子账号使用流程 前置条件 子账号为IAM普通用户角色且已登录到一站式智算平台 主账号使用流程 若子账号为IAM管理员角色，则其拥有全部操作权限，操作流程和主账号别无二致，故角色为IAM管理员的子账号使用流程参见主账号使用流程章节；角色为IAM普通用户的子账号，使用流程如下： 子账号的使用流程主要是为了进行任务作业，具体步骤如下： 流程 子任务 说明 详细指导 数据集准备与处理 创建基础数据集 可上传基础数据集到ZOS或HPFS 基础数据集 数据集准备与处理 创建标注数据集 创建标注数据集，可对数据集进行标注，并发布为新的数据集 标注数据集 数据集准备与处理 数据清洗 可以对数据 数据处理 镜像准备 预置镜像 预置镜像即平台预先设置的完整镜像，可直接用于创建任务时使用 预置镜像 镜像准备 自定义镜像 可以通过开发机自主制作镜像或通过天翼云容器镜像服务将镜像服务内的容器共享给一体化智算平台 自定义镜像 镜像准备 他人分享镜像 可将自己的镜像分享给他人使用 镜像分享 代码准备 导入代码包 将代码上传到平台 我的代码包 模型准备 导入模型 可将用户自己的模型或在平台训练、精调好的模型导入到平台进行版本管理、评估及部署 我的模型 AI作业 模型开发 可通过启动和管理在线JupyterLab或VSCode集成开发环境在线编程进行模型开发 开发机 AI作业 模型训练 创建自定义创建训练任务，支持单机和多机分布式训练 训练任务 AI作业 模型精调 零代码快速创建和管理精调任务，提供全参微调和lora微调两种精调方式。基于平台的基础大模型，选择训练数据集和算力即可快速启动精调任务。 模型精调 AI作业 模型评估 可对模型进行评估，自动评估打分，生成评估报告 模型评估 AI作业 模型压缩 不减少模型效果的前提下压缩模型大小，进而提升模型在推理调用时的性能 模型压缩 AI作业 模型部署 部署模型，提供推理服务 模型服务 AI作业 体验模型 可以对预置模型和自己部署的模型进行体验 体验中心 综合管理 工作空间管理 查看工作空间相关信息，若是工作空间的管理员可以进行相关操作 工作空间 综合管理 操作审计 对平台操作事件进行跟踪 操作审计

本文介绍科研助手的相关术语解释。 资源池 资源池是科研助手服务所需要使用的计算资源的集合，科研助手的资源池为用户提供了多个可用区和多种实例规格，用户可灵活切换使用。 实例 每个任务可以有一个或多个执行实例（Instance）。同一任务的各个实例并行处理各自的输入数据。实例是科研助手调度与执行的最小单元，这些实例会动态的运行在系统分配的节点上。 开发环境 开发环境是云原生的资源使用和开发工具链的集成，为不同类型开发、探索、教学用户，提供更好云化开发体验。 集群 集群是容器运行所需云资源的集合，包含了若干台服务器节点、虚拟私有云等云资源。 镜像 镜像是一个模板，用于打包应用程序及其依赖环境的标准格式。 存储源 科研助手平台支持将用户的文件存储/对象存储作为存储源接入，科研助手平台将存储的共享目录或者存储桶挂载到容器中。 数据集 科研助手通过数据集将文件系统中存在的某个目录或者对象存储中的bucket与容器内部的文件系统上的某一目录建立绑定关系。这就意味着，当我们在容器中的这个目录下写入数据时，容器会将其内容直接写入到存储源中。

微服务云应用平台用户使用指南.pdf 微服务云应用平台用户开发指南.pdf

本节描述了ECX的定义、边缘计算的定义、边缘计算的特点等。 ECX的定义 智能边缘云(Edge Cloud X, ECX)是将传统的云计算中心移向了网络边缘，以降低延迟、提升响应速度和性能，满足行业数字化中的敏捷连接、实时业务、应用智能等关键需求。 什么是边缘计算 在深入了解ECX前，您需要先了解什么是边缘计算。 边缘计算是一种分布式计算架构，它将数据处理、存储和服务功能移近数据产生的边缘位置，即接近数据源和用户的位置，而不是依赖中心化的数据中心或云计算平台。通过将计算移动到边缘设备，可以更快速地处理数据，并在本地存储和分析数据，从而减少对中心云计算数据中心的依赖。同时，边缘计算还可以提高安全性和隐私性，因为数据不需要传输到中心云上进行处理。 边缘计算的应用场景包括边缘推理、智慧园区、云游戏、内容分发网络CDN、视频监控、工业物联网等，其中智慧园区、视频监控、工业物联网可划属于2B业务，云游戏可划属于2C业务。边缘计算应用场景使用的关键能力主要包括：海量网络联接与管理、实时数据采集与处理、本地业务自治、 边云协同、图像识别与视频分析、AR/VR、游戏渲染与呈现，以及数据安全与隐私保护等。

本节介绍如何制作和使用开发机镜像。 平台提供通过控制台基于开发机制作镜像能力，可将当前开发机容器的文件系统（除挂载的数据集目录之外）及配置等打包推送到智算套件创建的私有镜像仓库。 定制开发机镜像 在开发机中安装软件包或者python库文件 保存开发机镜像 在 “AI应用开发” 列表中，在对应的开发机列表 “操作” 栏中点击 “保存镜像”，保存镜像的过程中会暂停当前的开发机容器。 填写保存的镜像名称和镜像版本等信息 查看镜像保存任务列表 等待任务成功后会将该镜像自动推送到容器镜像仓库。 使用开发机镜像 创建开发机私有框架，在 “AI应用管理>AI框架>私有框架>创建框架” 。 填写框架元数据信息，注意业务场景选择 “notebook”，框架类型选择 “JupyterLab”（如果是基于VSCode开发机保存的镜像则选择VSCode），以便在创建开发机时可以正确筛选到该私有框架，镜像选择保存开发机镜像时填写的镜像名。 创建开发机，选择创建好的私有框架

前置条件 1. 使用前，您的租户账号需在天翼云存储控制台开通并创建相应的存储 ，详见++对象存储快速入门++、++并行文件服务快速入门++。 2. 已在本平台完成相关产品的委托授权。 操作说明 基础数据集的存储方式包括普通存储和智算存储： 普通存储（ZOS）： 账号自有存储：指租户在天翼云官网同资源池下开通的对象存储，用于数据长期存储和备份，完成委托授权后您可在本平台直接使用。 平台共享存储：本平台赠予您体验的存储，默认集群额度为 300G，是所有用户共享的存储，您的用量受限且不支持扩容，超出用量后需自行前往对象存储购买自有存储。平台后续将逐渐废弃此类存储，建议您直接使用自有存储。 智算存储（HPFS）： 账号自有存储：指租户在天翼云官网同资源池下开通的HPFS存储，常用于大模型的开发和训练等数据密集性的高性能计算场景，完成委托授权后您可在本平台直接使用。如需使用开发机和训练任务功能，请提前将数据、模型、代码导入智算存储中。训练时需要与文件存储频繁交互，请确保存储状态可用且充足。 平台共享存储：本平台赠予您体验的存储，默认集群额度为 512 G，是所有用户共享的存储，您的用量受限且不支持扩容，超出用量后需自行前往HPFS购买自有存储。平台后续将逐渐废弃此类存储，建议您直接使用自有存储。

本章节主要介绍DataArts Studio的开发一个Hive SQL作业流程。 本章节介绍如何在数据开发模块上进行Hive SQL开发。 场景说明 数据开发模块作为一站式大数据开发平台，支持多种大数据工具的开发。Hive是基于Hadoop的一个数据仓库工具，可以将结构化的数据文件映射为一张数据库表，并提供简单的SQL查询功能；可以将SQL语句转换为MapReduce任务进行运行。 环境准备 已开通MapReduce服务MRS，并创建MRS集群，为Hive SQL提供运行环境。 MRS集群创建时，组件要包含Hive。 已开通数据集成CDM，并创建CDM集群，为数据开发模块提供数据开发模块与MRS通信的代理。 CDM集群创建时，需要注意：虚拟私有云、子网、安全组与MRS集群保持一致，确保网络互通。 建立Hive的数据连接 开发Hive SQL前，我们需要在“管理中心 > 数据连接”模块中建立一个到MRS Hive的连接，数据连接名称为“hive1009”。 关键参数说明： 集群名：已创建的MRS集群。 绑定Agent：已创建的CDM集群。 开发Hive SQL脚本 在“数据开发 > 脚本开发”模块中创建一个Hive SQL脚本，脚本名称为“hivesql”。在编辑器中输入SQL语句，通过SQL语句来实现业务需求。 开发脚本 关键说明： 上图中的脚本开发区为临时调试区，关闭脚本页签后，开发区的内容将丢失。您可以通过“提交”来保存并提交脚本版本。 数据连接：建立Hive的数据连接创建的连接。

本最佳实践文档旨在为用户提供一个全面、高效的多模态图文理解模型训练样例,涵盖从单机训练到多机分布式训练的全过程。 一、引言 本最佳实践文档旨在为用户提供一个全面、高效的多模态图文理解模型训练样例，涵盖从单机训练到多机分布式训练的全过程。通过系统化的步骤指引，用户可以快速熟悉并掌握在平台上进行多模态图文理解模型训练的操作流程，并高效完成训练任务。无论是单机训练还是多机分布式训练，本最佳实践文档均提供了详细的操作步骤与注意事项，帮助用户快速上手并解决可能遇到的问题。 二、训练准备 2.1 开发机 在进行大规模模型训练之前，确保所有的开发环境、模型代码、依赖库、权重文件以及数据集都已准备妥当是至关重要的一步。通过平台提供的模型开发工具，您可以使用vscode轻松实现可视化的IDE操作，简化训练环境的搭建与管理。 2.1.1 配置开发机 先创建开发机IDE任务，按照如下步骤展开操作： 2.1.2 打开IDE 提交任务后，点击“启动”按钮，任务状态将依次显示启动中>环境准备中>运行中（如果长时间（>1min）界面状态未更新, 可以手动刷新界面），当状态显示为运行中后，点击右侧操作栏“打开”按钮。

类型 微服务 普通应用 开发 每个微服务的体量相对较小，业界的two pizza团队和“2周即可全部重写全部代码”等都可以作为微服务划分的参考。 在开发时期，需注意服务接口的定义以与周边微服务进行配合，“基于契约”的开发方式是非常推荐的。 微服务开发，请参考“帮助中心 > 微服务云应用平台 > 开发指南 > 微服务开发指南 > 开发微服务应用”章节。 普通应用逻辑复杂、模块耦合、代码臃肿、修改难度大、版本迭代效率低下。 部署 微服务组成的应用系统通常比较复杂，在一次性部署的时候，需要进行编排部署。 微服务应用部署，请参考 部署组件 。 普通应用可能会比较大，构建和部署时间也相应地比较长，不利于频繁部署，阻碍持续交付。 在移动应用开发中，这个问题会显得尤为严重。 运维 在原来的指标监控、日志收集之外还非常强调治理。 其核心理念是在运行时期通过对线上系统的各种调整以达到系统整体健康度要求的效果。 应用运维，请参考 应用运维 。 普通应用线上问题修复周期长，任何一个线上问题修复都需要对整个应用系统进行全面升级。

微服务云应用平台MSAP是一个应用托管和微服务管理的云原生PaaS平台,集成了云容器引擎、微服务引擎、应用性能监控服务等云服务能力,提供微服务应用开发、部署、监控、运维和服务治理的一站式解决方案。支持SpringCloud,Dubbo等微服务框架,帮助企业应用快速上云。

本文介绍如何在科研助手启动开发机。 前提条件 开发机实例状态必须为“停止”才可以启动。 操作步骤 1. 登录科研助手管理控制台。 2. 在控制台左侧导航栏中，选择【开发机】。 3. 在开发机列表中定位到想要启动的开发机，点击【启动】。启动开发机确认界面如下图所示： 4. 启动开发机参数如下： 参数 说明 自动停止 自动停止开关，如果开启开关，开发机将在设定的时间后自动停止；如果关闭开关，开发机由用户手动停止。 自动停止时长 设置自动停止时长，单位小时。可用条件是开启自动停止开关。时长可选择1小时、2小时、4小时、6小时、自定义时长， 自定义时长数值应该为大于0的整数。最大值可设置999小时。 学术加速 开启学术加速后，可加速访问合法合规学术平台 启用SSH 支持通过SSH登录开发机，具体可参考SSH服务使用教程 对外端口 开启该功能，可将开发机的内网端口映射到公网。 启用Docker 开启后，可在开发机内使用 docker run 启动容器，以及 docker push/pull 推拉镜像。 如需启用Docker，开发机需挂载本地盘，Docker数据将存储在本地盘中。 启用 Docker 前需预先分配 GPU 卡和计算资源，被分配给 Docker 的 GPU 卡和计算资源将仅可在 Docker 环境内使用。 5. 设置好相关参数，点【确认】，启动开发机。启动之后开发机的状态由“停止”变成“运行中”，用户可以打开开发机实例。

本章节主要介绍数据治理中心的数据开发概述。 数据开发是一个一站式的大数据协同开发平台，提供全托管的大数据调度能力。它可管理多种大数据服务，极大降低用户使用大数据的门槛，帮助您快速构建大数据处理中心。 数据开发模块曾被称为数据湖工厂（Data Lake Factory，后简称DLF）服务，因此在本文中，“数据湖工厂”、“DLF”均可用于指代“数据开发”模块。 数据开发简介 使用数据开发模块，用户可进行数据管理、脚本开发、作业开发、作业调度、运维监控等操作，轻松完成整个数据的处理分析流程。 详见下图：数据开发模块架构 数据开发的主要功能 下表 数据开发的主要功能 支持的功能 说明 数据管理 支持管理DWS、DLI、MRS Hive等多种数据仓库。 支持可视化和DDL方式管理数据库表。 脚本开发 提供在线脚本编辑器，支持多人协作进行SQL、Shell、Python脚本在线代码开发和调测。 支持使用变量和函数。 作业开发 提供图形化设计器，支持拖拉拽方式快速构建数据处理工作流。 预设数据集成、SQL、Shell等多种任务类型，通过任务间依赖完成复杂数据分析处理。 支持导入和导出作业。 资源管理 支持统一管理在脚本开发和作业开发使用到的file、jar、archive类型的资源。 作业调度 支持单次调度、周期调度和事件驱动调度，周期调度支持分钟、小时、天、周、月多种调度周期。 运维监控 支持对作业进行运行、暂停、恢复、终止等多种操作。 支持查看作业和其内各任务节点的运行详情。 支持配置多种方式报警，作业和任务发生错误时可及时通知相关人，保证业务正常运行。

全面管理用户从开发、训练到评估完成的模型生命周期，该模块不仅提供模型文件的安全存储功能，还具备精细化的版本管理，确保每一阶段的模型变更都有迹可循。 新建模型及版本 1. 在我的模型菜单页面中，点击【新建模型】，输入模型名称、模型描述以及来源。支持2种来源： 1. 导入至平台存储：上传模式，您可以将本地文件上传至平台提供的共享ZOS空间内，该模式对模型文件有2GB的大小限制； 2. 自有存储挂载（推荐使用）：挂载模式，需要您在天翼云官网同资源池下开通自有存储并完成委托授权等前置操作。选择自有存储挂载模式后，可创建的模型大小不再受平台限制，您只需填写已有存储的路径，平台将在任务中自动挂载该路径。目前已支持自有ZOS、自有HPFS、自有其他存储类型，您可在创建版本时切换顶部集群查看该集群下支持的存储类型。其中， 1. 自有ZOS：是指您租户在天翼云官网同资源池下开通的对象存储，用于数据长期存储和备份，完成委托授权后您可在本平台直接使用； 2. 自有HPFS：指租户在天翼云官网同资源池下开通的HPFS存储，常用于大模型的开发和训练等数据密集性的高性能计算场景，完成委托授权后您可在本平台直接使用。训练时需要与文件存储频繁交互，请确保存储状态可用且充足； 3. 自有其他存储：天翼云的集群分为两类：天翼云自建集群、与合作伙伴共营的其他集群，自建集群对应自有存储，其他集群对应其他存储。其他存储便是指其他集群中对应配置的存储。该存储与集群强相关，您在开通相应的集群后平台会自动打通与存储的关联，不需要进行委托授权步骤。 2. 新建模型后，点击模型卡片，进入模型详情页，您可在此处创建版本，版本是具体可操作的对象。 1. 模型来源为导入至平台存储： 当前平台导入：支持从平台上运行完成的模型调优和训练任务中导入(分别参见模型精调和训练任务)、也可以从JupyterLab和VSCode的目录中导入(参见模型开发)。 本地上传：支持从本地电脑导入不超过2G的模型文件。 口令导入：支持输入训推智算服务平台其他账户分享的口令完成导入，参见[模型分享与导出章节](

本文介绍如何申请免费体验包。 注意 免费体验开发机使用须知： 免费体验包仅供试用，7天后开发机会自动关机，所产生的数据将被清空，请勿存放重要数据，请您知悉； 停机前请务必完成数据备份与镜像保存操作，避免数据丢失； 若需持续使用开发机服务，请通过平台创建「按需付费开发机」（免费体验实例不支持直接续期）。 操作步骤 1.在科研助手主页面中，点击【免费体验7天】，即可创建免费体验的开发机。 2.点击【开发机】可看到新创建的开发机，等待启动完成后，点击【打开】即可开始使用。 免费体验内容 免费体验规格：CPU:10核 内存:20GB GPU:gn3.m1.12gb1 免费体验镜像：pytorchjupyter:cuda11.1torch1.9.0multikernel 免费体验时长：7天 常见问题 1. 试用期限是多久？ 您可以享受7天的免费体验。 2. 试用期结束后如何收费？ 试用期结束后，开发机将自动关机并释放。 3. 使用的是什么镜像？ 默认提供的是多内核Jupyter WebIDE，免费7天的开发机支持更换镜像。

本节介绍天翼云息壤一体化智算服务平台的应用场景。 天翼云息壤一体化智算服务平台，根据不同应用场景可提供不同产品组合解决方案。 调度运营分散算力管理 场景1：拥有分散的多种算力，需建设统一纳管调度平台，高效利用资源。 场景2：拥有多余算力，希望纳入算力联盟，进行统一管理与运营，实现资源变现。 解决方案：息壤·公共算力服务+定制化开发+业务运营。 科研实训高阶智算服务 场景：适用于高校或科研机构等进行科学计算，广泛应用于科研教育、影视视频渲染、生物数据分析、高性能计算等领域。 解决方案1：基于公有云，快速使用息壤·科研助手，针对仿真、流体计算、材料化学、数学计算等科研场景，可灵活调度各类计算资源，并搭载常用科研软件，支持一键部署、开箱即用。 解决方案2：基于私有化，息壤·科研助手+算力网关，纳管智算设备基础上进行科研训练，搭载常用科研软件，开箱即用。 深度自研大模型训推 场景：用户有大模型训推需求，需调用算力资源和训推平台能力。 解决方案1：基于公有云，快速使用息壤·训推服务平台；或基于私有化，以息壤·科研助手+算力网关的搭配形式，纳管智算设备基础上以IDE开发的形式使用平台运行训练和推理任务，对用户的专业水准有一定要求。 解决方案2：基于公有云，息壤·模型推理服务平台，以低代码形式使用平台运行训练和推理任务，操作的专业门槛较低 。 解决方案3：息壤·智算一体机，低成本落地小型化训推一体化。

一站式智算服务平台为您提供优质的服务体验,本文带您了解平台产品优势。 全流程开发工具 提供训练数据管理、模型开发（代码式开发工具、预置大模型、预置开发环境）、模型训练、模型精调、模型管理、模型评估、服务部署到模型服务调用的全链路功能。集成分布式训练调度技术、多种训练加速方法和高性能存储，支撑大模型训练，并极大降低训练和应用模型成本、缩短训练时长。 兼顾各类用户需求 面向需要开发复杂模型的用户，提供完整的代码式开发工具、预置大模型、预置开发环境等，满足用户的各种复杂模型开发需求。面向希望能快速、便捷建模的用户，则充分利用大模型微调训练的特点，提供快速微调工具，只需选择数据、配置参数即可完成大模型微调，降低大模型训练的使用门槛。 部署快捷，适配广泛 集成分布式算力调度、模型并行推理和多种运算加速能力，提升模型推理性能，实现推理服务的快捷部署。同时，适配多种模型结构，灵活支持用户各类复杂推理应用需求。 集成多种AI框架 集成多种AI框架，包括国产AI框架，支持各种主流大模型。 安全可信 符合数据监管要求，不设置数据埋点，不收集存储用户的入参和出参数据，从根本上保证了用户的数据隐私安全。

混合云一体机推理基础版集成一站式云管理平台，提供大模型推理、应用等AI工具链服务。包含Agent开发、模型纳管、知识库挂载、监控等模块。 序号 主要功能 解决客户问题 1 Agent开发 支持用户创建智能问答。 2 知识库 支持用户挂在个人知识库，同时支持管理员创建企业知识库共享给不同的用户组，实现知识库的分权分域。 3 模型纳管 实现多模纳管、模型切换。 4 监控 实现对底层硬件资源的监控及Agent监控。

物理机服务广泛应用于多种场景,本文带您更快了解物理机服务经典应用场景。 高安全性和监管要求 国防、银行、金融机构以及具有高度合规性要求的行业，如医疗和保险，对于数据安全和监管合规性有严格的要求。天翼云物理机提供了物理隔离和独享资源的能力，通过采用物理机部署、网络隔离和专线接入等方式，确保数据的安全性和隐私保护，满足这些行业的高要求。 关键业务核心数据库 企业核心业务的关键数据库，如客户关系管理（CRM）、企业资源计划（ERP）和大型交易系统等，通常对性能、可靠性和数据安全有较高的要求。天翼云物理机提供了专属的计算资源和本地存储，保证高负载和复杂查询的需求，并确保数据的隔离和可靠性，为企业提供稳定可靠的关键业务支持。 大数据分析 互联网、电商、社交媒体等行业需要处理海量数据并进行实时分析。天翼云物理机提供高带宽、大容量的存储和计算资源，满足大规模数据处理、分布式计算和实时分析的需求，助力企业做出准确决策和优化业务运营，挖掘数据中的价值。 容器场景 电商平台、游戏等业务弹性要求较高、性能要求更高的场景，可采用物理机部署容器的方案。相比在云主机中容器，物理机中部署容器提供更高的部署密度、更低的资源开销和更加敏捷的部署效率。基于云原生技术，帮助客户实现降低云化成本的目标，满足业务快速发展和高性能要求。

本章主要介绍 步骤一：管理项目规划 需求管理服务提供简单高效的团队协作服务，包含多项目管理、敏捷迭代、任务管理等功能。 “凤凰商城”样例项目采用Scrum模式进行迭代开发，每个迭代周期为两周，前3个迭代已经完成凤凰商城版本的开发，当前正在进行迭代4的规划。 按照项目规划，迭代4要完成的功能为：限时打折管理、团购活动管理。 由于业务与市场的变化，临时新增一个紧急需求：门店网络查询功能，因此迭代4的规划中增加此功能的开发。 通过本章节，您将了解产品负责人Sarah与项目经理Maggie如何进行项目规划的管理，包括管理需求规划与迭代规划、跟踪项目进度。 管理需求规划 使用思维导图的形式管理项目需求规划，将工作项的层级结构“Epic>Feature>Story>Task”展示出来，各层级工作项类型代表的含义如下表所示。 工作项类型说明 工作项类型 说明 Epic 通常是公司重要战略举措，比如本样例项目中的“凤凰商城”，对于公司是一个与企业生存攸关的关键战略措施。 Feature 通常是对客户有价值的功能，可以通过使用特性满足客户的需求。比如凤凰商城中的“门店网络查询功能”，特性通常会通过多个迭代持续交付。 Story 通常是对一个功能进行用户场景细分，并且能在一个迭代内完成。 Task 通常是用户故事的细分，准备环境、准备测试用例等都可以是完成Story的细分任务。 由于“门店网络查询”功能是新增需求，因此产品负责人需要将此功能添加到思维导图中。 步骤 1 为新需求创建工作项。 由于门店网络查询功能是新增的需求，因此产品负责人Sarah要将它加入需求规划视图中。 1.进入“凤凰商城”项目，单击导航“工作”，在页面中选择“规划”页签。 2.单击，在下拉列表中选择“思维导图规划”。 在弹框中输入名称“需求规划”，单击“确定”，页面跳转至思维导图详情。 3.单击“添加Epic”，在弹框中勾选“凤凰商城”，单击“确定”。 4.新建Feature“门店网络”。 在Epic“凤凰商城”下方单击图标。 输入标题“门店网络”，回车保存。 新建Feature 5.按照同样的方式，为Feature“门店网络”添加Story“作为用户应该可以查询所有门店网络”。 步骤 2 编辑Story。 1. 单击Story“作为用户应该可以查询所有门店网络”，参照下表编辑Story信息。 Story配置 配置项 配置建议 描述信息 输入“作为用户，我想要查询所有门店，以便于挑选合适的门店获取服务”。 优先级 选择“高”。 重要程度 选择“关键”。 2.为了便于开发人员理解，在本地准备一个“门店网络列表”文件（本文档中为excel表，表格内容参照下表）。 门店网络列表 分店名称 分店地址 A分店 E机场1号航站楼出发层靠右直行123米右侧。 B分店 F区G路456号。 C分店 H区J街789号。 D分店 K区L大道K大楼西侧。 3.返回Story编辑页面，单击“点击添加附件或拖拽文件到此处上传”，选择“本地上传”，将列表文件上传至工作项中作为附件。 4.单击“保存”，完成Story详情的编辑。

功能类别 功能描述 模型适配前机器环境检查确认 硬件环境检查：服务器、存储、网络等硬件型号及环境检查。 软件环境检查（系统软件）：操作系统、HDK固件驱动、CANN版本、镜像等版本检查。 软件环境检查（模型训推软件）：训练推理框架、Python、运行库等版本检查。 NPU健康状态检查：NPU卡数、型号、显存容量及运行状态检查。 网络检查（功能）：网络连通性检查，设备防火墙检查。 网络检查（性能）：P2P、D2H、H2D、D2H带宽检查。 HCCL功能性能检查：单多机HCCL allreduce、allgather带宽检查。 Aicore、HBM压测：Aicore、HBM压测。 HPFS存储检查：HPFS存储空间，挂载路径检查。 镜像及容器检查：docker镜像及容器启动功能检查。 模型训练集群验证：验证集群环境下开源模型单多机训练功能性能，包括loss，TPS及MFU指标。 模型适配 适配模型GPU基准验证：待适配模型在GPU环境下的基准验证，收集loss曲线，计算MFU、TPS等模型指标，计算模型训练效果的算法性能指标（如准确率、召回率、PPL、Rouge等）。 模型NPU适配度验证评估：评估待适配模型是否有不支持算子，评估该模型训练框架、依赖库的软件版本范围和约束。 模型算子开发：待适配模型算子开发及算子优化。 模型预训练适配（预训练）。 模型微调训练适配（全量微调）。 模型微调训练适配（lora微调）。 模型在线推理适配：适配模型在线推理代码、模板开发及验证。 模型极致调优：从训练框架、数据前后处理，算子亲和性等方面提升模型的MFU、TPS、训练精度等关键指标。 训练平台侧功能支持：训练平台侧运行脚本、log日志功能支持。 模型适配交付物提供：提供模型适配的开发代码、镜像、模型及技术文档。 客户交付过程中故障排查以及技术支持 基础环境运行故障定位、问题排查及支撑解决。 训练框架运行故障定位、问题排查及支撑解决。 模型训练中断问题定位、排查及支撑解决。 模型训练精度问题及支撑解决。 模型训练效率问题及支撑解决。 模型在线推理问题及支撑解决。 训练数据处理问题及支撑解决。 平台侧训练问题及支撑解决。 模型训练性能极致调优服务支撑：模型训练效率如MFU、TPS等指标的深度分析及极致优化。 模型训练算法效果服务支撑。 模型运行版本、训练配置差异化验证服务支撑。

本最佳实践文档旨在为用户提供一个基于升腾通用推理镜像的自定义部署样例,流程涵盖代码包准备、模型准备、部署流程等关键维度。 一、引言 本文围绕昇腾通用推理镜像的自定义部署展开最佳实践梳理，旨在从代码包准备、模型准备、部署流程等关键维度，提供一套可复用的最佳实践。通过标准化的操作指南，帮助开发者快速掌握昇腾推理镜像的自定义部署方法。 二、模型准备 1.开发机完成推理代码开发和调试 开发机界面启动VSCode。 编写推理服务代码 推理服务代码要满足openai api接口规范，当前平台支持的接口能力请参考【训推服务平台】帮助手册【推理服务API】< IDE内启动推理服务准备验证 调用/验证推理服务接口 2. 保存代码包 在VSCode列表页面保存开发机中的代码到代码包。

息壤科研助手致力于打造一站式高性能科研服务云平台,操作简易, 安全高效。平台融合算力、智能、应用,打造"开发机算力+科研智能体"一体化方案,它能解决企业、高校及科研单位诸多痛点,如找算力难、自建成本高、算力分配与数据共享难,还有科研软件部署维护难题。科研助手预置90 多个科研应用,涵盖 20 多个学科领域,支撑科研任务、教学实训、生物信息、工业仿真、具身智能、自动驾驶等场景。平台接入多种计算资源,支持一键部署、按需计费,让用户开箱即用,助力科研工作高效开展 。