Dify介绍 Dify 是一站式大模型应用开发平台。它能便捷接入各类数据并管理，支持模型微调与多模型调用。通过可视化界面和低代码工具，用户无需深厚技术背景，就能快速搭建如聊天机器人、智能客服等应用。可用于客户服务、内容创作等场景，具有降低开发门槛、提升效率、灵活可扩展等优势，助力企业高效落地大模型应用。 前置说明 1. 该文档为应用托管控制台通过应用市场体验Dify+DeepSeekR1模型搭建私有知识库的说明，通过应用托管控制台，打开应用市场，创建对应的Dify应用，使用 Dify构建本地知识库。 2. 本产品中的模型由第三方主体提供，尽管云公司已尽最大努力进行识别和维护，但仍无法保证模型的可用性。请客户按照该产品的服务协议使用该产品，做好甄别工作，并对自行选择的服务承担相应责任。 使用前准备 1. 天翼云账号注册：使用应用托管平台须具备天翼云官网账号。已有天翼云账号的直接登录即可，如无天翼云账号需先注册，注册流程可参考：注册账号。 2. 使用前提：如需使用服务请先完成实名认证，请参考账号中心实名认证。如需使用按需服务，请确认账号余额≥100 元。

本小节介绍日志审计(原生版)产品定义。 产品介绍 日志审计（原生版）（LAS Log Audit Service）通过实时不间断采集设备、主机、操作系统、数据库以及应用系统产生的海量日志信息，进行集中化存储，为您提供安全存储、检索、审计、告警、报表等能力，帮助您满足等保合规要求。 产品功能 天翼云日志审计（原生版）系统具备资产管理、日志检索、日志审计、多维报表等功能。 资产集中管理：提供集中化的统一管理平台，将所有的日志信息收集到平台中，进行信息资产的统一日志管理。 高速日志检索：基于海量数据的高速检索能力，可以实现多重条件组合的快速检索和精确定位。 实时日志审计报警：对归并处理的日志进行实时动态分析，及时发现网络非法访问、数据违规操作、系统进程异常、设备故障等高危安全事件通过邮件、短信等方式进行报警。 丰富多维日志报表：丰富合规报表预设，支持全方位自定义报表导出，实现数据库系统、数据库服务器、网络设备的多维立体审计。 产品架构 天翼云日志审计（原生版）系统产品架构包含数据采集层、处理层、存储层、引擎层、业务层、可视化。 采集层：提供开放式的信息采集接口，实现对用户环境内各类IT资产以及所采用的各厂商安全产品或安全系统进行主动或被动的日志采集。 处理层：实现对采集到的数据做统一规范化，对数据进行关键信息提取，标签化分类，过滤，归并等数据ETL操作，为后续的数据分析做准备。 存储层：实现海量安全大数据的分布式存储，提供结构化数据和非结构化数据的存储能力，并为上层的数据分析应用提供高效的数据库功能支撑。 引擎层：综合数据处理分析的能力提供层，提供由大数据技术和架构支撑的快速检索和数据关联发掘功能。是支撑上层数据呈现和分析结果输出的计算引擎层，提供丰富的大数据统计、关联分析、数据挖掘以及态势分析能力，是系统的分析处理的核心。该层提供了基础数据处理引擎，包括流式计算引擎、复杂事件处理引擎、全文检索引擎、关联分析引擎等。 业务层：实现用户基于平台的标准化数据，依托平台报表工具，日志检索工具，分析引擎，实现用户自身业务相关的安全管理以及数据分析，监控，处置，保障业务的安全稳定。 可视化：实现对平台的数据处理，数据分析，报表分析，处置结果等通过图表可视化的方式呈现。

AR眼镜连接IOS客户端 1.AR眼镜设备手机； 2.开启3D模式，可使用以下两种方式开启： 眼镜先开启3D模式 1. 通过按眼镜上的模拟切换按键使眼镜进入3D模式（不同设备开启方法见各产品说明）； 2. 进入桌面后手机会自动识别； 3. 确认后进入开启状态。 手机先开启3D模式 1. 手机上运行云电脑客户端，选择开启3D模式AR眼镜模式（开启方式见“3D模式入口”）； 2. 通过按眼镜上的模式切换按键使眼镜进入3D模式，不同设备开启3D模式方式见各产品说明。 注意 1.请先完成上方AR眼镜设备手机和开启3D模式两个步骤，再点击开启按钮（未完成将导致画面显示异常）； 2.关闭3D模式时，需同时在云电脑和AR眼镜上操作。 3.开启成功，操控设备。连接设备后手机变成触控模式，可对屏幕进行操作。 AR眼镜连接PC客户端 1.AR眼镜连接PC设备； 2.PC上运行云电脑客户端，并在工具栏上选择3D模式AR眼镜选择； 3.通过按眼镜上的模块切换按键使眼镜进入3D模式，不同设备开启3D模式方法请见各产品说明。 说明 Windows笔记本和Mac普遍支持，瘦终端部分不支持。 若Mac上显示分辨率较小，需在本地系统－显示设置－选择较大的分辨率（如3840x1080），Windows支持自动调整分辨率。 镜像模拟是指电脑屏幕和AR眼镜显示相同内容。如果插入眼镜后显示的是拓展屏（电脑和眼镜显示不同内容），请在本地系统－屏幕（显示器）设置中修改为“镜像”或“复制”模式。 PC端开启3D模式后，桌面会以双屏形态。

本文向您介绍训推智算服务平台操作类常见问题。 平台已预置的模型有哪些？ 进入模型服务模块，选择在线服务，点击【预置服务】，可以看到平台预置的模型，平台预置了多款等基础大模型，包括通义千问、Llama、ChatGLM 等系列，可以直接使用。不同的基础模型的参数和能力不同，我们将持续推出不同能力方向的模型。 平台提供的开发工具有哪些？ JupyterLab和Visual Studio Code (VSCode)。 GPU模型脚本如何迁移到昇腾NPU上？ 新建脚本train.py，写入以下原GPU脚本代码。 添加以下库代码。 plaintext import time import torch ...... import torchnpu from torchnpu.npu import amp 导入AMP模块 from torchnpu.contrib import transfertonpu 使能自动迁移 IDE无法打开图片或预览MD文件，该怎么办？ 无法在IDE打开图片或预览MD文件，这是由于浏览器设置问题，需要开启Chrome浏览器 的 unsafelytreatinsecureoriginassecure 功能。 进入Chrome Flag管理界面配置： chrome://flags/ unsafelytreatinsecureoriginassecure。 训推智算服务平台预置的镜像有哪些？ 进入智算资产模块，选择我的镜像，点击【系统内置镜像】，可以看到平台内置的镜像，包括PyTorch、TensorFlow等。 如果在自定义镜像列表看不到容器镜像服务分享过来的镜像，怎么办？ 请进行以下检查： 容器镜像服务所选区域与平台是不是同资源池。 截止时间是不是大于等于当前时间，超出截止时间后共享失效。 共享镜像状态是不是启用。

功能类别 功能项 客户端版 Web控制台 说明 实例管理 云上数据库管理 ✅ ✅ 两者均支持 本地数据库管理 ✅ ❌ 客户端独有，可直接连接本地数据库 开发空间 SQL查询编辑 ✅ ✅ 两者均支持 数据导入导出 ✅ ✅ 两者均支持 结构/数据对比 ✅ ✅ 客户端独有 可视化编辑 ✅ ✅ 两者均支持 安全协作 团队与成员管理 ✅ ✅ 两者均支持 SQL审计 ✅ ✅ 两者均支持 操作审计 ✅ ✅ 两者均支持 AI智能 DMS助手（问答/生成/纠错） ✅ ✅ 两者均支持 SQL智能补全 ✅ ✅ 两者均支持 自定义大模型 ✅ ❌ 客户端独有，可接入私有模型 生态对接 dmscli命令行 ✅ ❌ 客户端独有 dms skill接口 ✅ ❌ 客户端独有 使用体验 离线可用 ✅ ❌ 客户端可离线使用部分功能 低延迟响应 ✅ ❌ 本地客户端响应更快 无需浏览器 ✅ ❌ 独立应用，不依赖浏览器

功能类别 功能项 客户端版 Web控制台 说明 实例管理 云上数据库管理 ✅ ✅ 两者均支持 本地数据库管理 ✅ ❌ 客户端独有，可直接连接本地数据库 开发空间 SQL查询编辑 ✅ ✅ 两者均支持 数据导入导出 ✅ ✅ 两者均支持 结构/数据对比 ✅ ✅ 客户端独有 可视化编辑 ✅ ✅ 两者均支持 安全协作 团队与成员管理 ✅ ✅ 两者均支持 SQL审计 ✅ ✅ 两者均支持 操作审计 ✅ ✅ 两者均支持 AI智能 DMS助手（问答/生成/纠错） ✅ ✅ 两者均支持 SQL智能补全 ✅ ✅ 两者均支持 自定义大模型 ✅ ❌ 客户端独有，可接入私有模型 生态对接 dmscli命令行 ✅ ❌ 客户端独有 dms skill接口 ✅ ❌ 客户端独有 使用体验 离线可用 ✅ ❌ 客户端可离线使用部分功能 低延迟响应 ✅ ❌ 本地客户端响应更快 无需浏览器 ✅ ❌ 独立应用，不依赖浏览器

参数 说明 策略名称 只能包含如下字符：大小写字母、中文、数字、空格和特殊字符（.,）。 作用范围 选择全局级服务，OBS为全局服务。 配置策略方式 选择可视化视图。 策略内容 1. “允许”选择“允许”。 2. “云服务”选择“对象存储服务(OBS)”。 3. “操作”勾选所有“写”、“列表”和“只读”权限。 4. “特定资源”选择： a. “object”选择“通过资源路径指定”，并单击“添加资源路径”分别输入路径obsbucketname /tmp/和 obsbucketname /tmp/ 。此处以 /tmp目录为例，如需其他目录权限请参考该步骤添加对应目录及该目录下所有对象的资源路径。 b. “bucket”选择“通过资源路径指定”，并单击“添加资源路径”输入路径 obsbucketname。 5. （可选）请求条件，暂不添加。 策略描述 可选，对策略的描述。

本章节主要对数据湖探索的作业类型、约束限制进行简单介绍。 DLI 作业类型 DLI 提供了三种作业类型： SQL作业：SQL作业为用户提供标准的SQL，兼容Spark SQL、Presto SQL（基于Presto），通过可视化界面API、JDBC、ODBC、Beeline等多种接入方式对云上异构数据源进行查询分析，兼容CSV、JSON、Parquet、Carbon、ORC等主流数据格式。 Flink作业：Flink作业是运行在公有云上的实时流式大数据分析服务作业，全托管的方式用户无需感知计算集群，只需聚焦于Stream SQL业务，即时执行作业，完全兼容Apache Flink API。 Spark作业：Spark作业可为用户提供全托管式的Spark计算服务。用户可通过可视化界面和RESTful API提交作业，支持提交Spark Core、DataSet、Streaming、MLlib、GraphX等Spark全栈作业。 约束限制 DLI配置SparkUI只展示最新的100条作业信息。 控制台界面查询结果最多显示1000条作业结果数据，如果需要查看更多或者全量数据，则可以通过该功能将数据导出到OBS获取。 导出作业运行日志需要具有OBS桶的权限，请提前在“全局配置 > 工程配置”页面配置DLI作业桶。 default队列下运行的作业或者该作业为同步作业时不支持归档日志操作。 仅Spark作业支持使用自定义镜像。 当前弹性资源池最大的计算资源 32000CUs。

功能类别 功能项 客户端版 Web控制台 说明 实例管理 云上数据库管理 ✅ ✅ 两者均支持 本地数据库管理 ✅ ❌ 客户端独有，可直接连接本地数据库 开发空间 SQL查询编辑 ✅ ✅ 两者均支持 数据导入导出 ✅ ✅ 两者均支持 结构/数据对比 ✅ ✅ 客户端独有 可视化编辑 ✅ ✅ 两者均支持 安全协作 团队与成员管理 ✅ ✅ 两者均支持 SQL审计 ✅ ✅ 两者均支持 操作审计 ✅ ✅ 两者均支持 AI智能 DMS助手（问答/生成/纠错） ✅ ✅ 两者均支持 SQL智能补全 ✅ ✅ 两者均支持 自定义大模型 ✅ ❌ 客户端独有，可接入私有模型 生态对接 dmscli命令行 ✅ ❌ 客户端独有 dms skill接口 ✅ ❌ 客户端独有 使用体验 离线可用 ✅ ❌ 客户端可离线使用部分功能 低延迟响应 ✅ ❌ 本地客户端响应更快 无需浏览器 ✅ ❌ 独立应用，不依赖浏览器

本文带您了解AI Store的功能特性。 弹性调度异构算力资源 提供多样化的AI算力资源，覆盖通用计算、智能计算、超级计算，支持按需分配、弹性伸缩和智能调度，赋能多场景业务创新。 通过场景化的方式购买算力，根据计费方式、资源池、算力规格进行选购，快速锁定目标。 标准化的模型服务能力 高效、标准化的API接口，支持高并发在线推理，保障企业级应用稳定运行。 模型服务丰富，包括DeepSeek、Qwen等市场主流大模型，提供高性能的模型调用服务。 价格具备市场竞争力，支持按Token、Token包等多种服务计费模式，提供极致性价比。 丰富的应用资源 聚合精选应用，覆盖政务、教育、医疗等行业，从智能体开发平台、知识库到大数据可视化。 既可满足“小而美”的个性化尝鲜，也能支撑“大而全”的企业级深度定制。 便捷的部署及服务流程 提供真正的"即开即用"体验，只需完成注册和购买流程，系统自动完成服务开通和配置，无需等待复杂的部署过程。 提供7×24健康巡检与客服值守，后续版本升级、补丁修复由平台负责。客户只需专注业务创新，无需为运维分心。

本章节主要介绍如何使用函数流实现流式大文件处理。 背景与价值 Serverless Workflow由于自身可编排、有状态、持久化、可视化监控、异常处理、云服务集成等特性，适用于很多应用场景，比如： 复杂度高需要抽象的业务（订单管理，CRM 等） 业务需要自动中断 / 恢复能力，如多个任务之间需要人工干预的场景（人工审批，部署流水线等） 业务需要手动中断 / 恢复（数据备份 / 恢复等） 需要详细监控任务执行状态的场景 流式处理（日志分析，图片 / 视频处理等）当前大部分 Serverless Workflow 平台更多关注控制流程的编排，忽视了工作流中数据流的编排和高效传输，上述场景创建函数流触发器中，由于数据流相对简单，所以各大平台支持都比较好，但是对于文件转码等存在超大数据流的场景，当前各大平台没有给出很好的解决方案。FunctionGraph函数工作流针对该场景，提出了 Serverless Streaming 的流式处理方案，支持毫秒级响应文件处理。 技术原理 FunctionGraph函数工作流提出 Serverless Streaming 的流式可编排的文件处理解决方案，步骤与步骤之间通过数据流驱动，更易于用户理解。本章通过图片处理的例子解释该方案的实现机制。 如果需要驱动一个工作流执行，工作流系统需要处理两个部分： 控制流：控制工作流的步骤间流转，以及步骤对应的 Serverless 函数的执行。确保步骤与步骤之间有序执行。 数据流：控制整个工作流的数据流转，通常来说上一个步骤的输出是下一个步骤的输入，比如上述图片处理工作流中，图片压缩的结果是打水印步骤的输入数据。 在普通的服务编排中，由于需要精准控制各个服务的执行顺序，所以控制流是工作流的核心部分。然而在文件处理等流式处理场景中，对控制流的要求并不高，以上述图片处理场景举例，可以对大图片进行分块处理，图片压缩和加水印的任务不需要严格的先后顺序，图片压缩处理完一个分块可以直接流转到下一个步骤，而不需要等待图片压缩把所有分块处理完再开始加水印的任务。 基于上述理解，FunctionGraph工作流的 Serverless Streaming 方案架构设计如下图所示： 在 Serverless Streaming 的流程中，弱化控制流中步骤之间的先后执行顺序，允许异步同时执行，步骤与步骤之间的交互通过数据流驱动。其中数据流的控制通过 Stream Bridge 组件来实现。同时函数 SDK 增加流式数据返回接口，用户不需要将整个文件内容返回，而是通过 gRPC Stream 的方式将数据写入到 Stream Bridge，Stream Bridge 用来分发数据流到下一个步骤的函数 Pod 中。

本章节主要介绍翼MapReduce服务在不同场景下的应用。 大数据在人们的生活中无处不在，在IoT、电子商务、金融、制造、医疗、能源和政府部门等行业均可以使用云MRS服务进行大数据处理。 海量数据分析场景 海量数据分析是现代大数据系统中的主要场景。通常企业会包含多种数据源，接入后需要对数据进行ETL（ExtractTransformLoad）处理形成模型化数据，以便提供给各个业务模块进行分析梳理，这类业务通常有以下特点： 对执行实时性要求不高，作业执行时间在数十分钟到小时级别。 数据量巨大。 数据来源和格式多种多样。 数据处理通常由多个任务构成，对资源需要进行详细规划。 例如在环保行业中，可以将天气数据存储在OBS，定期转储到HDFS中进行批量分析，在1小时内MRS可以完成10TB的天气数据分析。 详见下图：环保行业海量数据分析场景 该场景下MRS的优势如下所示。 低成本：利用OBS实现低成本存储。 海量数据分析：利用Hive实现TB/PB级的数据分析。 可视化的导入导出工具：通过可视化导入导出工具Loader，将数据导出到DWS，完成BI分析。 海量数据存储场景 用户拥有大量结构化数据后，通常需要提供基于索引的准实时查询能力，如车联网场景下，根据汽车编号查询汽车维护信息，存储时，汽车信息会基于汽车编号进行索引，以实现该场景下的秒级响应。通常这类数据量比较庞大，用户可能保存1至3年的数据。 例如在车联网行业，某车企将数据储存在HBase中，以支持PB级别的数据存储和毫秒级的数据详单查询。 详见下图：车联网行业海量数据存储场景 该场景下MRS的优势如下所示。 实时：利用Kafka实现海量汽车的消息实时接入。 海量数据存储：利用HBase实现海量数据存储，并实现毫秒级数据查询。 分布式数据查询：利用Spark实现海量数据的分析查询。 实时数据处理 实时数据处理通常用于异常检测、欺诈识别、基于规则告警、业务流程监控等场景，在数据输入系统的过程中，对数据进行处理。 例如在梯联网行业，智能电梯的数据，实时传入到MRS的流式集群中进行实时告警。 详见下图：梯联网行业低时延流式处理场景 该场景下MRS的优势如下所示。 实时数据采集：利用Flume实现实时数据采集，并提供丰富的采集和存储连接方式。 海量的数据源接入：利用Kafka实现万级别的电梯数据的实时接入。

概念 说明 云资源池 云资源池是指中国电信采用虚拟化技术将计算、存储、网络等IT基础资源虚拟化成相应的逻辑资源池。 公有云 公有云是指云资源池被公众用户通过订阅使用云资源服务，云资源服务可以包括计算、存储、网络、应用程序和服务。 AI云电脑管理平台 提供整套AI云电脑管理平台软件，包含虚拟化、存储管理等组件，具备AI云电脑的开通、管理、监控、运维等能力。 电脑实例 可提供给用户电脑服务的最小单位，一台电脑实例包括vCPU、内存、电脑操作系统和系统盘等基础计算组件。 资源包 AI云电脑所需资源的总和，包括AI云电脑计算包、存储资源包和网络资源包。 单实例订购 直接选定AI云电脑规格并订购开通AI云电脑实例的一种AI云电脑订购方式。以单实例方式订购AI云电脑后，如有数据盘及上网带宽需求，数据盘及带宽服务需单独订购。 资源包订购 先订购资源包，再开通AI云电脑实例、数据盘及上网带宽的一种AI云电脑订购方式。资源包开通后，企业管理员可对AI云电脑、数据盘及上网带宽进行自助管理。 计算包 可供用户开通AI云电脑（vCPU、内存和系统盘）的资源总和。订购AI云电脑计算包后，企业管理员可自助开通、删除及管理AI云电脑，可开通的最大AI云电脑总数为用户订购计算包大小。 存储包 可供用户开通AI云电脑的数据盘的资源总和。订购存储包后，企业管理员可自助为AI云电脑添加数据盘、扩容数据盘，可开通的最大数据盘总容量为用户订购存储包容量大小。 网络包 可供用户开通AI云电脑上网带宽的资源总和。订购网络包后，企业管理员可自助开通、删除及配置带宽，可开通的最大上网带宽总和为用户订购网络包带宽大小。 AI云电脑升级/降级 升级/降级已购买的AI云电脑，如从2核4G内存升级至4核8G内存。 续订 延长AI云电脑及数据盘的订购可使用时间。 数据盘扩容 增加AI云电脑的已购数据盘容量，如从100GB扩容至2000GB。 管理员 管理员即为租户，具有对资源池下的资源进行订购、分配的权限。也可对租户下的用户进行创建、删除、分配桌面等操作。 用户 AI云电脑终端用户，AI云电脑（政企版）管理台支持两种创建用户方式： 管理员激活：输入用户账号和密码，即可生成用户账号。 邮件通知激活：输入用户通知邮箱和用户账号。账号信息会发送至用户通知邮箱，用户完成账号认证，即可使用该账号。 桌面池 桌面池是一批桌面集合，管理员提对桌面池桌面进行统一管理和运维。桌面池包含池化桌面、并发桌面两种类型。 池化桌面：可以创建一定数量的AI云电脑，与桌面池关联的用户通过先到先得的排队方式使用桌面池中的电脑资源。池化桌面数量和用户数量最高支持 1:3 配比，若池化桌面已使用完，用户需排队等待。 并发桌面：开通多个桌面，每个桌面只属于单个用户。根据并发桌面比例或数量进行相应的资源扣减。但每个桌面只属于单个用户，每次最多可在线使用的桌面数量占总并发桌面数量的一定比例。 基础策略 基础策略是为桌面配置的一组关于USB重定向、文件重定向读写权限、剪切板读写权限、水印、客户端自动重连间隔、画面显示等的安全规则集合，用于控制用户终端与AI云电脑之间的数据传输和外设接入权限。 移动终端 移动终端是指在移动设备上安装AI云电脑的客户端，使用户能通过该设备接入AI云电脑，该移动设备即称为移动终端。目前AI云电脑（政企版）支持移动终端包含了：iOS手机、iPad、安卓手机、安卓pad。 电脑终端 电脑终端是指在PC设备上安装AI云电脑的客户端，使用户能通过该设备接入AI云电脑，该PC设备即称电脑终端。目前AI云电脑（政企版）支持电脑终端包含了：Windows、Mac、Ubuntu瘦终端、安卓瘦终端、国产化终端。 触屏式 用户通过手指触碰显示屏，就能实现对移动端的AI云电脑进行操作。 鼠标式 用户通过在显示屏上移动鼠标指针，实现对移动端的AI云电脑进行操作。 虚拟键盘 可以在移动端的AI云电脑内进行文字输入、表格修改等其他操作的键盘。 组合键 将普通键盘的常用快捷键，以按钮的形式展现在移动端的AI云电脑内进行操作。

跨云平台迁移 场景说明 当用户存在多云战略需求时，需要将部分或全部资源迁移到天翼云。 场景痛点 迁移操作时可能面临数据丢失、数据不一致等风险，还需要解决不同类型资源的迁移问题，不同云厂商之间可能存在软件和服务不兼容的问题，这些问题都可能导致应用程序无法正常运行。 产品优势 云迁移服务CMS实现将源平台的架构平行迁移至目标平台。通过可视化界面一键迁移，降低了迁移难度，有效解决服务器、数据库、对象存储迁移中的各种难点。 最大程度支持服务器、数据库、对象存储应用调用第三方服务接口的切换。 针对市面主流的云计算厂商跨云迁移，具有良好的的兼容性。 场景架构 搭配使用产品 弹性云主机 对象存储 弹性IP 传统企业上云 场景说明 随着本地业务运行810年后，大部分企业或者政府机构会将这部分设备进行退网处理，同时随着设备退网，企业原有的服务器、数据库以及对象存储等资源也面临上云迁移的需求。 场景痛点 迁移过程中面临业务无法长时间中断、数据量大、业务情况复杂、人员更迭等因素导致应用重部署难度高甚至无法实现等情况。

五、 三种测评工具对比 1. 核心功能对比 vLLM Benchmark 专注于LLM推理引擎性能评测，支持OpenAI接口兼容的框架（如Qwen系列模型） 内置TTFT（首Token延迟）、TPOT（后续Token时延）、吞吐量等核心指标 支持长上下文压力测试（如LongAlpaca12k数据集） EvalScope 大模型多维度评估框架，覆盖性能测试（Perf）、效果评测（Accuracy）和合规性检测 提供标准化测试集（如MMLU、CMMLU）和自定义数据集扩展能力，支持多种测评场景 集成生产级压力测试功能，支持并发请求模拟与实时监控（通过Wandb可视化） LLMPerf 开源基准测试工具，专攻API级性能评估（延迟、吞吐量、请求成功率） 支持正确性验证（如数字格式转换准确性测试） 2. 性能指标侧重 工具 核心指标 测试场景差异 vLLM Benchmark 首Token延迟（TTFT）、Token吞吐量、显存占用率 重推理引擎的硬件资源利用率，常用于GPU云主机环境下的引擎选型 EvalScope 综合吞吐量、QPS、端到端延迟、多模态任务准确率 适配生产环境压力测试，支持API服务与本地模型的混合评测 LLMPerf Token间延迟、首Token延迟（TTFT）、请求吞吐量、错误率 强调高并发模拟能力（如10+并发请求），适合API服务的SLA验证 3.

本文为您展示升腾环境下模型训练的最佳实践。 概述 本指南旨在为用户提供一套全面、高效的模型训练最佳实践，涵盖从环境登录到多机分布式训练的全过程。通过系统化的步骤指引，用户可以快速熟悉并掌握在平台上进行模型训练的操作流程，充分利用平台的强大工具，完成大模型的高效训练任务。无论是单机训练还是多机分布式训练，本指南均提供了详细的操作步骤与注意事项，帮助用户快速上手并解决可能遇到的问题。 前置条件 执行本文操作之前， 请完成以下准备工作： 注册天翼云账号，并完成实名认证。 确保天翼云账户余额大于100元。 说明 为了方便演示，本文中涉及资源开通的情形，均默认选择按量付费模式。 平台体验：++ 环境介绍：本次使用昇腾910B环境进行操作 CPU： 鲲鹏920 448192 内存：1536GB NPU: 昇腾910B 8 主机（风冷机）：Atlas 800A2 训练准备 开发机 在进行大规模模型训练之前，确保所有的开发环境、模型代码、依赖库、权重文件以及数据集都已准备妥当是至关重要的一步。通过平台提供的开发机工具，您可以轻松实现可视化的IDE操作，简化训练环境的搭建与管理。

本文为您展示升腾环境下模型训练的最佳实践。 概述 本指南旨在为用户提供一套全面、高效的模型训练最佳实践，涵盖从环境登录到多机分布式训练的全过程。通过系统化的步骤指引，用户可以快速熟悉并掌握在平台上进行模型训练的操作流程，充分利用平台的强大工具，完成大模型的高效训练任务。无论是单机训练还是多机分布式训练，本指南均提供了详细的操作步骤与注意事项，帮助用户快速上手并解决可能遇到的问题。 前置条件 执行本文操作之前， 请完成以下准备工作： 注册天翼云账号，并完成实名认证。 确保天翼云账户余额大于100元。 说明 为了方便演示，本文中涉及资源开通的情形，均默认选择按量付费模式。 平台体验：< 环境介绍：本次使用昇腾910B环境进行操作 CPU： 鲲鹏920 448192 内存：1536GB NPU: 昇腾910B 8 主机（风冷机）：Atlas 800A2 训练准备 开发机 在进行大规模模型训练之前，确保所有的开发环境、模型代码、依赖库、权重文件以及数据集都已准备妥当是至关重要的一步。通过平台提供的开发机工具，您可以轻松实现可视化的IDE操作，简化训练环境的搭建与管理。

适用场景 行业应用、热门应用等一站式部署和使用 ，为用户提供“资源平台服务组件工具”全流程支持，涵盖基础资源、开发平台、模型服务、MCP Server、中间件及工具集，助力用户高效开发智能体并显著提升效率。 产品优势 开箱即用：提供应用一键部署的功能，极大简化应用的安装和配置过程，应用提供公网访问能力，轻松上手。 多样的应用资源：汇聚不同类型的应用，覆盖多种用途和行业需求。快速满足业务需求。 专家咨询服务： 使用工作流或者智能体开发工具的过程中提供专业建议、快速响应与问题处理，进一步提升使用效率。 企业应用构建、部署、发布和运维 适用场景 在企业IT管理下，应用托管替代虚拟机/裸金属/k8s等基础设施，满足企业数字化云原生转型需求，构建企业智能应用。 产品优势 低门槛应用全生命周期管理：无需掌握K8s底层技术，通过可视化界面可完成应用部署、升级、扩容等全流程操作，提供丰富工具，非专业人员快速上手管理应用。 高效部署与智能运维能力：支持高可用、负载均衡与资源扩缩，同时提供公网访问、可观测等能力，可同时管理百套应用。 优化运维成本：少量运维人员即可管理大量应用系统，降低人力成本，同时避免操作底层资源，提升运维稳定性与效率。 应用托管+云资源全栈业务场景解决方案

本节主要介绍产品定义。 GeminiDB Influx接口是一款基于计算存储分离架构，兼容InfluxDB生态的云原生NoSQL时序数据库。在云计算平台高性能、高可用、高可靠、高安全、可弹性伸缩的基础上，提供了一键部署、快速备份恢复、计算存储独立扩容、监控告警等服务能力。广泛应用于资源监控、业务监控分析、物联网设备实时监控、工业生产监控、生产质量评估和故障回溯等。提供大并发的时序数据读写，压缩存储和类SQL查询，并且支持多维聚合计算和数据可视化分析能力。 GeminiDB Influx接口具有高写入、灵活弹性、高压缩率和高查询的特点。 高写入性能 数据按“时间Range + 时间线Hash”两层打散，分布式并行写入,且最高每天处理万亿级时间点写入。 灵活弹性 计算独立按需扩展、扩容不迁移数据，分钟级完成集群节点扩缩容。 高压缩率 列式存储布局和专用压缩算法，相比开源版本压缩率可以提升5~10倍左右。 高查询性能 多节点多线程并行查询，可高效处理高并发大数据量分析任务。 典型应用 IoT传感器时序数据分析 物联网应用，规模和可靠性至关重要。GeminiDB Influx接口提供了高吞吐量和并发性，您可以通过快速的响应时间来支持大量的连接。因此非常适合要求苛刻的物联网应用。 优势 ： 超强写入：小批量写入场景性能为开源版本InfluxDB的4.5倍，大批量写入场景性能为开源版本InfluxDB的3.3倍。 弹性扩展：基于计算存储分离的分布式架构，分钟级计算节点扩容，应对业务高峰期。

本文为您介绍如何通过Kibana向天翼云云搜索服务Elasticsearch实例导入数据。 Kibana 提供的Dev Tools控制台允许直接在浏览器中通过REST API向Elasticsearch发出查询和数据操作请求。 Kibana可视化界面提供了简单的数据导入功能，适用于小规模数据的手动导入场景，特别是在测试和快速验证场景中非常实用。 适用场景 快速测试与调试：适用于开发阶段测试查询语句、创建索引、插入和更新数据等操作。 简单数据管理：如果只是少量数据操作，如插入、更新、删除数据或查看结果，Kibana提供了方便的Web界面操作。 无需编程环境：不需要安装额外的客户端工具，只要能访问Kibana即可操作Elasticsearch。 前提条件 已经开通天翼云云搜索Elasticsearch实例。 查看Kibana的终端可以访问到云搜索实例，设置好5601端口的网络安全策略。 实际操作 点击Kibana输入用户名登录后，进入首页。 右上角可以点击开发工具进入开发工具界面。 如果没有索引，可以创建一个测试索引名为testindex： plaintext PUT /testindex { "mappings": { "properties": { "mytest": { "type": "text" } } } } 执行创建索引操作会返回如下信息： plaintext { "acknowledged" : true, "shardsacknowledged" : true, "index" : "testindex" } 如果有索引可以使用已有的索引。 往索引中写入数据，以上面创建的索引为例。 1. 写入单条数据，可以使用下面命令写入一条id为1的数据： plaintext POST /testindex/doc/1 { "mytest": "xiaoming" } 执行上面的命令，返回下面的结果即导入数据成功。 plaintext { "index" : "testindex", "type" : "doc", "id" : "1", "version" : 1, "result" : "created", "shards" : { "total" : 2, "successful" : 2, "failed" : 0 }, "seqno" : 0, "primaryterm" : 1 } 2. 批量写数据，可以使用下面命令写入一批数据： plaintext POST /testindex/bulk {"index":{"id": 1}} {"mytest": "xiaoming"} {"index":{"id": 2}} {"mytest": "xiaohong"} {"index":{"id": 3}} {"mytest": "xiaoli"} {"index":{"id": 4}} {"mytest": "xiaozhang"} {"index":{"id": 5}} {"mytest": "xiaowang"} 执行上面的命令，返回下面的结果即导入数据成功。 plaintext { "took" : 10, "errors" : false, "items" : [ { "index" : { "index" : "testindex", "type" : "doc", "id" : "1", "version" : 1, "result" : "created", "shards" : { "total" : 2, "successful" : 2, "failed" : 0 }, "seqno" : 0, "primaryterm" : 1, "status" : 201 } }, .... { "index" : { "index" : "testindex", "type" : "doc", "id" : "5", "version" : 1, "result" : "created", "shards" : { "total" : 2, "successful" : 2, "failed" : 0 }, "seqno" : 4, "primaryterm" : 1, "status" : 201 } } ] }

使用须知 删除操作无法恢复，请谨慎选择。 操作步骤 1、登录管理控制台。 2、单击管理控制台右上角的，选择区域和项目。 3、单击页面左上角的，选择“数据库 > 数据管理服务”，进入数据管理服务页面。 4、在左侧导航栏中，单击“开发工具”，进入开发工具页面。 5、选择需要登录的目标数据库实例，单击操作列表中的“登录”，登录目标数据库实例。 6、在顶部导航栏选择“库管理”， 7、在页面右上方“当前所在库”右侧单击“切换库”，切换目标数据库。 8、在对象列表页签下选择“触发器”，单击页面操作栏的“删除触发器”。 9、在删除触发器提示框中单击“是”。 查看触发器详情 触发器详情展示了创建当前触发器的SQL内容。 操作步骤 1、登录管理控制台。 2、单击管理控制台右上角的，选择区域和项目。 3、单击页面左上角的，选择“数据库 > 数据管理服务”，进入数据管理服务页面。 4、在左侧导航栏中，单击“开发工具”，进入开发工具页面。 5、选择需要登录的目标数据库实例，单击操作列表中的“登录”，登录目标数据库实例。 6、在顶部导航栏选择“库管理”， 7、在页面右上方“当前所在库”右侧单击“切换库”，切换目标数据库。 8、在对象列表页签中选择“触发器”。 9、在触发器列表右侧操作栏中单击“查看触发器详情”。 10、在查看触发器详情弹框中，您可以查看创建触发器的SQL内容。

四、大模型备案补贴 为推动人工智能（AI）行业规范化发展，鼓励企业主动落实合规备案要求，全国多个重点AI产业集聚区已陆续出台针对性备案补贴政策。相关政策需要查看当地官方网站公布的AI大模型备案政策。 五、常见问题 1. 大模型备案和登记有什么区别？ 大模型登记适用于通过API接口或其他方式直接调用已备案大模型能力，且面向中国境内公众提供具有舆论属性或社会动员能力的生成式人工智能服务的企业。登记流程相对简化，企业需向属地网信部门提交登记申请及相关材料，经审核通过后授予上线编号并公示。 2. 算法备案、大模型备案、大模型登记三者有何联系？ 3. 为什么要做大模型备案？ 大模型备案侧重于事前风险管控，确保AI大模型在正式投入市场前已满足国家安全标准及合规要求，有效预防潜在危害，如误导用户或传播非法信息，从而构建安全可靠的人工智能生态。 4. 哪些企业要做大模型备案？ 向中国境内公众提供具有舆论属性或社会动员能力的生成文本、图片、音频、视频等内容服务的模型，都需要做大模型备案。

四、大模型备案补贴 为推动人工智能（AI）行业规范化发展，鼓励企业主动落实合规备案要求，全国多个重点AI产业集聚区已陆续出台针对性备案补贴政策。相关政策需要查看当地官方网站公布的AI大模型备案政策。 五、常见问题 1. 大模型备案和登记有什么区别？ 大模型登记适用于通过API接口或其他方式直接调用已备案大模型能力，且面向中国境内公众提供具有舆论属性或社会动员能力的生成式人工智能服务的企业。登记流程相对简化，企业需向属地网信部门提交登记申请及相关材料，经审核通过后授予上线编号并公示。 2. 算法备案、大模型备案、大模型登记三者有何联系？ 3. 为什么要做大模型备案？ 大模型备案侧重于事前风险管控，确保AI大模型在正式投入市场前已满足国家安全标准及合规要求，有效预防潜在危害，如误导用户或传播非法信息，从而构建安全可靠的人工智能生态。 4. 哪些企业要做大模型备案？ 向中国境内公众提供具有舆论属性或社会动员能力的生成文本、图片、音频、视频等内容服务的模型，都需要做大模型备案。

开发环境 JavaScript SDK 需浏览器支持基本的 HTML5 特性（支持 IE10 以上浏览器）。 登录访问管理控制台 ，获取您的项目 accessKey 和 secretKey。 配置存储桶的 CORS 规则，AllowHeader 需配成， 根据项目的需要设置AllowedMethods、AllowedOrigins、ExposeHeaders、MaxAgeSeconds等。 从 Eclipse官网 下载并安装Eclipse IDE for JavaScript and Web Developer，或者任何您喜欢的js开发工具。 安装SDK 方式一 直接通过在线的方式加载托管的开发工具包SDK。使用 标签元素添加到您的 HTML 页面： javascript