本最佳实践文档旨在为用户提供一个全面、高效的多模态图文理解模型训练样例,涵盖从单机训练到多机分布式训练的全过程。 一、引言 本最佳实践文档旨在为用户提供一个全面、高效的多模态图文理解模型训练样例，涵盖从单机训练到多机分布式训练的全过程。通过系统化的步骤指引，用户可以快速熟悉并掌握在平台上进行多模态图文理解模型训练的操作流程，并高效完成训练任务。无论是单机训练还是多机分布式训练，本最佳实践文档均提供了详细的操作步骤与注意事项，帮助用户快速上手并解决可能遇到的问题。 二、训练准备 2.1 开发机 在进行大规模模型训练之前，确保所有的开发环境、模型代码、依赖库、权重文件以及数据集都已准备妥当是至关重要的一步。通过平台提供的模型开发工具，您可以使用vscode轻松实现可视化的IDE操作，简化训练环境的搭建与管理。 2.1.1 配置开发机 先创建开发机IDE任务，按照如下步骤展开操作： 2.1.2 打开IDE 提交任务后，点击“启动”按钮，任务状态将依次显示启动中>环境准备中>运行中（如果长时间（>1min）界面状态未更新, 可以手动刷新界面），当状态显示为运行中后，点击右侧操作栏“打开”按钮。

本节主要介绍首页 概述 登录数据管理服务功能页面 1. 已获取权限并登录到数据管理服务控制台。 2. 在开发工具数据库登录列表页面，单击“登录”进入数据管理页面。 更多登录信息，详见登录数据库服务。 首页栏目介绍 功能界面说明 功能名称 说明 :: 顶部菜单栏 SQL操作 库管理 DBA智能运维服务 账号管理 账户信息及退出登录 显示当前账户信息及退出该数据库登录。 实例信息 显示当前数据库信息，如引擎标志、实例名称、版本类型等信息。 数据库列表 显示当前实例所创建的数据库列表信息，分为用户库、系统库两大类型。 支持通过数据库名称快速查找功能。 不支持新建数据库功能。 新建数据库 操作步骤 在首页数据库列表栏单击“新建数据库”。 新建数据库 在弹窗中填写数据库名、集合名（可选）。 填写数据库信息完成，单击“确定”。您可在数据库列表中查看新建的数据库。 删除数据库 操作步骤 在数据库列表操作栏单击“删除”。 删除数据库 在删除数据库确认弹窗中，单击“确定”，即可删除该数据库。 删除数据库确认窗口

本节主要介绍首页 概述 登录数据管理服务功能页面 1. 已获取权限并登录到数据管理服务控制台。 2. 在开发工具数据库登录列表页面，选择DDS实例后，单击“登录”进入数据管理页面。 首页栏目介绍 DDS管理首页 功能界面说明 功能名称 说明 :: 顶部菜单栏 命令操作、库管理、账号管理等功能模块的主要入口。 账户信息及退出登录 显示当前账户信息及退出该数据库登录。 实例信息 显示当前数据库信息，如引擎标志、实例名称、版本类型等信息。 数据库列表 显示当前实例所创建的数据库列表信息，分为用户库、系统库2大类型。 支持通过数据库名称快速查找功能。 支持新建数据库功能。 新建数据库 操作步骤 首页数据库列表栏单击“新建数据库”。 新建数据库 在弹窗中填写数据库名、集合名（可选）。 填写数据库信息完成，单击“确定”。您可在数据库列表中查看新建的数据库。 删除数据库 操作步骤 在数据库列表操作栏单击“删除”。 删除数据库 在删除数据库确认弹窗中，单击“确定”，即可删除该数据库。 删除数据库确认窗口

本章节主要介绍新增数据库登录 操作场景 用户通过创建数据库登录，进入可视化的数据管理操作页面。 此处以新增RDS实例为例。 新增RDS实例登录 1. 在数据管理服务DAS左侧导航栏，单击“开发工具”，进入开发工具数据库登录列表页面。 2. 单击“新增数据库登录”，打开新增数据库登录窗口。 3. 选择“数据库引擎”、“数据库来源”、目标实例，填写登录用户名、密码以及描述（非必填项）信息，开启定时采集、SQL执行记录功能。 您可根据需要选择“测试连接”（必选操作步骤）。如测试连接成功，将提示“连接成功”，您可继续新增操作。如测试连接失败，将提示连接失败原因，您需根据提示信息进行修改，以便新增数据库登录成功。 说明 新增数据库登录所需的登录用户名及密码为数据库的用户名和密码。 用户可通过修改登录信息或删除登录信息的方式清除密码。 建议您打开定时采集开关，若不开启，DAS只能实时的从数据库获取结构定义数据，将会影响数据库实时性能。 采集时间不支持自定义，启用“定时采集”后，系统会在UTC时间每天20:00点自动采集数据。如果您本地不是UTC时间，请根据本地时区转换成对应时间即可。即使未启用“定时采集”，您也可以根据需要随时单击“立即采集”采集数据。 建议您开启SQL执行历史记录，开启后，便于在“SQL操作>SQL执行记录”查看，并可再次执行，无需重复输入。 4. 设置完登录信息，单击“立即新增”。

本文带您了解什么是训推服务。 训推服务是大模型一站式、可视化、全流程AI开发训练平台，为用户提供AI建模的一站式解决方案。具备开箱即用、通用性强、大模型适用和安全可靠的优势。 功能模块 数据集管理：将训练模型所需要的各种数据，导入到数据集管理中，以便于更清晰、方便地管理训练数据，加快训练速度。支持数据集共享，在线标注等。 模型开发管理：使用多种方式设计模型和训练，启动训练任务并为训练任务分配算力资源。 训练任务管理：查看和管理启动的所有训练任务。从已完成的训练中，挑选满意的训练结果发布为模型。 模型管理和评估：导入和管理所有模型，对模型进行版本管理、导入导出、评估、分享。 模型压缩：在保证模型效果的前提下压缩模型大小，进而提升模型在推理调用时的性能。 线上服务管理：将模型部署为我的服务，供应用方调用。 功能特性 简化训练和部署的复杂流程 开箱即用，降低调优成本 平台化全流程管理

本节介绍了什么是DDoS高防（边缘云版）。 产品定义 DDoS 高防（边缘云版）是针对游戏、互联网及金融等业务遭受大流量 DDoS 攻击导致用户服务不可用的情况而推出的付费防护服务。该产品依托于丰富的边缘云清洗节点，采用自主研发的高性能负载均衡服务，可实现网络层、CC等应用层防护，保障客户在大规模流量攻击的同时业务稳定、安全运行。 产品架构 DDoS 高防（边缘云版）采用的是分布式架构，将防护能力赋能于更下沉的边缘节点，使用云原生为内核，结合智能调度，可以实现边缘就近清洗，动态扩容，可以满足业务突发、大规模流量攻击。 支持大规模流量清洗，清洗能力达到T级以上。 支持从网络层/传输层（L3/4）到应用层（L7）DDoS攻击的防护。 依托强大的自研防护集群优势，结合 AI 智能引擎持续优化防护策略、IP 画像、行为模式分析、Cookie 挑战等多维算法，实现大数据联动防护。 提供可视化管理界面，结合云原生、智能调度能力，实现资源动态扩容，满足三网防护需求。

本章介绍数据管理服务的整体产品架构。 数据管理服务DMS助力于企业数字化转型，为企业提供了高效、安全的数据管理解决方案。 先进的数据资产管理功能，帮助企业优化数据资源的组织、分类和检索。 可视化开发工具，为开发人员提供友好的数据操作界面，简化数据库的开发和管理过程。 重视数据的安全保护，通过团队隔离、用户与角色管理、操作审计等功能，确保数据的安全性。 下图为数据管理服务的整体产品架构图。 产品架构图 整个产品架构分为四层： 统一访问：通过统一的访问界面入口，用户无需在多个系统或客户端之间切换，可以轻松地访问和管理各种数据资源。这种统一的访问方式简化了操作流程，提高了管理效率，同时降低了学习成本和维护难度，有助于企业制定统一的安全策略、开发规范和变更流程。此外，DMS还提供Open API，方便第三方集成。 功能设计：DMS提供了丰富的产品功能，包括数据资产管理、可视化开发、SQL治理、数据安全协作、智能运维等，能够全方位地满足用户使用和管理数据库的需求。 数据库内核：DMS正在持续地丰富数据源生态，现已支持多种开源和商业数据库类型，更多数据源支持正在持续上线中。 来源/环境：DMS支持各种网络环境的数据库，包括天翼云、公网/直连数据库等，具备了多环境、多云的适配能力。

环境准备 1. 下载Demo包kafkaconfluentgodemo.zip。 2. 使用开发工具导入Demo。 配置修改 1. 如果是ssl连接，需要在控制台下载证书。并且解压压缩包得到ssl.client.truststore.jks，执行以下命令生成caRoot.pem文件。 keytool importkeystore srckeystore ssl.client.truststore.jks destkeystore caRoot.p12 deststoretype pkcs12 openssl pkcs12 in caRoot.p12 out caRoot.pem 2. 修改kafka.json文件。（security.protocol仅在ssl连接时需要配置） { "topic": "XXX", "topic2": "XXX", "group.id": "XXX", "bootstrap.servers" : "XXX:XX", "security.protocol" : "SSL" } 生产消息 发送以下命令发送消息。 go run modvendor producer/producer.go 生产消息示例代码如下： package main import ( "encoding/json" "fmt" "github.com/confluentinc/confluentkafkago/kafka" "log" "os" "path/filepath" "strconv" "time" ) const ( INT32MAX 2147483647 1000 ) type KafkaConfig struct { Topic string json:"topic" Topic2 string json:"topic2" GroupId string json:"group.id" BootstrapServers string json:"bootstrap.servers" SecurityProtocol string json:"security.protocol" SslCaLocation string json:"ssl.ca.location" } // config should be a pointer to structure, if not, panic func loadJsonConfig() KafkaConfig { workPath, err : os.Getwd() if err ! nil { panic(err) } configPath : filepath.Join(workPath, "conf") fullPath : filepath.Join(configPath, "kafka.json") file, err : os.Open(fullPath); if (err ! nil) { msg : fmt.Sprintf("Can not load config at %s. Error: %v", fullPath, err) panic(msg) } defer file.Close() decoder : json.NewDecoder(file) var config &KafkaConfig{} err decoder.Decode(config); if (err ! nil) { msg : fmt.Sprintf("Decode json fail for config file at %s. Error: %v", fullPath, err) panic(msg) } json.Marshal(config) return config } func doInitProducer(cfg KafkaConfig) kafka.Producer { fmt.Print("init kafka producer, it may take a few seconds to init the connectionn") //common arguments var kafkaconf &kafka.ConfigMap{ "api.version.request": "true", "message.max.bytes": 1000000, "linger.ms": 500, "sticky.partitioning.linger.ms" : 1000, "retries": INT32MAX, "retry.backoff.ms": 1000, "acks": "1"} kafkaconf.SetKey("bootstrap.servers", cfg.BootstrapServers) switch cfg.SecurityProtocol { case "PLAINTEXT" : kafkaconf.SetKey("security.protocol", "plaintext"); case "SSL": kafkaconf.SetKey("security.protocol", "ssl"); kafkaconf.SetKey("ssl.ca.location", "/XXX/caRoot.pem") case "SASLSSL": kafkaconf.SetKey("security.protocol", "saslssl"); kafkaconf.SetKey("ssl.ca.location", "/XXX/caRoot.pem"); kafkaconf.SetKey("sasl.username", cfg.SaslUsername); kafkaconf.SetKey("sasl.password", cfg.SaslPassword); kafkaconf.SetKey("sasl.mechanism", cfg.SaslMechanism); kafkaconf.SetKey("enable.ssl.certificate.verification", "false") case "SASLPLAINTEXT": kafkaconf.SetKey("security.protocol", "saslplaintext"); kafkaconf.SetKey("sasl.username", cfg.SaslUsername); kafkaconf.SetKey("sasl.password", cfg.SaslPassword); kafkaconf.SetKey("sasl.mechanism", cfg.SaslMechanism) default: panic(kafka.NewError(kafka.ErrUnknownProtocol, "unknown protocol", true)) } producer, err : kafka.NewProducer(kafkaconf) if err ! nil { panic(err) } fmt.Print("init kafka producer successn") return producer } func main() { // Choose the correct protocol cfg : loadJsonConfig(); producer : doInitProducer(cfg) defer producer.Close() // Delivery report handler for produced messages go func() { for e : range producer.Events() { switch ev : e.(type) { case kafka.Message: if ev.TopicPartition.Error ! nil { log.Printf("Failed to write access log entry:%v", ev.TopicPartition.Error) } else { log.Printf("Send OK topic:%v partition:%v offset:%v content:%sn", ev.TopicPartition.Topic, ev.TopicPartition.Partition, ev.TopicPartition.Offset, ev.Value) } } } }() // Produce messages to topic (asynchronously) i : 0 for { i i + 1 value : "this is a kafka message from confluent go " + strconv.Itoa(i) var msg kafka.Message nil if i % 2 0 { msg &kafka.Message{ TopicPartition: kafka.TopicPartition{Topic: &cfg.Topic2, Partition: kafka.PartitionAny}, Value: []byte(value), } } else { msg &kafka.Message{ TopicPartition: kafka.TopicPartition{Topic: &cfg.Topic, Partition: kafka.PartitionAny}, Value: []byte(value), } } producer.Produce(msg, nil) time.Sleep(time.Duration(1) time.Millisecond) } // Wait for message deliveries before shutting down producer.Flush(15 1000) }

产品特性与使用方式 • 多智能体协同服务 ：每个智能体独立处理特定任务，满足从科研到教学的跨场景需求。 • 多模态输入支持： 支持自然语言提问、文件上传、图片识别等多种交互方式。 • 按需定制与即时响应： 用户可根据任务自由选择服务，一键启动，快速获得可用结果。 • 基于平台的可视化操作体验：通过Web端界面，教师与科研人员可直接访问所有功能，便捷操作，无需专业背景。 产品优势 一站式体验，打通教学与科研全流程 本产品聚焦育科研和教学两大核心场景，通过“学术检索助手 + 论文助手 + 教学助手”三大智能体协同工作，实现从文献获取、内容生成、教案设计、习题编写到作业批改的全链路自动化服务。用户只需上传文件或提出问题，即可一键完成整套任务，无需跳转平台，无需多工具切换，真正实现“一个入口，解决全部问题”。 AI原生交互，极致高效又易用 平台基于先进大语言模型和多模态模型构建，支持自然语言输入、文档上传、图片识别等多种交互方式，教师和科研人员无需专业技术背景，只需用“提问式”对话，即可完成复杂任务配置与调用。系统自动识别意图、调用最合适的智能体响应，显著降低使用门槛，大幅节省时间成本。

接口名称 兼容接口 使用场景 说明 兼容KeyValue接口：Redis GeminiDB Redis接口满足高读写性能场景及容量需弹性扩展的业务需求。与开源Redis相比，本产品将数据全部存储在磁盘中而非内存中，容量更大、成本更低。 GeminiDB Redis 接口是一款基于计算存储分离架构，兼容Redis生态的云原生NoSQL数据库，基于共享存储池的多副本强一致机制，支持持久化存储，保证数据的安全可靠。具有高兼容、高性价比、高可靠、弹性伸缩、高可用、无损扩容等特点。 兼容时间序列型接口：InfluxDB GeminiDB Influx接口广泛应用于资源监控，业务监控分析，物联网设备实时监控，工业生产监控，生产质量评估和故障回溯等。 GeminiDB Influx 接口是一款基于计算存储分离架构，兼容InfluxDB生态的云原生NoSQL时序数据库。提供大并发的时序数据读写，压缩存储和类SQL查询，支持多维聚合计算和数据可视化分析能力。具有高写入、灵活弹性、高压缩率和高查询等特点。

本章节主要介绍数据治理中心的数据开发概述。 数据开发是一个一站式的大数据协同开发平台，提供全托管的大数据调度能力。它可管理多种大数据服务，极大降低用户使用大数据的门槛，帮助您快速构建大数据处理中心。 数据开发模块曾被称为数据湖工厂（Data Lake Factory，后简称DLF）服务，因此在本文中，“数据湖工厂”、“DLF”均可用于指代“数据开发”模块。 数据开发简介 使用数据开发模块，用户可进行数据管理、脚本开发、作业开发、作业调度、运维监控等操作，轻松完成整个数据的处理分析流程。 详见下图：数据开发模块架构 数据开发的主要功能 下表 数据开发的主要功能 支持的功能 说明 数据管理 支持管理DWS、DLI、MRS Hive等多种数据仓库。 支持可视化和DDL方式管理数据库表。 脚本开发 提供在线脚本编辑器，支持多人协作进行SQL、Shell、Python脚本在线代码开发和调测。 支持使用变量和函数。 作业开发 提供图形化设计器，支持拖拉拽方式快速构建数据处理工作流。 预设数据集成、SQL、Shell等多种任务类型，通过任务间依赖完成复杂数据分析处理。 支持导入和导出作业。 资源管理 支持统一管理在脚本开发和作业开发使用到的file、jar、archive类型的资源。 作业调度 支持单次调度、周期调度和事件驱动调度，周期调度支持分钟、小时、天、周、月多种调度周期。 运维监控 支持对作业进行运行、暂停、恢复、终止等多种操作。 支持查看作业和其内各任务节点的运行详情。 支持配置多种方式报警，作业和任务发生错误时可及时通知相关人，保证业务正常运行。

本教程将详细介绍如何借助天翼云 SDWAN 实现 DeepSeek 访问海外资源时，进行定向加速。 应用场景 企业在云上部署私有化DeepSeek平台，进行企业知识库、智能问答等大模型开发工作，在此过程中会使用到ollama、huggingface、github等境外开发工具或平台实现大模型高效迭代优化。 天翼云SDWAN通过优化对合规境外网站的访问过程，可以为客户提供更加流畅的海外资源访问体验。用户只需在云上DeepSeek主机业务环境中部署SDWAN软件CPE(vCPE)，即实现可对定向海外资源的加速访问。 前提条件 注册天翼云账号，并完成实名认证。具体操作，请参见天翼云账号注册流程。 您已经创建了云主机用于部署DeepSeek服务，并通过网络配置将其加入到VPC子网中。 操作步骤 本教程的配置流程如下： 步骤一：部署 vCPE 1. 创建并配置云主机 ：在天翼云控制台创建一台用于部署天翼云 SDWAN vCPE 的云主机，为其创建和绑定弹性公网 IP（EIP），并通过网络配置将其加入到创建的VPC子网中，请参考创建弹性云主机。 2. 创建vCPE资源，并部署到云主机中：您可通过以下两种方式开通 vCPE 资源。 天翼云官网自助开通：若选择通过天翼云官网自行下单，具体操作步骤如下： 1. 登录天翼云 SDWAN 控制台，在界面中选择“智能网关”选项，随后在“智能网关”页面点击“创建智能网关”按钮。 2. 按照页面给出的提示，选择“软件版”vCPE和接入带宽等关键业务配置。 3. 参数配置完毕后，点击“提交订单”。在确认订单信息准确无误后，勾选产品服务协议，接着点击“确认下单”。 4. 完成订单支付，支付成功即完成 vCPE 资源的购买。 客户经理协助开通：您也可以直接联系客户经理，由其协助完成 vCPE 资源的开通。 购买完成后，及时联系 SDWAN 客户经理进行交付。届时，天翼云 SDWAN 交付团队会协助您将创建好的 vCPE 实例资源部署到云主机上，并接入天翼云 SDWAN 网络。

本文主要介绍怎样配置Windows弹性云主机的虚拟内存? 开启弹性云主机的虚拟内存后，会导致硬盘I/O性能下降，因此，平台提供的Windows弹性云主机默认未配置虚拟内存。如果弹性云主机内存不足，建议通过“变更规格”操作来扩大内存。如果业务需要，必须开启虚拟内存，请参见本节内容进行配置。 说明 内存使用率已经非常高，同时I/O性能也不是很好的情况下，如果配置虚拟内存会起到反向效果：不仅系统性能提升较小（因为内存使用率已经非常高了），而且由于频繁的内存切换操作，会产生大量额外的I/O操作，导致I/O性能进一步降低，反而最终降低了系统总体性能。 本节内容适用于Windows 2008及以上版本操作系统的弹性云主机。 1.右键单击“计算机”，选择“属性”。 2.在左侧导航栏，选择“高级系统设置”。 系统打开“系统属性”窗口。 3.选择“高级”页签，并单击“性能”栏的“设置”。 系统打开“性能选项”窗口。 图 性能选项 4.选择“高级”页签，并单击“处理器计划”栏的“后台服务”。 5.单击“虚拟内存”栏的“更改”。 系统打开“虚拟内存”窗口。 6.根据业务需求配置虚拟内存： −自动管理所有驱动器的分页文件大小：取消勾选。 −驱动器：选择虚拟内存文件存放的驱动器。 建议您不要选择系统盘来存放虚拟内存，具体根据自己的服务器硬盘情况来选择。 −自定义大小：选择“自定义大小”，并输入“初始大小”与“最大值”。 请合理考虑系统蓝屏时产生Memory.dmp时的需求，建议初始大小16MB，最大值4096MB。 图 虚拟内存 7.单击“设置”，然后单击右下角的“确定”完成虚拟内存配置。 8.重启弹性云主机，使配置生效。

本文向您介绍一站式智算服务平台操作类常见问题。 平台已预置的模型有哪些？ 进入模型服务模块，选择在线服务，点击【预置服务】，可以看到平台预置的模型，平台预置了多款等基础大模型，包括通义千问、Llama、ChatGLM 等系列，可以直接使用。不同的基础模型的参数和能力不同，我们将持续推出不同能力方向的模型。 平台提供的开发工具有哪些？ JupyterLab和Visual Studio Code (VSCode)。 GPU模型脚本如何迁移到昇腾NPU上？ 新建脚本train.py，写入以下原GPU脚本代码。 添加以下库代码。 import time import torch ...... import torchnpu from torchnpu.npu import amp 导入AMP模块 from torchnpu.contrib import transfertonpu 使能自动迁移 IDE无法打开图片或预览MD文件，该怎么办？ 无法在IDE打开图片或预览MD文件，这是由于浏览器设置问题，需要开启Chrome浏览器 的 unsafelytreatinsecureoriginassecure 功能。 进入Chrome Flag管理界面配置： chrome://flags/ unsafelytreatinsecureoriginassecure。 一站式服务平台预置的镜像有哪些？ 进入智算资产模块，选择我的镜像，点击【系统内置镜像】，可以看到平台内置的镜像，包括PyTorch、TensorFlow等。 如果在自定义镜像列表看不到容器镜像服务分享过来的镜像，怎么办？ 请进行以下检查： 容器镜像服务所选区域与平台是不是同资源池。 截止时间是不是大于等于当前时间，超出截止时间后共享失效。 共享镜像状态是不是启用。

本文介绍在应用托管中搭建Dify和部署MCP Server,以及在Dify中集成基于部署的MCP Server。 概述 Dify介绍 Dify 是一站式大模型应用开发平台。它能便捷接入各类数据并管理，支持模型微调与多模型调用。通过可视化界面和低代码工具，用户无需深厚技术背景，就能快速搭建如聊天机器人、智能客服等应用。可用于客户服务、内容创作等场景，具有降低开发门槛、提升效率、灵活可扩展等优势，助力企业高效落地大模型应用。 前置说明 1. 本文档旨在指导用户如何通过应用托管控制台，体验将MCP Server集成至Dify。 2. 本产品中的模型由第三方主体提供，尽管云公司已尽最大努力进行识别和维护，但仍无法保证模型的可用性。请客户按照该产品的服务协议使用该产品，做好甄别工作，并对自行选择的服务承担相应责任。 使用前准备 1. 天翼云账号注册：使用应用托管平台须具备天翼云官网账号。已有天翼云账号的直接登录即可，如无天翼云账号需先注册，注册流程可参考：注册账号。 2. 使用前提：如需使用服务请先完成实名认证，请参考账号中心实名认证。如需使用按需服务，请确认账号余额≥100 元。

Dify介绍 Dify 是一站式大模型应用开发平台。它能便捷接入各类数据并管理，支持模型微调与多模型调用。通过可视化界面和低代码工具，用户无需深厚技术背景，就能快速搭建如聊天机器人、智能客服等应用。可用于客户服务、内容创作等场景，具有降低开发门槛、提升效率、灵活可扩展等优势，助力企业高效落地大模型应用。 前置说明 1. 该文档为应用托管控制台通过应用市场体验Dify+DeepSeekR1模型搭建私有知识库的说明，通过应用托管控制台，打开应用市场，创建对应的Dify应用，使用 Dify构建本地知识库。 2. 本产品中的模型由第三方主体提供，尽管云公司已尽最大努力进行识别和维护，但仍无法保证模型的可用性。请客户按照该产品的服务协议使用该产品，做好甄别工作，并对自行选择的服务承担相应责任。 使用前准备 1. 天翼云账号注册：使用应用托管平台须具备天翼云官网账号。已有天翼云账号的直接登录即可，如无天翼云账号需先注册，注册流程可参考：注册账号。 2. 使用前提：如需使用服务请先完成实名认证，请参考账号中心实名认证。如需使用按需服务，请确认账号余额≥100 元。

本小节介绍日志审计(原生版)产品定义。 产品介绍 日志审计（原生版）（LAS Log Audit Service）通过实时不间断采集设备、主机、操作系统、数据库以及应用系统产生的海量日志信息，进行集中化存储，为您提供安全存储、检索、审计、告警、报表等能力，帮助您满足等保合规要求。 产品功能 天翼云日志审计（原生版）系统具备资产管理、日志检索、日志审计、多维报表等功能。 资产集中管理：提供集中化的统一管理平台，将所有的日志信息收集到平台中，进行信息资产的统一日志管理。 高速日志检索：基于海量数据的高速检索能力，可以实现多重条件组合的快速检索和精确定位。 实时日志审计报警：对归并处理的日志进行实时动态分析，及时发现网络非法访问、数据违规操作、系统进程异常、设备故障等高危安全事件通过邮件、短信等方式进行报警。 丰富多维日志报表：丰富合规报表预设，支持全方位自定义报表导出，实现数据库系统、数据库服务器、网络设备的多维立体审计。 产品架构 天翼云日志审计（原生版）系统产品架构包含数据采集层、处理层、存储层、引擎层、业务层、可视化。 采集层：提供开放式的信息采集接口，实现对用户环境内各类IT资产以及所采用的各厂商安全产品或安全系统进行主动或被动的日志采集。 处理层：实现对采集到的数据做统一规范化，对数据进行关键信息提取，标签化分类，过滤，归并等数据ETL操作，为后续的数据分析做准备。 存储层：实现海量安全大数据的分布式存储，提供结构化数据和非结构化数据的存储能力，并为上层的数据分析应用提供高效的数据库功能支撑。 引擎层：综合数据处理分析的能力提供层，提供由大数据技术和架构支撑的快速检索和数据关联发掘功能。是支撑上层数据呈现和分析结果输出的计算引擎层，提供丰富的大数据统计、关联分析、数据挖掘以及态势分析能力，是系统的分析处理的核心。该层提供了基础数据处理引擎，包括流式计算引擎、复杂事件处理引擎、全文检索引擎、关联分析引擎等。 业务层：实现用户基于平台的标准化数据，依托平台报表工具，日志检索工具，分析引擎，实现用户自身业务相关的安全管理以及数据分析，监控，处置，保障业务的安全稳定。 可视化：实现对平台的数据处理，数据分析，报表分析，处置结果等通过图表可视化的方式呈现。

参数 说明 策略名称 只能包含如下字符：大小写字母、中文、数字、空格和特殊字符（.,）。 作用范围 选择全局级服务，OBS为全局服务。 配置策略方式 选择可视化视图。 策略内容 1. “允许”选择“允许”。 2. “云服务”选择“对象存储服务(OBS)”。 3. “操作”勾选所有“写”、“列表”和“只读”权限。 4. “特定资源”选择： a. “object”选择“通过资源路径指定”，并单击“添加资源路径”分别输入路径obsbucketname /tmp/和 obsbucketname /tmp/ 。此处以 /tmp目录为例，如需其他目录权限请参考该步骤添加对应目录及该目录下所有对象的资源路径。 b. “bucket”选择“通过资源路径指定”，并单击“添加资源路径”输入路径 obsbucketname。 5. （可选）请求条件，暂不添加。 策略描述 可选，对策略的描述。

本文向您介绍训推智算服务平台操作类常见问题。 平台已预置的模型有哪些？ 进入模型服务模块，选择在线服务，点击【预置服务】，可以看到平台预置的模型，平台预置了多款等基础大模型，包括通义千问、Llama、ChatGLM 等系列，可以直接使用。不同的基础模型的参数和能力不同，我们将持续推出不同能力方向的模型。 平台提供的开发工具有哪些？ JupyterLab和Visual Studio Code (VSCode)。 GPU模型脚本如何迁移到昇腾NPU上？ 新建脚本train.py，写入以下原GPU脚本代码。 添加以下库代码。 plaintext import time import torch ...... import torchnpu from torchnpu.npu import amp 导入AMP模块 from torchnpu.contrib import transfertonpu 使能自动迁移 IDE无法打开图片或预览MD文件，该怎么办？ 无法在IDE打开图片或预览MD文件，这是由于浏览器设置问题，需要开启Chrome浏览器 的 unsafelytreatinsecureoriginassecure 功能。 进入Chrome Flag管理界面配置： chrome://flags/ unsafelytreatinsecureoriginassecure。 训推智算服务平台预置的镜像有哪些？ 进入智算资产模块，选择我的镜像，点击【系统内置镜像】，可以看到平台内置的镜像，包括PyTorch、TensorFlow等。 如果在自定义镜像列表看不到容器镜像服务分享过来的镜像，怎么办？ 请进行以下检查： 容器镜像服务所选区域与平台是不是同资源池。 截止时间是不是大于等于当前时间，超出截止时间后共享失效。 共享镜像状态是不是启用。

本章节主要对数据湖探索的作业类型、约束限制进行简单介绍。 DLI 作业类型 DLI 提供了三种作业类型： SQL作业：SQL作业为用户提供标准的SQL，兼容Spark SQL、Presto SQL（基于Presto），通过可视化界面API、JDBC、ODBC、Beeline等多种接入方式对云上异构数据源进行查询分析，兼容CSV、JSON、Parquet、Carbon、ORC等主流数据格式。 Flink作业：Flink作业是运行在公有云上的实时流式大数据分析服务作业，全托管的方式用户无需感知计算集群，只需聚焦于Stream SQL业务，即时执行作业，完全兼容Apache Flink API。 Spark作业：Spark作业可为用户提供全托管式的Spark计算服务。用户可通过可视化界面和RESTful API提交作业，支持提交Spark Core、DataSet、Streaming、MLlib、GraphX等Spark全栈作业。 约束限制 DLI配置SparkUI只展示最新的100条作业信息。 控制台界面查询结果最多显示1000条作业结果数据，如果需要查看更多或者全量数据，则可以通过该功能将数据导出到OBS获取。 导出作业运行日志需要具有OBS桶的权限，请提前在“全局配置 > 工程配置”页面配置DLI作业桶。 default队列下运行的作业或者该作业为同步作业时不支持归档日志操作。 仅Spark作业支持使用自定义镜像。 当前弹性资源池最大的计算资源 32000CUs。

本教程将详细介绍如何借助天翼云 SDWAN 实现对 DeepSeek 的定向加速，以访问海外资源。 应用场景 企业在云上部署私有化DeepSeek平台，进行企业知识库、智能问答等大模型开发工作，在此过程中会使用到ollama、huggingface、github等境外开发工具或平台实现大模型高效迭代优化。 天翼云SDWAN通过优化对合规境外网站的访问过程，可以为客户提供更加流畅的海外资源访问体验。用户只需在云上DeepSeek主机业务环境中部署SDWAN软件CPE(vCPE)，即实现可对定向海外资源的加速访问。 前提条件 注册天翼云账号，并完成实名认证。具体操作，请参见天翼云账号注册流程。 您已经创建了云主机用于部署DeepSeek服务，并通过网络配置将其加入到VPC子网中。 操作步骤 本教程的配置流程如下： 步骤一：部署 vCPE 1. 创建并配置云主机 ：在天翼云控制台创建一台用于部署天翼云 SDWAN vCPE 的云主机，为其创建和绑定弹性公网 IP（EIP），并通过网络配置将其加入到创建的VPC子网中，请参考创建弹性云主机。 2. 创建vCPE资源，并部署到云主机中：您可通过以下两种方式开通 vCPE 资源。 天翼云官网自助开通：若选择通过天翼云官网自行下单，具体操作步骤如下： 1. 登录天翼云 SDWAN 控制台，在界面中选择“智能网关”选项，随后在“智能网关”页面点击“创建智能网关”按钮。 2. 按照页面给出的提示，选择“软件版”vCPE和接入带宽等关键业务配置。 3. 参数配置完毕后，点击“提交订单”。在确认订单信息准确无误后，勾选产品服务协议，接着点击“确认下单”。 4. 完成订单支付，支付成功即完成 vCPE 资源的购买。 客户经理协助开通：您也可以直接联系客户经理，由其协助完成 vCPE 资源的开通。 购买完成后，及时联系 SDWAN 客户经理进行交付。届时，天翼云 SDWAN 交付团队会协助您将创建好的 vCPE 实例资源部署到云主机上，并接入天翼云 SDWAN 网络。

本文带您了解AI Store的功能特性。 弹性调度异构算力资源 提供多样化的AI算力资源，覆盖通用计算、智能计算、超级计算，支持按需分配、弹性伸缩和智能调度，赋能多场景业务创新。 通过场景化的方式购买算力，根据计费方式、资源池、算力规格进行选购，快速锁定目标。 标准化的模型服务能力 高效、标准化的API接口，支持高并发在线推理，保障企业级应用稳定运行。 模型服务丰富，包括DeepSeek、Qwen等市场主流大模型，提供高性能的模型调用服务。 价格具备市场竞争力，支持按Token、Token包等多种服务计费模式，提供极致性价比。 丰富的应用资源 聚合精选应用，覆盖政务、教育、医疗等行业，从智能体开发平台、知识库到大数据可视化。 既可满足“小而美”的个性化尝鲜，也能支撑“大而全”的企业级深度定制。 便捷的部署及服务流程 提供真正的"即开即用"体验，只需完成注册和购买流程，系统自动完成服务开通和配置，无需等待复杂的部署过程。 提供7×24健康巡检与客服值守，后续版本升级、补丁修复由平台负责。客户只需专注业务创新，无需为运维分心。

本章节主要介绍如何使用函数流实现流式大文件处理。 背景与价值 Serverless Workflow由于自身可编排、有状态、持久化、可视化监控、异常处理、云服务集成等特性，适用于很多应用场景，比如： 复杂度高需要抽象的业务（订单管理，CRM 等） 业务需要自动中断 / 恢复能力，如多个任务之间需要人工干预的场景（人工审批，部署流水线等） 业务需要手动中断 / 恢复（数据备份 / 恢复等） 需要详细监控任务执行状态的场景 流式处理（日志分析，图片 / 视频处理等）当前大部分 Serverless Workflow 平台更多关注控制流程的编排，忽视了工作流中数据流的编排和高效传输，上述场景创建函数流触发器中，由于数据流相对简单，所以各大平台支持都比较好，但是对于文件转码等存在超大数据流的场景，当前各大平台没有给出很好的解决方案。FunctionGraph函数工作流针对该场景，提出了 Serverless Streaming 的流式处理方案，支持毫秒级响应文件处理。 技术原理 FunctionGraph函数工作流提出 Serverless Streaming 的流式可编排的文件处理解决方案，步骤与步骤之间通过数据流驱动，更易于用户理解。本章通过图片处理的例子解释该方案的实现机制。 如果需要驱动一个工作流执行，工作流系统需要处理两个部分： 控制流：控制工作流的步骤间流转，以及步骤对应的 Serverless 函数的执行。确保步骤与步骤之间有序执行。 数据流：控制整个工作流的数据流转，通常来说上一个步骤的输出是下一个步骤的输入，比如上述图片处理工作流中，图片压缩的结果是打水印步骤的输入数据。 在普通的服务编排中，由于需要精准控制各个服务的执行顺序，所以控制流是工作流的核心部分。然而在文件处理等流式处理场景中，对控制流的要求并不高，以上述图片处理场景举例，可以对大图片进行分块处理，图片压缩和加水印的任务不需要严格的先后顺序，图片压缩处理完一个分块可以直接流转到下一个步骤，而不需要等待图片压缩把所有分块处理完再开始加水印的任务。 基于上述理解，FunctionGraph工作流的 Serverless Streaming 方案架构设计如下图所示： 在 Serverless Streaming 的流程中，弱化控制流中步骤之间的先后执行顺序，允许异步同时执行，步骤与步骤之间的交互通过数据流驱动。其中数据流的控制通过 Stream Bridge 组件来实现。同时函数 SDK 增加流式数据返回接口，用户不需要将整个文件内容返回，而是通过 gRPC Stream 的方式将数据写入到 Stream Bridge，Stream Bridge 用来分发数据流到下一个步骤的函数 Pod 中。

本章节主要介绍翼MapReduce服务在不同场景下的应用。 大数据在人们的生活中无处不在，在IoT、电子商务、金融、制造、医疗、能源和政府部门等行业均可以使用云MRS服务进行大数据处理。 海量数据分析场景 海量数据分析是现代大数据系统中的主要场景。通常企业会包含多种数据源，接入后需要对数据进行ETL（ExtractTransformLoad）处理形成模型化数据，以便提供给各个业务模块进行分析梳理，这类业务通常有以下特点： 对执行实时性要求不高，作业执行时间在数十分钟到小时级别。 数据量巨大。 数据来源和格式多种多样。 数据处理通常由多个任务构成，对资源需要进行详细规划。 例如在环保行业中，可以将天气数据存储在OBS，定期转储到HDFS中进行批量分析，在1小时内MRS可以完成10TB的天气数据分析。 详见下图：环保行业海量数据分析场景 该场景下MRS的优势如下所示。 低成本：利用OBS实现低成本存储。 海量数据分析：利用Hive实现TB/PB级的数据分析。 可视化的导入导出工具：通过可视化导入导出工具Loader，将数据导出到DWS，完成BI分析。 海量数据存储场景 用户拥有大量结构化数据后，通常需要提供基于索引的准实时查询能力，如车联网场景下，根据汽车编号查询汽车维护信息，存储时，汽车信息会基于汽车编号进行索引，以实现该场景下的秒级响应。通常这类数据量比较庞大，用户可能保存1至3年的数据。 例如在车联网行业，某车企将数据储存在HBase中，以支持PB级别的数据存储和毫秒级的数据详单查询。 详见下图：车联网行业海量数据存储场景 该场景下MRS的优势如下所示。 实时：利用Kafka实现海量汽车的消息实时接入。 海量数据存储：利用HBase实现海量数据存储，并实现毫秒级数据查询。 分布式数据查询：利用Spark实现海量数据的分析查询。 实时数据处理 实时数据处理通常用于异常检测、欺诈识别、基于规则告警、业务流程监控等场景，在数据输入系统的过程中，对数据进行处理。 例如在梯联网行业，智能电梯的数据，实时传入到MRS的流式集群中进行实时告警。 详见下图：梯联网行业低时延流式处理场景 该场景下MRS的优势如下所示。 实时数据采集：利用Flume实现实时数据采集，并提供丰富的采集和存储连接方式。 海量的数据源接入：利用Kafka实现万级别的电梯数据的实时接入。

跨云平台迁移 场景说明 当用户存在多云战略需求时，需要将部分或全部资源迁移到天翼云。 场景痛点 迁移操作时可能面临数据丢失、数据不一致等风险，还需要解决不同类型资源的迁移问题，不同云厂商之间可能存在软件和服务不兼容的问题，这些问题都可能导致应用程序无法正常运行。 产品优势 云迁移服务CMS实现将源平台的架构平行迁移至目标平台。通过可视化界面一键迁移，降低了迁移难度，有效解决服务器、数据库、对象存储迁移中的各种难点。 最大程度支持服务器、数据库、对象存储应用调用第三方服务接口的切换。 针对市面主流的云计算厂商跨云迁移，具有良好的的兼容性。 场景架构 搭配使用产品 弹性云主机 对象存储 弹性IP 传统企业上云 场景说明 随着本地业务运行810年后，大部分企业或者政府机构会将这部分设备进行退网处理，同时随着设备退网，企业原有的服务器、数据库以及对象存储等资源也面临上云迁移的需求。 场景痛点 迁移过程中面临业务无法长时间中断、数据量大、业务情况复杂、人员更迭等因素导致应用重部署难度高甚至无法实现等情况。

本页为您介绍翼云快销的产品功能。 快速创作生成活动：多款模板一键生成H5，无需开发零代码制作专属活动。 精准触达：生成活动二维码线下吸引用户扫码关注进行互动，又可生成短链接通过线上群发、微信宣传助力客户精准触达客户。 数据分析：活动数据留存、聚合与分析、传播路径可视化，活动进度追溯，带动营销活动的效果提升。 奖励资源接入与核销：自定义多种优惠券、实物礼券等奖励资源快速接入活动，可指定方式进行核销。 分支机构跨地域管理：可管理多个分层账号的活动数据留存与收集，一键导出分析，数据来源可回溯，来源清晰。 视频制作：支持客户营销活动视频制作功能。 智能云名片：为每个营销人员打造一张科技范的智能云名片，全方位展示公司实力和产品优势；线上线下高效获客，打造私域流量池；实时反馈浏览记录，智能洞察客户需求，让大数据分析成为核心竞争力。

五、 三种测评工具对比 1. 核心功能对比 vLLM Benchmark 专注于LLM推理引擎性能评测，支持OpenAI接口兼容的框架（如Qwen系列模型） 内置TTFT（首Token延迟）、TPOT（后续Token时延）、吞吐量等核心指标 支持长上下文压力测试（如LongAlpaca12k数据集） EvalScope 大模型多维度评估框架，覆盖性能测试（Perf）、效果评测（Accuracy）和合规性检测 提供标准化测试集（如MMLU、CMMLU）和自定义数据集扩展能力，支持多种测评场景 集成生产级压力测试功能，支持并发请求模拟与实时监控（通过Wandb可视化） LLMPerf 开源基准测试工具，专攻API级性能评估（延迟、吞吐量、请求成功率） 支持正确性验证（如数字格式转换准确性测试） 2. 性能指标侧重 工具 核心指标 测试场景差异 vLLM Benchmark 首Token延迟（TTFT）、Token吞吐量、显存占用率 重推理引擎的硬件资源利用率，常用于GPU云主机环境下的引擎选型 EvalScope 综合吞吐量、QPS、端到端延迟、多模态任务准确率 适配生产环境压力测试，支持API服务与本地模型的混合评测 LLMPerf Token间延迟、首Token延迟（TTFT）、请求吞吐量、错误率 强调高并发模拟能力（如10+并发请求），适合API服务的SLA验证 3.

本节主要介绍产品定义。 GeminiDB Influx接口是一款基于计算存储分离架构，兼容InfluxDB生态的云原生NoSQL时序数据库。在云计算平台高性能、高可用、高可靠、高安全、可弹性伸缩的基础上，提供了一键部署、快速备份恢复、计算存储独立扩容、监控告警等服务能力。广泛应用于资源监控、业务监控分析、物联网设备实时监控、工业生产监控、生产质量评估和故障回溯等。提供大并发的时序数据读写，压缩存储和类SQL查询，并且支持多维聚合计算和数据可视化分析能力。 GeminiDB Influx接口具有高写入、灵活弹性、高压缩率和高查询的特点。 高写入性能 数据按“时间Range + 时间线Hash”两层打散，分布式并行写入,且最高每天处理万亿级时间点写入。 灵活弹性 计算独立按需扩展、扩容不迁移数据，分钟级完成集群节点扩缩容。 高压缩率 列式存储布局和专用压缩算法，相比开源版本压缩率可以提升5~10倍左右。 高查询性能 多节点多线程并行查询，可高效处理高并发大数据量分析任务。 典型应用 IoT传感器时序数据分析 物联网应用，规模和可靠性至关重要。GeminiDB Influx接口提供了高吞吐量和并发性，您可以通过快速的响应时间来支持大量的连接。因此非常适合要求苛刻的物联网应用。 优势 ： 超强写入：小批量写入场景性能为开源版本InfluxDB的4.5倍，大批量写入场景性能为开源版本InfluxDB的3.3倍。 弹性扩展：基于计算存储分离的分布式架构，分钟级计算节点扩容，应对业务高峰期。

概念 说明 云资源池 云资源池是指中国电信采用虚拟化技术将计算、存储、网络等IT基础资源虚拟化成相应的逻辑资源池。 公有云 公有云是指云资源池被公众用户通过订阅使用云资源服务，云资源服务可以包括计算、存储、网络、应用程序和服务。 AI云电脑管理平台 提供整套AI云电脑管理平台软件，包含虚拟化、存储管理等组件，具备AI云电脑的开通、管理、监控、运维等能力。 电脑实例 可提供给用户电脑服务的最小单位，一台电脑实例包括vCPU、内存、电脑操作系统和系统盘等基础计算组件。 资源包 AI云电脑所需资源的总和，包括AI云电脑计算包、存储资源包和网络资源包。 单实例订购 直接选定AI云电脑规格并订购开通AI云电脑实例的一种AI云电脑订购方式。以单实例方式订购AI云电脑后，如有数据盘及上网带宽需求，数据盘及带宽服务需单独订购。 资源包订购 先订购资源包，再开通AI云电脑实例、数据盘及上网带宽的一种AI云电脑订购方式。资源包开通后，企业管理员可对AI云电脑、数据盘及上网带宽进行自助管理。 计算包 可供用户开通AI云电脑（vCPU、内存和系统盘）的资源总和。订购AI云电脑计算包后，企业管理员可自助开通、删除及管理AI云电脑，可开通的最大AI云电脑总数为用户订购计算包大小。 存储包 可供用户开通AI云电脑的数据盘的资源总和。订购存储包后，企业管理员可自助为AI云电脑添加数据盘、扩容数据盘，可开通的最大数据盘总容量为用户订购存储包容量大小。 网络包 可供用户开通AI云电脑上网带宽的资源总和。订购网络包后，企业管理员可自助开通、删除及配置带宽，可开通的最大上网带宽总和为用户订购网络包带宽大小。 AI云电脑升级/降级 升级/降级已购买的AI云电脑，如从2核4G内存升级至4核8G内存。 续订 延长AI云电脑及数据盘的订购可使用时间。 数据盘扩容 增加AI云电脑的已购数据盘容量，如从100GB扩容至2000GB。 管理员 管理员即为租户，具有对资源池下的资源进行订购、分配的权限。也可对租户下的用户进行创建、删除、分配桌面等操作。 用户 AI云电脑终端用户，AI云电脑（政企版）管理台支持两种创建用户方式： 管理员激活：输入用户账号和密码，即可生成用户账号。 邮件通知激活：输入用户通知邮箱和用户账号。账号信息会发送至用户通知邮箱，用户完成账号认证，即可使用该账号。 桌面池 桌面池是一批桌面集合，管理员提对桌面池桌面进行统一管理和运维。桌面池包含池化桌面、并发桌面两种类型。 池化桌面：可以创建一定数量的AI云电脑，与桌面池关联的用户通过先到先得的排队方式使用桌面池中的电脑资源。池化桌面数量和用户数量最高支持 1:3 配比，若池化桌面已使用完，用户需排队等待。 并发桌面：开通多个桌面，每个桌面只属于单个用户。根据并发桌面比例或数量进行相应的资源扣减。但每个桌面只属于单个用户，每次最多可在线使用的桌面数量占总并发桌面数量的一定比例。 基础策略 基础策略是为桌面配置的一组关于USB重定向、文件重定向读写权限、剪切板读写权限、水印、客户端自动重连间隔、画面显示等的安全规则集合，用于控制用户终端与AI云电脑之间的数据传输和外设接入权限。 移动终端 移动终端是指在移动设备上安装AI云电脑的客户端，使用户能通过该设备接入AI云电脑，该移动设备即称为移动终端。目前AI云电脑（政企版）支持移动终端包含了：iOS手机、iPad、安卓手机、安卓pad。 电脑终端 电脑终端是指在PC设备上安装AI云电脑的客户端，使用户能通过该设备接入AI云电脑，该PC设备即称电脑终端。目前AI云电脑（政企版）支持电脑终端包含了：Windows、Mac、Ubuntu瘦终端、安卓瘦终端、国产化终端。 触屏式 用户通过手指触碰显示屏，就能实现对移动端的AI云电脑进行操作。 鼠标式 用户通过在显示屏上移动鼠标指针，实现对移动端的AI云电脑进行操作。 虚拟键盘 可以在移动端的AI云电脑内进行文字输入、表格修改等其他操作的键盘。 组合键 将普通键盘的常用快捷键，以按钮的形式展现在移动端的AI云电脑内进行操作。

本文为您展示升腾环境下模型训练的最佳实践。 概述 本指南旨在为用户提供一套全面、高效的模型训练最佳实践，涵盖从环境登录到多机分布式训练的全过程。通过系统化的步骤指引，用户可以快速熟悉并掌握在平台上进行模型训练的操作流程，充分利用平台的强大工具，完成大模型的高效训练任务。无论是单机训练还是多机分布式训练，本指南均提供了详细的操作步骤与注意事项，帮助用户快速上手并解决可能遇到的问题。 前置条件 执行本文操作之前， 请完成以下准备工作： 注册天翼云账号，并完成实名认证。 确保天翼云账户余额大于100元。 说明 为了方便演示，本文中涉及资源开通的情形，均默认选择按量付费模式。 平台体验：++ 环境介绍：本次使用昇腾910B环境进行操作 CPU： 鲲鹏920 448192 内存：1536GB NPU: 昇腾910B 8 主机（风冷机）：Atlas 800A2 训练准备 开发机 在进行大规模模型训练之前，确保所有的开发环境、模型代码、依赖库、权重文件以及数据集都已准备妥当是至关重要的一步。通过平台提供的开发机工具，您可以轻松实现可视化的IDE操作，简化训练环境的搭建与管理。

本文为您展示升腾环境下模型训练的最佳实践。 概述 本指南旨在为用户提供一套全面、高效的模型训练最佳实践，涵盖从环境登录到多机分布式训练的全过程。通过系统化的步骤指引，用户可以快速熟悉并掌握在平台上进行模型训练的操作流程，充分利用平台的强大工具，完成大模型的高效训练任务。无论是单机训练还是多机分布式训练，本指南均提供了详细的操作步骤与注意事项，帮助用户快速上手并解决可能遇到的问题。 前置条件 执行本文操作之前， 请完成以下准备工作： 注册天翼云账号，并完成实名认证。 确保天翼云账户余额大于100元。 说明 为了方便演示，本文中涉及资源开通的情形，均默认选择按量付费模式。 平台体验：< 环境介绍：本次使用昇腾910B环境进行操作 CPU： 鲲鹏920 448192 内存：1536GB NPU: 昇腾910B 8 主机（风冷机）：Atlas 800A2 训练准备 开发机 在进行大规模模型训练之前，确保所有的开发环境、模型代码、依赖库、权重文件以及数据集都已准备妥当是至关重要的一步。通过平台提供的开发机工具，您可以轻松实现可视化的IDE操作，简化训练环境的搭建与管理。

本节主要介绍大Key/热Key分析 类问题 什么是大Key/热Key？ 名词 定义 大Key 大Key可以分为两种情况： Key的Value较大，例如一个String类型的Key大小达到10MB，或者一个集合类型（Hash，List，Set等）的元素总大小达到了100MB。一般单个String类型的Key大小达到10KB，或者集合类型的Key总大小达到50MB，则定义其为大Key。 Key的元素较多，例如一个Hash类型的Key，其元素数量达到了10000。一般定义集合类型的Key中元素超过5000个，则认为其为大Key。 热Key 通常以一个Key被操作的频率和占用的资源来判定其是否为热Key，例如： 某个集群实例一个分片每秒处理10000次请求，其中有3000次都是操作同一个Key。 某个集群实例一个分片的总带宽使用（入带宽+出带宽）为100Mbits/s，其中80Mbits是由于对某个Hash类型的Key执行HGETALL所占用。 存在大Key/热Key，有什么影响？ 类别 影响 :: 大Key 造成规格变更失败。 Redis集群变更规格过程中会进行数据rebalance（节点间迁移数据），单个Key过大的时候会触发Redis内核对于单Key的迁移限制，造成数据迁移超时失败，Key越大失败的概率越高，大于512MB的Key可能会触发该问题。 大Key 造成数据迁移失败。 数据迁移过程中，如果一个大Key的元素过多，则会阻塞后续Key的迁移，后续Key的数据会放到迁移机的内存Buffer中，如果阻塞时间太久，则会导致迁移失败。 大Key 容易造成集群分片不均的情况。 各分片内存使用不均。例如某个分片占用内存较高甚至首先使用满，导致该分片Key被逐出，同时也会造成其他分片的资源浪费。 各分片的带宽使用不均。例如某个分片被频繁流控，其他分片则没有这种情况。 大Key 客户端执行命令的时延变大。 对大Key进行的慢操作会导致后续的命令被阻塞，从而导致一系列慢查询。 大Key 导致实例流控。 对大Key高频率的读会使得实例出方向带宽被打满，导致流控，产生大量命令超时或者慢查询，业务受损。 大Key 导致主备倒换。 对大Key执行危险的DEL操作可能会导致主节点长时间阻塞，从而导致主备倒换。 热Key 容易造成集群分片不均的情况。 造成热Key所在的分片有大量业务访问而同时其他的分片压力较低。这样不仅会容易产生单分片性能瓶颈，还会浪费其他分片的计算资源。 热Key 使得CPU冲高。 对热Key的大量操作可能会使得CPU冲高，如果表现在集群单分片中就可以明显地看到热Key所在的分片CPU使用率较高。这样会导致其他请求受到影响，产生慢查询，同时影响整体性能。业务量突增场景下甚至会导致主备切换。 热Key 易造成缓存击穿。 热Key的请求压力过大，超出Redis的承受能力易造成缓存击穿，即大量请求将被直接指向后端的数据库，导致数据库访问量激增甚至宕机，从而影响其他业务。