训推用一体 内置端到端大模型“训推用”全链路工具平台，深度融合DeepSeekR1/V3/蒸馏版系列大模型，为用户提供模型训练、推理、应用全套工具，实现大模型从训练到应用的一体化解决方案。 算力多样化 采用先进的硬件架构，集成高性能计算服务器，支持多种AI芯片，如NVIDIA、昇腾等主流品牌，为DeepSeek系列大模型提供强大的算力支持，满足不同用户对算力的多样化需求。 高效能 裸金属直接部署容器运行环境，无虚拟化开销，释放硬件最大效能，提高DeepSeek系列大模型的训练和推理效率，降低能耗和成本。 极简运维 提供7×24小时在线运维服务，一二三线运维服务全覆盖，全面监控实例、任务、资源的使用情况和调度情况，及时发现异常，降低运维难度和成本。

本页主要介绍关系数据库MySQL 5.7版本的测试结果。 测试限制 压测场景 压测分两个场景进行，您可以根据自身数据量判断使用哪种场景。 内存命中型：适用于数据量较小的场景，可将数据全量放入Buffer Pool进行存取。Buffer Pool默认大小为实例内存规格的50%70%。 磁盘I/O型：适用于数据量大的场景，只将最常访问的数据放入Buffer Pool进行存取，压测时会读写磁盘以及更新Buffer Pool。 压测指标 压力测试的指标包括TPS和QPS。 关系数据库MySQL版支持的IOPS取决于云硬盘的IO性能，具体请参见《云硬盘产品简介》中“产品规格”的内容。参考链接：云硬盘产品规格。 地域 由于不同地域的底层技术架构差异关系数据库MySQL版的测试数据在不同地域有所差异，按地域分为以下A/B两类测试结果以供参考。地域A包括所有I 类型资源池（以上海7为例），地域B包括II 类型资源池（以西南1为例），具体资源池信息请参见：产品简介功能概览。 测试结果 以下测试结果仅供参考，建议开通实例进行实际测试。 地域AI 类型资源池（上海7为例） 场景1：OLTP内存命中型 实例规格 单表数据量 表数量 最大连接数 TPS QPS 2核4GB（S2型） 80000 32 1000 517 10343 2核8GB（S2型） 80000 32 2000 571 11428 4核8GB（S2型） 80000 32 2000 1064 21296

云原生网关触发器能够让您网关的流量导去函数计算后端，能够支持更丰富的请求配置，如请求方法、请求头、请求参数等 前提条件 已创建函数。 已创建云原生网关。 已创建函数计算服务的终端节点（VPCE）。 创建步骤请查看创建VPCE，其中”虚拟私有云“选择云原生网关所属的VPC，”服务“选择函数计算服务cn.ctyun.cnhuadong1.faas 注意 函数计算服务在各资源池的名称（cn.ctyun.cnhuadong1.faas ）可能有差别，选择后缀为faas的即可，上述示例是在华东一资源池的名称 操作步骤 1. 登录函数计算控制台，点击目标函数，进入函数详情。 2. 选择详情下顶部的配置选项卡。 3. 在配置选项卡中，选择左边的触发器选项卡。 4. 点击创建触发器 ，在弹出的右抽屉中选择云原生网关触发器，配置参数解释如下 配置项 操作 示例 触发器类型 选择云原生触发器。 云原生触发器 名称 填写自定义的触发器名称。 cgwtrigger 版本或别名 默认值为LATEST，支持选择任意函数版本或函数别名。 LATEST 网关实例 选择已创建的云原生网关实例。 域名 选择网关实例已关联的域名。 mydomain.com 匹配路径 匹配请求的path（不含query参数），当前支持前缀匹配和精确匹配。末尾使用''代表使用前缀匹配。 /my/path 请求方法 匹配请求中的HTTP方法，可多选，不选则匹配所有HTTP方法 优先级 当多个路由同时匹配一个请求时，路径匹配深度较大的路由优先；路径匹配相同的情况下，路由优先级高（数字大）的优先匹配。 0 请求头 匹配请求中的HTTP header。 请求参数 匹配请求中的HTTP query参数。 触发器启用状态 创建触发器后是否立即启用。默认选择开启，即创建触发器后立即启用触发器。 启用

本文介绍弹性文件服务的产品规格。 规格类型 参数 SFS Turbo标准型 SFS Turbo性能型 最大带宽 1.5GB/s 2GB/s 最高IOPS 5000 30000 时延 10ms 3ms 容量 500GB起步，默认32TB上限，可提交工单申请扩大上限至320TB。 500GB起步，默认32TB上限，可提交工单申请扩大上限至320TB。 扩容步长 1GB 1GB 优势 低成本 低时延 应用场景 适用于大容量、低时延的业务，如代码存储、日志存储、Web服务、虚拟桌面等。 适用于海量小文件、随机IO密集型以及时延敏感型业务，如高性能计算、文件共享、内容管理等。 说明 提交工单后，在资源余量和网关余量满足的情况下可为您扩大单文件系统配额。 提交工单时须同时申请扩大单用户弹性文件系统总容量和单文件系统容量上限 两个配额项至所需配额。 规格说明 多台云主机可达到上述最大带宽，测试时建议使用多台云主机。 最大IOPS、最大带宽两个参数的值均为读写总和。比如最大IOPSIOPS读+IOPS写。 带宽大小与容量相关，但是由于有缓存，所以容量和性能的比例不容易体现。 IOPS大小与容量非线性相关。容量越大，性能越好，取决于实际压力情况。 时延是指低负载情况下的最低延迟，非稳定时延。时延与容量无关。

本环节为您介绍数据迁移服务迁移时长相关问题。 我如何能知道迁移任务的进度？ 一般情况，对象存储服务的迁移速度的参考值是1020TB每天。由于迁移速度受源端对象个数、大小以及公网传输距离影响，建议用户创建一个实际数据的迁移任务来测试实际迁移速度，实际最大迁移速度为单个任务平均速度的5倍（单个Region内并发任务数最大为5）。 单个迁移任务速度可以在“迁移任务”界面中查看实时任务迁移速度。 若您在创建迁移任务时选择使用SMN消息通知功能，迁移任务结果也将通过电子邮件、短信以及自定义URL等方式发送给您。 迁移需要多长时间？ 您可以通过以下公式进行迁移前估算：迁移时长总数据量/带宽大小/81.25。详细时间预估请参见评估迁移时间与测试传输速度。 迁移带宽由什么决定？ 以下三点中最小带宽为准： 数据源出口带宽。 目标端入口带宽。 如何确定任务是否卡死 查看数据迁移工具当前阶段速率展示（迁移速率、核查个数）是否正常。 l 查看源端迁移日志，如果日志信息长时间未刷新，可能是任务异常。 为什么迁移速率有时远远低于带宽大小？ 出现这种现象的原因，一般但不限于以下场景： 大文件多 稀疏文件多

功能介绍 对于某些行业客户，在大模型训练时会涉及到保密数据的处理问题，比如需要避免用户下载到本地造成数据泄漏。针对这一问题，平台推出了特色的数据保密功能，以应对用户下载或拷贝保密数据的行为。 平台主要从数据集限制+操作审计两方面进行限制： 数据集限制：保密数据相关的实现依赖平台数据集功能，将需要保密的数据集打上保密标签，对此数据集进行限制。 容器外，根据用户身份严格限制平台的数据操作权限； 容器内，创造断外网的沙箱环境防止下载到本地，并严格限制读写，任务执行者仅可写入到管理员可控的安全存储中。 云审计：将用户的所有命令操作记录到云审计，并对可能涉及拷贝的敏感操作进行标识，给到客户主管人审核确认。 前置条件 1. 存储准备：已在天翼云开通对象存储或HPFS，并在本平台完成委托授权。 2. 其他限制：您是管理员用户（包括主账号、IAM管理员、工作空间管理员）。 操作说明 1. 创建仅管理员可控的安全存储 保密数据集可工作的一个重要前提是限制写操作仅写入到保密输出路径中，这就要求输出路径是智算平台管理员完全可控的存储。 管理员（需有存储控制台相应权限）首先登录存储控制台，根据所使用的存储类型（ZOS或HPFS），创建保密数据集与保密输出路径。保密数据集是指您含有保密信息的数据集；保密输出路径是指当用户使用保密数据时，您指定的写入路径，建议您创建一个空文件夹专用于输出，并对不同的任务创建不同的输出路径。 注意：主账号天然是各产品的管理员，拥有所有权限。但对于子账号，在本平台拥有管理员权限不代表在存储控制台拥有管理员权限，子账号如需存储控制台权限，需要主账号进入IAM授予相应的权限。建议您只给信任的用户授予存储控制台的操作权限，否则可能造成数据泄漏等事故。

本节基于天翼云分布式缓存服务实践所编写，用于指导您在以下场景使用DCS实现排行榜功能。 场景介绍 在网页和APP中常常需要用到榜单的功能，对某个keyvalue的列表进行降序显示。当操作和查询并发大的时候，使用传统数据库就会遇到性能瓶颈，造成较大的时延。 使用分布式缓存服务（DCS）的Redis版本，可以实现一个商品热销排行榜的功能。它的优势在于： 数据保存在缓存中，读写速度非常快。 提供字符串（String）、链表（List）、集合（Set）、哈希（Hash）等多种数据结构类型的存储。 实践指导 1. 准备一台弹性云主机（ECS），选择Windows系统类型。 2. 在ECS上安装JDK1.8以上版本和Eclipse，下载jedis客户端（点此处直接下载jar包）。 3. 在天翼云控制台购买DCS缓存实例。注意和ECS选择相同虚拟私有云、子网以及安全组。 4. 在ECS上运行Eclipse，创建一个java工程，为示例代码创建一个productSalesRankDemo.java文件，并将jedis客户端作为library引用到工程中。 5. 将DCS缓存实例的连接地址、端口以及连接密码配置到示例代码文件中。 6. 编译并运行得到结果。 代码示例 package dcsDemo02; import java.util.ArrayList; import java.util.List; import java.util.Set; import java.util.UUID; import redis.clients.jedis.Jedis; import redis.clients.jedis.Tuple; public class productSalesRankDemo { static final int PRODUCTKINDS 30; public static void main(String[] args) { //实例连接地址，从控制台获取 String host "192.168.0.246"; //Redis端口 int port 6379; Jedis jedisClient new Jedis(host, port); try { //实例密码 String authMsg jedisClient.auth(""); if (!authMsg.equals("OK")) { System.out.println("AUTH FAILED: " + authMsg); } //键 String key "商品热销排行榜"; jedisClient.del(key); //随机生成产品数据 List productList new ArrayList<>(); for(int i 0; i sortedProductList jedisClient.zrevrangeWithScores(key, 0, 1); for(Tuple product : sortedProductList) { System.out.println("产品ID： " + product.getElement() + ", 销量： " Double.valueOf(product.getScore()).intValue()); } System.out.println(); System.out.println(" "+key); System.out.println(" 前五大热销产品"); //获取销量前五列表并输出 Set sortedTopList jedisClient.zrevrangeWithScores(key, 0, 4); for(Tuple product : sortedTopList) { System.out.println("产品ID： " + product.getElement() + ", 销量： " Double.valueOf(product.getScore()).intValue()); } } catch (Exception e) { e.printStackTrace(); } finally { jedisClient.quit(); jedisClient.close(); } } }

本文介绍如何将第三方云厂商（如阿里云、腾讯云、华为云）日志服务的日志数据迁移至天翼云日志服务中。整体上是将第三方云厂商的日志数据，以对象存储的方式迁移到天翼云中，再通过天翼云云日志服务的对象存储导入功能，将日志数据导入至天翼云中。 准备工作 已在天翼云日志服务中创建目标日志项目与日志单元。 已在第三方云厂商的对象存储中创建一个独立的bucket。 已开通天翼云对象存储并创建一个独立的bucke。 操作步骤 1. 登录第三方云厂商日志服务控制台。 2. 通过第三方云厂商提供的日志转储功能，将日志数据以JSON格式一次性转储到第三方厂商的对象存储bucket中（上述准备工作中所创建的bucket）。具体操作请参考第三方厂商关于日志转储的文档说明。 注意 通过配置文件个数或攒批大小，以确保每个文件不超过1GB。 3. 将第二步中的bucket，从第三方云厂商迁移到天翼云的对象存储指定bucket中（上述准备工作中所创建的bucket），可参考以帮助文档：使用对象存储迁移服务将第三方云厂商数据迁移至对象存储ZOS。 4. 对象存储数据迁移完成后，登录天翼云日志服务控制台。 5. 点击左侧“日志接入”惨淡，选择对象存储导入。 6. 选择日志存储目标（上述准备工作中所创建的日志项目与日志单元）。 7. 在导入配置流程中，根据页面指引完成导入配置，可参考以下参数说明。 参数 说明 接入配置名称 导入任务的唯一标识 ZOS存储桶 选择第三步中的天翼云对象存储bucket 文件路径前缀过滤 此处可不填写。 文件路径正则过滤 此处可不填写。 文件修改时间过滤 选择所有。 压缩格式 选择gzip格式。 检查新文件周期 选择永不检查 文件编码 选择默认UTF8。 数据格式 选择JSON 8. 在索引配置流程中，根据查询需要配置索引字段。如索引字段较多，可以使用【批量解析json字段】，将日志样例复制进去，可以快速添加索引。 9. 最后等待一段时间后即可完成导入，也可以在接入配置中查看导入的情况。

本文为您介绍弹性文件服务的应用场景。 应用场景对比 存储类型 应用场景 SFS Turbo 标准型 适用于大容量、低时延的业务，如代码存储、日志存储、Web服务、虚拟桌面等。 SFS Turbo 性能型 适用于海量小文件、随机IO密集型以及时延敏感型业务，如高性能计算、文件共享、内容管理等。 场景一：高性能计算 (HPC) 场景说明 在仿真实验、工业设计CAD/CAE、生物科学、图像处理、科学研究、气象预报等涉及高性能计算的行业，弹性文件系统为其计算能力、存储效率、网络带宽及时延提供重要保障。 场景痛点 海量数据、计算密集、实时分析、操作频繁，需要超高性能文件系统支撑。 建议搭配产品及架构 GPU云主机、弹性高性能计算、弹性负载均衡 产品优势 高内存：弹性文件服务能够弹性扩容至32TB，具备高可用性和持久性。 高性能：单文件系统最高支持20000IOPS，访问时延低至1ms。 场景二：文件共享 场景说明 企业内部员工众多，需要访问相同的文档和数据，这时可以通过文件服务实现在不同的终端访问企业内部的共享文件，如安装包、文档等，同时方便分支机构的员工访问共享数据。

本章节介绍如何将MySQL同步到MySQL。 支持的源和目标数据库 表支持的数据库 源数据库 目标数据库 本地自建MySQL数据库 ECS自建MySQL数据库 其他云上MySQL数据库 RDS for MySQL RDS for MySQL 前提条件 已登录数据复制服务控制台。 满足实时同步支持的数据库类型和版本，详情请参见下文实时同步。 使用建议 注意 DRS任务启动和全量数据同步阶段，请不要在源数据库执行DDL操作，否则可能导致任务异常。 为保证同步前后数据一致性，确保同步期间目标数据库无业务写入。 数据库同步与环境多样性和人为操作均有密切关系，为了确保同步的平顺，建议您在进行正式的数据库同步之前进行一次演练，可以帮助您提前发现问题并解决问题。 基于以下原因，建议您在启动任务时选择“稍后启动”功能，将启动时间设置在业务低峰期，相对静止的数据可以有效提升一次性同步成功率，避免同步对业务造成性能影响。如果同步不可避免业务高峰期，推荐使用同步限速功能，即“流速模式”选择“限速”。 在网络无瓶颈的情况下，全量同步会对源数据库增加约50MB/s的查询压力，以及占用2~4个CPU。 同步无主键表时，为了确保数据一致性，会存在3s以内的单表级锁定 正在同步的数据被其他事务长时间锁死，可能导致读数据超时 由于MySQL固有特点限制，CPU资源紧张时，存储引擎为Tokudb的表，读取速度可能下降至10%。 DRS并发读取数据库，会占用大约610个session连接数，需要考虑该连接数对业务的影响。 全量阶段读取表数据时，特别是大表的读取，可能会阻塞业务上对大表的独占锁操作。 数据对比 建议您结合 对比同步项的“稍后启动”功能，选择业务低峰期进行数据对比，以便得到更为具有参考性的对比结果。由于同步具有轻微的时差，在数据持续操作过程中进行对比任务，可能会出现少量数据不一致对比结果，从而失去参考意义。 如果涉及表级汇集的多对一同步任务，则不支持DDL，否则会导致同步全部失败。

本章节主要介绍云搜索服务（ES）的产品组件。 CSS服务支持Kibana和Cerebro组件。 Kibana Kibana是一个开源的数据分析与可视化平台，与Elasticsearch搜索引擎一起使用。通过Kibana可以搜索、查看存放在Elasticsearch索引中的数据，也可以实现以图表、地图等方式展示数据。 云搜索服务的Elasticsearch集群默认提供Kibana，无需安装部署，即可一键访问Kibana。云搜索服务兼容了开源Kibana可视化展现和Elasticsearch统计分析能力。 支持10余种数据呈现方式。 支持近20种数据统计方式。 支持时间、标签等各种维度分类。 Cerebro Cerebro是使用Scala、Play Framework、AngularJS和Bootstrap构建的基于Elasticsearch Web的开源可视化管理工具。通过Cerebro可以对集群进行Web可视化管理，如执行Rest请求、修改Elasticsearch配置、监控实时的磁盘、集群负载、内存使用率等。 云搜索服务的Elasticsearch集群默认提供Cerebro，无需安装部署，即可一键访问Cerebro。云搜索服务完全兼容开源Cerebro，适配最新0.8.4版本。 支持Elasticsearch可视化实时负载监控。 支持Elasticsearch可视化数据管理。

检查集群磁盘容量是否已满 1.在FusionInsight Manager首页，选择“运维 > 告警 > 告警”页面，查看是否存在“ALM14001 HDFS磁盘空间使用率超过阈值”告警。 是，执行步骤 2。 否，执行步骤 4。 2.参考“ALM14001 HDFS磁盘空间使用率超过阈值”进行处理，查看对应告警是否清除。 是，执行步骤 3。 否，执行步骤11。 3.在“运维 > 告警 > 告警”页面查看本告警是否清除。 是，处理完毕。 否，执行步骤4。 检查DataNode节点平衡状态 4.在FusionInsight Manager首页，单击“主机”，查看各个机架上的DataNode节点数目分布是否大致相等，如果差异过大，调整DataNode节点所属机架，保证各个机架上的DataNode数量大致相等。重启HDFS服务生效。 5.选择“集群 > 待操作集群的名称 > 服务 > HDFS”。 6.在“基本信息”区域，单击“NameNode(主)”，进入HDFS WebUI页面。 说明 admin用户默认不具备其他组件的管理权限，如果访问组件原生界面时出现因权限不足而打不开页面或内容显示不全时，可手动创建具备对应组件管理权限的用户进行登录。 7.在HDFS WebUI的“Summary”区域，查看“DataNodes usages”中“Max”的值是否比“Median”的值大10%。 l是，执行步骤 8。 否，执行步骤11。 8.数据倾斜，需要均衡集群中的数据。以root用户登录MRS客户端。如果集群为普通模式，执行su omm切换到omm用户。执行cd命令进入客户端安装目录，然后执行 source bigdataenv 。如果集群采用安全版本，要进行安全认证。执行kinit hdfs命令，按提示输入密码。向管理员获取密码。 9.执行以下命令，均衡数据分布： hdfs balancer threshold 10 10.等待几分钟，检查本告警是否恢复。 是，处理完毕。 否，执行步骤 11。 收集故障信息 11.在FusionInsight Manager首页，选择“运维 > 日志 > 下载”。 12.在“服务”中勾选待操作集群的“HDFS”。 13.单击右上角的设置日志收集的“开始时间”和“结束时间”分别为告警产生时间的前后10分钟，单击“下载”。 14.请联系运维人员，并发送已收集的故障日志信息。

本节主要介绍首页 概述 登录数据管理服务功能页面 1. 已获取权限并登录到数据管理服务控制台。 2. 在开发工具数据库登录列表页面，单击“登录”进入数据管理页面。 更多登录信息，详见登录数据库服务。 首页栏目介绍 功能界面说明 功能名称 说明 :: 顶部菜单栏 SQL操作 库管理 DBA智能运维服务 账号管理 账户信息及退出登录 显示当前账户信息及退出该数据库登录。 实例信息 显示当前数据库信息，如引擎标志、实例名称、版本类型等信息。 数据库列表 显示当前实例所创建的数据库列表信息，分为用户库、系统库两大类型。 支持通过数据库名称快速查找功能。 不支持新建数据库功能。 新建数据库 操作步骤 在首页数据库列表栏单击“新建数据库”。 新建数据库 在弹窗中填写数据库名、集合名（可选）。 填写数据库信息完成，单击“确定”。您可在数据库列表中查看新建的数据库。 删除数据库 操作步骤 在数据库列表操作栏单击“删除”。 删除数据库 在删除数据库确认弹窗中，单击“确定”，即可删除该数据库。 删除数据库确认窗口

拨测数据说明 指标 说明 拨测工具 第三方监测工具听云。 源站所在地 江西省。 拨测覆盖地区 全国各主要省市。 拨测覆盖运营商 覆盖三大运营商：移动、联通、电信。 拨测文件大小 791kb。 拨测时间 2023年8月28日15：0017：00。 拨测说明 针对同一个资源进行拨测，对比通过全站加速和直接访问源站的效果。 拨测分析参考 性能概览 任务趋势图

应用架构 支持的功能模块 应用双活 管控通道 注册配置中心RCC 应用双活 接入层 云原生网关CGW 应用双活 服务层 SpringCloud 应用双活 服务层 Dubbo 应用双活 数据层 关系型数据库MySQL版 应用双活 数据层 关系型数据库PostgreSQL版 应用双活 消息层 分布式消息服务RocketMQ 数据双活 管控通道 注册配置中心RCC 数据双活 接入层 云原生网关CGW 数据双活 服务层 SpringCloud 数据双活 服务层 Dubbo 数据双活 数据层 关系型数据库MySQL版 数据双活 数据层 关系型数据库PostgreSQL版 数据双活 消息层 分布式消息服务RocketMQ

本章介绍如何删除追踪器。 操作场景 云审计服务管理控制台支持删除已创建的数据类事件追踪器，删除数据类事件追踪器对已有的操作记录没有影响。本章节介绍如何在管理控制台删除数据事件追踪器。 使用限制 删除数据类追踪器后，操作事件无法上报到云审计服务。您可以在事件列表查看已有的7天内的操作记录，但是您无法查看新的操作记录、转储事件至OBS/LTS。 前提条件 已成功创建数据类事件追踪器。 删除数据类事件追踪器 1. 登录管理控制台。 2. 在管理控制台右上角单击图标，选择区域和项目。 3. 单击左上角，选择“管理与部署 > 云审计服务 CTS”，进入云审计服务详情页面。 4. 单击左侧导航树的“追踪器”，进入追踪器信息页面。 5. 单击目标追踪器对应操作列的“删除”。 6. 在弹框中单击“确定”，完成删除追踪器。

帐户密码等级设置 文档数据库服务在控制台侧管理员密码的安全策略： 密码长度为8～32个字符。 密码必须为英文大小写字母、数字、特殊字符~!@ %^+?的组合。 文档数据库对在客户端新创的数据库用户，设置了密码安全策略： 密码长度为8～32个字符。 密码为英文大小写字母、数字、特殊字符~@ %!+^?的组合。 创建实例数据库以及设置密码时，安全起见，为用户提供了密码复杂度校验，如果不满足要求，请根据提示信息调整密码复杂度。 创建帐户 步骤 1 选择admin数据库。 use admin 步骤 2 以user1帐户为例，创建数据库帐户。 db.createUser({user: "user1", pwd: " ", passwordDigestor:"server", roles:[{role: "root", db: "admin"}]}) “ server ”是指在服务端加密密码，为固定值，无需修改。 “ ”是新密码，长度8～32位，且必须为英文大小写字母、数字以及特殊字符~@ %!+^?的组合。 “roles”限制了该帐户所具有的权限。若指定一个空数组，表示该帐户不具有任何权限。 步骤 3 查看创建结果。 显示如下信息，说明创建成功。 Successfully added user: { "user" : "user1", "passwordDigestor" : "server", "roles" : [ { "role" : "root", "db" : "admin" } ] } 更改帐户的密码 步骤 1 选择admin数据库。 use admin 步骤 2 以user1帐户为例，修改帐户的密码。 db.updateUser("user1", {passwordDigestor:"server",pwd:"newPasswd12

对比项 OBS 自建存储服务器 数据存储量 提供海量的存储服务，所有业务、存储节点采用分布式集群方式部署，各节点、集群都可以独立扩容，用户永远不必担心存储容量不够。 数据存储量受限于搭建存储服务器时使用的硬件设备，存储量不够时需要重新购买存储硬盘，进行人工扩容。 安全性 支持HTTPS/SSL安全协议。同时OBS通过访问密钥（AK/SK）对访问用户的身份进行鉴权，结合IAM策略、桶策略、ACL、防盗链等多种方式和技术确保数据传输与访问的安全。 需自行承担网络信息安全、技术漏洞、误操作等各方面的数据安全风险。 成本 即开即用，免去了自建存储服务器前期的资金、时间以及人力成本的投入，后期设备的维护交由OBS处理。 前期安装难、设备成本高、初始投资大、自建周期长、后期运维成本高，无法匹配快速变更的企业业务，安全保障的费用还需额外考虑。

云资源监控 天翼云的云监控服务为用户提供了一站式的云资源监控解决方案，帮助用户全面掌握云资源的运行状态，确保业务的稳定运行。 云主机与云盘监控 ：通过云监控服务，用户可以实时查看云主机实例及云盘的详细性能指标，包括 CPU 使用率、内存使用情况、磁盘 I/O 性能、网络流量等。这些关键指标的实时数据，使用户能够及时了解资源的负载情况，提前进行资源调整，避免因资源不足而导致的业务卡顿或中断。 健康状态监控 ：云监控服务还提供云资源的健康状态监控功能。用户能够实时了解云资源是否存在异常，提前发现潜在的故障风险，以便快速采取措施，确保业务的稳定运行。 基础云监控 ：天翼云的基础云监控服务支持一键开启关键监控项，用户可以快速设置对重要指标的监控。同时，用户还可以自定义监控项报警规则，当指标超过设定阈值时，系统将及时通知用户，以便用户能够迅速响应，处理可能出现的问题。 可视化与数据分析 ：云监控服务提供了丰富的可视化功能，用户可以通过控制台查看实时监控数据的图表和报表，直观地了解资源的运行状态。此外，云监控还提供了数据分析功能，帮助用户对历史数据进行分析，发现潜在问题，优化资源配置。 集成与扩展 ：云监控服务可以与其他云服务和第三方工具集成。用户可以将监控数据导出到日志服务、数据分析平台等，进行进一步的分析和处理。这种集成和扩展能力为用户提供了更全面的监控解决方案，满足复杂业务场景的需求。 详细介绍，请参见++云监控服务++

sectionefffcc1135a59628) 共享镜像 由其他用户共享而来的私有镜像。云主机中使用共享镜像使得用户之间可以共享和重复使用的预先配置的操作系统和软件环境模板，避免了重复的操作和配置工作。当一个用户创建满足特定需求的镜像时，其他用户可以通过共享该镜像快速获取相同配置的环境，提高部署效率和保持一致性。 详细内容参见共享镜像文档 安全产品镜像 安全产品镜像用于加载部分安全产品服务。可在云主机控制台创建云主机镜像类型中选择安全产品镜像，满足加载CSSP、DAS、LAS、OSM等安全产品的安全性需求。 详细内容参见安全产品镜像文档 云硬盘 数据块级别的块存储产品，采用分布式三副本机制，为云主机提供数据可靠性保证，可以将云硬盘挂载到弹性云主机，并可以扩容云硬盘的容量。 详细内容参见云硬盘文档 快照 某一时间点云主机状态的备份文件，用于备份或者恢复整个云主机。快照能够记录某一块云硬盘在某个时刻的数据，通过回滚将云硬盘数据恢复至快照时间点，用户可以通过快照快速创建出多个具有相同数据的云硬盘用于业务部署。 详细内容参见快照文档 云主机备份 提供对弹性云主机数据的备份保护服务。支持对弹性云主机中的所有云硬盘（系统盘和数据盘）进行备份，并利用备份数据恢复弹性云主机数据。当云主机或磁盘出现故障或者人为错误导致数据误删时，可以自助快速恢复数据。 详细内容参见云主机备份文档 VPC 基于天翼云创建的自定义私有网络，为弹性云主机提供一个逻辑上完全隔离的专有网络，您还可以在VPC中定义安全组、IP地址段、带宽等网络特性。 用户可以通过VPC方便地管理、配置内部网络，进行安全、快捷的网络变更。同时，用户可以自定义安全组内与组间弹性云主机的访问规则，加强弹性云主机的安全保护。 详细内容参见VPC文档 弹性网卡 一种独立的虚拟网卡，用于连接云主机与私有网络。可以在云主机上添加/删除，实现业务的灵活扩展和迁移。 详细内容参见弹性网卡文档 安全组 为云主机提供网络安全防护机制，用于防止未经授权的访问和保护计算机网络免受恶意攻击。它是一种虚拟防火墙，用于限制入向和出向网络流量通行。用户可以在安全组中定义各种访问规则，当弹性云主机加入该安全组后，即受到这些访问规则的保护。 详细内容参见安全组文档 弹性伸缩 弹性伸缩可以自动调整云主机数量，可按照您定义的伸缩配置和伸缩策略对弹性云主机进行伸缩，帮您节约资源和人力运维成本。 详细内容参见弹性伸缩文档 负载均衡 将访问流量自动分发到多台弹性云主机上，提高搭建在弹性云主机上应用系统对外的服务能力，提高应用程序容错能力。 详细内容参见负载均衡文档 云监控服务 云监控为云主机提供监控服务，提供性能指标监控、自动告警、历史信息查询等功能。当用户开通了弹性云主机后，无需额外安装其他插件，即可在云监控查看对应服务的实例状态。 详细内容参见云监控文档 日志审计服务 日志审计服务通过云主机日志进行全面的标准化处理，及时发现各种安全威胁、异常行为事件。 详细内容参见日志审计文档

DLI核心引擎：Spark+Flink Spark是用于大规模数据处理的统一分析引擎，聚焦于查询计算分析。DLI在开源Spark基础上进行了大量的性能优化与服务化改造，不仅兼容Apache Spark生态和接口，性能较开源提升了2.5倍，在小时级即可实现EB级数据查询分析。 Flink是一款分布式的计算引擎，可以用来做批处理，即处理静态的数据集、历史的数据集；也可以用来做流处理，即实时地处理一些实时数据流，实时地产生数据的结果。DLI在开源Flink基础上进行了特性增强和安全增强，提供了数据处理所必须的Stream SQL特性。 DLI服务架构：Serverless DLI是无服务器化的大数据查询分析服务，其优势在于： 自动扩缩容：根据业务负载，对计算资源进行预估和自动扩缩容。 如何访问DLI 服务平台提供了Web化的服务管理平台，既可以通过管理控制台和基于HTTPS请求的API（Application programming interface）管理方式来访问DLI，又可以通过JDBC客户端连接DLI服务端。 管理控制台方式 提交SQL作业、Spark作业或Flink作业，均可以使用管理控制台方式访问DLI服务。 API方式 如果用户需要将云平台上的DLI服务集成到第三方系统，用于二次开发，可以使用API方式访问DLI服务。

本章节介绍数据库复制与其他服务的关系。 关系型数据库 数据库复制服务可将已有数据库迁移到本云关系型数据库（Relational Database Service，简称RDS）。 目前数据库复制服务支持将如下场景的关系型数据库迁移到本云关系型数据库： VPC网络 VPN网络 专线网络 公网网络 文档数据库服务 数据库复制服务可将已有数据库迁移到本云文档数据库服务（Document Database Service）。 目前数据库复制服务支持将如下场景的MongoDB数据库迁移到本云文档数据库服务： VPC网络 VPN网络 专线网络 公网网络 分布式关系型数据库 数据库复制服务可将已有数据库迁移到本云分布式数据库中间件（Distributed Database Middleware，简称DDM）。 目前数据库复制服务支持将如下场景的数据库迁移到本云分布式数据库中间件服务： VPC网络 VPN网络 专线网络 公网网络 云监控 当用户开通了数据库复制后，无需额外安装其他插件，即可在云监控查看对应服务的实例状态。 云审计服务 云审计服务（Cloud Trace Service，简称CTS）记录数据库复制服务相关的操作事件，方便您日后的查询、审计和回溯。 对象存储服务 对象存储服务为数据库复制服务提供海量、安全、高可靠、低成本的数据存储能力。

HPFS通过协议服务功能实现HPFSPOSIX和NFS多协议互访,一份数据多种业务平台同时访问。本文介绍协议服务的功能介绍、适用场景、使用限制和整体流程。 功能介绍 协议服务提供标准NFS协议访问HPFS文件系统的能力，满足以下需求： 无缝集成弹性云主机与物理机：支持在弹性云主机ECS或物理机（通过VPC/VPCE），直接挂载并访问HPFS文件系统。 多协议互访：通过HPFSPOSIX直接挂载，与通过协议服务功能（NFS协议）挂载，是两个独立的访问通道。无论使用HPFSPOSIX客户端还是协议服务的NFS客户端，均可同时访问同一份文件数据。在一端创建或修改的文件，在另一端可见。 注意 如需确认资源池/集群对NFS协议的支持情况，请前往产品能力地图中的【协议服务NFS挂载云主机】列进行查询。 适用场景 高效数据上云与训练准备 在智算模型训练场景中，用户需提前将海量数据集上传至HPFS。如使用高性能物理机仅作数据传输，资源利用率低且费用高昂。又由于数据集体量庞大传输时间长，训练前期准备效率降低。 协议服务功能满足将HPFS直接挂载到云主机上，实现将本地数据通过弹性云主机（配置弹性IP）高效上传至HPFS，利用按需付费的弹性云主机作为传输节点，显著节省成本。 数据上传完成后，再将HPFS挂载至GPU物理机集群进行模型训练，实现资源按需切换。 灵活经济的模型推理部署 模型推理对延迟和吞吐量敏感，但计算强度通常低于训练阶段。DeepSeek等模型的开放推动了轻量化AI应用的爆发式增长，越来越多的中小企业及个人开发者倾向于使用弹性云主机部署和运行其AI推理应用。 用户可根据模型规模和实时推理需求，灵活选择性价比最优的弹性云主机实例类型。然后通过协议服务功能在弹性云主机上挂载HPFS，进行敏捷开发与发布。

本文向您介绍备份弹性云主机。 操作场景 备份服务提供申请即用的服务，使您的数据更加安全可靠。例如，当云主机或磁盘出现故障或者人为错误导致数据误删时，可以自助快速恢复数据。本节操作介绍备份云主机和云硬盘的操作步骤。 使用须知 目前弹性云主机备份可以通过“云主机备份”和“云硬盘备份”功能实现： 云主机备份（推荐）：如果是对弹性云主机中的所有云硬盘（系统盘和数据盘）进行备份，推荐使用云主机备份功能，同时对所有云硬盘进行备份，避免因备份创建时间差带来的数据不一致问题。 云硬盘备份：如果对指定的单个或多个云硬盘（系统盘或数据盘）进行备份，推荐使用云硬盘备份功能，在保证数据安全的同时降低备份成本。 云主机备份操作步骤 1. 登录控制中心。 2. 单击控制中心顶部的，选择“地域”。 3. 单击左侧导航栏“产品服务列表”，选择“存储 >云备份”，并点击左侧菜单栏“存储库管理”，进入存储库管理页。 4. 单击右上角“创建存储库”，绑定云主机及备份策略。 如果云主机已绑定存储库，则根据界面提示，配置备份信息。 如果云主机未绑定存储库，请先购买存储库，配置备份信息。 5. 单击“下一步”。系统会自动为云主机创建备份。 在“备份副本”页签，产生的备份的“备份状态”为“可用”时，表示备份任务执行成功。 为了保证数据完整性，建议备份完成后再执行重启。 详细操作请参见：云主机备份介绍。

本文主要介绍云日志服务Log4j2 SDK的使用方法。 Ctyun Log4j2 Appender概述 Log4j2 是 log4j 的升级版本。它支持将日志输出到各种目标，如文件、控制台等，并允许通过简单的配置文件自定义日志级别、格式和输出目的地。 通过Ctyun Log4j Appender，您可以将生成的日志信息异步发送到ctyun云日志服务，其样式如下： plaintext useragent : log4j2 level : INFO location : cn.ctyun.example.Log4j2AppenderExample.main(Log4j2AppenderExample.java:10) message : log4j2 info log thread : main time : 20240606T18:03:06+0800 message : 20240606T18:03:06+0800 [main] INFO cn.ctyun.example.Log4j2AppenderExample: log4j2 info log 其中： level：日志级别。 location：日志打印语句的代码位置 。 message：日志内容。 throwable：日志异常信息，只有当记录了异常信息，这个字段才会出现。 thread：线程名称。 time：日志打印时间（可以通过 timeFormat 或 timeZone 配置 time 字段呈现的格式和时区）。 ts：日志生成时的时间。 message ：日志信息。 useragent： 日志来源 功能优势 日志实时传输： 实时性增强： 日志数据不再依赖传统的磁盘写入，而是实时通过网络通道发送至服务端，确保数据的即时性。 无侵入性集成： 无缝对接： 对于已采用log4j2作为日志框架的应用，我们提供了简洁的配置方案，无需对应用代码进行大幅度修改，即可实现日志的采集与传输。 高效异步处理： 高并发设计： 系统采用高并发架构，后台异步处理日志发送任务，即使在大量日志数据产生的情况下，也能保证系统的稳定运行和高效处理。

本节包含磁盘增强型弹性云主机D6的概述、使用须知、使用场景等内容。 概述 D6搭载第二代英特尔® 至强® 可扩展处理器，计算性能强劲稳定，提供1:4的vCPU和内存比实例。配套自研25GE智能高速网卡，提供超高网络带宽和PPS收发包能力；配套有本地SATA盘，单盘提升到3600GiB，最大支持36 × 3600GiB本地盘容量。 使用须知 1.当前支持如下版本的操作系统（最终以控制台展示的信息为准）： CentOS 6.3/6.4/6.5/6.6/6.7/6.8/6.9/6.10/7.0/7.1/7.2/7.3/7.4/7.5/7.6/8.0 64bit SUSE Enterprise Linux Server 11 SP3/SP4 64bit SUSE Enterprise Linux Server 12 SP1/SP2/SP3/SP4 64bit Red Hat Enterprise Linux 6.4/6.5/6.6/6.7/6.8/6.9/6.10/7.0/7.1/7.2/7.3/7.4/7.5/7.6/8.0 64bit Windows Server 2008 R2 Enterprise 64bit Windows Server 2012 R2 Standard 64bit Windows Server 2016 Standard 64bit Debian 8.1.0/8.2.0/8.4.0/8.5.0/8.6.0/8.7.0/8.8.0/9.0.0 64bit EulerOS 2.2/2.3/2.5/2.9 64bit Fedora 22/23/24/25/26/27/28 64bit OpenSUSE 13.2/15.0/15.1/42.2/42.3 64bit 2.D6型弹性云主机所在的物理机发生故障时，不支持弹性云主机的迁移。部分宿主机硬件故障或亚健康场景，需要用户配合关闭ECS完成宿主机硬件维修动作。 因系统维护或硬件故障等，HA重新部署ECS实例后，实例会冷迁移到其他宿主机，本地盘数据不保留。 3.不支持规格变更。 4.不支持本地盘的快照和备份。 5.可使用本地盘和云硬盘两类磁盘存储数据，通过挂载云硬盘，可以提供更大的存储空间。关于本地盘和云硬盘的使用，有如下约束与限制： 系统盘只能部署在云硬盘上，不可以部署在本地盘上。 数据盘可以部署在云硬盘和本地盘上。 最多可以挂载60块盘（包括VBD盘+SCSI盘+本地盘），其中，SCSI盘最多只能挂载30块，VBD盘最多只能挂载24块（含系统盘），详情请参见一台弹性云主机可以挂载多块磁盘吗。 说明 对于已创建的D6型云主机，最多可以挂载的磁盘数保持原配额。 6.您可以通过配置fstab文件，设置云主机系统启动时自动挂载磁盘分区。具体操作请参见设置开机自动挂载磁盘分区。 7.D6型弹性云主机的本地磁盘数据有丢失的风险（比如宿主机宕机或本地磁盘损坏时），如果您的应用不能做到数据可靠性的架构，我们强烈建议您使用云盘搭建您的弹性云主机。 8.删除D6型弹性云主机时，本地盘中的数据会被自动清除，请提前做好数据备份。删除本地盘数据的时间较长，因此，资源释放的时间较之常规云主机略长。 9.请勿在本地磁盘上存储需要长期保存的业务数据，并及时做好数据备份和采用高可用架构。如需长期保存，建议将数据存储在云硬盘上。 10.您不能单独购买本地盘，本地盘的数量和容量由您选择的弹性云主机规格决定，只能在创建D6型弹性云主机的同时购买本地盘。

本文带您了解训推服务相关术语及其基本概念。 预置模型 是指训推服务提供的原始模型，您可以通过选择预置模型进行训练从而得到行业或细分场景模型，不同的基础模型的参数和能力不同，我们将持续推出不同能力方向的模型。 模型微调 是指利用预先训练好的神经网络模型，并针对特定任务在相对较少量的监督数据上进行重新训练的技术。这种方法能够充分利用预训练模型在大型数据集上学到的通用特征和知识，从而加速在新任务上的训练过程，并通常能够取得较好的性能表现。 迭代轮次 是指模型训练过程中模型学习数据集的次数，可理解为学习几遍数据，可依据需求进行调整。 批处理大小 是指在模型训练过程中，每次处理的数据样本的数量，可理解为模型每看多少数据即更新一次模型参数，在选择批处理大小时需要综合考虑各种因素。 学习率 是指更新模型参数的系数，它决定了在每次迭代中，模型参数应该沿着梯度下降的方向更新多少，需要根据具体情况来仔细选择和调整学习率。 训练数据集 是机器学习或深度学习模型训练过程中的重要组成部分。训练数据集是一组已知输入和对应输出的数据，用于训练模型以学习从输入到输出的映射关系。构建合适训练集，通过模型调优可增强模型能力，提升预测效果。

故障恢复 弹性云主机通过云服务备份实现故障恢复，当云主机或磁盘出现故障或者人为错误导致数据误删时，可以自助快速恢复数据。 什么是云服务备份 云服务备份（CTCloud Backup and Recovery，CBR）可以为云主机、云硬盘提供简单易用的备份服务，当发生病毒入侵、人为误删除、软硬件故障等事件时，可将数据恢复到任意备份点。 云服务备份保障用户数据的安全性和正确性，确保业务安全。 云主机备份与云硬盘备份 目前弹性云主机备份可以通过“云主机备份”和“云硬盘备份”功能实现： 云主机备份（推荐）：如果是对弹性云主机中的所有云硬盘（系统盘和数据盘）进行备份，推荐使用云主机备份功能，同时对所有云硬盘进行备份，避免因备份创建时间差带来的数据不一致问题。 云硬盘备份：如果对指定的单个或多个云硬盘（系统盘或数据盘）进行备份，推荐使用云硬盘备份功能，在保证数据安全的同时降低备份成本。 表 云主机备份与云硬盘备份 对比维度 云主机备份 云硬盘备份 备份/恢复对象 服务器中的所有云硬盘（系统盘和数据盘）。 指定的单个或多个磁盘（系统盘或数据盘）。 推荐场景 需要对整个云主机进行保护。 系统盘没有个人数据，因而只需要对部分的数据盘进行备份。 优势 备份的同一个服务器下的所有磁盘数据具有一致性，即同时对所有云硬盘进行备份，不存在因备份创建时间差带来的数据不一致问题。 保证数据安全的同时降低备份成本。

本页面介绍云数据库ClickHouse实例管理方面的常见问题。 云数据库ClickHouse实例开通后的管理类常见问题总结： 实例开通后能否扩容? 是的,云数据库ClickHouse实例开通后支持以下三种扩容方式: 存储空间扩容 用户可以在选择相应实例,进入“扩容”页面提交扩容申请。系统会在后台扩充数据盘,实现用户数据存储能力的扩展。 计算节点CPU/内存升级 用户可以选择将实例进行升级，将内存容量升级大一倍等。系统会在后台对选定计算节点进行硬件资源的扩充升级。 增加计算节点数量 当数据量或并发访问压力增大时，用户可以通过在添加更多计算节点的方式来扩充整体处理能力。系统会自动完成新节点的部署与旧数据同步。 以上三种扩容均需在控制台上提交申请,系统后台会根据申请内容完成自动化处理，存储和计算资源的扩充能有效满足业务规模的扩张。 实例扩容对运行中实例的影响有哪些? 存储空间扩容过程中: 数据访问速度会短期下降,读写性能受到一定影响。 计算节点CPU/内存升级过程中: 相关节点会进入升级流程，此期间读写操作会失败。 增加计算节点过程中： 不对现有数据进行迁移，故影响最小，线上业务无感知，仅同步数据库中已有结构及元数据到新节点。 计算资源不足时,应该选择哪种扩容方式? 当实例计算资源(如CPU、内存)不足导致查询性能下降时,可以考虑以下扩容方式: 对已有计算节点进行升级：仅影响该节点短暂下线,对其他节点和业务整体影响小，扩充节点计算能力,提升实例整体处理性能，成本相对较低,是第一选择。 增加计算节点数量：新节点随即上线,不影响线上业务，性能上升程度受新节点规格限制，成本随增加节点数成比例增长。 所以,计算资源不足时,优先考虑对现有节点进行升级,其次增量增加计算节点数量。两种方式结合还可获得最大利益。

概述 JWT全称为 JSON Web Token，是一种开放标准（RFC 7519），它定义了一种在通信各方之间以JSON对象形式安全传输信息的方式。JWT可以使用HMAC、RSA、ECDSA等算法签名；在应用中，JWT可以用于用户身份认证和访问鉴权。云原生网关作为微服务的访问入口，是实现认证鉴权的理想节点，当前云原生网关支持JWT认证方式，交互流程如下： 1. JWT签发阶段，云原生网关对这类接口访问不做认证，将请求透传到业务授权服务。 2. 业务授权服务认证成功后签发JWT并返回给客户端，在后续的请求中客户端会带上JWT。 3. 云原生网关收到正常的业务请求时提取JWT并校验签名信息，校验通过则放过请求，否则返回401状态码。 JWT策略配置 云原生网关支持全局的JWT策略配置，在 安全认证 > 认证鉴权 菜单下，选择创建鉴权，鉴权类型选择JWT，填写相关参数即可创建JWT认证策略，JWT配置参数说明如下： 配置 说明 鉴权名称 唯一标识一个JWT鉴权配置，只能包含大小写字母、数字和‘’，且不能以‘’开头或者结尾。 加密算法 支持HS256、HS512、RS256。 密钥 选择HS256/ HS512算法时填写，需要指定是否base64编码，并提供密钥。 RSA密钥 选择RS256算法时填写，需要提供RSA算法公钥和私钥。 JWT Token配置 网关从请求获取JWT Token的位置，支持指定header、query和Cookie的key。 过期时间 JWT Token过期时间，默认86400秒。

分布式消息服务Kafka版完全兼容开源社区版本，旨在为用户提供便捷高效的消息队列。业务无需改动即可快速迁移上云，为您节省维护和使用成本。 一键式部署，免去集群搭建烦恼 专享实例只需要在实例管理界面选好规格配置，提交订单。后台将自动创建部署完成一整套Kafka实例。 兼容开源，业务零改动迁移上云 兼容社区版Kafka的API，具备原生Kafka的所有消息处理特性。 业务系统基于开源的Kafka进行开发，只需加入少量认证安全配置，即可使用分布式消息服务Kafka，做到无缝迁移。 说明：Kafka专享实例兼容开源社区Kafka 1.1.0和2.3.0版本。在客户端使用上，推荐使用和服务端版本一致的版本。 安全保证 独有的安全加固体系，提供业务操作云端审计，消息存储加密等有效安全措施。 在网络通信方面，除了提供SASL认证，还借助虚拟私有云（VPC）和安全组等加强网络访问控制。 数据高可靠 Kafka专享实例支持消息持久化，多副本存储机制。副本间消息同步、异步复制，数据同步或异步落盘多种方式供您自由选择。 集群架构与跨AZ部署，服务高可用 Kafka后台为多集群部署，支持故障自动迁移和容错，保证业务的可靠运行。 Kafka专享实例支持跨AZ部署，节点部署在不同的AZ，进一步保障服务高可用。 无忧运维 公有云提供一整套完整的监控告警等运维服务，故障自动发现和告警，避免724小时人工值守。Kafka专享实例自动上报相关监控指标，如分区数、主题数、堆积消息数等，并支持配置监控数据发送规则，您可以在第一时间通过短信、邮件等获得业务消息队列的运行使用和负载状态。 海量消息堆积与弹性扩容 内建的分布式集群技术，使得服务具有高度扩展性。分区数可配置多达100个，存储空间弹性扩展，保证在高并发、高性能和大规模场景下的访问能力，轻松实现百亿级消息的堆积和访问能力。 多规格灵活选择 Kafka专享实例的带宽与存储资源可灵活配置，并且自定义Topic的分区数。

本文介绍了英特尔® 至强®处理器在AI推理领域的优势,以及如何使用一键部署的镜像进行推理性能测试。 1. 背景 1.1 大模型算力需求 大模型因其参数规模巨大、结构复杂，通常需要强大的计算资源来支持其推理过程，这使得算力成为大模型应用的关键要素。信通院的数据资料显示云端推理的市场潜力很大，AI大模型落地应用数量正在不断增加，市场对大模型推理算力的需求也呈现爆发式增长态势。 近年来，CPU制程和架构的提升以及英特尔AMX指令集的面世带来了算力的快速提升。英特尔对大模型推理等多个AI领域持续深入研究，提供全方位的AI软件支持，兼容主流AI软件且提供多种软件方式提升CPU的AI性能。目前，已有充分的数据显示CPU可以用于大模型推理。 1.2 CPU算力用于大模型推理的适用场景 CPU适用于以下大模型推理场景， 场景1: 大模型推理需要的内存超过了单块GPU的显存容量，需要多块或更高配GPU卡，采用CPU方案，可以降低成本； 场景2: 应用请求量小，GPU利用率低，采用CPU推理，资源划分的粒度更小，可有效降低起建成本； 场景3: GPU资源紧缺，CPU更容易获取，且可以胜任大模型推理。 2. 英特尔 AI推理加速技术 2.1 英特尔 AI硬件基础