一、总体说明 1.1 工具概述 EvalScope是一款专为大模型部署后性能评估设计的压力测试工具，支持多并发场景下的吞吐量、延迟、稳定性等核心指标测试。通过配置输入/输出Token长度、并发数等参数，可模拟真实业务负载，验证模型服务在不同上下文场景下的性能表现。工具基于Apptainer容器化部署，确保环境一致性，降低依赖冲突风险。 1.2 使用须知 网络配置 ：被测模型服务需暴露HTTP接口（如 资源要求：测试过程可能产生高I/O和网络负载，建议在独立测试环境中执行，避免影响生产服务。 1.3 应用场景 模型部署验证：确认模型服务在指定并发和上下文长度下的响应能力。 性能瓶颈定位：通过多并发和Token配置组合，识别吞吐量下降或延迟突增的临界点。 服务稳定性测试：长时间高负载下验证服务是否存在内存泄漏、连接超时等异常。 random数据模式： random 数据集模式需指定 tokenizerpath，按 prefixlength/min/maxpromptlength 随机生成 Prompt；DeepSeekV4 系列模型权重无内置chattemplate.jinja或chattemplate.json文件，不支持该模式。 二、物料准备 2.1 Evalscope高性能容器SIF文件获取 基于Apptainer（原 Singularity） 封装的Evalscope压测工具，已完成x86与arm架构适配，使用cthpc一键安装工具，秒级快速下发Apptainer高性能容器灌装，当前支持： 华东1、武汉41、上海15、华北2、华南2、西南1、西南2贵州、长沙42、杭州7。 当前上线版本 v1.7.0，cthpc支持自动识别主机硬件架构，智能下发匹配当前架构的程序版本，无需人工区分架构、手动选择安装包，实现跨架构统一分发部署。 plaintext mkdir p /home/bench 使用 cthpc 工具极速下发 cthpc apptainer makecache cthpc apptainer install evalscopev1.7.0 dir /mnt/nvme0n1/apptainer/ 三、测试过程

组合优势 缓存自动卸载：显存减负与数据流转的核心枢纽 HPKV 系统构建了 GPU HBM → Host DRAM → Local NVMe SSD 或 Remote Storage/HPFS 的多级存储体系，通过跨请求的 KV Cache 深度复用，践行“以存代算”理念，有效消除推理服务中的冗余计算开销，显著降低首Token延迟（TTFT）并提升吞吐量，同时降低算力成本。通过智能沉降与基于热度、存储时长、容量的多策略驱逐机制，在各级存储间自动流转数据，精准淘汰冷数据，实现效率与成本的最优平衡。 智能数据预取：掩盖 I/O 延迟的启动加速核心 在推理任务排队等待阶段，通过与全局调度器的深度联动实现智能预取。系统提前将目标 KV Cache 从 SSD/HPFS 异步预取至 Host 内存和 GPU HBM，确保任务启动时数据“即取即用”，有效掩盖 I/O 延迟，将任务启动等待时间缩减 50% 以上，极大提升用户体验。 分布式存储层：容量与性能的弹性基石 深度集成高性能分布式文件系统 HPFS，将 KV Cache 存储容量从 GB 级显存无缝扩展至 PB 级，实现存储资源的独立弹性伸缩。其通过全链路 RDMA 与 IB/RoCE 高速网络协议，提供千万级 IOPS 与 TBps 级吞吐，同时保证亚毫秒级延迟，使海量历史上下文不仅能“存得下”，更能“取得快”。在多轮对话与高并发场景中，该架构以极速 I/O 替代 GPU重复计算，在充分释放昂贵 HBM 资源的同时，保障了推理服务的超低延迟响应，最终达成了存算效率与成本的最佳平衡。 生态兼容：多框架多硬件的广泛兼容 适配天翼云自研 CTyunOS 系列及主流 Linux 操作系统，广泛兼容多款国产化AI算力硬件。无缝对接 vLLM、SGLang 等主流开源大模型推理引擎，全面支持张量并行（TP）、流水线并行（PP）、数据并行（DP）、PD 分离等主流分布式策略及多种注意力机制的模型，灵活适配并支撑多样化的模型架构演进。

本章节主要介绍云搜索服务如何删除集群。 当用户已完成数据搜索业务，无需继续使用某一集群时，可删除集群。删除集群时，集群创建的快照将保存在OBS桶中，不会被删除。 说明 由于集群删除后，数据无法恢复，请您谨慎操作。 操作步骤 1.登录云搜索服务管理控制台。 2.单击“集群管理”进入集群列表界面，在对应集群的“操作”列中单击“更多>删除”。 3.在弹出的确认提示框中，单击“确定”完成集群删除。

本节介绍云智助手支持企业自有大模型配置的功能。 天翼AI云电脑云智助手，提供支持企业新增自有大模型功能。用户将大模型的API地址和APIKey配置后即可在AI助手进行会话。 【操作步骤】 1.使用管理员账号登录AI云电脑，打开云智助手，点击右上角个人头像，打开“设置”功能；（如无管理员账号，请先创建账号，详见管理账号） 2.打开设置页面，点击“基础设置”，选择企业名称，点击新增，添加自己的大模型； 3.新增自有大模型，需要确认并填写以下字段： 大模型显示名称+描述：设置后将会显示在大模型切换列表，名称和描述建议体现企业元素，品牌辨识度更高。 大模型类型：支持选择“官方平台DeepSeek”、“百度平台DeepSeek”、“自有平台DeepSeek”三个选项，如有需求可联系我们拓展更多平台的DeepSeek大模型的支持。 API地址：需填写支持公网访问API地址，API地址格式推荐：{baseurl}/chat/completions。如无法公网访问，请联系天翼云售前人员提供内网解决方案。 Model名称：需填写大模型的Medel名称，可查看相关的接口文档。 APIKey：需填写大模型开放平台申请的有效的APIKey。 4.自有大模型添加后，企业用户在AI助手会话时，可选择自有大模型进行聊天，开启专属大模型智能体验。

本节介绍如何配置日志。 您可以将攻击事件日志、访问控制日志、流量日志记录到云日志服务（Log Tank Service，简称LTS）中，通过LTS记录的CFW日志数据，快速高效地进行实时决策分析、设备运维管理以及业务趋势分析。 LTS对于采集的日志数据，通过海量日志数据的分析与处理，可以为您提供一个实时、高效、安全的日志处理能力。 说明 防火墙支持通过“日志查询”查看并导出最近7天的日志数据，请参见“日志查询”。 LTS按流量单独计费。 配置日志 1. 登录管理控制台。 2. 在左侧导航栏中，单击左上方的，选择“安全> 云防火墙”，进入云防火墙的总览页面。 3. （可选）当前账号下仅存在单个防火墙实例时，自动进入防火墙详情页面，存在多个防火墙实例时，单击防火墙列表“操作”列的“查看”，进入防火墙详情页面。 4. 在左侧导航树中，选择“日志审计> 日志管理”，进入“日志管理”页面。开启对接云日志服务。 5. 创建日志组和日志流。操作步骤请参见“云日志服务> 快速入门 > 创建日志组和日志流”。 说明 为方便后续查看，建议您： 创建日志组时加入cfw为后缀。 创建日志流时分别为攻击事件日志、访问控制日志、流量日志加入attack、access、flow为后缀。 6. 选择已创建的日志组和日志流。选择日志组，开启并选择日志流，单击“确定”，完成日志配置。 说明 攻击、访问、流量日志的格式均不一样，需配置不同的日志流分别记录。 攻击日志：记录攻击告警信息，包括攻击事件类型、防护规则、防护动作、五元组、攻击payload等信息。 访问日志：记录命中ACL策略的流量信息，包括命中时间、五元组、响应动作、访问控制规则等信息。 流量日志：记录所有通过云防火墙的流量信息，包括开始时间、结束时间、五元组、字节数、报文数等信息。

本文主要介绍主机监控 。 主机监控分为基础监控、操作系统监控和进程监控。 基础监控：ECS自动上报的监控指标，数据采集频率为5分钟1次。可以监控CPU使用率等指标，详见弹性云主机支持的基础监控指标。 操作系统监控：通过在弹性云主机或物理机中安装Agent插件，为用户提供服务器的系统级、主动式、细颗粒度监控服务。数据采集频率为1分钟1次。除了CPU使用率等指标外，还可以支持内存使用率（Linux）等指标，详见 弹性云主机支持的操作系统监控指标（安装Agent）。 进程监控：针对主机内活跃进程进行的监控，默认采集活跃进程消耗的CPU、内存，以及打开的文件数量等信息。 注：Linux操作系统安装插件需要root权限；Windows操作系统安装插件需要管理员权限。 应用场景 无论您使用的是弹性云主机还是物理机，都可以使用主机监控来采集丰富的操作系统层面监控指标，也可以使用主机监控进行服务器资源使用情况监控和排查故障时的监控数据查询。 监控能力 云监控服务会提供CPU、内存、磁盘、网络等多种监控指标，满足服务器的基本监控运维需求。详细的监控指标请参考弹性云主机支持的基础监控指标。

步骤三：访问ZOS服务 操作场景 终端节点与DNS终端节点服务和ZOS终端节点服务建立连接后，本地数据中心就可通过VPN连接或云专线来实现对ZOS服务的访问。 前提条件 本地数据中心通过VPN连接或云专线与云上VPC建立连接，确保数据的安全传输，并实现对ZOS的访问，需进行如下配置： VPN网关设置：确保允许访问的VPC子网网段包含了ZOS所在的网段。具体请参考VPN连接。 云专线虚拟网关设置：需要确保允许访问的VPC子网网段中包含ZOS所在的网段。具体请参考开通云专线。 操作步骤 1. 点击天翼云门户首页的“控制中心”，输入A账号登录的用户名和密码，进入控制中心页面。 2. 在管理控制台上方点击图标，选择所需的资源池节点，以下操作选择华东华东1。 3. 在系统首页，选择“网络>VPC终端节点”。 4. 在“终端节点”列表，点击已创建的连接到DNS服务的终端节点的名称/ID，查看该终端节点的“节点IP”。 5. 在用户本地数据中心的DNS服务器上配置相应的DNS转发规则，以将解析ZOS域名的请求转发到连接DNS服务的终端节点（部分资源池支持终端节点上启用，支持资源池以控制台展示为准，未支持资源池可直接使用地址直接访问ZOS服务）。 6. 配置用户本地数据中心节点到VPN网关或云专线网关的DNS路由。为了通过VPN或云专线访问DNS，需要配置用户本地数据中心节点的永久路由，将访问DNS的流量指向用户本地数据中心节点的专线网关或VPN网关的IP地址。 7. 验证本地数据中心与ZOS的连通性。

本文主要介绍资源包主动预警提醒说明。 计费项说明 云主机备份产品包含了2个计费项：云主机备份功能费和云主机备份存储费。 备份功能空间云主机所有磁盘空间总和，额定容量，即等于系统盘容量+数据盘容量； 备份存储空间实际使用的存储空间，可在控制台使用空间总和查看。 计费项 含义 适用的计费模式 云主机备份功能费 需要备份的云主机的磁盘空间：按照备份云主机的系统盘、数据盘空间总和进行收取。 功能资源包 云主机备份存储费 备份数据所占用的存储空间费用：根据备份数据实际占用的存储空间收费。 存储资源包 告警提醒功能说明 主动预警：当客户购买的资源包用量达到90%，系统主动预警，邮件通知最终用户，客户经理和服务经理，短信通知最终用户和客户经理。 用尽通知：当客户购买的资源包用量达到100%，系统用尽通知，邮件通知最终用户，客户经理和服务经理，短信通知最终用户和客户经理。 频次：一个自然日为单位，每自然日提醒一次。 规则补充说明 1、 您可自行选择主动退订通知，或者提工单退订该预警通知，因产品计费规则为超出部分按量付费，后续因为退订提醒消息导致产生的按需费用，需要您自行承担。 2、 功能资源包已用尽，如您无计划新增云主机备份的场景，云主机备份功能空间理论上保持不变，这种场景请您忽略预警提示。 3、 功能资源包已用尽，有计划新增云主机备份的场景，可根据实际需求购买资源包叠加或者超出部分按需付费。 4、 存储资源包即将用尽或已用尽场景，请您及时新购资源包叠加抵扣，或者调整备份和保留策略，或者删除不用的备份释放空间等。

本节介绍漏洞扫描的计费方法。 VSS提供按需计费和包年/包月两种计费模式，用户可以根据实际需求选择计费模式。 服务版本 支持的计费方式 说明 基础版 配额内的服务免费 基础版配额内仅支持Web网站漏洞扫描（域名个数：5个，扫描次数：5个域名每日总共可以扫描5次）是免费的。 专业版 包年/包月 相对于按需付费，包年/包月购买方式能够提供更大的折扣，对于长期使用者，推荐该方式。包周期计费为按照订单的购买周期来进行结算。 高级版 包年/包月 相对于按需付费，包年/包月购买方式能够提供更大的折扣，对于长期使用者，推荐该方式。包周期计费为按照订单的购买周期来进行结算。 企业版 包年/包月 相对于按需付费，包年/包月购买方式能够提供更大的折扣，对于长期使用者，推荐该方式。包周期计费为按照订单的购买周期来进行结算。

本文介绍创建私有镜像的一个场景:通过弹性云主机创建Windows系统盘镜像。 场景说明 用户已经创建了一台Windows弹性云主机，并根据业务需要进行了自定义配置（如安装软件、部署应用环境等）。 此时，可以为弹性云主机创建系统盘镜像。使用该镜像创建新的云主机，会包含已配置的自定义项，省去重复配置的时间。 前提条件 如果云主机开机状态创建私有镜像，运行中的云主机由于存在缓存数据未落盘的情况，制作出来的镜像数据可能会和实例数据不完全一致，推荐关机后制作镜像。 请勿在创建镜像过程中对选择的云主机及相关联资源进行其他操作。 基于云主机创建系统盘镜像时，建议先注释fstab再做镜像；否则用创建出来的私有镜像创建云主机时，会因为找不到数据盘而进入维护模式，需要再次注释或者删除fstab中挂载数据盘后再重启虚机。 操作步骤 方式一：在弹性云主机页面选择云主机创建镜像 1. 登录天翼云控制台，选定业务地域，选择“计算>弹性云主机”。 2. 进入弹性云主机页面，选择待创建私有镜像的弹性云主机，点击操作栏下方的“更多>创建镜像”进入镜像创建页面。 3. 默认创建系统盘镜像（如果弹性云主机有数据盘，可以切换镜像类型创建数据盘镜像），选择企业项目，填写镜像名称和描述。 4. 单击“下一步”，确认相关配置，阅读《天翼云镜像服务协议》。无异议单击我已阅读并同意相关协议，单击“确认下单”。 5. 跳转至私有镜像页面，等待镜像状态变为正常，即完成Windows系统盘镜像的创建。

此小节介绍个人数据保护机制。 云堡垒机实例不直接采集用户个人数据。实例创建成功后，登录云堡垒机系统需创建用户账号，创建登录系统用户账号涉及个人数据采集。 为了确保您的个人数据（例如云堡垒机系统登录名、密码、手机号码等）不被未经过认证、授权的实体或者个人获取，云堡垒机通过加密存储个人数据、控制个人数据访问权限以及记录操作日志等方法防止个人数据泄露，保证您的个人数据安全。 收集范围 云堡垒机收集及产生的个人数据如下所示： 服务 类型 收集方式 是否可修改 是否必须 ::::: 云堡垒机实例 登录名 在创建用户账号时由系统管理员配置登录名 否 是 登录名是用户的身份标识信息 云堡垒机实例 密码 在管理员创建用户、重置用户密码时配置密码 在用户登录系统前重置密码、登录系统后修改密码时输入密码 是 是 用户登录云堡垒机系统时使用 云堡垒机实例 邮箱 在管理员创建用户时配置邮箱 在用户登录系统后修改邮箱时输入邮箱 是 是 接收系统邮件通知 云堡垒机实例 手机 在管理员创建用户时配置手机号 在用户登录系统后修改手机时输入手机号 是 是 接收系统手机短息通知 在忘记密码时通过手机验证码重置密码 存储方式 云堡垒机通过加密算法对用户个人敏感数据加密后进行存储。 登录名：不属于敏感数据，明文存储 密码、邮箱、手机：加密存储

本章节将为您介绍如何续订云硬盘。 操作场景 随云主机一起订购的系统盘、数据盘不支持单独续订，需要与云主机一起续订，详细操作请参考弹性云主机续费说明。 本文主要介绍在云硬盘控制台单独订购的包年/包月的数据盘如何续订。 约束与限制 只有通过实名认证的客户，才可以执行续订操作。 按需资源、包年/包月转按需（已完成转按需或正在进行转按需）的资源不可续订。 未完成订单中的资源不允许续订，如开通中的资源、规格变更中的资源、退订中的资源。已退订或释放的资源不可续订。 若资源到期后续订，续订周期自资源续订解冻开始，计算新的服务有效期，按照新的服务有效期计算费用。例如，客户资源2020年9月30号到期，10月11号续订1个月，那么资源新的服务开始时间为10月11号，到期时间为11月10号。相关费用自10月11号开始计算。 已到期资源不支持设置/修改自动续订。 您可以随时手动续订包年/包月且未退订、未释放的资源，延长相关资源的使用时间。 “已挂载”状态下的云硬盘到期后，状态变为“已到期”，该云硬盘不会自动从云主机卸载。 若续订成功，云硬盘状态从“已到期”变为“已挂载”。 若不续订，该云硬盘将继续占用云主机资源。建议您续订云硬盘以继续正常使用资源或卸载云硬盘以释放云主机资源。

缺点 资源冗余，需要部署两套生产环境。 新版本故障影响范围大。 A/B测试 概念 A/B测试是一种通过对比实验优化产品决策的技术方法。它会将用户流量随机分配到两个或多个不同版本（A版和B版）的服务或界面中，在相同运行环境下收集各版本的用户行为数据。这是一种基于请求内容匹配的灰度发布策略，只有匹配特定规则的请求才会被引流到新版本，常见的做法包括基于HTTP Header和Cookie。 这种方案既能验证新功能/改版的实际效果，又能有效控制产品迭代风险。由于采用实时分流机制，整个过程无需停机切换，且可以随时终止实验恢复原状。 如下图所示，某服务当前版本为v1，现在新版本v2要上线。希望安卓用户可以尝鲜新功能，其他系统用户保持不变。通过在监控平台观察旧版本与新版本的成功率、RT对比，当新版本整体服务符合预期后，即可将所有请求切换到新版本v2，最后为了节省资源，可以逐步下线到旧版本v1。 优点 可以对特定的请求或者用户提供服务新版本，新版本故障影响范围小。 需要构建完备的监控平台，用于对比不同版本之间请求状态的差异。 缺点 仍然存在资源冗余，因为无法准确评估请求容量。 发布周期长。 金丝雀发布

本文带您了解天翼云加密相关产品 天翼云支持以下方式，助您对弹性云主机资源进行加密，从而提升数据的安全性。 云硬盘加密 天翼云云硬盘支持系统盘加密和数据盘加密。 云硬盘加密功能 ：创建云硬盘时，用户可以选择是否加密此云硬盘，云硬盘创建完成后加密属性无法更改。 云主机系统盘加密 ：创建云主机时，支持在创建时直接设置系统盘加密。 云主机数据盘加密 ：创建云主机时，支持在创建时直接设置数据盘加密。 云硬盘加密与快照 ：加密云硬盘生成的快照及通过这些快照创建的云硬盘将自动继承加密功能属性。 云硬盘加密与备份 ：加密云硬盘生成的备份及通过这些备份创建的云硬盘将自动继承加密功能属性。 密钥管理 天翼云使用行业标准的AES256 算法，利用数据密钥加密您的云硬盘数据，加密云硬盘使用的密钥由天翼云自研密钥管理（KMS，Key Management Service）功能提供，用户可轻松创建并管理密钥，满足数据加解密及数字签名验签等需求，安全便捷。 KMS通过使用硬件安全模块HSM（Hardware Security Module）保护密钥的安全，所有的用户密钥都由HSM中的根密钥保护，避免密钥泄露。KMS对密钥的所有操作都会进行访问控制及日志跟踪，并提供所有密钥的使用记录，满足审计和合规性要求。密钥管理可以轻松满足对小数据和大量数据的加解密。 工作原理 在了解云硬盘加密工作原理之前，首先需要了解两个概念： 默认密钥（Default CMK） ：用户第一次通过对应云服务使用KMS加密时，系统自动生成的并托管在用户账号下的服务密钥。 用户主密钥（Customer Master Key，CMK） ：用户主密钥包括对称密钥及非对称密钥，主要用于加密保护数据密钥并产生信封，也可直接用于加密少量的数据。用户可以调用KMS的API CreateKey创建一个用户主密钥。 第一次使用加密云硬盘时，系统会自动创建一个用户主密钥（CMK），该密钥有且仅有一个，且是在KMS中的相应地域所创建，并将其存储在受严格的物理和逻辑安全控制保护的密钥管理服务上。 每个地域的加密云硬盘，都需要通过256位数据密钥（DK）进行加密，此数据密钥（DK）具备地域唯一性，即每个地域都有且仅有一个。该密钥受 KMS 提供的密钥管理基础设施的保护，能有效防止未经授权的访问。云硬盘的数据密钥（DK）仅在实例所在的宿主机的内存中使用，不会以明文形式存储在任何持久化介质（即使是云硬盘本身）上。 在创建加密云硬盘并将其挂载到实例后，以下数据都将关联此密钥并进行加密： 云硬盘中的静态数据 云硬盘和实例间传输的数据（实例操作系统内的数据不加密） 通过加密云硬盘创建的快照

本实践介绍了跨可用区使用云主机备份的操作步骤,您可按照需要跨可用区迁移主机备份数据。 场景描述 用户可通过云主机备份服务实现整机数据备份与恢复，支持通过主机备份申请新的云主机，快速创建具有同样数据的云主机，可在申请新主机时选择不同可用区，按需进行主机配置，实现主机数据的跨可用区迁移。 当前仅具备多个可用区的地域，例如华东一，支持跨可用区创建新云主机。 方案优势 整机备份可以提供全面的数据备份，快速帮助您搭建相同规格的云主机。 方便用户实现主机数据迁移，完成业务切换，为用户节省了时间和精力，提高操作的简便性和效率。 前提条件 已购买备份存储库，存储库为“可用”状态。 已存在一个备份，并且备份的备份状态为“可用”。 操作步骤 步骤一：创建云主机备份 1. 点击天翼云门户首页的“控制中心”，输入登录的用户名和密码，进入控制中心页面。 2. 在管理控制台上方点击图标，选择所需的资源池节点，以下操作选择华东华东1。 3. 在系统首页，选择“存储>云主机备份”。 4. 在控制台左侧导航栏，选择“存储库管理”。 5. 在“云主机备份”页签，选择相应的存储库，点击操作列下的“创建备份”。 5. 在弹出的“创建云主机备份”页面，选择需要备份的主机至右侧“已选云主机”列表。 6. 选择“立即备份”，即时完成目标主机备份的创建，点击“下一步”。 7. 跳转至云主机备份资源详情页面，确认资源配置，勾选我已阅读并同意相关协议“《天翼云云主机备份服务协议》”，点击“确认下单”。 8. 查看“备份副本”列表，等待创建的备份副本的状态变为“可用”，即完成备份的创建。

本章节主要介绍云搜索服务（ES）的应用场景。 云搜索服务Elasticsearch类型集群适用于日志分析、站内搜索等场景。 日志分析 对IT设备进行运维分析与故障定位、对业务指标分析运营效果。 统计分析：20余种统计分析方法、近10种划分维度。 实时高效：从入库到能够被检索到，时间差在数秒到数分钟之间。 可视化：表格、折线图、热图、云图等多种图表呈现方式。 站内搜索 基于行业领域数据，通过模型训练进行预测性分析，及早发现系统问题，或针对后续数据快速进行结果判断，实现行业知识与AI技术的深度结合。

参数 是否必填 配置说明 命名空间 √ 选择已创建命名空间。命名空间与容灾管理中心为1:10绑定关系，创建容灾管理中心前必须创建对应的命名空间。 容灾实例支持如下条件的命名空间： 同城多活：各多活中心的区域需一致，且均为天翼云公有云区域。 同城主备：容灾中心需为天翼云公有云区域。 异地主备：容灾中心需为天翼云公有云区域。 计费模式 √ 选择计费模式。 包年/包月：预付费模式，即先付费再使用，以自然月、自然年为计费单位。享受比按量计费更大的价格优惠，适用于需要长期稳定运行的服务。 按需计费：后付费模式，即先使用再付费，以小时为计费单位。按需付费是一种灵活的计费模式，适用于不确定性较强、需求波动较大、资源使用不稳定的业务场景。 名称 √ 填写容灾管理中心名称。同一主账号下容灾管理中心名称不可重复。 长度为263字符，由文字、数字、字母、组成，不能以数字和开头且不能以结尾。 描述 × 填写容灾管理中心描述。 长度为0100个字符。 创建时长 √ 若计费方式选择包年包月，需选择创建时长。 自动续订 × 若计费方式选择包年包月，可勾选是否启动自动续订。 按月购买：自动续订周期为1个月。 按年购买：自动续订周期为1年。

使用索引模板 Elasticsearch支持通过索引模板控制一些新建索引的设置（settings）和映射（mappings），如限制分片数为1，并且禁用all域。索引模板可以用于控制何种设置（settings）应当被应用于新创建的索引： 索引模板可以通过template字段指定通配符。 多个索引模板可以通过order指定覆盖顺序。数值越大，优先级越高。 如下示例表示，logstash匹配的索引采用mylogs模板，且mylogs模板的优先级数值为1。 7.x之前版本 PUT /template/mylogs { "template": "logstash", "order": 1, "settings": { "numberofshards": 1 }, "mappings": { "default": { "all": { "enabled": false } } }, "aliases": { "last3months": {} } } 7.x之后版本 7.x之后版本 PUT /template/mylogsa { "indexpatterns": ["logstasaah"], "order": 1, "settings": { "numberofshards": 1 }, "mappings": { "properties": { "all": { "enabled": false } } }, "aliases": { "last3months": {} } } 数据备份和恢复 Elasticsearch副本提供了高可靠性，让您可以容忍零星的节点丢失而不会中断服务。 但是，副本并不提供对灾难性故障的保护。对这种情况，您需要的是对集群真正的备份，在某些东西确实出问题的时候有一个完整的拷贝。 备份集群，您可以使用创建快照的功能，将集群的数据保存到OBS桶中。其备份过程是智能的。第一个快照建议是数据的完整拷贝，后续的快照会保留的是已存快照和新数据之间的差异。随着您不时的对数据进行快照，备份也在增量的添加和删除。这意味着后续备份会相当快速，因为它们只传输很小的数据量。

本文为您详细介绍Qwen7BChat模型。 模型简介 通义千问7B（Qwen7B） 是阿里云研发的通义千问大模型系列的70亿参数规模的模型。Qwen7B是基于Transformer的大语言模型, 在超大规模的预训练数据上进行训练得到。预训练数据类型多样，覆盖广泛，包括大量网络文本、专业书籍、代码等。同时，在Qwen7B的基础上，使用对齐机制打造了基于大语言模型的AI助手Qwen7BChat。 使用场景 Qwen系列模型的开发和开源为自然语言处理领域带来了新的可能性，尤其是在需要处理大量数据和复杂语言任务的场景中。主要使用场景包括对话系统、文本生成以及内容创作等。 评测效果 对于Qwen7BChat模型，常规的中文理解（CEval）、英文理解（MMLU）、代码（HumanEval）和数学（GSM8K）以及长序列任务等权威任务的评测结果如下。 注意 由于硬件和框架造成的舍入误差，复现结果如有波动属于正常现象。 中文评测（Chinese Evaluation） 在CEval验证集上，Qwen7BChat模型的0shot & 5shot准确率结果如下： Model Avg. Acc. LLaMA27BChat 31.9 LLaMA213BChat 36.2 LLaMA270BChat 44.3 ChatGLM26BChat 52.6 InternLM7BChat 53.6 Baichuan27BChat 55.6 Baichuan213BChat 56.7 Qwen7BChat (original) (0shot) 54.2 Qwen7BChat (0shot) 59.7 Qwen7BChat (5shot) 59.3 Qwen14BChat (0shot) 69.8 Qwen14BChat (5shot) 71.7 CEval测试集上，Qwen7BChat模型的zeroshot准确率结果如下： Model Avg. STEM Social Sciences Humanities Others ChineseAlpacaPlus13B 41.5 36.6 49.7 43.1 41.2 ChineseAlpaca27B 40.3 ChatGLM26BChat 50.1 46.4 60.4 50.6 46.9 Baichuan13BChat 51.5 43.7 64.6 56.2 49.2 Qwen7BChat (original) 54.6 47.8 67.6 59.3 50.6 Qwen7BChat 58.6 53.3 72.1 62.8 52.0 Qwen14BChat 69.1 65.1 80.9 71.2 63.4 在7B规模模型上，经过人类指令对齐的Qwen7BChat模型，准确率在同类相近规模模型中仍然处于前列。

本文介绍对金融类客户的产品价值。 业务特点 交易（电商交易、金融支付、账单同步等场景）重视用户体验与数据安全，整体IT建设标准高，如果业务运营中出现延迟掉包、系统运行缓慢、数据容易丢失、账户数据被篡改、恶意刷优惠券等问题，会影响用户的恐慌，导致客户业务流失。 客户痛点 信用卡商城、手机网银、支付类业务数据实时性要求高。 热门纪念币、优惠券抢购体量大，易高并发。 行情推送类使用特殊websocket协议传输。 客户不愿上传证书加速。 电商大促抢购高峰拥堵，支付、秒杀等大量并发请求。 用户敏感信息容易泄露。 海外攻击团队勒索。 业务欺诈、营销欺诈。 产品价值 智能加速：通过多级缓存，就近响应用户请求；实时探测，选择最优路径动态回源；IPv6一键开启。 一体化安全+防护：对攻击进行层层识别和防御，避免数据泄漏造成负面影响。 行业情报共享：对全网在服的金融客户遭受的攻击行为进行分析，不断优化安全防护模板。 爬虫防护：区分恶意爬虫，SEO/SEM推广，在拦截爬虫的同时，保障业务的正常进行。 基于零信任架构，实现内部业务和端口隐身，保护数据安全。

本文为您介绍在轻量云主机详情页退订数据盘的方法。 操作场景 用户可以退订不再需要的数据盘，以达到节省资源和成本的目的。 约束限制 系统盘不可退订。 退订云盘前需要手动删除改云盘下的快照。 具体退订规则见《退订规则说明》。 操作步骤 1. 登录天翼云，进入控制中心。 2. 单击控制中心顶部的，选择资源所在地，此例我们选择上海36。 3. 单击左侧导航栏“产品服务列表”，选择“计算>轻量型云主机”。 4. 进入轻量型云主机列表界面，单击目标主机“实例名称”进入目标主机详情页。 5. 单击“云硬盘”页签，可以看到当前轻量型云主机的云硬盘信息。 6. 在云硬盘列表中找到需要退订的数据盘，单击“操作”栏中的“退订”。 7. 在“退订云硬盘”弹窗确认退订信息无误，单击“确定”完成退订。 说明 退订后云硬盘数据无法找回，请您确认信息无误后进行退订操作。

本章节主要介绍翼MapReduce与其他产品的关系。 与其他产品的关系 服务名称 翼MR与其他产品的关系 主要交互功能 虚拟私有云（VPC） 翼MR集群创建在虚拟私有云（VPC）的子网内，VPC通过逻辑方式进行网络隔离，为用户的翼MR集群提供安全、隔离的网络环境。 创建虚拟私有云和子网。 弹性云主机（ECS） 翼MR服务支持使用弹性云主机作为集群的节点，每个弹性云主机是集群中的一个节点。 准备运行环境创建集群。 关系数据库MySQL版 关系数据库MySQL版（RDS）用于存储翼MR集群元数据。 配置数据连接。 统一身份认证服务（IAM） 统一身份认证服务（IAM）为翼MR提供了鉴权功能。 创建IAM子用户并同步用户信息至控制台和LDAP用户。 云监控服务 云监控服务支持对V2.16.0及以上版本的翼MR集群进行主机与组件状态的监控和告警。 创建翼MR集群后，可前往云监控服务控制台查看监控与配置告警规则。 [云日志服务](

本章节主要介绍ALM38009 Broker磁盘IO繁忙的告警。 告警解释 系统每60秒周期性检测Kafka各个磁盘的IO情况，当检测到某个Broker上的Kafka数据目录磁盘IO超出阈值（默认80%）时，产生该告警。 平滑次数为3，当该磁盘IO低于阈值（默认80%）时，告警恢复。 告警属性 告警ID 告警级别 是否自动清除 38009 重要 是 告警参数 参数名称 参数含义 来源 产生告警的集群名称。 服务名 产生告警的服务名称。 角色名 产生告警的角色名称。 主机名 产生告警的主机名。 数据目录名称 Kafka磁盘IO频繁的数据目录名称 对系统的影响 Partition所在的磁盘分区IO过于繁忙，产生告警的Kafka Topic上可能无法写入数据。 可能原因 Topic副本数配置过多。 生产者消息批量写入磁盘的参数设置不合理。该Topic承担的业务流量过大，当前Partition的设置不合理。 处理步骤 检查Topic副本数配置 在FusionInsight Manager首页，选择“运维 > 告警 > 告警”，单击此告警所在行的，查看定位信息中上报告警的“主题名”。 1. 在FusionInsight Manager首页，选择“集群 > 待操作集群的名称 > 服务 > Kafka > KafkaTopic监控”，搜索发生告警的Topic，查看副本数量。 2. 如果副本数量值大于3，则考虑减少该Topic的复制因子（减少为3）。 在FusionInsight客户端执行以下命令对Kafka Topic的副本进行重新规划： kafkareassignpartitions.sh zookeeper {zkhost}:{port} /kafka reassignmentjsonfile {manual assignment json file path} execute 例如： /opt/Bigdata/client/Kafka/kafka/bin/kafkareassignpartitions.sh zookeeper 10.149.0.90:2181,10.149.0.91:2181,10.149.0.92:2181/kafka reassignmentjsonfile expandclusterreassignment.json execute 说明 在expandclusterreassignment.json文件中描述该Topic的Partition迁移到哪些Broker。其中json文件中的内容格式为：{"partitions":[{"topic": " topicName ","partition":1,"replicas": [1,2,3] }],"version":1}。 3. 观察一段时间，看告警是否消失。如果告警没有消失，执行步骤5。

本页介绍RDSPostgreSQL通过备份文件恢复实例数据。 全量恢复是指将全量历史数据恢复至当前实例、已有实例或新实例。 操作场景 RDSPostgreSQL支持使用已有的自动备份和手动备份文件，将实例数据恢复到备份被创建时的状态。全量恢复所需要的恢复时长与实例的数据量以及备份空间存储类型有关。 限制条件 目前支持恢复到当前实例、已有实例和新实例。 需要确保被恢复的实例机器有足够的磁盘空间。 若开通实例时选择的备份空间为“云硬盘”，则恢复到新实例时，新实例需要和源实例处于同一个vpc下；若选择的为“对象存储”，则没有这个限制。 若选择恢复到已有实例，且当前实例开通时选择的备份空间为“云硬盘”，则要求目标实例和源实例处于同一个vpc下。 恢复至已有实例、新实例需要求实例大版本一致。 操作步骤 1. 登录天翼云官网。 2. 点击控制中心，进入控制中心后，选择目标资源池。 3. 在产品列表页面中找到【数据库】→【关系数据库PostgreSQL版】，点击进入控制台。 4. 在左侧菜单中点击【PostgreSQL】→【实例管理】，点击进入产品实例管理页。 5. 在【实例管理】的实例列表中选择目标实例，点击指定的实例，进入单个实例管理详情页。 6. 点击“备份恢复”页签，进入备份恢复功能页面。 7. 在基础备份列表中，选择想要恢复的目标备份，点击“恢复”按钮。 8. 在弹出的页面中，选择“当前实例“，则会将数据恢复到本实例，需要注意的是：此操作会删除实例的数据，请提前做好备份；选择“已有实例”，则会将数据恢复到选择的目标实例，需要注意的是，此操作会删除目标实例的数据，请提前做好备份；选择“新实例”，则会跳到开通实例页面，选配好新实例的配置之后，即可进行实例的开通和数据的恢复。 9. 查看结果，在“备份恢复”页面左上角点击“操作记录”该按钮，可以看到自动备份、手动备份、删除手动备份、恢复备份等任务的进度。 10. 恢复完成后，实例状态会变成运行中。 注意 不同资源池因IaaS资源能力等原因，加载版本有所差异，操作步骤有细微差异，请以实际界面为准，功能加载情况详见

并行文件服务支持对用户操作进行审计,本文介绍相关操作说明。 操作场景 本服务现已对接天翼云云审计服务，云审计服务提供对各种云资源操作的记录和查询功能，用于支撑合规审计、安全分析、操作追踪和问题定位等场景，同时提供事件跟踪功能，将操作日志转储至对象存储实现永久保存。 云审计可提供的功能服务具体如下： 记录审计日志：支持用户通过管理控制台或 API 接口发起的操作，以及各服务内部自触发的操作。 审计日志查询：支持在管理控制台对 7 天内操作记录按照事件类型、事件来源、资源类型、筛选类型、操作用户和事件级别等多个维度进行组合查询。 审计日志转储：支持将审计日志周期性的转储至对象存储服务（ZOS）下的 ZOS 桶。 使用限制 云审计服务本身免费，包括时间记录以及 7 天内时间的存储和检索。若您使用云审计提供的转储功能，需要开通对象存储服务并支付产生的费用，该费用以对象存储产品的计费为准，参考计费说明对象存储。 用户通过云审计能查询到多久前的操作事件：7 天。 用户操作后多久可以通过云审计查询到数据：5 分钟。 其它限制请参考使用限制云审计。

本章节通过一个单体应用示例为您介绍如何接入应用容灾多活的应用双活架构并进行功能测试。 背景信息 应用双活架构 应用双活架构采用数据主备集群模式，优点是实现简单，业务改造成本低，不需要过多考虑多中心数据读写冲突问题，流量层和应用层常态化跨中心多活，数据层通过容灾主备切换实现高可用。 架构示意如图： 推荐业务场景： 业务数据集中化，无法拆分。 业务数据拆分成本高，应用期望少改造或零改造。 数据中心距离较近，异地数据读写延迟可接受（建议物理距离≤100km，网络延迟≤10ms）。 示例应用架构 示例商城应用liliShop是一个典型的分层逻辑架构，包含以下模块： front：负责与用户交互。 shop：商城领域封装，为front提供服务。 framework：核心业务实现，包含商品、购物车、下单等所有功能。 技术栈： SpringBoot。 MySQL。 接入步骤 1、准备好资源、环境与应用 1.1、资源开通 应用容灾多活是构建在已有应用之上的管控，协同其他云产品，但不负责其他云产品的生命周期，需要您提前规划与创建。 您可以根据规划的物理架构，在指定区域或可用区提前开通与创建应用部署所需的资源与服务，例如虚拟私有云VPC 、微服务云应用平台MSAP 和弹性云主机ECS等。

客户 明确服务诉求，提出需要解决的问题，目标，并提供和服务诉求相关的内容资料，如日志，问题现象，账号信息等。 须指派一名技术接口人，负责双方之协调及相关管理。 提供设备、必要的非生产环境及远程访问通道、权限等，配合天翼云开展服务。 明确对应问题的影响程度，如业务不可用，数据丢失、业务受损等。 审核天翼云给出的服务方案，并提出具体建议及问题。 执行具体的方案实施。 提供相关云产品实例信息、诉求场景的具体说明、业务架构、相关日志和截图等信息，以便于天翼云提供支持和服务。 确保登录账号人员有对应业务和数据的完全操作权限，并确保相关授权的最小化原则。 在天翼云支持和服务的过程中，如客户提供的资料中含有第三方软件，客户应负责与第三方厂商交涉解决问题（如有），天翼云参照支持范围，提供必要的协助。 天翼云 关于天翼云服务与产品功能、使用、容量的基础咨询。 了解客户服务诉求、范围，并结合用户诉求及云产品使用情况制定解决方案，并提供最佳使用建议。 通过在线，工单，电话方式提供日常云产品使用问答及支持。 在获得客户授权后进行与天翼云资源相关的操作或系统问题的技术支持。 与天翼云产品相关的部分第三方软件配置指导以及故障排查。 确保支持过程中用户信息的独占性及私密性。

本小节介绍网络安全法、等保2.0以及测评机构等概念。 《中华人民共和国网络安全法》 《中华人民共和国网络安全法》是为了保障网络安全，维护网络空间主权和国家安全、社会公共利益，保护公民、法人和其他组织的合法权益，促进经济社会信息化健康发展，制定的法规。 测评机构 信息安全等级保护测评机构是指具备本规范的基本条件，经能力评估和审核，由省级以上信息安全等级保护工作协调（领导）小组办公室推荐，从事非涉密信息系统及资源安全等级测评工作的机构。 等保2.0 等保2.0全称网络安全等级保护2.0制度，是我国网络安全领域的基本国策，基本制度。 等级保护标准在1.0时代标准的基础上，注重主动防御，从被动防御到事前、事中、 事后全流程的安全可信、动态感知和全面审计，实现了对传统信息系统、 基础信息网络、 云计算、 大数据、 物联网、 移动互联网和工业控制信息系统等级保护对象的全覆盖。 ECS 弹性云主机（Elastic Cloud Server，ECS）是由 CPU、内存、操作系统、云硬盘组成的基础的计算组件。弹性云主机创建成功后，您就可以像使用自己的本地 PC 或物理服务器一样，在云上使用弹性云主机。 RDS RDS是关系型数据库服务（Relational Database Service）的简称，是一种即开即用、稳定可靠、可弹性伸缩的在线数据库服务。具有多重安全防护措施和完善的性能监控体系，并提供专业的数据库备份、恢复及优化方案，使您能专注于应用开发和业务发展。

参数 类型 用途 默认值/最大值 生效方式 sharedbuffers integer 设置数据库服务器将使用的共享内存缓冲区大小，这个值一般建议1/4物理内存大小。由于进程之间需要同步共享内存信息、且PG还会使用操作系统缓存，因此不宜太大。需要根据内存命中率的情况适当调整该参数 资源模板的1/4 restart tempbuffers integer 连接本地内存，仅用于访问临时表，并不是设置多大就分配多大，而是分配一个buffer指针，按需扩展到tempbuffers。 8MB userset workmem integer 连接本地内存，用于连接的一些排序、hash table等操作，如果workmem不够，则会申请临时磁盘空间。 4MB userset maintenanceworkmem integer 维护操作能申请的最大内存，例如：VACUUM, CREATE INDEX，提高会加速这些操作，包括pgrestore操作。注意autovacuumworkmem如果没有设置，则会使用这个设置，最多能申请autovacuummaxworkersautovacuumworkmem大小内存。因此建议在做维护操作的连接单独设置，并给autovacuum进程单独设置autovacuumworkmem。 64MB userset vacuumcostlimit integer 累积的cost消耗到这个值后，vacuum休眠vacuumcostdelay（默认为0，不休眠）时间。 PG为200，TDSQLPG默认为10000 restart autovacuumvacuumcostdelay floating point 当前所有autovacuum进程积累的cost消耗到autovacuumvacuumcostlimit后休眠的时间。 PG为2ms，TDSQLPG默认为20ms restart walcompression boolean full page image 在写入到WAL中进行压缩，目前是gzip压缩方式，压缩比能到30%。对wal日志比较大系统有提升，但会消耗CPU，一般在5%左右，不同CPU影响程度不一样。 off restart checkpointtimeout integer 两次自动checkpoint间隔时间，设置越大故障时间越长，但IO可能会更平滑，但不能一味设置很大，要看系统的IO、业务压力情况而定。 PG为5min，TDSQLPG默认为10min restart checkpointcompletiontarget floating point checkpoint完成目标，尽量让checkpoint在checkpointcompletiontarget checkpointtimeout时间内完成。 如果checkpoint时间太短，会让checkpoint进入急速模式，IO压力骤增。 PG为0.5min，TDSQLPG默认为0.93 restart randompagecost integer 随机扫描一个块的代价基准值，建议值：SATA/SAS盘： 4SSD：2Nvme SSD：1 PG为4，TDSQLPG默认为2 restart effectivecachesize integer 生成执行计划时，评估数据库能用的缓冲内存大小(sharedbuffers+操作系统的文件系统缓存)，不会实际占用。值越大更偏向于走索引扫描，一般可设置总内存 sharedbuffers 业务内存。 4GB restart logmindurationstatement integer 执行时间超过logmindurationstatement的SQL将记录到数据库运行日志中。 PG为1，TDSQLPG默认为10000 reload logstatement enum 设置数据库对那些类型SQL进行日志记录。推荐设置为DDL，加上logmindurationstatement针对慢SQL的设置即可。 PG为none，TDSQLPG默认为ddl reload autovacuumvacuumscalefactor integer 表中数据变化（inserted, updated or deleted tuples）超过表数据比例，之后才会触发autovacuum中的vacuum。 autovacuumanalyzescalefactor同理（PG为0.1，TDSQLPG默认为0.0001）。 PG为0.2，TDSQLPG默认为0.0002 库/表级参数，表级优先 reload fillfactor integer 表填充因子，数据块在插入多少比例数据之后不再插入，留下空间给update操作copy新行使用。在同一块中申请空间，将用到HOT update，对update性能提升很大。 默认为100 表级参数。更改参数需要重建表生效。

本文为您介绍分布式消息服务MQTT的计费模式。 目前天翼云分布式消息服务MQTT提供包周期（包年/包月）、按需2种计费模式供您灵活选择，使用越久越便宜。 下表列出两种模式的区别： 计费模式 包年/包月 按需计费 付费方式 预付费按照订单的购买周期结算。 后付费按照云服务器实际使用时长计费。 计费周期 按订单的购买周期计费。 按小时结算。 实例升级 暂不支持实例升级。 暂不支持实例升级。 更改计费模式 不支持变更为按需资源。 不支持变更为包周期资源。 变更规格 暂不支持变更实例规格。 暂不支持变更实例规格。 适用场景 适用于可预估资源使用周期的场景，价格比按需计费模式更优惠。对于长期使用者，推荐该方式。 适用于消息资源需求波动的场景，可以随时开通，随时删除。 包周期（包年/包月）：天翼云提供包月和包年的购买模式。这种购买方式相对于按需付费则能够提供更大的折扣，对于长期使用者，推荐该方式。包周期计费按照订单的购买周期来进行结算。 按需计费：这种购买方式比较灵活，可以即开即停，支持秒级计费。实例从“开通”开启计费到“删除”结束计费，按实际购买时长（精确到秒）计费。 计费模式变更 ：天翼云分布式消息服务MQTT目前不支持计费模式变更。

此章节为您介绍数据库审计的计费概述内容。 计费模式 数据库审计服务仅提供包年/包月计费模式。 包年/包月是一种预付费模式，即先付费再使用，按照订单的购买周期进行结算，因此在购买之前，您必须确保账户余额充足。 计费项 数据库审计的计费项由云主机、系统盘、数据盘组成。 如需了解每种计费项的计费因子、计费公式等信息，请参见计费项。 续费 包年/包月数据库审计在到期后会影响云服务器的正常运行。如果您想继续使用数据库审计，需要在规定的时间内为服务进行续费，否则资源将会自动释放，数据也可能会丢失。 停止计费 当云服务资源不再使用时，可以将他们退订或删除，从而避免继续收费。

组合优势 缓存自动卸载：显存减负与数据流转的核心枢纽 HPKV 系统构建了 GPU HBM → Host DRAM → Local NVMe SSD 或 Remote Storage/HPFS 的多级存储体系，通过跨请求的 KV Cache 深度复用，践行“以存代算”理念，有效消除推理服务中的冗余计算开销，显著降低首Token延迟（TTFT）并提升吞吐量，同时降低算力成本。通过智能沉降与基于热度、存储时长、容量的多策略驱逐机制，在各级存储间自动流转数据，精准淘汰冷数据，实现效率与成本的最优平衡。 智能数据预取：掩盖 I/O 延迟的启动加速核心 在推理任务排队等待阶段，通过与全局调度器的深度联动实现智能预取。系统提前将目标 KV Cache 从 SSD/HPFS 异步预取至 Host 内存和 GPU HBM，确保任务启动时数据“即取即用”，有效掩盖 I/O 延迟，将任务启动等待时间缩减 50% 以上，极大提升用户体验。 分布式存储层：容量与性能的弹性基石 深度集成高性能分布式文件系统 HPFS，将 KV Cache 存储容量从 GB 级显存无缝扩展至 PB 级，实现存储资源的独立弹性伸缩。其通过全链路 RDMA 与 IB/RoCE 高速网络协议，提供千万级 IOPS 与 TBps 级吞吐，同时保证亚毫秒级延迟，使海量历史上下文不仅能“存得下”，更能“取得快”。在多轮对话与高并发场景中，该架构以极速 I/O 替代 GPU重复计算，在充分释放昂贵 HBM 资源的同时，保障了推理服务的超低延迟响应，最终达成了存算效率与成本的最佳平衡。 生态兼容：多框架多硬件的广泛兼容 适配天翼云自研 CTyunOS 系列及主流 Linux 操作系统，广泛兼容多款国产化AI算力硬件。无缝对接 vLLM、SGLang 等主流开源大模型推理引擎，全面支持张量并行（TP）、流水线并行（PP）、数据并行（DP）、PD 分离等主流分布式策略及多种注意力机制的模型，灵活适配并支撑多样化的模型架构演进。