在使用记录集的过程中，如果发现记录集的配置信息不符合您的业务需求，可以通过修改记录集功能，重新配置TTL、值、描述等参数。 1. 登录管理控制台，并选择目标区域。 2. 选择“网络 > 内网DNS服务” 进入内网DNS服务页面。 3. 在“总览”页签，选择“我的资源”下的“内网域名”。进入域名列表页。 4. 在域名列表页面，单击域名名称。 系统进入该域名的记录集页面。 5. 选择待修改的记录集，单击“操作”列下的“修改”。系统进入“修改记录集”页面。 根据实际需要，修改记录集的配置参数。系统支持修改记录集的TTL、值和描述。 6. 单击“确定”，保存修改后的记录集。

当用户无需使用该记录集时，可以使用删除记录集功能。 删除记录集后，对应类型的记录集功能会失效。例如，如果删除A类型记录集，该域名将无法被解析为一个IPv4地址。如果删除CNAME类型记录集，该别名将无法映射到之前指定的域名上。 1. 登录管理控制台，并选择目标区域。 2. 选择“网络 > 内网DNS服务”。 进入内网DNS服务页面。 3. 在“总览”页签，选择“我的资源”下的“内网域名”。进入域名列表页。 4. 在域名列表页面，单击域名名称。 进入该域名的记录集页面，选择待删除的记录集，单击“操作”列下的“删除”。 5. 单击“确定”，确认删除该记录集。

操作步骤 1.登录FusionInsight Manager，选择“集群 > 待操作集群的名称 > 服务 > LdapServer”。 2.选择“更多 > 修改数据库密码”，在弹出窗口中输入当前登录的用户密码确认身份，单击“确定”。 3.在“修改密码”对话框的“用户信息”中选择需要修改密码的用户名。 4.在“旧密码”输入旧密码，“新密码”和“确认密码”输入新密码。 默认密码复杂度要求： 密码字符长度为16～32位。 至少需要包含大写字母、小写字母、数字、特殊字符~!@ $%^&()+[{}];, /?中的3种类型字符。 不可和用户名相同或用户名的倒序字符相同。 不可与当前密码相同。 5.勾选“我已阅读此信息并了解其影响”，单击“确定”确认修改并重启服务。

本章节主要介绍管理角色实例操作。 操作场景 用户可以在MRS启动操作状态为“停止”、“停止失败”或“启动失败”角色实例，以使用该角色实例，也可以停止不再使用或异常的角色实例，或者重启异常的角色实例，以恢复角色实例功能。 前提条件 已完成IAM用户同步（在集群详情页的“概览”页签，单击“IAM用户同步”右侧的“同步”进行IAM用户同步）。 操作步骤 1.在集群详情页，单击“组件管理”。 2.单击服务列表中指定的服务名称。 3.单击“实例”页签。 4.勾选待操作角色实例前的复选框。 5.选择“更多 > 启动实例”、“停止实例”、“重启实例”或“滚动重启实例”等，执行相应操作。

本文向您介绍如何部署大模型学习机。 您可以通过本文的指导，使用镜像部署大模型学习机。 购买云主机 1. 登录云主机控制台，选择创建云主机资源池，点击“创建云主机”按钮。 2. 您可在以下资源池进行不同规格的开通： 注意 在加载Llama 2或者LLaMA3模型时, Pi2和s7.2xlarge.4规格使用默认配置会因为显存/内存不足加载失败, 需要通过勾选loadin8bit选项降低模型精度或关闭StableDiffusion服务后再加载Llama 2/LLaMA3模型. 参考文档:大模型学习机服务启停。 云服务器规格族 云服务器规格 支持大模型镜像资源池 镜像 GPU计算加速型 PI7 重庆重庆2、宁夏中卫5、辽宁辽阳1 LLaMA2StableDffusionWebUIGPU LLaMA3StableDffusionWebUIGPU GPU计算加速型 PI2 重庆重庆2、上海上海7 LLaMA2StableDffusionWebUIGPU LLaMA3StableDffusionWebUIGPU 通用型 S7(64G以上规格) 西南1az1/az2 LLaMA2StableDffusionWebUICPU LLaMA3StableDffusionWebUICPU

本文主要介绍如何设置OBS用户权限。 若云服务帐号已经能满足您的要求，不需要创建独立的IAM用户，您可以跳过本章节，不影响您使用OBS的其它功能。 若您使用IAM用户，则需要先配置IAM用户的OBS资源权限。OBS与其他云资源是分开部署的。 示例流程 操作步骤 步骤 1 使用云服务帐号登录管理控制台。 步骤 2 在顶部导航栏选择“服务列表>管理与部署>统一身份认证服务”，进入“统一身份认证服务”管理控制台。 步骤 3 创建用户组并授予OBS资源权限。 用户组是用户的集合，IAM通过用户组功能实现用户的授权。您在IAM中创建的用户，需要加入特定用户组后，用户才具备用户组所拥有的权限。 1. 在左侧导航栏单击“用户组”，进入“用户组”界面。 2. 单击“创建用户组”。 3. 在“创建用户组”界面，输入“用户组名称”和“描述”，单击“创建”。 用户组创建完成，界面自动返回用户组列表，列表中显示新建的用户组。 4. 单击所创建的用户组右侧操作列的“权限配置”。 5. 在用户组详情页，选择“权限管理”页签，单击“配置权限”。 6. 作用范围选择“全局服务”，根据需求选中权限，单击“确定”。 步骤 4 创建用户。 步骤 5 使用IAM用户登录OBS管理控制台，验证用户权限。

本节主要介绍计费类问题 专业版引擎是完全免费吗？ 微服务引擎专业版是为用户免费体验的引擎（名称为“Cloud Service Engine”），可以体验所有产品能力，比如服务治理、配置管理等。引擎资源为所有租户共享，性能可能会受其他租户影响；最大可支持部署20个微服务应用实例，超过20个后将以按需计费方式收取服务费用。 专业版不支持升级到专享版。

本章节主要介绍新建MRS Hive连接。 本章节以新建MRS Hive连接为例，介绍如何建立DataArts Studio与数据湖底座之间的数据连接。 前提条件 在创建数据连接前，请确保您已创建所要连接的数据湖（如DataArts Studio所支持的数据库、云服务等）。 1. 在创建DWS类型的数据连接前，您需要先在DWS服务中创建集群，并且具有KMS密钥的查看权限。 2. 在创建MRS HBase、MRS Hive、MRS Kafka、MRS Ranger、MRS Spark、MRS Presto类型的数据连接前，需确保您已创建MRS集群，并且在创建数据链接时已创建选择所需要的组件。 3. 在创建RDS类型的数据连接前，请确保您已创建RDS数据库实例。DataArts Studio平台目前仅支持RDS中的MySQL和PostgreSQL数据库引擎。 在创建数据连接前，请确保待连接的数据湖与DataArts Studio实例之间网络互通。 1. 如果数据湖为云下的数据库，则需要通过公网或者专线打通网络，确保数据源所在的主机可以访问公网，并且防火墙规则已开放连接端口。 2. 如果数据湖为云上服务（如DWS、MRS等），则网络互通需满足如下条件： ①DataArts Studio实例（指DataArts Studio实例中的CDM集群）与云上服务处于不同区域的情况下，需要通过公网或者专线打通网络。 ② DataArts Studio实例（指DataArts Studio实例中的CDM集群）与云上服务同区域情况下，同虚拟私有云、同子网、同安全组的不同实例默认网络互通；如果同虚拟私有云但是子网或安全组不同，还需配置路由规则及安全组规则，配置路由规则请参见《虚拟私有云》帮助文档中的“添加路由信息”章节，配置安全组规则请参见《虚拟私有云》帮助文档中的“安全组 > 添加安全组规则”章节。 ③此外，您还必须确保该云服务的实例与DataArts Studio工作空间所属的企业项目必须相同，如果不同，您需要修改工作空间的企业项目。

身份认证与访问控制 IAM身份认证 统一身份认证（Identity and Access Management，简称IAM）服务，是提供用户进行权限管理的基础服务，可以帮助您安全的控制云服务和资源的访问及操作权限。 IAM为您提供的主要功能包括：精细的权限管理、安全访问、通过用户组批量管理用户权限、委托其他账号管理资源等。 企业项目 企业项目管理（Enterprise Project Management Service，简称“EPS”），为客户提供与企业组织架构和业务管理模型匹配的云治理能力。以面向企业资源管理为出发点，帮助企业以部门、项目等组织架构分级管理和项目业务结构来实现企业在云上的人、物、权管理，提供企业人员管理、项目管理、资源管理等能力。 企业项目服务申请开通后免费使用，您只需要为您账号中的资源进行付费。 企业项目更多相关内容请参见： 创建用户 创建用户组 创建企业项目 企业项目资源迁出/迁入 管理用户组 创建自定义策略 重点操作短信验证 重点操作验证，是天翼云平台为了保障安全，在用户进行重点操作前增加的二次认证，二次认证通过后系统才能执行用户操作。可避免因误操作引起严重后果，提供更高的安全性。 “重点操作”是可能引起服务运行中断、网络中断、数据丢失等情况的操作。 目前二次认证仅支持短信验证码方式认证。若您开启短信验证能力，在控制台进行重点操作时，系统会向您的手机号（绑定天翼云账号的手机号）发送短信验证码，需输入正确的验证码才能执行该重点操作。从而避免您进行误操作，造成云产品数据的丢失；另一方面，确保操作人身份，避免影响业务运行。 更多内容请参见重点操作短信验证。 数据擦除机制 数据擦除机制是指分布式块存储系统中已删除的数据一定会被完全擦除，不会被其他用户通过任何途径访问，也无法通过其他方式恢复，进而确保数据的完整性。 当您删除/退订云硬盘时，存储系统立即销毁元数据，确保无法继续访问数据。同时，该云盘对应的物理存储空间会被回收。物理空间再次被分配前一定是清零过的，在首次写入数据前，所有新建的云盘的读取返回全部是零。

您可以根据实际情况，配置索引的存储节点信息，支持设置为Redis或MySQL类型。 注意事项 修改存储设置后，需要重新启动GiServer服务并重建索引。 启动GiServer也将重启该节点的DBProxy服务，启动期间该节点不可用，可能影响查询效率，请谨慎操作。 操作步骤 1. 在天翼云官网首页的顶部菜单栏，选择产品 > 数据库 > 关系型数据库 > 分布式关系型数据库 ，进入分布式关系型数据库产品页面。然后单击管理控制台 ，进入概览页面。 2. 在左侧导航栏，选择DRDS > 实例管理，进入实例列表页面。然后在顶部菜单栏，选择区域和项目。 3. 在实例列表中，找到目标实例，单击操作 列的管理 ，进入实例基本信息页面。 4. 单击全局索引 ，进入GiServer存储设置页签。 5. 在GiServer设置区域，根据实际情况，配置如下存储节点信息。 存储类型 设置为redis： 参数 描述 redis类型 Redis类型，取值范围： 单机版 集群版 host IP地址。 说明 单机版只能输入一个IP地址。 集群版可以输入多个IP地址，使用英文逗号（,）分隔，例如127.0.0.1,127.0.0.2。 port 端口号。 说明 只需输入一个端口号即可。 password 密码。 说明 只需输入一个密码即可。 minIdle 最小空闲连接数。 maxIdle 最大空闲连接数。 maxTotal 最大连接数。 GiServer启动节点 GiServer启动节点。将会在所选择的GiServer节点部署GiServer服务，可选择低负载节点进行部署启动。 注意 至少选择一个。 支持选择多个，可实现高可用索引服务，但同时会占用节点内存，可根据业务按需选择。 存储类型 设置为mysql： 参数 描述 使用已开通的RDS 是否使用已开通的MySQL实例。 如果您使用已开通的MySQL实例，则只需打开该开关，在选择MySQL 中配置目标MySQL实例，即可自动获取该MySQL实例的数据库IP 和数据库端口。 数据库IP 已部署MySQL数据库的机器IP地址。 注意 只有从Giserver能连接到MySQL数据库的机器IP地址才有效，建议输入与Giserver相同VPC下的IP地址。 数据库端口 MySQL数据库的访问端口。 数据库用户 MySQL数据库用户。 数据库密码 MySQL数据库的密码。 初始连接数 Giserver初始化时创建的数据库连接数（数据库连接池参数）。 最小空闲连接数 连接池里始终保持的最小空闲连接数。 说明 即使Giserver性能压力很小，连接池仍会保证至少可用的数据库连接数，以快速响应新请求。 最大活跃连接数 连接池里允许的最大并发连接数。 说明 通过限制连接池最多可以支持同时建立的数据库连接数，可以防止Giserver性能压力较大时，MySQL数据库因数据库资源耗尽或过载出现的异常。 获取链接超时时间（毫秒） Giserver从连接池中获取的MySQL数据库连接的最大等待时间。当超过等待时间，Giserver与MySQL数据库还未建立连接，则会报错。 索引查询超时时间（秒） DBProxy执行SQL查询时，使用全局索引的最大允许时间。当超过最大允许时间，DBProxy会跳过索引，使用广播查询。 元数据库名 MySQL数据库的元数据库名称。 GiServer启动节点 GiServer启动节点。将会在所选择的GiServer节点部署GiServer服务，可选择低负载节点进行部署启动。 注意 至少选择一个。 支持选择多个，可实现高可用索引服务，但同时会占用节点内存，可根据业务按需选择。 6. 单击检测，并等待检测通过。 注意 存储类型 设置为redis时，无法检测redis，请自行确保redis信息填写正确。 存储类型 设置为mysql 时，必须检测通过后，才能单击保存。 7. 单击保存。 8. 在确认启动GiServer节点 对话框中，确认启动的GiSever节点信息无误后，单击确认启动。 启动成功后，您可以在索引服务管理 页签下，查看已启动的GiServer节点信息，其中，节点初始化状态 为已初始化 、节点状态 为运行中。

本文带您了解该方案的具体流程。 具体流程 依据用户业务需求分析，本方案旨在通过结合云专线和VPC终端节点服务，实现云下用户数据中心与天翼云上的互通，并在不借助公网的情况下实现对云上VPC内资源和其他云服务的访问。 具体流程如下：

本章节介绍微服务云应用平台限流降级能力 概述 限流降级包含限流和降级两个功能。限流是指通过调节流量阈值控制通过系统的最大流量值，保证系统安全可靠运行。降级通常用于对下游出现超时的非核心服务提供者进行低优先级调用，确保上游核心应用（服务消费者）不被影响。通过接入限流降级，您实时查看限流降级详情和动态变更规则，从而全面保障您的应用可用性。使用限流降级需要事先部署时配置限流降级高级配置接入限流降级。 前提条件 1. 开通微服务治理中心企业版 2. 开启接入微服务治理和限流降级 规则管理 支持配置流控规则、隔离规则、熔断规则、主动降级规则、热点规则、自适应流控等规则。 流控规则 流控规则的原理是监控应用或服务流量的QPS指标，当指标达到设定的阈值时立即拦截流量，避免应用被瞬时的流量高峰冲垮，从而保障应用高可用性。适用于需要限制突发的流量，在尽可能处理请求的同时来保障服务不被击垮的场景。 1. 在应用总览页面，选择限流降级规则管理，进入规则管理页面 2. 选择流控规则页签，点击新增进入流控规则配置页面 3. 选择防护场景 配置项 描述 接口名称 待流控的资源名称。 4. 配置防护规则 参数 描述 是否集群流控 开启集群流控，对集群内此资源的调用总量进行限制。 是否开启 打开开关表示启用该规则，关闭开关表示禁用该规则。 单机QPS阈值 触发对流控接口的统计维度对象的QPS阈值。 来源应用 该规则针对的来源应用，默认来源应用设为default，代表不区分来源应用。 统计维度 选择资源调用关系进行流控。 1，当前接口 ：直接控制来自来源应用中调用来源的访问流量，如果来源应用为default则不区分调用来源。通常应用于流量匀速通过的场景。 2，关联接口 ：控制当前资源的关联资源的流量。通常应用于资源争抢时，留足资源给优先级高接口的场景。 3，链路入口 ：控制该资源所在的调用链路的入口流量。选择链路入口后需要继续配置入口资源，即该调用链路入口的上下文名称。通常应用于预热启动避免大流量冲击的场景 流控效果 选择流控方式来处理被拦截的流量。 1，快速失败： 达到阈值时，立即拦截请求。按照应用系统设置中的适配模块配置信息，进行内容返回。 2，预热启动： 需设置具体的预热时间。 如果系统在此之前长期处于空闲的状态，当流量突然增大的时候，该方式会让处理请求的速率缓慢增加，经过设置的预热时间以后，到达系统处理请求速率的设定值。 默认会从设置的QPS阈值的1/3开始慢慢往上增加至设置的QPS值，多余请求会按照快速失败处理。 3，排队等待： 请求匀速通过，允许排队等待，通常用于请求调用削峰填谷等场景。需设置具体的超时时间，达到超时时间后请求会快速失败。 5. 配置限流行为 配置行为主要是配置Fallback行为。Fallback行为定义某个埋点资源触发了某种规则（如流控、熔断、降级）后的处理行为。目前Fallback行为仅支持Web和RPC两种资源类型。如果您不需要自定义限流后的Fallback行为，则选择默认行为即可。 配置成功后，新的流控规则将出现在流控规则列表中。

本章节主要提供用户操作指南的下载。 点此下载：《翼MapReduce服务用户操作指南》

接口功能介绍 为用户指定资源池开通云备份服务(客户端和跨域流量复制)，属于region级服务 接口约束 1、用户在该region下未开通过云备份服务 URI POST /v4/backup/openservicebackup 路径参数 无 Query参数 无 请求参数 请求头header参数 无 请求体body参数 参数 是否必填 参数类型 说明 示例 下级对象 regionID 是 String 资源池ID 81f7728662dd11ec810800155d307d5b clientToken 否 String 客户端存根，用于保证订单幂等性。要求单个云平台账户内唯一 backuptest 响应参数 参数 参数类型 说明 示例 下级对象 statusCode Integer 返回状态码(800为成功，900为失败) 800 message String 成功或失败时的描述，一般为英文描述 SUCCESS description String 成功或失败时的描述，一般为中文描述 成功 returnObj Object 成功时返回对象 returnObj errorCode String 业务细分码，为product.module.code三段式码。 backup.regionInfo.empty error String 业务细分码，为product.module.code三段式大驼峰码 Backup.RegionInfo.Empty 表 returnObj 参数 参数类型 说明 示例 下级对象 masterOrderID String 订单ID。调用方在拿到masterOrderID之后，在若干错误情况下，可以使用masterOrderID进一步确认订单状态及资源状态 参考响应示例 masterResourceStatus String 主资源状态。只有主订单资源会返回 参考响应示例 regionID String 资源所属资源池ID 参考响应示例 resources Array of Objects 资源明细列表 resources 表 resources 参数 参数类型 说明 示例 下级对象 orderID String 订单编号 fbd15e68fd6a49fb87286d17aa802b44 status String 订单状态 1 isMaster Boolean 是否主订单 true resourceType String 资源类型 CTCBRREPDATA resourceID String 订单资源ID 321b3924fd0f47959b838e3751c48ca9 masterOrderID String 订单ID 183ddd74959b11ee92e70242ac110003 updateTime Integer 更新时间 1678436086000 masterResourceID String 主资源ID b3748dbdc659418c9b74051657982a14 itemValue Integer 订单个数 2 startTime Integer 开始时间 1678436082000 createTime Integer 创建时间 1678436064000

本文主要介绍云日志服务的资源统计能力。 云日志服务资源统计是对日志使用资源进行统计与可视化展示，主要分类有日志标准存储量、读写流量、加工流量与转储流量。 因数据上报与存储时间有先后，统计数值与实际情况会有略微差异，因此统计数值仅供参考。 日志存储量：日志存储量为原始日志压缩后所产生的存储量以及建立索引所产生的存储量。 读写流量：日志数据被压缩后上传到云日志服务所产生的传输流量。 加工流量：执行数据加工的日志数据量（未压缩）。 转储流量：转储到转储目标的日志数据量。 资源统计 日志管理页面中的资源统计模块，展示了当前账号、当前资源池下的日志标准存储量、读写流量、加工流量与转储流量。 趋势图中每个点表示某时间内的数据统计，鼠标悬浮至趋势图中可展示具体时间与统计数据。 可查看各项指标的环比值，分析变化趋势。 默认只展示前两天的用量统计，如需查询其他时间范围，请点击页面中的【相关明细】查看更多信息 资源相关明细 资源相关明细中可查看资源统计的更多信息。 指定时间范围的资源统计 可查看指定时间范围内的资源统计，您可根据自己的实际需求选择时间范围，支持选择相对时间、整点时间、自定义时间。 相对时间：表示查询距离当前时间1天、3天、1周等时间区间的用量情况。 整点时间：表示查询今天、昨天、本周、上周等时间区间的用量情况。 自定义时间：表示查询指定时间范围的用量情况。 选择时间范围后，将按照选择时间范围显示数据趋势图。

本章介绍Kafka的网络带宽利用率监控告警配置指导。 使用场景建议 Kafka存在持续业务，避免出现客户端批量断链场景。 间断性业务场景不建议使用，会存在误告警。 新创建实例不建议设置告警。 告警通知设置，告警对象、告警组设置 1. 登录管理控制台。 2. 在管理控制台左上角单击，选择目标实例所在的区域。 3. 在管理控制台左上角单击，搜索CES服务进入“云监控服务”界面。 4. 选择“告警 >告警通知”，单击“通知对象 >创建通知对象”，填写要通知的对象以及相关联系方式，如果已存在则跳过该步骤，重复该步骤可创建多个通知对象。 5. 选择“通知组 >创建通知组”，把步骤4创建的告警对象都纳入当前组进行管理。 设置告警规则 1. 选择“告警 >告警规则 >创建告警规则”。 参数 说明 名称 自定义名称 描述 自定义描述 告警类型 指标 资源类型 分布式消息服务 维度 Kafka专享版 Broker节点 监控范围 指定资源 监控对象 选择指定kafka实例的所有broker，可选择多个kafka实例 触发规则 自定义创建 告警策略 若++网络带宽利用率++ 的++原始值连续3次<++xx则++每5分钟 告警一次++ ++根据实际情况设置xx的紧急、重要、次要等告警++ 发送通知 打开 通知方式 通知组 通知组 选择上一步创建的通知组 通知内容模板 都可以选择系统模版 生效时间 每日00:00 – 23:59 触发条件 出现告警恢复告警都选 2. 单击“立即创建”。

计费周期 包年/包月RabbitMQ实例的计费周期是根据您购买的时长来确定的（以UTC+8时间为准）。一个计费周期的起点是您开通或续费资源的时间（精确到秒），终点则是到期日的23:59:59。 例如，如果您在2023/03/08 15:50:04购买了一个时长为一个月的RabbitMQ实例，那么其计费周期为：2023/03/08 15:50:04 ~ 2023/04/08 23:59:59。 计费示例 假设您于2023/03/08 15:50:04在“广州4”购买了一个包年/包月RabbitMQ实例（规格：rabbitmq.2u4g.cluster3，总存储空间：超高I/O 300GB），计费资源包括实例费用（代理规格和代理数量），以及存储空间费用（超高I/O 300GB）。购买时长为一个月，并在到期前手动续费1个月，则： 第一个计费周期为：2023/03/08 15:50:04 ~ 2023/04/08 23:59:59 第二个计费周期为：2023/04/08 23:59:59 ~ 2023/05/08 23:59:59 您需要为每个计费周期预先付费，各项RabbitMQ资源单独计费，计费公式如表2所示。 表2 计费公式 资源类型 计费公式 资源单价 实例费用 实例规格单价 购买时长 请参见分布式消息服务RabbitMQ[]( 存储空间费用 存储空间单价 购买时长 请参见分布式消息服务RabbitMQ[]( 图2 包年/包月RabbitMQ实例费用计算示例 说明 图2中价格仅供参考，实际计算请以分布式消息服务RabbitMQ

四、vLLM Benchmark 1. 前言 vLLM Benchmark 是 vLLM 框架用于评估和优化其推理性能的标准化测试工具集，核心作用是为大语言模型（LLM）的推理服务提供量化指标，帮助开发者优化模型部署策略。 2. 测试环境配置 如下图所示为测试环境拓扑，其中GPU云主机配置有4块GPU卡。部署DeepSeek的模型，安装vLLM推理引擎服务并启动；启动Open WebUI服务来接入到vLLM，实现从浏览器客户端登录系统进行问答；vLLM Benchmark用于进行性能压力测试，sharegpt dataset数据集用于性能压测过程的输入数据。 可以通过如下命令来安装vLLM Benchmark工具脚本： plaintext git clone cd vllm/benchmarks/ 3. 测试实践 使用vLLM Benchmark进行性能测试时可以指定sharegpt数据集。 Sharegpt数据集的所有问题论来自于真实的用户提问，更贴近实际应用场景，可以全面、真实地评估模型在实际应用场景中的表现。具体的指标和测试方法见下文。 如下所示为性能压测命令： plaintext python benchmarkserving.py model /root/modelpath/deepseekai/DeepSeekR1DistillQwen32B backend vllm datasetname sharegpt datasetpath /root/ShareGPTV3unfilteredcleanedsplit.json maxconcurrency 1 numprompts 50 命令参数解释如下： model：指定模型路径； backend：指定后端推理引擎类型； datasetname：指定数据集类型； datasetpath：指定数据集路径； maxconcurrency：指定并发数，默认为1； numprompts：指定总的请求数； 对应的测试结果如下所示： 指标说明： 测试结果中的具体指标含义如下所示： Output token throughput(tok/s）：输出 Token 吞吐量，单位为 tok/s，是衡量大模型服务生成效率的核心指标，指系统每秒能够生成的输出 token 数量。它直接反映模型的文本生成速度和系统的整体处理能力，是评估推理成本和服务商业价值的关键依据。 TTFT：Time to First Token，首 Token 延迟，是衡量大模型服务响应速度的核心指标，具体指从用户发送请求到系统生成第一个输出 。 TPOT：指排除首 Token 延迟后，生成每个后续输出 token 的平均耗时。计算公式为：总解码时间 / 输出 token 数量。例如，若 TPOT 为 50ms，则每秒可生成 20 个 token。 ITL：连续两个输出token之间的间隔时间，单位毫秒，反映生成稳定性。 指定输入输出token长度 当使用的数据集为random类型的时候，执行vLLM Benchmark压测命令的时候可以指定输入长度和输出长度，测试命令如下： plaintext python vllm/benchmarks/benchmarkserving.py model /root/modelpath/deepseekai/DeepSeekR1DistillQwen32B backend vllm datasetname random randominputlen 256 randomoutputlen 256 maxconcurrency 1 numprompts 50 进行上述测试时如果使用vllm启动的时候添加了servedmodelname参数以及apikey参数，测试的时候需要在上述命令中加入servedmodelname内容，并且在环境变量中添加OPENAIAPIKEYyourkey。

参数 描述 IP地址或域名 源数据库的IP地址或域名。说明对于RAC集群，建议使用SCAN IP接入，提高访问性能。 端口 源数据库服务端口，可输入范围为1~65535间的整数。 数据库服务名 数据库服务名（Service Name/SID），客户端可以通过其连接到Oracle，具体查询方法请参照界面提示。 PDB名称 PDB同步仅在Oracle12c及以后的版本支持，该功能为选填项，当需要迁移PDB中的表时开启。PDB功能开启后，只能迁移该PDB中的表，并且需要提供CDB的service name/sid及用户名和密码，不需要PDB的用户名和密码。 数据库用户名 源数据库的用户名。 数据库密码 源数据库的用户名所对应的密码。 SSL安全连接 如启用SSL安全连接，请在源库开启SSL，并确保相关配置正确后上传SSL证书。 说明 最大支持上传500KB的证书文件。 如果不启用SSL安全连接，请自行承担数据安全风险。

设置告警规则 添加告警规则 1. 登录管理控制台。 2. 选择“管理与部署 > 云监控服务”。 3. 在左侧导航树栏，选择“告警 > 告警规则”。 4. 在“告警规则”界面，单击“创建告警规则”进行添加。 以创建弹性负载均衡器的告警规则为例： a) “资源类型”，选择“弹性负载均衡”。 b) 单击“维度”，可以选择“弹性负载均衡（外网）”或“弹性负载均衡（内网）”或“监听器”或“后端主机组”，这里以选择“弹性负载均衡（内网）”为例。 c) 按照需要设置其他参数，修改完成后单击“立即创建”。 弹性负载均衡器告警规则设置完成后，如果通知功能已开启，当符合规则的告警产生时，系统会自动进行通知。 修改告警规则 1. 登录管理控制台。 2. 选择“管理与部署 > 云监控服务”。 3. 在左侧导航树栏，选择“告警 > 告警规则”。 4. 在“告警规则”界面，单击需修改的告警规则操作列的“修改”。 a) 在“修改告警规则”界面，根据界面提示修改配置参数。 b) 按照需要设置其他参数，修改完成后单击“立即修改”。 弹性负载均衡器告警规则设置完成后，如果通知功能已开启，当符合规则的告警产生时，系统会自动进行通知。 查看监控指标 云服务平台提供的云监控服务，可以对弹性负载均衡器的运行状态进行日常监控。您可以通过云监控管理控制台，查看弹性负载均衡器的各项监控指标。 由于监控数据的获取与传输会花费一定时间，因此，云监控显示的是当前时间5～10分钟前的弹性负载均衡状态。如果您的弹性负载均衡器刚刚创建完成，请等待5～10分钟后查看监控数据。 说明 关机、故障、删除状态的后端云主机，无法在云监控中查看其监控指标。当后端云主机再次启动或恢复后，即可正常查看。 关机、故障24小时以上的后端云主机，云监控将默认该负载均衡器不存在，并在监控列表中删除，不再对其进行监控，但告警规则需要用户手动清理。 子帐号用户如果需要在云监控页面中查看ELB监控数据，需要为子帐号添加“ELB Administrator”权限，否则无法查询到完整的ELB监控数据。 1. 登录管理控制台。 2. 选择“管理与部署 > 云监控服务”。 3. 在左侧导航树选择“云服务监控 > 弹性负载均衡”。 4. 在“云服务监控”页面，单击需要查看监控指标的负载均衡器名称。或单击目标负载均衡器右侧操作列的“查看监控指标”。 5. 选择需要查看监控指标的时间段。支持选择系统定义的时间段（如“近1小时”），或自定义时间段。 6. 单击右上角的“设置监控指标”，设置需要查看的监控指标。

本文主要介绍(可选)添加负载均衡器到伸缩组。 弹性负载均衡（Elastic Load ，简称CTELB）是将访问流量根据转发策略分发到后端多台云服务器流量分发控制服务。弹性负载均衡可以通过流量分发扩展应用系统对外的服务能力，通过消除单点故障提升应用系统的可用性。 若您需要使用弹性负载均衡提供的功能，请参考此章节为您的伸缩组添加负载均衡器。将负载均衡器添加到伸缩组后，可确保在伸缩组内添加和删除实例时，所有实例均可分配到应用程序的流量。 弹性伸缩只能添加已创建的负载均衡器，且弹性伸缩组和负载均衡器必须处于同一VPC内。如何创建负载均衡器请参见《弹性负载均衡用户指南》。为伸缩组添加负载均衡器方法如下： 在创建伸缩组时，可通过配置“负载均衡”参数添加负载均衡器。操作可参考创建伸缩组。 伸缩组为非启用状态、实例数为0且没有正在进行的伸缩活动时，可以通过修改伸缩组的负载均衡配置，为伸缩组添加负载均衡器。操作可参考修改伸缩组信息。

天翼云为您提供云主机备份产品相关协议说明,请您点击查看。 天翼云云主机备份服务协议

OBS桶被删除，请您重新指定已创建的存储桶。 OBS桶策略异常，请您在对象存储服务中设置访问控制策略。

状态 说明 “可用” 表示当前快照工作正常。 “创建中” 表示当前快照正在创建中。 “不可用” 表示当前快照无法提供服务。

状态 说明 “可用” 表示当前快照工作正常。 “创建中” 表示当前快照正在创建中。 “不可用” 表示当前快照无法提供服务。

云下一代防火墙到期后是否可自行续订? 是的，您可以自行发起云下一代防火墙的续订申请，确保您的业务在产品到期后不受到中断。以下是相关的详细信息和操作指南： 续订申请发起：为了确保您的云下一代防火墙服务不中断，建议您在产品到期前至少提前3个工作日主动发起续订申请。续订申请可以通过我们的在线平台或与客户经理联系来完成。 申请时间：提前提交续订申请是至关重要的，这样我们的团队有足够的时间来处理您的请求，确保续订在产品到期之前得以完成。这有助于避免因产品过期而导致的业务中断。 在线平台操作：如果您选择通过在线平台进行续订申请，请登录您的云账户，点击云下一代防火墙产品的续订选项，并按照系统提示完成续订流程。确保在续订过程中提供准确的信息，以避免不必要的延误。 注意事项：在续订申请过程中，请仔细阅读相关条款和条件，确保您了解续订期间可能涉及的费用、服务升级选项等细节。如果有任何疑问，可以咨询客户经理或技术支持团队。 业务影响：请注意，如果未在到期前完成续订申请，可能会导致云下一代防火墙服务中断，影响业务转发。为了避免不必要的风险，请务必按时发起续订申请并遵循相应的操作流程。

本文介绍云备份的产品优势。 简单易用 支持Windows主机客户端一键安装，Linux主机客户端脚本自动安装，操作简单方便。支持控制台自定义备份计划，根据计划进行周期性备份或通过计划手动执行一次性备份，简单易用。 支持控制台自定义备份计划，根据计划进行周期性备份或通过计划手动执行一次性备份，简单易用。 轻松运维 提供统一的云备份服务控制台，减轻运维工作量。 当您对主机进行备份或者使用备份恢复主机的数据时，可以通过控制台监控备份/恢复进度。 灵活策略管理 支持针对不同保护对象设置自动备份策略，并统一配置管理。您可通过管理控制台统一管理多个主机的备份。 可配置按照小时/天/周/月的备份，并指定备份数据的保留周期。 数据重删 支持备份数据重删，经济高效。备份数据写入对象存储后，进行重复数据删除后保存，备份存储空间节约可达95%，同时可提升备份速度。 细粒度备份 提供文件级细粒度备份。支持对主机中的文件进行全盘备份，也支持筛选后的目录级别备份，RTO可达分钟级。 注意 如果执行的是筛选后的目录备份，恢复时仅恢复备份时筛选的目录。 安全可靠 提供可靠的存储服务以及有效的数据隔离服务。备份数据保存在对象存储中，持久度可达99.9999999999%。备份数据逻辑隔离，可保证数据安全性。

本节介绍了备份恢复相关问题。 TaurusDB能够保存多长时间的备份 云数据库TaurusDB实例的自动备份有效期根据用户设置的备份天数而定。详情请参见设置自动备份策略。 手动备份没有时间限制，用户可根据需要进行手动删除。详情请参见创建手动备份。 备份存储在对象存储服务上，不占用您创建的数据库空间。 如何清理云数据库TaurusDB的备份空间 TaurusDB的备份空间中存放的是自动备份、手动备份文件。 清理自动备份（全量备份+增量备份） 自动备份文件不支持手动删除，可通过修改备份策略调整备份保留天数，超出备份保留天数的已有备份文件会被自动删除。 清理手动备份（全量备份） 手动备份文件支持手动删除，具体请参见删除手动备份。 如何将TaurusDB数据库备份到弹性云主机上 您可以通过导出SQL语句的方式将数据库备份到弹性云主机上。弹性云主机不限制存放哪些数据，但是数据必须符合国家法律法规。您可以在弹性云主机上存放数据库备份，但不建议将弹性云主机作为数据库备份空间使用。 强烈推荐使用云数据库TaurusDB将备份数据存放到专业的对象存储服务上，以获得更高的数据可靠性和服务保障。

状态码 http状态码 描述 200 表示请求成功。 错误码说明 4 位错误码。4 开头为业务错误码，5 开头为服务错误码。全局请求返回错误码请参考章节API概览>状态码 错误码 错误信息 错误描述 AIOP4002 body传入的不是字典 body传入的不是字典 AIOP4003 请求中未包data字段 请求中未包data字段 AIOP4004 data字段图片数据不是list格式 data字段图片数据不是list格式 AIOP4005 图片list内图片数量为0 图片list内图片数量为0 AIOP4006 图片list内图片数量超过50张 图片list内图片数量超过50张 AIOP4008 base64数据处理异常 base64数据处理异常 AIOP4009 请求文件格式不合法，仅支持 jpeg/png/jpg/bmp 格式 请求文件格式不合法，仅支持 jpeg/png/jpg/bmp 格式 AIOP4010 单张图片大小超过10M 单张图片大小超过10M AIOP4011 图片尺寸不符合要求，分辨率长宽尺寸应小于5000大于32 图片尺寸不符合要求，分辨率长宽尺寸应小于5000大于32 CTAPI10000 API Not Found CTAPI0009 无效json的body参数 AIOP5000 OCR服务接口异常，请联系管理员 OCR服务接口异常，请联系管理员

1、在新域名服务产品界面，点击“控制台”，进入到域名管理界面，找到需要解析的域名。 2、对需要解析的域名点击“域名解析” 3、在域名解析界面，点击“新增解析” 4、在新增解析界面，选择解析记录类型以及对应的相关内容，点击“提交”。即可完成域名的解析。 备注： 域名解析不得超过20条。 记录类型说明： A记录：将域名指向一个IPv4地址（例如：10.10.10.10）需要增加A记录。 NS记录：域名解析服务器记录，如果要将子域名指定某个域名服务器来解析，需要设置NS记录。 CNAME记录：如果将域名指向一个域名，实现与被指向域名相同的访问效果，需要增加CNAME记录。 MX记录：建立电子邮箱服务，将指向邮件服务器地址，需要设置MX记录。 TXT记录：可任意填写（可为空），通常用作SPF记录（反垃圾）邮件使用。 AAAA记录：用来指定主机名（或域名）对应的IPv6地址（例如：ff06:0:0:0:0:0:0:c3）记录 。 SRV记录：记录格式为优先级权重端口目标地址，每项中间需以空格分隔。例如"0 5 5060 sipserver.example.com"。 URL转发：将域名指向一个http协议地址，访问域名时，自动跳转到目标地址。若显示则访问时直接显示真实的目标地址，若显示隐藏则访问时会隐藏真实的目标地址。（仅中文域名可做URL转发类型的解析。）

本小节介绍等保咨询服务的实施方法。 等保测评的整体流程，其中等保咨询贯穿整个流程，提供全流程一站式等保测评指导服务。

介绍分布式消息服务RabbitMQ创建虚拟主机操作内容。 背景信息 虚拟主机，用作逻辑隔离，分别管理各自的交换器、队列和绑定，使得应用安全地运行在不同的虚拟主机上，相互之间不会干扰。一个实例下可以有多个虚拟主机，一个虚拟主机里面可以有若干个交换器和队列。生产者和消费者连接分布式消息服务 RabbitMQ 版需要指定一个虚拟主机。 操作步骤 （1）登录管理控制台。 （2）进入RabbitMQ管理控制台。 （3）在实例列表页在操作列，目标实例行点击“管理”。 （4）点击“集群管理”后点击“虚拟主机”到达虚拟主机管理页面，点击“新建”按钮。 （5）点击“新建”后出现以下创建，输入虚拟主机名称后点击确定。 注意：设置虚拟主机名称时，有如下要求： 虚拟主机名称只能包含字母、数字、短划线（）、下划线（）。 虚拟主机名称长度限制在1~64个字符。 虚拟主机创建成功后，Vhost名称不可修改。