本文为您详细介绍Qwen2.572BInstruct模型。 模型简介 Qwen2.5系列发布了许多基本语言模型和指令调整语言模型，参数范围从0.5到720亿个参数不等。Qwen2.572BInstruct模型是Qwen2.5系列大型语言模型指令调整版本。 使用场景 Qwen2.5 系列模型在自然语言理解、文本生成、编程能力、数学能力等方面都有显著提升。可以应用于聊天机器人和虚拟助手、内容创作和编辑、教育和学习辅助、编程辅助、数学问题解决等多种场景。 评测效果 Qwen2.572BInstruct 型号提供卓越的性能，甚至在几项关键任务中超过了更大的 Llama3.1405B。Qwen2.572BInstruct 在数学 （MATH： 83.1）、编码 （LiveCodeBench： 55.5） 和聊天 （ArenaHard： 81.2） 方面表现出色。与其基本型号 Qwen2.572B 及其前身 Qwen272BInstruct 相比，Qwen2.572BInstruct 展示了所有任务的全面改进。 Datasets MistralLarge2 Instruct Llama3.170BInstruct Llama3.1405BInstruct Qwen272BInstruct Qwen2.572BInstruct MMLUPro 69.4 66.4 73.3 64.4 71.1 MMLUredux 83.0 83.0 86.2 81.6 86.8 GPQA 52.0 46.7 51.1 42.4 49.0 MATH 69.9 68.0 73.8 69.0 83.1 GSM8K 92.7 95.1 96.8 93.2 95.8 HumanEval 92.1 80.5 89.0 86.0 86.6 MBPP 80.0 84.2 84.5 80.2 88.2 MultiPLE 76.9 68.2 73.5 69.2 75.1 LiveCodeBench 23052409 42.2 32.1 41.6 32.2 55.5 LiveBench 0831 48.5 46.6 53.2 41.5 52.3 IFeval strictprompt 64.1 83.6 86.0 77.6 84.1 ArenaHard 73.1 55.7 69.3 48.1 81.2 AlignBench v1.1 7.69 5.94 5.95 8.15 8.16 MTbench 8.61 8.79 9.08 9.12 9.35

参数名称 说明 regionId 资源池ID，可参考 accountId 账号ID，可用代替 instanceId 容器镜像服务实例ID namespaceName 命名空间名称 repositoryName 镜像仓库名称 chartNamespaceName Chart命名空间名称 chartRepositoryName Chart仓库名称

本节为您介绍云迁移服务CMS异构评估，组件评估报表整合查看。 云迁移服务CMS提供组件评估报表整合查看功能，您可以在[组件评估报表整合]界面查看任务信息，如任务编号、任务名称、源端类型、目标端区域、备注、创建时间、操作等信息，如图所示。

本文为您介绍确认演练结果的具体操作。 使用条件 仅当演练整体状态为执行中可进行演练结果确认操作。 操作步骤 1. 登录天翼云，进入控制中心。 2. 单击管理控制台左上角的，选择区域。 3. 在服务列表选择“计算”“多活容灾服务”，进入多活容灾服务控制台。 4. 点击左侧菜单栏“容灾切换”“容灾演练”，进入容灾演练列表页。 5. 在列表上方下拉菜单中选择需要进行容灾演练的命名空间。 6. 点击列表操作列“确认演练结果”按钮，弹出确认演练结果弹窗。 7. 选择本次演练结果，可选执行成功或执行失败。 8. 点击“确定”按钮，完成容灾演练结果确认。

本文介绍训推服务使用前的准备工作。 注册主账号 在开通和使用训推服务之前，您需要先注册天翼云门户的账号。本节将介绍如何进行账号注册，如果您拥有天翼云的账号，可登录后使用训推服务。 1. 详见：注册天翼云账号 2. 如需实名认证，请参考会员服务实名认证。 3. 主账号默认就是IAM管理员角色，具有平台所有权限。 为账户充值 1. 使用训推服务之前，请保证您的账户有充足的余额，账户余额需要大于100元。 2. 关于如何为账户充值，请参考费用中心在线充值。 3. 训推服务支持包周期预付费。 创建子账号 前置条件 通过主账号或角色为IAM管理员的子账号登录到训推服务 创建子账号操作步骤 1. 将鼠标放置在右上角用户登录信息处，会显示一个下拉菜单，点击【基本信息】会进入到【账号中心】页面 2. 在【账号中心】页面，点击进入【统一身份认证】页面，即【IAM】页面 3. 在【IAM】页面，再次进入【用户】页面，在页面右上角点击【创建用户】按钮，进入到【创建用户】页面，按步骤填写相关信息即可创建子用户 需要特别说明的是，在为子用户添加【用户组】时，系统预置了“admin”用户组，如果将账号用户组设置为”admin“用户组(即IAM管理员角色)，则子用户拥有所有权限；若希望子用户只拥有普通角色权限，则可以不分配用户组，此时子账号的角色为IAM普通用户。 同时为了方便组织架构较为严密的客户进行多层级资源管理，系统允许用户创建”二级管理员“用户组，其权限仅次于“admin”用户组，"二级管理员"可以和”admin“用户组组合使用，再结合工作空间能力，可实现多级账号资源管理，详见多层级资源管理最佳实践。”二级管理员“用户组创建流程如下： 创建用户组：在用户组页面，点击”创建用户组“，在创建用户组弹窗中分别填写用户组名称和描述； 为用户组授权： 1. 点击授权操作按钮； 2. 在策略名称搜索框中输入”huijuOutSLAdmin“进行搜索，选择所搜索的结果，点击“下一步”按钮，再设置最小授权范围(保持默认设置即可)，再点击“确定”即用户组创建完成，此时再创建新用户，就可以选择“二级管理员”用户组了，对应账号将拥有二级管理员权限。 当需要将子账号从某个用户组移除时，可进入到【用户组】页面，进行移除操作，移除后，子账号将不再具有对应用户组的权限

本节主要介绍云间NAT网关高速访问互联网的方案。 用户本地数据中心的服务器需要访问公网或为公网提供服务时，公网NAT网关可为您提供高效、优质的网络服务。可以通过开通云专线或VPN实现本地数据中心上云，然后购买公网NAT网关，通过配置SNAT规则实现访问公网或配置DNAT规则为互联网提供服务。

注意事项 当开通边缘安全加速平台加速全球或者全球(不含中国内地)服务时，都支持开通高性能网络增值服务。 具体开通流程，详情请见：高性能网络开通。 该功能为增值服务，配置开启后将产生相应费用。 具体计费规则，详情请见：高性能网络计费。 配置说明 如您需要配置使用高性能网络，请提交工单给天翼云客服，由其帮您配置。

参数 参数类型 说明 示例 下级对象 dtsJobName String 任务名 dtsJobId Integer 任务id status String 任务状态：UNCONFIGURED (未配置),RUNNING (运行中),RETRYING (重试中),UPDATESUBJOB (修改同步对象中),UNPRECHECK (未预检查),PRECHECKING (预检查中),PRECHECKFAILURE (未通过预检查),PRECHECKPASS (预检查通过),MIGRATING (结构迁移中),MIGRATED (结构迁移完成),START ((全量) 开始),FULLOVER (全量迁移完成),INCSTART ((增量) 开始),STOP (暂停 (可再次启动)),PAUSE (运行异常 (可再次启动)),REVERSE (一键切换),FINISH (完成 (终结)),INCSERVICESTART (源端读取服务开始),INCSERVICEDISPATCHDONE (源端读取服务运行中),POSTSTRUCTSTART (后置结构迁移开始),POSTSTRUCTDONE (后置结构迁移完成),INCDISPATCHSTART (增量服务调度开始),INCDISPATCHDONE (增量服务调度完成，增量运行中),MONITORSTART (监控开始),MONITORDISPATCHDONE (监控调度完成),FAILOVERSWITCHING (udal 的容灾切换) RUNNING syncStatusInfo Object 同步信息 SyncStatusInfo

本章节主要介绍恢复租户数据。 操作场景 租户的数据默认在Manager和集群组件中保存相关数据，在组件故障恢复或者卸载重新安装的场景下，所有租户的部分配置数据可能状态不正常，需要手动恢复。 操作步骤 在MRS Manager，单击“租户管理”。 1. 在左侧租户列表，单击某个租户节点。 2. 检查租户数据状态。 a.在“概述”，查看“基本信息”左侧的圆圈，绿色表示租户可用，灰色表示租户不可用。 b.单击“资源”，查看“Yarn”或者“HDFS存储”左侧的圆圈，绿色表示资源可用，灰色表示资源不可用。 c.单击“服务关联”，查看关联的服务表格的“状态”列，“良好”表示组件可正常为关联的租户提供服务，“故障”表示组件无法为租户提供服务。 d.任意一个检查结果不正常，需要恢复租户数据，请执行步骤4。 3. 单击“恢复租户数据”。 4. 在“恢复租户数据”窗口，选择一个或多个需要恢复数据的组件，单击“确定”，等待系统自动恢复租户数据。

AI 网关支持为MCP服务配置消费者认证。可以精准控制 API 访问权限,实现租户隔离,有效防止未授权访问和资源滥用。本文为您介绍如何配置消费者认证。 配置MCP服务级别消费者认证 1. 登录云原生API网关控制台，在顶部菜单栏选择资源池。 2. 在左侧导航栏，选择 "AI网关实例" 菜单，进入实例列表页，选择目标实例进入详情页。 3. 在左侧导航栏，选择"MCP管理MCP服务"，进入MCP服务详情页，切换到"消费者认证"页签。 4. 单击配置信息右侧的"编辑"，进行如下参数配置： 注意 开启消费者认证后，若没有配置授权关系，将无法访问当前API。 启用状态：开启或关闭消费者授权开关，默认关闭。 认证方式：目前支持API Key和JWT两种方式。 API Key：客户端访问时，需将凭证以指定的方式添加至请求中，网关收到请求后会验证API Key的合法性及权限。 JSON Web Token (JWT)： 用于在客户端和服务端之间以JSON对象的形式安全地传输信息，该信息可以被验证和信任。 5. 在消费者区域单击授权，选择消费者，单击"添加"。

备案成功后，需要您重点关注以下事情： 正确悬挂备案号： 备案成功后，网站需在主页下方正确悬挂备案号并链接至工信部，APP需在显著位置添加备案号并链接至工信部，工信部链接： 完成公安备案： 按照《中华人民共和国计算机信息系统安全保护条例》等相关法律法规，您的服务（网站/APP）备案申请通过管局审核并获得备案号后，您必须在服务（网站/APP）开通之日起30日内登录《全国互联网安全管理服务平台》提交公安备案申请。如果您的服务（网站/APP）涉及经营性业务还需申请经营性服务（网站/APP）备案许可证。 在申请公安备案时，请按照以下信息填写天翼云相关信息： 接入商名称：天翼云科技有限公司； 地址：北京，东城区； 电话：4008109889； 如接入商名称没有可选项，请选其他，手动填写接入商名称。 办理经营性备案（依据网站实际情况判断）： 根据网站/App内容判断是否需要办理，如果您的网站/App涉及经营性业务，在网站完成ICP备案后，您还需要为网站办理经营性备案。

备案成功后，需要您重点关注以下事情： 正确悬挂备案号： 备案成功后，网站需在主页下方正确悬挂备案号并链接至工信部，APP需在显著位置添加备案号并链接至工信部，工信部链接： 完成公安备案： 按照《中华人民共和国计算机信息系统安全保护条例》等相关法律法规，您的服务（网站/APP）备案申请通过管局审核并获得备案号后，您必须在服务（网站/APP）开通之日起30日内 登录《全国互联网安全管理服务平台》提交公安备案申请。如果您的服务（网站/APP）涉及经营性业务还需申请经营性服务（网站/APP）备案许可证。 在申请公安备案时，请按照以下信息填写天翼云相关信息： 接入商名称：天翼云科技有限公司； 地址：北京，东城区； 电话：4008109889； 如接入商名称没有可选项，请选其他，手动填写接入商名称。 办理经营性备案（依据网站实际情况判断）： 根据网站/App内容判断是否需要办理，如果您的网站/App涉及经营性业务，在网站完成ICP备案后，您还需要为网站办理经营性备案。

本文主要介绍将物理机或其他公有云主机迁移至天翼云ECS的迁移场景和操作步骤。 简介 当您需要实现物理机的上云迁移，把物理机迁移至天翼云ECS；或者把其他公有云主机迁移至天翼云ECS时，可以采用主机迁移服务实现源端服务器到天翼云ECS的快速迁移。本文主要介绍将物理机或其他公有云主机迁移至天翼云ECS的迁移场景和操作步骤。 操作步骤 1.获取目的端服务器所在账号的AK/SK。 说明 如果您需要直接使用账号来进行主机迁移，具体步骤请参见 sectiondfaee8dfd1a4b957。 如果您在此账号中创建了IAM用户，授予此IAM用户对应的权限后使用此IAM用户创建AK/SK，具体步骤请参见 sectiond0d0e939b8f5cd2a。 2.在源端服务器上安装迁移Agent，具体步骤请参见在源端上安装迁移Agent。 3.安装完成后，双击SMSAgent，打开迁移Agent，在迁移Agent中填写1中获取的AK/SK，并启动迁移Agent。 说明 迁移Agent启动成功后会自动收集源端服务器信息并发送给主机迁移服务，主机迁移服务会自动校验源端服务器信息合法性以及是否可迁移。 4.迁移Agent启动成功后，使用目的端服务器所在的账号，登录主机迁移管理控制台，在“迁移服务器”页面的服务器列表中，查看源端服务器信息。 5.创建并启动迁移任务，具体步骤请参见设置迁移目的端，开始服务器复制并启动目的端。 说明 迁移完成后目的端服务器的登录方式与源端服务器的登录方式保持一致。 6.（可选）启动目的端后，如果您的源端服务器有增量数据，您可以使用同步功能，同步源端增量数据。单击操作列的“同步”，单击“是”，开始进行增量数据同步。

第一步：开通服务 订购流程见花卷聆记订购指引。 第二步：首次设置（创建）企业认证标识 开通服务后，需管理员手动完成企业标识的初始化配置，操作步骤如下： 1. 使用购买套餐的账号登录天翼云控制台，进入花卷聆记控制台； 2. 在左侧导航栏展开「身份」分类，点击下级菜单「企业服务」，进入企业服务管理页面； 3. 在页面「企业认证标识」模块的输入框中，填写企业自定义的认证标识； 4. 确认标识内容无误后，执行保存操作，即完成企业认证标识的创建与生效。 配置注意事项 1. 每个企业仅可设置一个唯一的认证标识，与企业服务账号一一绑定； 2. 标识建议使用易于记忆的英文、数字组合，便于内部员工同步与使用； 3. 标识设置完成后原则上不可变更，请确认内容准确后再保存提交。 4. 企业认证标识设置完成后，不支持管理员自主修改，以此保障企业身份的唯一性，以及成员登录、资源访问链路的稳定性；若因业务调整等特殊情况确需变更，可通过提交工单，按页面指引填写变更申请，由平台后台审核并处理。 企业管理员完成标识设置后，需将该认证标识同步给企业内所有使用人员；终端用户在登录花卷聆记客户端时，输入对应企业认证标识，即可加入企业组织并使用企业分配的服务资源。

本文介绍专属云（存储独享型）常见的管理类问题。 申请专属存储池对起步容量是否有要求？ 由于专属存储池是以独立集群的形式建设的，因此对起步容量是有要求的。 高IO专属存储池起步容量是24TB，扩容步长是24TB。 超高IO专属存储池起步容量是15TB，扩容步长是15TB。 存储池的使用率过高会有哪些风险？ 存储池的使用率达到100%时将触发存储池写保护，导致数据无法写入云硬盘，影响用户的正常业务。 为避免这一情况的发生，我们建议在存储池使用率达到60%以后，联系天翼云客服申请扩容存储池。 专属云资源池内，是否可以购买公有云上的云硬盘？ 可以。 您在创建云硬盘时，如果不选择专属云存储池，那么创建出来的就是公有云资源池上的云硬盘。 请注意，公有云资源池上的云硬盘会按照公有云的计费方式收费。 存储专属云是否支持专属的弹性文件服务或对象存储服务？ 不支持。 存储专属云当前只支持块存储服务。 您可以在公有云资源池中订购弹性文件服务或对象存储服务。 专属云（计算独享型）与专属云（存储独享型）区别是什么？ 计算独享型为您提供物理独享的宿主机，存储和网络为逻辑独享；存储独享型为您提供物理独享的宿主机及存储服务器，网络为逻辑独享。开通存储专属云需先开通计算专属云。

本章节主要介绍ALM12015 设备分区文件系统只读。 告警解释 系统按60秒周期进行扫描，如果检测到挂载服务目录的设备分区变为只读模式（如设备有坏扇区、文件系统存在故障等原因），则触发此告警。 系统如果检测到挂载服务目录的设备分区的只读模式消失（比如文件系统修复为读写模式、设备拔出、设备被重新格式化等原因），则告警恢复。 告警属性 告警ID 告警级别 是否自动清除 12015 重要 是 告警参数 参数名称 参数含义 来源 产生告警的集群或系统名称。 服务名 产生告警的服务名称。 角色名 产生告警的角色名称。 主机名 产生告警的主机名。 挂载目录名 产生告警的挂载目录名。 设备分区名 产生告警的设备分区名。 对系统的影响 造成服务数据无法写入，业务系统运行不正常。 可能原因 硬盘存在坏道等故障。 处理步骤 1.打开FusionInsight Manager页面，选择“运维 > 告警 > 告警”，单击此告警所在行的。 2.从“定位信息”中获取“主机名”和“设备分区名”，其中“主机名”为故障告警的节点，“设备分区名”为故障磁盘的分区。 3.联系硬件工程师确认为磁盘硬件故障之后，将服务器上故障磁盘在线拔出。 4.拔出磁盘后系统会上报“ALM12014 分区丢失”告警，参考ALM12014 分区丢失进行处理，处理完成后，本告警即可自动消除。

本文为您介绍确认切换结果的具体操作。 使用条件 仅当应急切换状态为执行中可进行切换结果确认操作。 操作步骤 1. 登录天翼云，进入控制中心。 2. 单击管理控制台左上角的，选择区域。 3. 在服务列表选择“计算”“多活容灾服务”，进入多活容灾服务控制台。 4. 点击左侧菜单栏“容灾切换”“应急切换”，进入应急切换列表页。 5. 在列表上方下拉菜单中选择需要进行应急切换的命名空间。 6. 点击列表操作列“确认切换结果”按钮，弹出确认切换结果弹窗。 7. 选择本次切换结果，可选执行成功或执行失败。 8. 点击“确定”按钮，完成应急切换结果确认。

操作步骤 1、在插件市场选择cubeverticalpodautoscaler并安装，安装插件步骤请参考安装插件。 各参数含义如下，您也可以根据实际使用情况修改自定义参数： plaintext storage: prometheus //使用的存储，可根据历史记录（默认为8天）计算推荐值。前提是安装了ccsemonitor插件 prometheusAddress: //prometheus在集群中service的域名及端口 minReplicas: 2 //允许驱逐pod的最小副本数，避免单副本pod被驱逐导致的服务不可用 其中，storage作为历史数据的存储组件，可确保资源使用数据持久化保存，为推荐算法提供稳定可靠的数据基础。该组件支持Prometheus与Checkpoint两种模式：Prometheus模式需安装prometheus插件，占用资源较多，但可提供长期且详细的历史数据；Checkpoint模式仅需安装cubemetricsserver，占用资源较少，但不适合长期存储数据。若需开启Checkpoint模式，则需在kubesystem命名空间下vparecommender工作负载的容器启动参数中移除–storage与–prometheusaddress。 2、Yaml创建VPA自定义资源对象，并绑定负载。 配置文件示例： plaintext apiVersion: autoscaling.k8s.io/v1 kind: VerticalPodAutoscaler metadata: name: hamstervpa spec: targetRef: //目标控制器 apiVersion: "apps/v1" kind: Deployment name: hamster //按需选择对应的deployment updatePolicy: //更新策略 updateMode: "Off" resourcePolicy: //设置计算推荐值的约束，可约束资源的上下限，非必填 containerPolicies: containerName: ""//设置约束的容器 minAllowed: //设置约束的允许最小值 cpu: 100m memory: 50Mi maxAllowed: //设置约束的允许最大值 cpu: 1 memory: 500Mi controlledResources: ["cpu","memory"] //设置约束的资源 其中updateMode参数有以下四种模式可供选择： "Auto"：VPA 在创建Pod和存量Pod设置资源请求。目前这是 等效于Recreate（见下文）。一旦pod请求的就地更新是可用的，它将会被自动使用。注意：VPA 的此功能是实验性的，可能会导致应用程序停机。 "Recreate"：当所请求的资源与新建议显著不同时(如果定义了pod中断预算，则尊重)，VPA会在创建pod时分配建议的资源请求，也会通过驱逐存量pod更新建议的资源请求。这种模式应该很少使用，当您需要确保在资源请求发生变化时重建pod时才使用。否则，最好选择“自动”模式，一旦就地更新可用，就可以利用就地更新重新启动。注意:VPA的这个特性是实验性的，可能会导致应用程序停机。 "Initial"：VPA 仅在新建 Pod 时修改分配资源请求，对于存量Pod 不驱逐更改它们。 "Off"：VPA 不会自动更改 Pod 的资源要求。 会计算出建议值，并且可在 VPA 对象中查看。 3、执行以下命令可以查询VPA为Deployment推荐的CPU和内存资源的requests值。 plaintext kubectl describe vpa hamstervpa

本文介绍了云防火墙(原生版)产品的续订规则。 续订简介 购买的包年/包月云防火墙（原生版）服务到期后，将会影响服务的正常运行，若配额到期后未及时续订，或进行退订，则将被到期冻结或超期释放。 配额冻结后，进入保留期，在保留期内展示全部历史告警数据和防护配置策略，但该防护配额自动降级为2Mbps的公网流量处理能力，除非客户重新订购该VPC的防火墙；保留期后，进行该配额的资源销毁。 配额销毁后，只保留历史的配置规则。若配额到期后续费，续费周期自配额续订解冻开始，计算新的服务有效期，按照新的服务有效期计算费用。例如，客户配额2020年9月30号到期，10月11号续订1个月，那么新的服务开始时间为10月11号，到期时间为11月10号。相关费用自10月11号开始计算。 注意 未完成订单中的配额不允许续订，如开通中的资源、退订中的资源。 已退订或销毁的配额不可续订。 只有通过实名认证的客户，才可以执行续订操作。 续订方式 包年/包月云防火墙（原生版）支持的续订方式如下表所示。 续订方式 说明 手动续订 包年/包月云防火墙在购买之后支持手动续订的方式，您可以随时在云防火墙（原生版）管理控制台中的配额管理页面进行续订，续订后防火墙到期时间将自动延期到续订后的到期时间。 若您在保留期内续费，计费周期从资源到期时间开始计算新的服务有效期并计算费用，例如：您的资源在2026年9月30号到期，10月11号续订1个月，对应资源新的服务开始时间为9月30号，到期时间为10月30号。相关费用自9月30号开始计算。 自动续订 包年/包月云防火墙在购买之后支持自动续订的方式，您可以随时在“费用中心 > 订单管理 > 续订管理”页面开启自动续订，自动续订开启后云防火墙将会进行自动续订，更多说明见自动续订。

4.服务启动与停止 shell 进入部署目录 cd /home/glm5.3 设置节点启动脚本执行权限 chmod +x node.sh 启动 glm5.3 服务 sbatch srun.sh 查看npu运行状态 npusmi info 查看实例和作业运行信息 squeue 示例输出 JOBID PARTITION NAME USER ST TIME NODES NODELIST(REASON) 1 batch glm root R 1:00:00 4 compute[00010003],master0001 停止一项服务 scancel [JOBID]，根据上文推理服务的JOBID为1 scancel 1 停止全部服务 scancel me 服务验证与运维 1.推理服务验证 测试方法：向大模型问一个简单的问题，准备如下脚本并保存到check.sh shell !/bin/bash curl H "ContentType: application/json" d '{ "model": "GLM5.3", "messages": [ {"role":"user","content":"你是谁？"} ], "extra": {"openaiproxy":true} }' 成功响应示例： shell sh check.sh {"id":"chatcmpl8895fddee11ca298","object":"chat.completion","created":1788869218,"model":"GLM5.3","choices":[{"index":0,"message":{"role":"assistant","content":"你好！很高兴见到你。我是GLM，Z.ai训练的大语言模型。nn今天我能为你做些什么？无论是回答问题、提供信息，还是进行日常交流，我都很乐意帮助你。","refusal":null,"annotations":null,"audio":null,"functioncall":null,"reasoning":"收到用户的"你好"问候，需要礼貌地回应并引导对话。首先，我应当以热情友好的态度回应，让用户感受到被重视。同时，考虑到这是初次互动，可以主动询问用户需要什么帮助，以展示乐于助人的特质。在语言表达上，要使用自然流畅的中文，避免过于机械化，可以加入一些表情符号增加亲和力。最后，保持开放式的提问方式，鼓励用户进一步表达需求，这样能为后续对话奠定良好基础"},"logprobs":null,"finishreason":"stop","stopreason":154827,"tokenids":null,"routedexperts":null}],"servicetier":null,"systemfingerprint":"vllm0.26.0tp8dp4ep9ba48c36","usage":{"prompttokens":13,"totaltokens":155,"completiontokens":142,"prompttokensdetails":null,"completiontokensdetails":{"reasoningtokens":100,"audiotokens":null,"acceptedpredictiontokens":null,"rejectedpredictiontokens":null}},"promptlogprobs":null,"prompttokenids":null,"prompttext":null,"kvtransferparams":null,"ectransferparams":null,"metrics":null}

4.服务启动与停止 shell 进入部署目录 cd /home/glm5.3 设置节点启动脚本执行权限 chmod +x node.sh 启动 glm5.3 服务 sbatch srun.sh 查看npu运行状态 npusmi info 查看实例和作业运行信息 squeue 示例输出 JOBID PARTITION NAME USER ST TIME NODES NODELIST(REASON) 1 batch glm root R 1:00:00 4 compute[00010003],master0001 停止一项服务 scancel [JOBID]，根据上文推理服务的JOBID为1 scancel 1 停止全部服务 scancel me 服务验证与运维 1.推理服务验证 测试方法：向大模型问一个简单的问题，准备如下脚本并保存到check.sh shell !/bin/bash curl H "ContentType: application/json" d '{ "model": "GLM5.3", "messages": [ {"role":"user","content":"你是谁？"} ], "extra": {"openaiproxy":true} }' 成功响应示例： shell sh check.sh {"id":"chatcmpl8895fddee11ca298","object":"chat.completion","created":1788869218,"model":"GLM5.3","choices":[{"index":0,"message":{"role":"assistant","content":"你好！很高兴见到你。我是GLM，Z.ai训练的大语言模型。nn今天我能为你做些什么？无论是回答问题、提供信息，还是进行日常交流，我都很乐意帮助你。","refusal":null,"annotations":null,"audio":null,"functioncall":null,"reasoning":"收到用户的"你好"问候，需要礼貌地回应并引导对话。首先，我应当以热情友好的态度回应，让用户感受到被重视。同时，考虑到这是初次互动，可以主动询问用户需要什么帮助，以展示乐于助人的特质。在语言表达上，要使用自然流畅的中文，避免过于机械化，可以加入一些表情符号增加亲和力。最后，保持开放式的提问方式，鼓励用户进一步表达需求，这样能为后续对话奠定良好基础"},"logprobs":null,"finishreason":"stop","stopreason":154827,"tokenids":null,"routedexperts":null}],"servicetier":null,"systemfingerprint":"vllm0.26.0tp8dp4ep9ba48c36","usage":{"prompttokens":13,"totaltokens":155,"completiontokens":142,"prompttokensdetails":null,"completiontokensdetails":{"reasoningtokens":100,"audiotokens":null,"acceptedpredictiontokens":null,"rejectedpredictiontokens":null}},"promptlogprobs":null,"prompttokenids":null,"prompttext":null,"kvtransferparams":null,"ectransferparams":null,"metrics":null}

本节介绍了容器镜像服务:在对象存储BucketPolicy中放通CRS容器镜像访问流量。 在启用对象存储双端固定时，可以参考本文配置 BucketPolicy，以确保不影响容器镜像的正常请求流量。 背景信息 天翼云对象存储ZOS支持桶策略及双端固定能力，可对Bucket的访问流量来源进行控制，确保安全合规。容器镜像服务CRS企业版实例的镜像数据存储在租户账号下的ZOS Bucket中，其正常运行强依赖CRS实例后端及镜像客户端对该Bucket的访问。若桶策略设置不当，将导致容器镜像服务使用异常。因此，当用户需要对ZOS Bucket配置桶策略或双端固定时，必须评估容器镜像场景的正常请求流量，并配置合理的策略以放通来自容器镜像服务实例后端及镜像客户端（例如ECS节点）的访问请求。 容器镜像场景对ZOS Bucket的访问流量架构图参考如下： 镜像上传场景：所有流量均通过CRS后端与ZOS Bucket交互，需确保CRS后端访问ZOS Bucket的请求被放通。 镜像下载场景：镜像元数据由CRS后端访问ZOS Bucket获取，而镜像层数据则通过重定向由客户端直接访问ZOS Bucket获取。因此，需确保CRS后端与镜像客户端访问ZOS Bucket的请求均被放通。

本页介绍了文档数据库服务产品支持的资源池及各资源池功能概览情况。 对文档数据库服务产品在帮助文档中“一类节点”的资源池进行说明及资源池功能概览进行列举。“一类节点”中的资源池分为Ⅰ类型资源池和Ⅱ类型资源池，推荐客户使用Ⅰ类型资源池。 Ⅰ类型资源池清单 华东地区： 上海36/华东1/南昌5/芜湖4/杭州7 华南地区： 长沙42/华南2/武汉41 西南地区： 西南1/西南2 西北地区： 乌鲁木齐7/西安7 北方地区： 华北2/呼和浩特3 Ⅱ类型资源池清单 华东地区： 上海7/合肥2/南京3 华南地区： 福州4/郴州2/广州X 西南地区： 重庆2/昆明2/成都4 西北地区： 西安5 北方地区： 北京5/石家庄20 国际站资源池 海外地区： 香港2 说明 Ⅰ类型资源池和Ⅱ类型资源池通过管理控制台，点击控制中心右侧的区域框进行选择。 国际站资源池相关节点，可以通过点击 Ⅰ类型资源池中，华南2、华东1、等资源池均加载了国产化系列实例类型。具体可参考

本章节主要介绍如何购买数据仓库服务。 1.注册天翼云官网账号，登录后进入官网首页； 2.在官网首页，单击左上角“产品”，【大数据>数据仓库服务】； 3.在【数据仓库服务】界面，单击【立即开通】； 4.在数据仓库服务集群创建页面选择资源池、区域、可用分区、节点规格、热数据存储量、节点数量等基础配置信息后，再根据页面提示，点击“下一步”进入网络配置、高级配置页面，最后单击【立即购买】； 说明 如需开通专属资源，请联系客户经理为您按需申请，即可享受专属资源。 基础配置 网络配置 高级配置 5.按页面提示，勾选相关协议，进入支付页面完成付款； 说明 如您的天翼云账户余额不足100元，在集群订购页面将会弹出账户受限的提示，请您及时充值 。

接口功能介绍 列表终端节点服务中转规则(反向访问规则) 接口约束 无 URI GET /v4/vpce/listendpointservicereverserule 请求参数 Query 参数 参数 参数类型 是否必填 说明 示例 ::: regionID String 是 资源池ID 81f7728662dd11ec810800155d307d5b endpointServiceID String 是 终端节点服务id endpsert3jqijb64e page Integer 否 分页参数 1 pageNo Integer 否 列表的页码，默认值为 1, 推荐使用该字段, page 后续会废弃 1 pageSize Integer 否 每页数据量大小 10 响应参数 参数 参数类型 说明 示例 statusCode Integer 返回状态码（800为成功，900为失败） 800 message String statusCode为900时的错误信息; statusCode为800时为success, 英文 success description String statusCode为900时的错误信息; statusCode为800时为成功, 中文 成功 errorCode String statusCode为900时为业务细分错误码，三段式：product.module.code; statusCode为800时为SUCCESS SUCCESS returnObj Object 接口业务数据 见下表 表 returnObj 参数 参数类型 说明 示例 reverseRules Array of Objects 终端节点列表数据 见下表 totalCount Integer 总条数 1 totalPage Integer 总页数 1 currentCount Integer 总页数 1 表 reverseRules 名字 类型 说明 示例 ID String 节点服务中转规则ID endpointServiceID String 终端节点关联的终端节点服务 endpointID String 节点id transitIPAddress String 中转ip地址 transitPort Integer 中转端口,1到65535 8080 protocol String TCP:TCP协议,UDP:UDP协议 targetIPAddress String 目标ip地址 targetPort Integer 目标端口,1到65535 9090 createdAt String 创建时间 updatedAt String 更新时间

本节介绍了容器镜像服务:使用触发器自动更新集群工作负载。 操作场景 通过容器镜像服务的触发器功能，实现推送镜像后自动更新集群工作负载的镜像。 前提条件 已开通云容器引擎集群 已开通容器镜像服务企业版实例 操作步骤 创建触发器 1. 进入容器镜像服务控制台。 2. 点击已开通的企业版实例名称。 3. 左侧导航栏点击容器镜像 镜像仓库，选择需要创建触发器的镜像仓库。 4. 在触发器 标签页点击创建触发器按钮。 5. 在创建页面填写触发器相关的参数进行创建。 参数 说明 触发器名称 触发器的名称。 Tag匹配条件 通过正则表达式设置规则匹配的镜像版本。使用方式示例如下：匹配全部: . 匹配多个版本: v1v2v3 匹配前缀: v1. 集群 触发器关联的云容器引擎集群。 命名空间 触发器关联的命名空间。 工作负载类型 触发器关联的工作负载类型，包括：无状态，有状态，守护进程和定时任务。 工作负载 触发器关联的工作负载。 容器 触发器关联的容器。 镜像更新方式 触发器更新容器镜像的方式，包括通过Tag更新和通过Digest更新。当容器的镜像拉取策略为 IfNotPresent 时，由于云容器引擎节点本地存在镜像缓存，此时推送相同Tag的镜像将无法通过Tag触发容器拉取新镜像，因此推荐通过Digest更新。 当容器的镜像拉取策略为 Always 时，推荐通过Tag更新。

本节介绍了云容器引擎的Service类常见问题。 Kubernetes集群中访问LoadBalancer类型Service的ELB地址不通? 对于LoadBalancer类型Service，KubeProxy会将Service的ELB地址绑定到节点的kubeipvs0网卡上，或配置到iptables转发中，当在Kubernetes集群中访问该ELB地址时，请求不会转发到ELB实例，而是被ipvs/iptables转发到对应的后端Pod。如果Service设置了“externalTrafficPolicy:Local”，这时如果节点上没有对应的后端Pod，就会出现网络访问不通的问题。 可以参考以下解决方法处理： 访问集群内的Service服务时，使用服务的ClusterIP或服务名称进行访问 将Service的外部流量策略externalTrafficPolicy改为Cluster，这样请求就能被转发到所有节点的Pod Kubernetes集群内无法访问该集群LoadBalancer类型Service对应ELB的其他端口？ 问题描述 在Kubernetes集群中，如果KubeProxy采用ipvs转发，则LoadBalancer类型Service的ELB地址会被绑定到节点的kubeipvs0网卡上，导致流量不会被转发到ELB实例，IPVS会根据请求地址和端口转发到Service对应的后端Pod。如果其他Kubernetes集群或其他外部服务复用了该集群LoadBalancer类型Service对应的ELB，在该集群内就会出现无法访问这些服务的情况。 处理建议 如果存在LoadBalancer类型Service对应ELB被其他Kubernetes集群或外部服务复用时，建议服务部署在KubeProxy使用iptables模式的集群，iptables匹配不到请求地址及端口，流量会被网络路由到ELB实例 如果KubeProxy都是使用ipvs模式，建议不同Kubernetes集群间暴露LoadBalancer类型Service使用不同的ELB实例 Service使用的ELB在什么情况下会被自动删除？ 只有CCM（Cloud Controller Manager）自动创建的ELB，在以下几种情况，才会被自动删除： 1. 删除Service时，CCM创建的ELB会被自动删除。 2. Service类型由LoadBalancer改为其他类型（如NodePort）时，CCM创建的ELB会被删除。 3. 退订集群时，选择同步删除弹性负载均衡的资源。 4. 通过Service注解（service.beta.kubernetes.io/ctyunloadbalancerreserved: "false"）指定强制删除ELB。 LoadBalancer类型Service未自动新建ELB实例

查看压缩任务 1. 查看任务详情：在任务列表点击任务名称，进入详情页面，可查看任务配置及任务日志。 2. 操作：可在列表操作列中点击【详情】以查看任务详情，点击【停止】以停止任务。 3. 获取压缩结果：压缩任务运行完成后，压缩后的模型会自动保存到用户指定的模型管理中的位置。可以通过开发机挂载模型、或者下载模型来查看模型文件本身。压缩后的模型可以直接通过我的服务进行服务部署，部署为推理效果更优的大模型服务。

本节主要介绍慢查询 操作场景 DRDS提供“慢查询”功能，将指定时间内的慢SQL语句进行统计分类，把结构相同的慢SQL语句整理成SQL模板，您可以查看指定区间内的所有慢SQL类型，针对这些类型进行优化处理。 操作步骤 1、在分布式关系型数据库服务实例管理列表页面，单击进入目标实例。 2、单击左侧菜单栏的“慢查询”页签，进入“慢查询”服务页。 3、您可在“慢查询”服务页面查看超过指定时间的SQL语句。

本章节主要介绍翼MapReduce的查看部件包操作。 操作场景 完整的MRS集群由多个部件包组成，FusionInsight Manager单独安装某些服务前需要检查此服务对应的部件包是否已安装。 操作步骤 1. 登录FusionInsight Manager，选择“系统 > 部件”。 2. 在“已安装部件”查看所有部件列表。 说明 在“平台类型”列可查看部件已注册的OS及平台类型。 3. 单击部件名称左侧的，可查看部件包含的服务及其版本号。

本文介绍如何使用telnet命令检测Redis端口连通性 ECS实例中已经安装了Telnet（Linux）或开启了Telnet客户端（Windows）。如果Redis服务出现了连接问题，并且参见上述问题中如何检测弹性云主机与Redis之间的网络连接。发现连接成功时，您需要进一步使用telnet命令检测服务端口是否可用。 查看Redis实例的连接地址，详情请参见查看连接地址。 登录ECS实例，执行telnet命令。 telnet {IP} {Redis PORT} 说明 windows系统和Linux系统中都可以使用该命令。 返回信息分析： 如果Redis连接存在问题，但可以在ECS上使用telnet连接到Redis实例，则ECS本身与Redis之间的连接无异常，请排查其它因素，例如客户端、业务代码，以及业务环境导致的Redis服务阻塞等问题。 如果telnet连接失败，但使用ping命令检测ECS与Redis之间的连接成功，可能是由于ECS存在异常行为（例如受恶意程序影响而攻击其它Redis的33016端口等）被系统禁止了部分服务，此时建议您监控ECS的数据找到异常流量并加以处理。

本页介绍了文档数据库服务的实例创建。 在TeleDB数据库控制台页面，提供实例创建功能，步骤如下： 1. 点击实例列表界面左上角，点击“创建实例”按钮（部分资源池为“创建数据库实例”按钮）。 2. 自动跳转到购买TeleDB数据库实例订购页，选择“NoSQL数据库”>“文档数据库服务DDS”，您可以根据需求选择适合相关业务场景的配置进行实例订购。 3. 订购参数配置完成后，进行订购支付操作。 4. 支付完成后，等待数分钟，实例将完成创建并展示在文档数据库服务管理控制台。