本节主要介绍如何在智能视图服务控制台使用回调模板。 智能视图服务平台的回调支持录制、设备状态、流状态、AI告警等事件，当设备有事件发生时，消息会由事件通知服务统一回调给用户配置的服务器地址。 新建回调模板 点击左侧导航栏的【模板管理回调模板】后点击【新建回调模板】进入该页面，参数说明如下： 参数名 说明 录制回调 当有录像文件生成时，会向服务器发送事件状态。 设备状态回调 当设备状态发生改变时，会向服务器发送事件状态。 流状态回调 当流状态发生改变时，会向服务器发送事件状态。 AI事件通知回调 当有AI事件发生时，会向服务器发送事件状态。 绑定回调模板 在设备或业务组管理页面绑定回调模板，当设备上有状态事件发生时，智能视图服务后台就会向用户服务器地址发送事件消息。

参数名 说明 录制回调 当有录像文件生成时，会向服务器发送事件状态。 设备状态回调 当设备状态发生改变时，会向服务器发送事件状态。 流状态回调 当流状态发生改变时，会向服务器发送事件状态。 AI事件通知回调 当有AI事件发生时，会向服务器发送事件状态。

本节介绍智算套件应用场景。 AI训练 支持大模型训练需要具备的超大规模算力调度、高效并行算法设计、稳定收敛优化、海量数据工程处理及故障容错恢复的综合能力。 AI推理 推理应用支持多推理引擎、智能资源调度、异构资源兼容、弹性伸缩，实现大模型在多场景下的高效部署与便捷调用。

本文介绍VPN网关相关问题。 如何选择VPN连接的数量？ IPsec VPN连接的数量通常与用户本地数据中心的数量有关，每条IPsec VPN连接可以打通当前云上资源与企业的一个数据中心网络。请用户在购买包周期VPN网关时，根据规划连通的数据中心数量选择合适的IPsec VPN连接数。 SSL VPN连接数量与配置的客户端数量有关，每个SSL VPN连接数可以允许一个客户端接入访问云上资源。考虑到同时在线的客户端数量小于已配置的客户端数量，SSL VPN连接数可以小于配置的客户端数量。请用户在购买时候根据规划选择合适的SSL VPN连接数。 VPN网关是否可以自动建立连接？ 触发IPsec连接建立的方式有两种，一种是“立即协商”，即通过建立IPsec VPN连接的网关设备之间自动触发协商；另一种是“流量触发”，即通过云上云下主机间的交互流量触发。 VPN网关在完成两侧配置后，如果协商生效选择了“立即协商”，则会自动触发建立连接；如果协商生效选择了“流量触发”，则不会自行建立连接，需要由两侧主机间的数据流来触发协商。如果云上与用户侧数据中心没有交互数据流，IPsec VPN的连接状态会一直处于“第一阶段协商未成功”状态。所谓的数据流，可以是真实的业务访问数据，也可以是主机间ping测数据。 推荐您在首次建立连接时，分别验证两侧的交互数据流均可触发建立连接。即用户侧数据中心主机ping云上主机可触发连接建立，然后断开连接，确认云上主机ping用户侧数据中心主机亦可触发连接建立。ping包的源地址、目的地址需要处于IPsec VPN保护的范围内。在创建IPsec连接之后，用户侧VPN网关才能ping通云上VPN网关，但是ping网关IP并不能触发VPN连接的建立。

本页为您介绍从天翼云ECS自建数据库迁移/同步数据到天翼云数据库，同资源池不同VPC情况下，通过对等连接接入的方法。 在同资源池，不同VPC之间，网络默认不通，需要通过VPC打通的方式来实现网络互通。目前支持通过VPC对等连接的方式实现VPC间子网级的互通，注意需要保证源数据实例所在子网与目标数据库实例所在子网的网段不冲突。 以下分别介绍网络通信方式，DTS实例的配置流程和不同VPC间通过对等连接进行互通的配置流程。 网络通信方式 网络通信方式，见下图： DTS实例的配置流程 DTS实例订购成功后，选择对应实例ID的操作“实例配置”，进入【配置源库及目标库信息】页面，“打通网络配置”将会自动识别，源端将显示“当前数据库不在同一个虚拟私有云(VPC)，需要配置对等连接打通⽹络”，点击“创建虚拟私有云(VPC)对等连接”将跳转到VPC控制台，可按VPC相关流程处理“创建对等连接”，具体页面如下： 不同VPC间通过对等连接互通的配置流程 创建VPC对等连接。 具体可参考天翼云对等连接相关文档进行配置。 源数据库实例与目标数据库实例的网络ACL和安全组配置。 具体可参考同VPC通过VPC网络接入天翼云文档进行相应配置。 数据库添加白名单。 自建数据库需要添加DTS实例的私网IP访问数据库的权限。不同类型的数据库添加白名单的方法可能不一样，具体可参考各数据库官方文档进行操作。

快照 系统通过快照技术，快速备份数据。快照包含HBase快照、HDFS快照快照。 HBase快照 HBase快照是HBase表在特定时间的一个备份，该备份文件不复制业务数据，不影响RegionServer。HBase快照主要复制表的元数据，包含table descriptor，region info和HFile的引用信息。通过这些元数据信息可以恢复快照时间点之前的数据。 HDFS快照 HDFS快照是HDFS文件系统在特定时间点的只读备份副本，主要用于数据备份、用户误操作保护和灾难恢复的场景。 任意HDFS目录均可以配置启用快照功能并创建对应的快照文件，为目录创建快照前系统会自动启用此目录的快照功能。创建快照不会对正常的HDFS操作有任何影响。每个HDFS目录最多可创建65536个快照。 如果一个HDFS目录已创建快照，那么在快照完全删除以前，此目录无法删除或修改名称。该目录的上级目录或子目录也无法再创建快照。 DistCp DistCp（distributed copy）是一个用于在本集群HDFS中或不同集群HDFS间进行大量数据复制的工具。在HBase、HDFS或Hive元数据的备份恢复任务中，如果选择将数据备份在备集群HDFS中，系统将调用DistCp完成操作。主备集群请选择安装相同版本的MRS软件版本并安装集群系统。 DistCp使用Mapreduce来影响数据的分布、异常处理及恢复和报告，此工具会把指定列表中包含的多个源文件和目录输入不同的Map任务，每个Map任务将复制列表中指定文件对应分区的数据。 使用DistCp在两个集群的HDFS间进行数据复制，集群双方需要分别配置互信（同一个FusionInsight Manager管理下的集群不需要配置互信）和启用集群间拷贝功能。集群数据备份到另一个集群的HDFS时，需要安装Yarn组件，否则备份失败。

规格 说明 适用场景 通用型 共享宿主机的CPU资源，主要提供基本水平的vCPU性能、平衡的计算、内存和网络资源，具有较高性价比，支持通用的业务运行。 适用于不会经常或始终用尽vCPU性能的场景，如小型网站、轻量级研发测试环境、小型数据库等。 计算增强型 独享宿主机的CPU资源，实例间无CPU争抢，并且没有进行资源超配，同时搭载全新网络加速引擎，实现接近物理服务器的强劲稳定性能，提供更大规格的CPU和内存组合。 适用于计算密集型业务等场景，如大型网站、电商营销等。 内存优化型 独享宿主机的CPU资源，实例间无CPU争抢，并且没有进行资源超配，同时搭载全新网络加速引擎，实现接近物理服务器的强劲稳定性能，CPU和内存配比可达1:8。 适用于高内存计算应用，如大数据分析、核心数据库等。

规格 说明 适用场景 通用型 共享宿主机的CPU资源，主要提供基本水平的vCPU性能、平衡的计算、内存和网络资源，具有较高性价比，支持通用的业务运行。 适用于不会经常或始终用尽vCPU性能的场景，如小型网站、轻量级研发测试环境、小型数据库等。 计算增强型 独享宿主机的CPU资源，实例间无CPU争抢，并且没有进行资源超配，同时搭载全新网络加速引擎，实现接近物理服务器的强劲稳定性能，提供更大规格的CPU和内存组合。 适用于计算密集型业务等场景，如大型网站、电商营销等。 内存优化型 独享宿主机的CPU资源，实例间无CPU争抢，并且没有进行资源超配，同时搭载全新网络加速引擎，实现接近物理服务器的强劲稳定性能，CPU和内存配比可达1:8。 适用于高内存计算应用，如大数据分析、核心数据库等。

本节介绍天翼量子AI云电脑在使用过程遇到问题，可通过检测工具进行自助检测和修复的操作。 在使用AI云电脑过程中如果遇到无法上网、核心组件异常、使用卡顿等问题，可使用“云电脑检测工具”进行自助检测和修复问题，获取良好的使用体验。操作流程如下： 1. 可通过桌面图标或“开始菜单”启动“云电脑检测工具”，若未找到检测工具应用，请在天翼云电脑应用市场下载。 2. 启动检测工具后，点击【立即体检】。在这过程中，工具将针对AI云电脑网络、组件服务、应用软件进行检测，并展示异常问题。若出现部分项目显示被“跳过”，是由于其依赖于前置问题的修复，可能需要进行多次的检测与修复操作。 3. 体检完成后，点击【一键修复】，工具将对异常项进行自动修复，显示最终修复情况。（注意：用户【忽略】的异常项，工具将不对其进行修复。部分异常若被忽略（如忽略网络模块中的硬件问题），将导致该模块的其余项目无法正常检修，建议谨慎操作。）

本节介绍如何创建vLLM NPU单机PD分离任务。 前置条件 1. 确认智算套件已经安装并且全部运行中。 2. 进入智算套件，AI应用管理，队列管理，确保队列存在并且有足够的资源(NPU,CPU,内存) [参考创建队列的文档]。 操作步骤 创建任务 进入智算套件，AI应用列表，在线推理菜单，创建AI应用。 基本信息 应用类型：vLLM 开启PD分离选择 静态PD分离 配置信息 推理类型选择单机，推理框架、框架版本、推理模型、模型版本根据实际情况选择。简单的示例： 推理框架：ascendvllm 框架版本：v0.11.0rc2 推理模型：deepseekr1distillqwen1.5b 模型版本：v1 队列：选择存在且资源足够的的队列 Prefill CPU，内存，共享内存不填，NPU填：4。 Decode CPU，内存，共享内存不填，NPU填：4。 点击确认完成创建。

本节介绍翼加密的付费开通流程。 1.登录AI云电脑控制台，点击“协同套件”菜单栏，找到“翼加密”点击开通； 2.翼加密共有两个版本，根据加密需求选择相应的版本开通使用； 版本 价格 说明 标准版 ¥3.0/台/月 提供基础的加密保护和外发管控能力 旗舰版 ¥30.0/台/月 在标准版基础上提供高强度加密保护及权限管控能力 3.配置加密AI云电脑数； 4.设置脱密审计存储空间，按照100GB步长添加。脱密审计存储适用AI云电脑数据盘资源包资费：¥40/100GB/月； 5.设置告警邮箱和手机号码。默认是账号绑定的邮箱和手机号，可以修改； 6.使用资源包抵扣支付开通。按照计算包1C2G40元/月，存储包100GB40元/月的价格换算抵扣。可自定义配置抵扣的计算包和存储包数量。 备注：开通后，用户可根据使用需求进行扩容、版本升级、续订或退订。

救援模式 当AI云电脑故障无法登录AI云电脑时，使用救援模式提供临时访问通道，尝试登录及修复AI云电脑，或备份关键用户数据并重装系统。 注意 由于云电脑故障可能涉及底层虚拟化错误、存储损坏、网络基础设施故障等复杂原因，救援模式无法保证对所有故障都能成功救援。在极少数情况下，可能出现无法进入救援模式或无法恢复数据的情况。 报障 使用云电脑过程中，如遇到问题，选择“工具”，可点击“报障”，填写故障信息或者拨打服务热线：4008109889。 安全中心登录设备管理 在工具栏，选择“工具安全中心”，查看账号名称，登录设备，IP地址，登录时间以及下线时间。如需查看云电脑登录的设备或移除设备，点击“设备管理”。 电脑信息 工具栏，选择“工具”，偏好设置点击“电脑信息”，查看云电脑的配置信息。

本节介绍如何创建vLLM GPU 单机推理任务。 前置条件 1. 确认智算套件已经安装并且全部运行中 2. 进入智算套件，AI应用管理，队列管理，确保队列存在并且有足够的资源(GPU,CPU,内存) [参考创建队列的文档] 操作步骤 创建任务 进入智算套件，AI应用列表，在线推理菜单，创建AI应用 基本信息 应用类型：vLLM 推理类型选择 单机 推理框架，框架版本，推理模型，模型版本根据实际情况选择。 配置信息 简单的示例： 推理框架： nvidiavllm 框架版本：v0.11.2 推理模型：deepseekr1distillqwen1.5b 模型版本：v1 资源：CPU，内存，共享内存可以不填 选择 GPU：2 队列：选择存在且资源足够的的队列 点击确认完成创建。

本节介绍如何使用数据集。 在离线训练创建过程，可以使用已有数据集，包括公共数据集和私有数据集。 操作步骤 创建AI训练应用 进入AI应用列表，点击创建AI应用按钮。 使用公共数据集 1. 点击训练数据选择数据集，在弹出页面选择公共数据集，找到需要挂载的公共数据集。 2. 选中数据集及版本后，写入挂载路径即可。 3. 若需要挂载多个数据集，可使用同样方式进行多次挂载。 使用私有数据集 私有数据集在选择数据集时，需点击私有数据集进行选择，其余操作和公共数据集一致。

本节介绍如何创建vLLM GPU 单机推理任务。 前置条件 1. 确认智算套件已经安装并且全部运行中 2. 进入智算套件，AI应用管理，队列管理，确保队列存在并且有足够的资源(GPU,CPU,内存) [参考创建队列的文档] 操作步骤 1. 进入智算套件，AI应用列表，在线推理菜单，创建AI应用 2. 创建应用 应用类型：vLLM 推理类型选择 单机 推理框架，框架版本，推理模型，模型版本根据实际情况选择。 简单的示例： 推理框架： nvidiavllm 框架版本：v0.11.2 推理模型：deepseekr1distillqwen1.5b 模型版本：v1 资源：CPU，内存，共享内存可以不填 选择 GPU：2 队列：选择存在且资源足够的的队列 点击确认完成创建。

删除池化桌面池 1.登录AI云电脑（政企版）控制台； 2.点击“桌面池管理”，选择“池化桌面管理”； 3.选择需要管理桌面的所在行，点击“管理”“删除”； 4.点击“确定”，即完成池化桌面池的删除。 注意 池化桌面池下没有AI云电脑时，才允许删除。删除后数据将不能恢复，请谨慎操作。

实例字符集 说明 ChinesePRC90CIAI ChinesePRC90，不区分大小写、不区分重音（兼容SQL Server 2005）。 ChinesePRCCIAI ChinesePRC，不区分大小写、不区分重音。 ChinesePRCCIAS ChinesePRC，不区分大小写、区分重音。 CyrillicGeneralCIAS CyrllicGeneral，不区分大小写，区分重音。 SQLLatin1GeneralCP1CIAS 对于Unicode 数据为 Latin1General，不区分大小写，区分重音。

本节介绍iVPN app的用户管理。 iVPN app禁用用户 若管理员在使用过程中想禁止一个或多个用户使用iVPN app加密接入AI云电脑，可以进行以下操作。 1.进入“AI云电脑（政企版）”管理控制台； 2.点击“网络管理”，点击“企业云网”，选择“iVPN app”，进入iVPN app管理页面； 3.在操作实例中，点击“管理”，选择“用户管理”，进入iVPN app 用户管理页面； 4.在iVPN app 用户管理页面，操作用户中点击“禁用”，即可禁用该用户，也可以勾选多个用户，在“批量操作”中选择“批量禁用”即可同时禁用多个用户。 iVPN app启动用户 若管理员在使用过程中想对已经禁止的一个或多个用户恢复使用iVPN app接入AI云电脑，可以进行以下操作。 1.进入“AI云电脑（政企版）”管理控制台； 2.点击“网络管理”，点击“企业云网”，选择“iVPN app”，进入iVPN app管理页面； 3.在操作实例中，点击“管理”，选择“用户管理”，进入iVPN app 用户管理页面； 4.在iVPN app 用户管理页面，已被禁用的用户中点击“启用”，即可恢复该用户使用iVPN app，也可以勾选多个用户，在“批量操作”中选择“批量启用”即可同时启用多个用户。

本节介绍云电脑（政企版）创建子账号以及子账号邀请等操作。 创建子账号 当需要增加下级管理员协助进行用户管理、桌面管理等工作时，您可以创建子账号，并为子账号授予指定的角色。 创建子账号后，系统会自动发送邀请邮件到子账号的邮箱，子账号接受邀请后，可登录AI云电脑（政企版）管理控制台。 1.进入“AI云电脑（政企版）”控制台； 2.点击“组织管理”，选择“子账号管理”，进入“子账号管理”页面； 3.选择需要创建子账号的所在行，点击“创建子账号”，进入“创建子账号”页面； 4.填写“邮箱”和“描述”，完成子账号创建，系统会自动发送邀请邮件到子账号邮箱。 5.对已创建的子账号可以设置角色、编辑和删除操作。 说明 创建的子账号需在邀请邮件中接受邀请，才会生效成为企业管理的子账号。 子账号接受邀请 当管理员在AI云电脑控制台创建子账号后，子账号会收到邀请邮件，接受邀请后可以登录AI云电脑管理控制台。 1.打开子账号邀请邮件； 2.点击“接受邀请”。 子账号设置角色 当需要增加下级管理员协助进行用户管理、桌面管理等工作时，您可以为子账号授予指定的角色，获取对应的管理台菜单以及功能权限。权限设置请参考“角色”。 1.进入“AI云电脑（政企版）”控制台； 2.点击“组织管理”，选择“子账号管理”，进入“子账号管理”页面； 3.选择需要创建子账号的所在行，点击“设置角色”，进入“设置角色”页面； 4.子账号可选择多个角色进行授权，点击“确定”即完成设置。

IPsec VPN是否会自动建立连接？ 支持自动建立连接。 两个Region创建的VPN连接状态正常，为什么不能ping通对端ECS？ 安全组默认放行了出方向的所有端口，入方向需要按照实际需要添加放行规则，确认接收ping报文的ECS安全组放行了入方向的ICMP。 IDC与云端对接，VPN连接正常，子网间业务无法互相访问？ 连接状态正常，说明两端的协商参数没有问题，排查项如下： 用户侧数据中心设备子网路由是否从网关开始逐跳指向VPN出口设备。 VPN设备有安全设置放行了子网间的数据互访。 IDC子网访问云端数据不做NAT。 确保两侧公网IP（网关IP）间访问不被阻拦。 正在使用VPN出现了连接中断，提示数据流不匹配，如何排查？ 这通常是由于云上与用户侧数据中心设备配置的ACL不匹配造成的。 1. 首先确认两端VPN连接的子网信息是否配置一致，确保云端生成的ACL与用户侧数据中心ACL配置互为镜像 2. 用户侧数据中心感兴趣流配置推荐使用“子网/掩码”的格式，避免使用网络地址对象模式，即address object模式，address object为非标模式，容易引起不兼容问题。 正在使用VPN出现了连接中断，提示DPD超时，如何排查？ 出现DPD超时的连接中断是因为两端网络访问无数据，在SA老化后发送DPD未得到对端响应而删除连接。 解决方法 1. 开启用户侧数据中心设备的DPD配置，测试两端的数据流均可触发连接建立； 2. 在两端的主机中部署Ping shell脚本，也可在用户侧数据中心的子网的网关设备上配置保活数据，如NQA。

本节主要介绍弹性文件服务包含哪些文件系统类型。 弹性文件服务提供SFS容量型和SFS Turbo两种类型的文件系统。 以下表格介绍了各类型文件系统的特点、优势及应用场景。 SFS容量型 参数 说明 最大带宽 2GB/s 最高IOPS 2K 时延 3~20ms 最大容量 4PB 优势 大容量、高带宽、低成本 应用场景 大容量扩展以及成本敏感型业务，如媒体处理、文件共享、HPC、数据备份等。 说明 时延是指低负载情况下的最低延迟，非稳定时延。 10MB以上为大文件，1MB以上为大IO。 SFS TURBO SFS Turbo文件系统新规格 参数 20MB/s/TiB 40MB/s /TiB 125MB/s /TiB 250MB/s /TiB 500MB/s /TiB 1000MB/s/TiB 最大带宽 8GB/s 8GB/s 20GB/s 20GB/s 80GB/s 80GB/s 最大IOPS 25万 25万 100万 100万 100万 100万 平均单路4K延迟 25ms 25ms 13ms 13ms 13ms 13ms 容量 3.6TB1PB 1.2TB1PB 1.2TB1PB 1.2TB1PB 1.2TB1PB 1.2TB1PB 介质类型 HDD HDD SSD SSD ESSD ESSD 优势 大容量、低成本 大容量、低成本 低时延、高性价比 低时延、高性价比 高IOPS、性能高密 高IOPS、性能高密 典型应用场景 日志存储、文件共享、内容管理、网站等 日志存储、文件共享、内容管理、网站等 AI训练、自动驾驶、EDA仿真、渲染、企业NAS应用、高性能web应用等 AI训练、自动驾驶、EDA仿真、渲染、企业NAS应用、高性能web应用等 大规模AI训练、AI大模型、AIGC等 大规模AI训练、AI大模型、AIGC等 说明 SFS Turbo新规格的性能与购买的容量大小成正比。购买SFS Turbo文件系统的容量越大，该SFS Turbo所能够提供的带宽也越大。根据每1TiB容量所能提供带宽的区别，SFS Turbo实例分为多个规格，分别为：20MB/s/TiB，40MB/s/TiB，125MB/s/TiB，250MB/s/TiB，500MB/s/TiB，1000MB/s/TiB。 例如，购买6TiB容量的SFS Turbo文件系统，规格为250MB/s/TiB，则该SFS Turbo能提供的带宽为：250 6 1500MB/s。 SFS Turbo最小带宽为150M/s。当计算出来的带宽小于150M/s时，SFS Turbo带宽以最小带宽150M/s计算。由于不同规格架构的限制，每个规格都有一个最大带宽。当计算出来的SFS Turbo带宽大于最大带宽时，SFS Turbo带宽以最大带宽计算。

本文主要介绍 Pod互访QoS限速。 操作场景 部署在同一节点上的不同业务容器之间存在带宽抢占，容易造成业务抖动。您可以通过对Pod间互访进行QoS限速来解决这个问题。 约束与限制 Pod间互访设置QoS限速支持容器隧道网络模型、VPC网络模型，其中VPC网络模型在使用Pod网络限速时需遵循以下约束： 仅支持1.19.10以上的集群版本。 仅支持普通容器（容器运行时为runc），不支持安全容器（容器运行时为kata）。 仅支持限制Pod访问Pod的场景限速，不对访问节点，对外访问产生影响。 带宽限速上限值为机型带宽上限和4.3G两者之间的最小值。 目前仅支持兆（M）级别以上的限速。 操作步骤 您可以通过对Pod添加annotations指定Pod出口带宽和入口带宽，如下所示。 apiVersion: v1 kind: Pod metadata: annotations: kubernetes.io/ingressbandwidth: 100M kubernetes.io/egressbandwidth: 100M ... kubernetes.io/ingressbandwidth：Pod的入口带宽 kubernetes.io/egressbandwidth：Pod的出口带宽 如果不设置这两个参数，则表示不限制带宽。

参数 是否必选 说明 节点名称 是 节点名称，可以包含中文、英文字母、数字、“”、“”、“/”、“<”、“>”等各类特殊字符，长度为1～128个字符。 MRS集群名 是 选择支持spark python的mrs集群。MRS只有特定版本支持spark python的集群，请先测试运行，保证集群支持。如需新建集群，请参考以下方法： 单击 ，进入“集群列表”页面新建MRS集群。 前往MRS管理控制台进行新建。 如何新建集群，请参见《 作业名称 是 MRS作业名称，只能包含英文字母、数字、“”，且长度为1~64个字符。 说明 作业名称不得包含中文字符、超出长度限制等。 如果作业名称不符合规则，将导致提交MRS作业失败。 参数 是 输入MRS的执行程序参数，多个参数间使用Enter键分隔。 属性 否 输入keyvalue格式的参数，多个参数间使用Enter键分割。

本节介绍翼甲卫士的基础管理功能。 用户开通翼甲卫士后，可在AI云电脑（政企版）控制台安全防护进入翼甲管理界面。 绑定/解绑/更换带宽 点击“操作”后可在下拉菜单点击对应选项，对带宽绑定状态进行变更，支持解绑、更换、绑定（操作生效期间会导致关联AI云电脑35分钟无法上网）。 扩容 点击“操作”后可在下拉菜单点击扩容，对各项配置进行扩容，支持公网流量处理能力、日志容量、短信告警配置扩容。

节点池管理 支持创建自定义节点池，借助节点池基本功能方便快捷地创建、管理和销毁节点，而不会影响整个集群。节点池中所有节点的参数和类型都彼此相同，您无法在节点池中配置单个节点，任何配置更改都会影响节点池中的所有节点。 工作负载 工作负载是在Kubernetes上运行的应用程序。无论您的工作负载是单个组件还是协同工作的多个组件，您都可以在Kubernetes上的一组Pod中运行它。在Kubernetes中，工作负载是对一组Pod的抽象模型，用于描述业务的运行载体，包括Deployment、Statefulset、Daemonset、Job、CronJob等多种类型。 CCE提供基于Kubernetes原生类型的容器部署和管理能力，支持容器工作负载部署、配置、监控、扩容、升级、卸载、服务发现及负载均衡等生命周期管理。 亲和/反亲和性调度 云容器引擎提供工作负载和可用区、工作负载和节点以及工作负载间的亲和性/反亲和调度。您可根据业务需求设置亲和性，实现工作负载的就近部署，容器间通信就近路由，减少网络消耗；您也可以对同个工作负载的多个实例设置反亲和部署，减少宕机影响，对互相干扰的应用反亲和部署，避免干扰。 网络访问方式 云容器引擎通过将Kubernetes网络和VPC深度集成，提供了稳定高性能的网络访问方式，能够满足多种复杂场景下工作负载间的互相访问。

参数 说明 选择本端VPC 名称 对等连接名称，由汉字、英文字母、数字、中划线、下划线等构成，一般不超过64个字符。 选择本端VPC 描述 可选参数。 根据需要在文本框中输入对等连接的描述信息。 选择本端VPC 企业项目 所属企业项目，系统默认为default。 选择本端VPC 本端VPC 本端VPC：显示已选择的本端VPC，可在下拉框中选择。 选择本端VPC 本端VPC网段 显示本端VPC的网段。 选择对端VPC 账户 当前账户：表示在同一个账户内、同一个地域下的不同VPC间建立对等连接。 其他账户：表示在同一个地域下的不同账户的VPC间建立对等连接。 此处选择其他账户。 选择对端VPC 对端账户 对端账户邮箱地址 选择对端VPC 对端VPC ID 对端VPC ID，可在VPC详情页面查看。

本节介绍如何 创建vLLM NPU单机PD分离任务。 前置条件 1. 确认智算套件已经安装并且全部运行中 2. 进入智算套件，AI应用管理，队列管理，确保队列存在并且有足够的资源(NPU,CPU,内存) [参考创建队列的文档] 操作步骤 创建任务 进入智算套件，AI应用列表，在线推理菜单，创建AI应用 基本信息 应用类型：vLLM 开启PD分离选择 静态PD分离 推理类型选择 单机 配置信息 推理框架，框架版本，推理模型，模型版本根据实际情况选择。 简单的示例： 推理框架： ascendvllm 框架版本：v0.11.0rc2 推理模型：deepseekr1distillqwen1.5b 模型版本：v1 队列：选择存在且资源足够的的队列 Prefill CPU，内存，共享内存不填，NPU填：4 Decode DecodeMaster 的资源菜单：CPU，内存，共享内存不填，NPU填：4 点击确认完成创建。

通过控制台设置 步骤 1 参照创建无状态负载(Deployment)或创建有状态负载(StatefulSet)，在“高级设置”的“调度策略”下，单击“工作负载间的亲和性 > 与工作负载的亲和性”下的“添加”。 步骤 2 勾选希望部署到相同节点的工作负载，单击“确定”。 当前创建的工作负载会和已勾选的工作负载部署在相同节点上。 通过kubectl命令行设置 本节以nginx为例，说明kubectl命令创建工作负载的方法。 前提条件 请参见通过kubectl操作CCE集群配置kubectl命令，使弹性云主机连接集群。 操作步骤 参见通过kubectl命令行创建无状态工作负载.docx section155246177178 " ")或通过kubectl命令行创建有状态工作负载.docx section113441881214 " ")，工作负载间亲和性的yaml示例如下： apiVersion: extensions/v1beta1 kind: Deployment metadata: name: nginx spec: replicas: 1 selector: matchLabels: app: nginx strategy: type: RollingUpdate template: metadata: labels: app: nginx spec: containers: image: nginx imagePullPolicy: Always name: nginx imagePullSecrets: name: defaultsecret affinity: podAffinity: requiredDuringSchedulingIgnoredDuringExecution: nodeSelectorTerms: matchExpressions: key: app

本章节介绍多个应用实例下的发布单功能 概述 发布单主要用于发布同环境下多个应用实例，并指定应用实例间发布顺序。 发布单列表 发布单主要展示该环境下历史发布单信息。在左侧导航栏单击应用运维ECS应用实例应用发布发布单进入发布单列表页面。发布单列表页面分成发布单统计和发布单列表两块内容。 发布单统计 发布单统计用于统计当前环境下发布单信息，展示发布单总计、发布成功总计、发布失败总计、发布中总计、待发布总计、已取消总计。 发布单列表 发布单列表包括发布单名称、部署单元、应用数量、状态、执行人、执行时间、操作列。根据状态的不同，操作列存在不同。 创建发布单 1. 在发布单列表页面，单击创建发布单按钮，进入发布单配置页面 2. 填写基本信息 配置项 描述 发布单名称 发布单名称。 部署单元 展示当前环境下的所有部署单元。 发布类型 支持普通发布和金丝雀发布。金丝雀发布支持按流量发布和按泳道发布。具体参考应用总览。 每组批次 选择每组分批次数。仅普通发布才有该选项。 灰度后每组批次 执行完灰度分组后其他分组分批数。 分批方式 仅当剩余批次大于1时，需配置分批间处理方式。支持手动和自动。手动：手动触发下一个批次的发布。自动：根据间隔自动分配分批发布。间隔为剩余批次间的发布时间间隔，单位：分钟。 应用实例列表 您可以在待选应用实例列表 中单击选择需要的应用实例，单击>图标将应用实例添加到已选应用实例列表中。若应用实例存在版本，需要选择要发布的版本。默认选择最新的版本。若应用实例存在多个分组，需要选择要发布的分组，默认选择第一个分组。 3. 高级配置 高级配置用于设置应用实例间依赖关系。当选择了 2 个及以上应用实例时，可能需要填写应用实例之间的依赖关系。若应用实例之间不存在依赖关系，则直接跳过。 注意 应用实例之间不可循环依赖，即不可出现应用实例 A 依赖于应用实例 B，同时应用实例 B 又依赖于应用实例 A 这种情况 4. 在预览页面确认信息无误后，单击创建。系统会自动跳转到发布单列表页面，单击发布单名称进入发布单详情页面，等待初始化完成后点击发布即可开始发布。

本节介绍如何创建vLLM NPU单机推理任务。 前置条件 1. 确认智算套件已经安装并且全部运行中 2. 进入智算套件，AI应用管理，队列管理，确保队列存在并且有足够的资源(NPU,CPU,内存) [参考创建队列的文档] 操作步骤 创建任务 进入智算套件，AI应用列表，在线推理菜单，创建AI应用 基本信息 应用类型：vLLM 推理类型选择：单机 配置信息 推理框架，框架版本，推理模型，模型版本根据实际情况选择。 简单的示例： 推理框架： ascendvllm 框架版本：v0.13.0rc1 推理模型：deepseekr1distillqwen1.5b 模型版本：v1 资源：CPU，内存，共享内存可以不填 选择 NPU：2 队列：选择存在且资源足够的的队列 点击确认完成创建。

本节介绍如何创建vLLM GPU多机推理任务。 本示例基于 vLLM 推理框架，选用 deepseekr1distillqwen7b 模型进行多机部署。整体部署 1 个推理应用实例，由 1 个 master + 1 个 worker 角色组成，每个角色占用 1 张 GPU 卡，因此本任务共使用 2 张 GPU 卡，用于验证模型在多机环境下的推理能力。 前置条件 1. 确认智算套件已经安装并且全部运行中。 2. 进入智算套件 > AI应用管理 > 队列管理，确保队列存在并且有足够的资源(GPU,CPU,内存) [参考创建队列的文档]。 操作步骤 创建应用 1. 进入智算套件 > AI应用列表 > 在线推理菜单，创建AI应用。 基本信息 应用类型：vLLM 应用数：1 配置信息 推理类型选择多机，推理框架、框架版本、推理模型、模型版本根据实际情况选择即可。简单的示例： 推理框架：nvidiavllm 框架版本：v0.11.2 推理模型：deepseekr1distillqwen7b 模型版本：v1 队列：选择存在且资源足够的的队列

本节介绍如何创建 vLLM GPU 单机PD分离任务。 前置条件 1. 确认智算套件已经安装并且全部运行中 2. 进入智算套件，AI应用管理，队列管理，确保队列存在并且有足够的资源(GPU,CPU,内存，rdma/rdmashareddevicea) [参考创建队列的文档] 操作步骤 1. 进入智算套件，AI应用列表，在线推理菜单，创建AI应用 2. 创建应用 基本信息 应用类型：vLLM 开启PD分离选择：静态PD分离 推理类型选择：单机 PD分离：Prefill PD分离：Decode 推理框架，框架版本，推理模型，模型版本根据实际情况选择。 简单的示例： 推理框架： nvidiavllm 框架版本：v0.11.2 推理模型：deepseekr1distillqwen1.5b 模型版本：v1 资源：CPU，内存，共享内存可以不填 选择 GPU：4，rdma/rdmashareddevicea：1 队列：选择存在且资源足够的的队列 点击确认完成创建。