本文介绍如何升级应用。 升级操作可以通过应用管理界面列表操作【升级】进入升级页面，也可以通过点击具体的应用进入详情页点击【升级】页签进入升级页面。 操作步骤 1.登录云容器引擎控制台，在左侧控制台导航栏中选择【工作负载】>【无状态】或【有状态】,进入应用管理界面>单击已创建的某一个应用，进入应用详情页面，选择【升级】页签； 2.请根据业务需求进行应用的升级，该过程与创建应用容器设置步骤相似，升级的参数说明请参见下表： 参数 参数说明 容器配置 选择镜像 在对应的容器下，单击【选择镜像】进行修改 镜像版本 进行镜像版本的更改 容器名称 单击列表框，修改容器名称 容器规格 对容器允许使用的cpu的最小值、最大值，内存的最小值、最大值进行修改 其它设置 生命周期 支持对生命周期进行修改，为应用提供极大的灵活性 生命周期包括：启动命令、启动后处理、停止前处理 健康检查 支持对通过探针监测容器进行修改 环境变量 容器运行环境中设定的一个变量。可以在应用部署后修改，为应用提供极大的灵活性； 在【环境变量】页签，单击【添加环境变量】； 输入变量名称、变量/变量引用。 数据存储 支持对数据存储进行修改，增加本地磁盘 安全设置 支持通过修改用户ID对容器权限进行修改 容器日志 容器设置日志采集策略、配置日志目录。用于收集容器日志以及日志防爆。通过添加日志策略对容器设置进行修改 3.更新完成后，单击【提交】。

本节主要介绍如何创建边缘虚拟机实例。 指定区域开通 1. 登录ECX控制台。 2. 单击左侧【边缘虚拟机>实例】导航栏。 3. 对于普通线上用户，点击【新建实例】；对于线下用户，点击【新建实例>指定区域开通】。 4. 选择【计费模式】，支持包年包月及按需计费。 5. 选择【地域】跟【可用区】，用户可根据其业务场景的需求选择就近节点接入。 6. 选择【CPU架构】，目前支持x86计算及ARM计算。 7. 根据选择的【CPU架构】选择【处理器型号】，其中x86架构已适配Intel、Hygon及AMD芯片，ARM架构已适配鲲鹏芯片。 8. 选择【实例规格】，选择不同地域可用区、CPU架构及处理器，实例规格库存不同。 9. 选择【镜像配置】，可按需选择公有镜像、自定义镜像、其他租户分享的共享镜像或镜像市场镜像。 10. 配置虚拟机存储，包括系统盘及数据盘。 11. 配置虚拟机网络，默认支持设置1张VPC网卡，选择该集群下已经创建的VPC及子网，也可通过点击下方的【VPC和子网】前往新建或调整VPC及子网，支持指定内网带宽上限，若不需访问公网，公网IP可选择暂不购买；对于线下用户，支持配置多张网卡。 12. 设置虚拟机【安全组】，支持打开新页面创建及管理安全组。 13. 配置虚拟机名称及登录凭证，目前支持自定义密码或自定义密钥。 14. 在【高级选项】配置实例的标签及高可用策略等。 15. 页面底部可设置实例数量及购买时长，鼠标停留在【配置费用】和【带宽费用】可显示具体费用明细。 16. 点击【下一步：确认购买】，若无问题则【提交购买】，跳转到订单中心，支付完成即可创建虚拟机。 注意 实际可购买的地域和可用区以库存展示为准。 实际可购买的实例规格以库存展示为准。 目前仅线下用户支持开通直通网卡，且最高绑定3张VPC网卡及5张直通网卡，若有相关需求，请联系您的客户经理开通权限。

本节介绍Web应用防火墙高可用部署方案。 部署方案 切换实现逻辑 WAF设备间的高可用以平台能力虚拟IP来实现，平台虚拟IP绑定多网卡时会自动轮询，将流量自动转发至对应网卡，若虚拟IP所绑定的其中一张网卡down掉，则会自动转发至存活网卡。 网络要求 WAF拉起时使用的子网需避免与客户业务网络处于同一子网，建议新起一段管理子网专用于WAF管理，作为单点跳转使用；新建网卡所在子网需与客户业务子网互通。 装好WAF镜像后，单台需要新增1张网卡，作为业务反代网卡，结合初始拉起镜像时自带的主网卡作为M口管理，单台设备共计需要2张网卡。 在虚拟云网络中至少申请1个虚IP作为两设备间的两两网卡绑定的虚拟切换地址。 前提条件 已完成主备WAF的部署，收集WAF防护云服务器的一些信息；服务器站点以及端口和对应的主机的地址。 部署前检查控制台环境。 1. 确保用户服务器站点没过WAF设备前，是能正常访问的。 2. 确保WAF与客户业务是否处于同一VPC （与客户业务处在不同VPC得做对等连接）。 3. WAF设备和服务器安全组是否做了限制。 注意 安全组配置：请确保防火墙VRRP所绑定网卡处于同一安全组，且将VRRP报文通报端口置于放通状态。

常规支持软件列表 G6型弹性云主机主要用于图形加速场景，例如图像渲染、云桌面、3D可视化。应用软件如果依赖GPU的DirectX、OpenGL硬件加速能力可以使用G6型云主机。常用的图形处理软件支持列表如下： AutoCAD 3DS MAX MAYA Agisoft PhotoScan ContextCapture 使用须知 G6型弹性云主机当前支持如下版本的操作系统： − Windows Server 2016 Standard 64bit 因为NVIDIA virtual GPU software license server在2023年7月31日已经终止使用（公告链接

应用场景 使用CherryStudio加载DeepSeek大模型的应用场景如下： 1. 学习研究 ：学生用其整理复习资料、辅助学术研究、助力论文写作；研究人员用于文献综述、分析问题等。 2. 工作办公 ：项目管理中生成报告、分析风险；内容创作时构思创意、撰写文案；代码开发里获取代码示例、解决问题。 3. 生活娱乐 ：作为智能聊天伙伴解闷陪伴，为创意活动如绘画等提供灵感启发。 4. 知识管理 ：个人可构建知识体系，团队能实现知识共享。 注意 建议使用天翼云提供的DeepSeek镜像创建云主机，减少安装过程中可能遇到的问题。镜像选择请参考在天翼云使用Ollama运行DeepSeek的最佳实践7B等版本弹性云主机最佳实践AIGC实践 天翼云。 操作步骤 一、 云主机端口配置更新 首先，您需要登录天翼云控制中心，对部署DeepSeek大模型的云主机添加新的端口开放操作。通过天翼云控制台进入部署了DeepSeek大模型的云主机详情页，选择安全组，添加新的开放端口，建议选择新加114343端口，该端口是 Ollama 服务默认监听的端口。添加完成后，可在安全组规则列表中查看新添加的11434 端口规则，确认其状态为正常生效。 随后进入控制台，远程登陆即将安装AnythingLLM的云主机。

应用场景 使用CherryStudio加载DeepSeek大模型的应用场景如下： 1. 学习研究 ：学生用其整理复习资料、辅助学术研究、助力论文写作；研究人员用于文献综述、分析问题等。 2. 工作办公 ：项目管理中生成报告、分析风险；内容创作时构思创意、撰写文案；代码开发里获取代码示例、解决问题。 3. 生活娱乐 ：作为智能聊天伙伴解闷陪伴，为创意活动如绘画等提供灵感启发。 4. 知识管理 ：个人可构建知识体系，团队能实现知识共享。 注意 建议使用天翼云提供的DeepSeek镜像创建云主机，减少安装过程中可能遇到的问题。镜像选择请参考在天翼云使用Ollama运行DeepSeek的最佳实践7B等版本弹性云主机最佳实践AIGC实践 天翼云。 操作步骤 一、 云主机端口配置更新 首先，您需要登录天翼云控制中心，对部署DeepSeek大模型的云主机添加新的端口开放操作。通过天翼云控制台进入部署了DeepSeek大模型的云主机详情页，选择安全组，添加新的开放端口，建议选择新加114343端口，该端口是 Ollama 服务默认监听的端口。添加完成后，可在安全组规则列表中查看新添加的11434 端口规则，确认其状态为正常生效。 随后进入控制台，远程登陆即将安装AnythingLLM的云主机。

差异项 差异化配置说明 镜像差异化(imageOverrider) 指定容器镜像参数差异化配置 命令差异化(commandOverrider) 指定容器运行命令的差异化配置 参数差异化(argsOverrider) 指定容器运行参数的差异化配置，与commandOverrider类似 标签差异化(labelsOverrider) 指标资源标签的差异化配置 注解差异化(annotationsOverrider) 指定资源注解的差异化配置 字段差异化(fieldOverrider) 支持内置yaml、json的差异化 文本差异化(plaintext) 泛指任意资源，与kubectl patch方式类似

开发机准备 步骤1：进入科研助手控制台，点击左上角，切换“科研版”； 步骤2：点击当前科研版"概览"页，点击快捷入口【找应用】，进入应用商城； 步骤3：在“应用商城”中，找到名为“Dify模型应用开发平台”的镜像，点击【使用此镜像】，进入开发机购买界面； 步骤4：在购买页面中，【基础信息】【主机规格】一栏，用户可以按照如下配置选择： 配置 算力型号 可用区 ::: 最低配置 GPU.gn3.m1 厦门4、扬州7 推荐配置 GPU.gn4.2xl1 贵阳2 高端配置 NVIDIA A100 40G 中卫4 这里以可用区中卫4的NVIDIAA10040G为例，可以看到，【存储配置】中已经挂载了在中卫4创建的数据集bcmanual，【镜像框架】中框架版本已默认选好【社区镜像】的“difydeepseekr1cuda11.3”，其余【计费模式】、【可用区】等可按照实际需要选择。 步骤5：点击【确认订单】，完成开发机创建并启动。

本节介绍了自定义节点池kubelet配置的用户指南。 当kubelet参数默认配置无法满足业需求，您希望以节点池的维度对集群节点池内的节点进行个性化调整时，您可以在节点池功能中使用kubelet配置功能，实现以节点池维度自定义节点的kubelet参数配置，调整节点行为。 注意 使用限制：节点池CustomPool不支持kubelet配置操作。 支持通过控制台自定义的kubelet参数 字段 描述 默认值 建议取值范围 registryPullQPS registryPullQPS 是每秒钟可以执行的镜像仓库拉取操作限值。 此值必须不能为负数。将其设置为 0 表示没有限值。 5 [1,50] registryBurst registryBurst 是突发性镜像拉取的上限值，允许镜像拉取临时上升到所指定数量， 不过仍然不超过 registryPullQPS 所设置的约束。 此值必须是非负值。 只有 registryPullQPS 参数值大于 0 时才会使用此设置。 10 [1, 100]，且取值必须大于等于registryPullQPS的值 podPidsLimit podPidsLimit 是每个 Pod 中可使用的 PID 个数上限。 1 无 eventRecordQPS eventRecordQPS 设置每秒钟可创建的事件个数上限。如果此值为 0， 则表示没有限制。此值不能设置为负数。 50 [1, 50] eventBurst eventBurst 是突发性事件创建的上限值，允许事件创建临时上升到所指定数量， 不过仍然不超过 eventRecordQPS所设置的约束。 此值必须是非负值， 且只有 eventRecordQPS > 0 时才会使用此设置。 100 [1, 100]，且取值必须大于等于eventRecordQPS的值 kubeAPIQPS kubeAPIQPS 设置与 Kubernetes API 服务器通信时要使用的 QPS（每秒查询数）。 50 [1,50] kubeAPIBurst kubeAPIBurst 设置与 Kubernetes API 服务器通信时突发的流量级别。 此字段取值不可以是负数。 100 [1, 100]，且取值必须大于等于kubeAPIQPS的值 cpuManagerPolicy cpuManagerPolicy是要使用的 CPU 管理器策略。可选值包括：none 和 static。 none 可选值： none static cpuCFSQuota cpuCFSQuota 允许为设置了 CPU 限制的容器实施 CPU CFS 配额约束。 true 可选值： true false maxPods maxPods 是此 kubelet 上课运行的 Pod 个数上限。此值必须为非负整数。 110 不涉及

本小节介绍SSL VPN相关产品和使用限制。 相关产品 云主机 天翼云SSL VPN产品是以软件镜像形式交付，需要云主机来承载。购买SSL VPN平台会默认匹配合适的云主机，用户无需再单独购买云主机。 弹性IP SSL VPN云主机需要绑定公网IP地址，并且SSL VPN云主机要可以实时联网，否则无法正常使用SSL VPN授权ID、序列号和SSL VPN的功能。 带宽大小需根据用户实际业务量评估。 使用限制 截止标准版本7.6.9R1，vSSL VPN暂不支持国密算法。 天翼云SSL VPN产品是以软件镜像形式交付，需单独订购对应规格云主机，云主机计费模式请参照云主机计费说明。 SSL VPN云主机需要绑定公网IP地址，并且授权服务器可以与SSL VPN进行通信，否则无法正常使用SSL VPN 授权ID、序列号和SSL VPN的功能。 SSL VPN需要与发布的云服务器网络可达。 SSL VPN后台权限不对用户开放，用户管理只需登录SSL VPN的Web管理页面进行操作即可。 SSL VPN不支持 如下系统接入： Window server操作系统 ARM架构的Linux 客户端 CentOS系统 Debian系统 Openwrt系统 Fedora Workstation系统 Unix系统 RedHat系统

本章节主要向您介绍虚拟私有云VPC的功能。 VPC提供丰富的功能供您灵活配置服务，构建多元化组网。 VPC的基本功能：虚拟私有云、子网、路由表和路由、虚拟IP、弹性网卡、辅助弹性网卡。 VPC的网络安全功能：安全组、网络ACL、IP地址组。 VPC的网络连接功能：VPC对等连接。 VPC的网络运维功能：VPC流日志、流量镜像。 功能名称 功能描述 虚拟私有云 虚拟私有云VPC是您在云上的私有网络，为云主机、云容器、云数据库等云上资源构建隔离、私密的虚拟网络环境。VPC丰富的功能帮助您灵活管理云上网络，包括创建子网、设置安全组和网络ACL、管理路由表等。此外，您可以通过弹性公网IP连通云内VPC和公网网络，通过云专线、虚拟专用网络等连通云内VPC和线下数据中心，构建混合云网络，灵活整合资源。 子网 子网是虚拟私有云内的IP地址集，可以将虚拟私有云的网段分成若干块，子网划分可以帮助您合理规划IP地址资源。虚拟私有云中的所有云资源都必须部署在子网内。同一个虚拟私有云下，子网网段不可重复。 路由表和路由 路由表由一系列路由规则组成，用于控制VPC内出入子网的流量走向。VPC中的每个子网都必须关联一个路由表，一个子网只能关联一个路由表，但一个路由表可以同时关联至多个子网。 虚拟IP 虚拟IP（Virtual IP Address）是从VPC子网网段中划分的一个内网IP地址，是一种可以独立申请和删除的内网IP地址，适用于以下场景： 将一个或者多个虚拟IP同时绑定至一个云主机，可以通过任意一个IP地址（私有IP/虚拟IP）访问云主机。通常当单个云主机内同时部署了多种业务，此时可以通过不同的虚拟IP访问各个业务。 将一个虚拟IP同时绑定至多个云主机，虚拟IP需要搭配高可用软件（比如Keepalived），用来搭建高可用的主备集群。 弹性网卡 弹性网卡即虚拟网卡，您可以通过创建并配置弹性网卡，并将其附加到您的ECS实例上，实现灵活、高可用的网络方案配置。 辅助弹性网卡 辅助弹性网卡是一种基于弹性网卡的衍生资源，用于解决单个云主机实例挂载的弹性网卡超出上限，不满足用户使用需要的问题。辅助弹性网卡通过VLAN子接口挂载在弹性网卡上，您可以通过创建辅助弹性网卡，使单个云主机实例挂载更多网卡，实现灵活、高可用的网络方案配置。 安全组 安全组是一个逻辑上的分组，为同一个VPC内具有相同安全保护需求并相互信任的弹性云主机提供访问策略。安全组创建后，用户可以在安全组中定义各种访问规则，当弹性云主机加入该安全组后，即受到这些访问规则的保护。 网络ACL 网络ACL是一个子网级别的可选安全防护层，您可以在网络ACL中设置入方向和出方向规则，并将网络ACL绑定至子网，可以精准控制出入子网的流量。 IP地址组 IP地址组是一个或者多个IP地址的集合，可关联至安全组、网络ACL，用于简化网络架构中IP地址的配置和管理。 VPC对等连接 对等连接是建立在两个VPC之间的网络连接，不同VPC之间网络不通，通过对等连接可以实现不同VPC之间的云上内网通信。对等连接用于连通同一个区域内的VPC，您可以在相同账户下或者不同账户下的VPC之间创建对等连接。 IPv4/IPv6双栈网络 IPv4/IPv6双栈可为您的实例提供两个不同版本的IP地址：IPv6地址在被加入共享带宽后，可以进行公网访问。 VPC流日志 VPC流日志功能可以记录虚拟私有云中的流量信息，帮助您检查和优化安全组和网络ACL控制规则、监控网络流量、进行网络攻击分析等。 流量镜像 VPC流量镜像功能可以镜像弹性网卡符合筛选条件的报文。您需要设置入方向和出方向的筛选条件，经过弹性网卡的流量符合筛选条件时，将被镜像到指定的云主机网卡，适用于网络流量检查、审计分析以及问题定位等场景。

一、引言 1.1 工具概述 EvalScope是一款专为大模型部署后性能评估设计的压力测试工具，支持多并发场景下的吞吐量、延迟、稳定性等核心指标测试。通过配置输入/输出Token长度、并发数等参数，可模拟真实业务负载，验证模型服务在不同上下文场景下的性能表现。工具基于Apptainer容器化部署，确保环境一致性，降低依赖冲突风险。 注意：该工具只有x86架构适配版(适用于NVIDIA GPU)，无法直接在ARM架构（昇腾 910B）下使用，因此实际测试时需要在X86架构机器上通过ssh执行。 1.2 使用须知 环境依赖 ：需预先安装Apptainer（若物理机使用Galaxy镜像，默认已集成），如需安装，具体安装指南见Apptainer官方文档。 网络配置 ：被测模型服务需暴露HTTP接口（如 资源要求：测试过程可能产生高I/O和网络负载，建议在独立测试环境中执行，避免影响生产服务。 1.3 应用场景 模型部署验证：确认模型服务在指定并发和上下文长度下的响应能力。 性能瓶颈定位：通过多并发和Token配置组合，识别吞吐量下降或延迟突增的临界点。 服务稳定性测试：长时间高负载下验证服务是否存在内存泄漏、连接超时等异常。 二、测试过程

网络配置 可以访问公网，如果存在防火墙且出方向流量存在限制，则需进行放行，允许连接器可以访问公网的TCP 443端口、UDP 53端口和UDP xxx端口，具体端口号请在生成连接器后的页面获取。 其中出方向流量指连接器需对外进行连通，安装连接器后并不会产生公网端口暴露。 为保障访问连接高可用，建议您一个连接器集群安装并启动至少2个服务器或虚拟机。 Docker环境安装指导 零信任连接器当前支持多种部署方式，若您选择Docker方式，且所需部署的服务器没有Docker环境，可以按照如下方式部署Docker环境： 1. 安装必要的一些系统工具： sudo yum install y yumutils devicemapperpersistentdata lvm 2. 添加软件源信息，请选择合适的docker镜像源，以下命令行请补充替换docker源地址后使用： sudo yumconfigmanager addrepo docker源地址 3. 以下命令行请补充替换docker源地址后使用： sudo sed i 's+download.docker.com+docker源地址/dockerce+' /etc/yum.repos.d/dockerce.repo 4. 更新并安装DockerCE： sudo yum makecache fast sudo yum y install dockerce 5. 开启Docker服务 sudo service docker start 6. 开启Docker服务开机自启动 sudo systemctl enable docker

查看服务器详情 当点击服务器名称时，跳转至该服务器的 “资产指纹详情”页面上，如下图所示。 上方展示该服务器的基本信息，包括服务器名称、服务器ID、所在区域、公网IP、内网IP、镜像、创建时间、到期时间和防护状态。 下方展示该服务器的资产指纹 和风险情况。

本章节介绍如何获取长期有效的登录指令,长期有效登录指令的有效期为永久。 操作场景 本章节介绍如何获取长期有效的登录指令，长期有效登录指令的有效期为永久。 说明 l 为保证安全，获取登录指令过程建议在开发环境执行。 操作步骤 步骤 1 获取区域项目名称、镜像仓库地址。 登录SWR管理控制台。 将鼠标移至页面右上角用户名称上，在下拉菜单中，单击“我的凭证”。 图 我的凭证 在项目列表中找到您的虚拟机的所属区域及项目： 图 区域与项目 您可以按照获取到的项目信息拼接镜像仓库地址，拼接方式为: registry.区域项目名称.ctyun.cn 如用户虚拟机所在区域为苏州，那么对应的镜像仓库地址为：registry.cnjssz 1.ctyun.cn 。 步骤 2 获取AK/SK访问密钥。 注意 访问密钥即AK/SK（Access Key ID/Secret Access Key），表示一组密钥对，用于验证调用API发起请求的访问者身份，与密码的功能相似。如果您已有AK/SK，可以直接使用，无需再次获取。 登录IAM管理控制台，将鼠标移到用户名处，单击“我的凭证”。 在左侧导航栏中选择“访问密钥”，单击“新增访问密钥”。 输入描述信息，单击“确定”。 在弹出的提示页面单击“立即下载”。 下载成功后，在“credentials”文件中即可获取AK和SK信息。 表 credentials文件示例 User Name Access Key Id Secret Access Key a RVHVMX H3nPwzgZ 说明 为防止访问密钥泄露，建议您将其保存到安全的位置。 步骤 3 登录一台Linux系统的计算机，执行如下命令获取登录密钥。 printf "AK" openssl dgst binary sha256 hmac "SK" od An vtx1 sed 's/[ n]//g' sed 'N;s/n//' 请将AK 替换为步骤2 credentials文件 的 Access Key Id ，SK 替换为步骤2 credentials文件 的 Secret Access Key 。 示例： printf "RVHVMX" openssl dgst binary sha256 hmac "H3nPwzgZ" od An vtx1 sed 's/[ n]//g' sed 'N;s/n//' 执行上面的命令后，我们得到的登录密钥如下： cab4ceab4a1545 说明 以上密钥仅为示例，请以实际获得的密钥为准。 步骤 4 使用如下的格式拼接登录指令。 docker login u [区域项目名称] @ [AK] p [登录密钥] [镜像仓库地址] 其中，区域项目名称和镜像仓库地址在步骤1中获取，AK在步骤2中获取，登录密钥为步骤3的执行结果。 示例： docker login u cnjssz1@RVHVMX p cab4ceab4a1545 registry.cnjssz1.ctyun.cn 当显示“Login Succeeded”，即为登录成功。 说明 l 登录密钥字符串是经过加密的，无法逆向解密，从p无法获取到SK。 l 获取的登录指令可在其他机器上使用并登录。 步骤 5 （可选）当您退出仓库时，请使用以下命令删除您的认证信息。 cd /root/.docker/ rm f config.json 步骤 6 （可选）使用history c命令清理相关使用痕迹，避免隐私信息泄露。

本文主要介绍如何安装CloudInit工具 操作场景 为了保证使用私有镜像创建的新云主机可以通过“用户数据注入”功能注入初始化自定义信息（例如为云主机设置登录密码），请在创建私有镜像前安装CloudInit工具。 安装CloudInit工具时需要从官网下载并安装，因此，需要提前为云主机绑定弹性公网IP。 不安装CloudInit工具，将无法对云主机进行自定义配置，只能使用镜像原有密码登录云主机。 使用公共镜像创建的云主机，默认已经安装CloudInit，不需要执行安装及配置操作。 用户导入镜像创建的云主机，请按照指导安装及配置CloudInit。配置CloudInit操作请参考配置CloudInit工具章节。 前提条件 已为云主机绑定弹性公网IP。 已登录云主机。 云主机的网卡属性为DHCP方式。 安装步骤说明 1.请先检查是否已安装CloudInit工具。 具体操作请参考检查是否已经安装CloudInit工具。 2.安装CloudInit工具。 CloudInit安装方式分为：采用官方提供的包源安装CloudInit工具（优先推荐）、采用官方提供的CloudInit源码包通过pip方式安装CloudInit工具和采用源码编译安装方法。 检查是否已经安装CloudInit工具 请先执行如下步骤检查是否已安装CloudInit工具。 在不同的操作系统下，查看是否已经安装CloudInit工具的方法不同，以CentOS 6系列为例，执行以下命令查看是否安装CloudInit工具。 rpm qa grep cloudinit 回显类似如下，表示已经安装CloudInit工具，无需重复安装。 cloudinit0.7.510.el6.centos.2.x8664 无回显信息表示未安装CloudInit工具。 说明： 由于CloudInit工具存在多种安装方法，如果无回显信息，请再次使用rpm qa grep cloudinit命令进行检查。which cloudinit和rpm qa grep cloudinit任何一个命令显示已安装，表示操作系统已安装CloudInit工具。 如果已安装CloudInit工具，还需要执行以下操作： 请确认当前云主机操作系统中的证书是否继续使用。如果不再使用该证书，请删除证书。 −root用户对应目录下的文件（如“/path/to/$root/.ssh/authorizedkeys”），执行以下命令： cd /root/.ssh rm authorizedkeys −非root用户对应目录下的证书文件（如“/path/to/$noneroot/.ssh/authorizedkeys”），执行以下命令： cd /home/centos/.ssh rm authorizedkeys 执行以下命令，清除CloudInit工具产生的缓存，确保使用该私有镜像创建的云主机可以使用证书方式登录。 sudo rm rf /var/lib/cloud/ 说明： 设置完成后请勿重启云主机，否则，需重新设置。

5.2 推理日志查看 若服务异常，可通过日志排查问题： shell 查看模型推理服务API及模型名 tail f /home/deepseek/logs/log.$JOBID.out 查看作业输出日志 tail f /home/deepseek/logs/log.$JOBID.${节点编号}.out 查看错误日志 tail f /home/deepseek/logs/log.$JOBID.${节点编号}.err 其中JOBID可通过squeue命令查看，节点编号格式为0.x，x从0开始，表示第一个节点。 六、注意事项 1. 模型版本管理：建议对模型权重、SIF 镜像进行版本化管理，避免更新后无法回滚。 2. 安全防护：生产环境建议配置安全组IP 白名单，减少公网暴露面，并通过天翼云 WAF 防护恶意攻击，推荐以下5种安全组网方案： 1. ELB+VPN 2. ELB+NAT 网关。 3. DDoS+WAF+ELB+NATGW+VPN。 4. DDoS+WAF+ELB+SDWAN。 5. DDoS+WAF+ELB+专线 七、附录 天翼云 HCC 产品文档：弹性高性能计算产品文档帮助中心 天翼云 DeepSeekV4 模型下载地址：<

本章节列举了使用云服务备份CBR过程中的备份类问题，以及相对应的解答。 可以将两个磁盘的数据备份至一个磁盘上吗？ 不可以。云服务备份是基于快照的备份，一个磁盘只能产生对应磁盘的备份，不支持将两个磁盘的数据备份至同一个备份副本中。 删除全量备份后，还可以使用增量备份恢复数据吗？ 云服务备份支持从任意一个备份恢复资源的全量数据，不管这个备份是全量还是增量。因此，当某一个备份被人为删除或过期自动删除后，不会影响使用其他增量备份恢复数据。 举例：服务器X按时间顺序先后生成A、B、C三个备份，每个备份都存在数据更新。当备份B被删除后，备份A和备份C还是可以继续用于数据恢复。 如何查看备份中的数据？ 无法直接从云服务备份控制台查看备份中的数据，您可以通过以下几种方式进行查看： 云主机备份： 使用云主机备份创建镜像后，再使用镜像创建云主机。登录云主机，查看服务器中的数据。 云硬盘备份： 使用云硬盘备份创建新的云硬盘后，将云硬盘挂载至云主机上。登录云主机，查看磁盘中的数据。 备份会保存多久？ 手动备份：一般为manualbkxxxx或自定义名称的备份。如果不自行删除且账户余额充足，则备份数据会一直保留。如果账户余额不足且未及时补充欠款，备份数据将自动被系统释放且无法恢复。 自动备份：一般为autobkxxxx名称的备份。如果已经在策略中设置保留规则，则备份一般将会按照保留规则进行保留和自动删除。

本文介绍云容器引擎Serverless版的功能特性。 虚拟节点 Serverless集群无需管理节点，但为了兼容原生Kubernetes，以及提供应对突发业务流量的弹性能力，您仍会在集群中看到虚拟节点的存在。 Pod配置 在Serverless集群中创建Pod时，您可以通过添加Annotation来定制Pod。 网络管理 Serverless集群支持Service和Ingress等对象的个性化定制，并且允许通过CoreDNS和弹性IP等办法提供服务发现功能。 存储管理 支持天翼云盘挂载，提供标准的CSI，支持存储卷的自动创建。 可观测性 Serverless集群支持安装相应组件启动监控功能。 镜像管理 Serverless集群支持使用ImageCache来加速创建Pod，帮助您快速响应业务。 组件管理 Serverless集群提供多种类型的组件，以扩展集群的各种功能。根据业务需求，您可以随时部署、升级或卸载这些组件。 应用管理 Serverless集群支持灰度发布、蓝绿发布、应用监控以及应用弹性伸缩。同时，内置的模板市场支持Helm应用一键部署，大大简化云服务集成。

本节主要介绍了GPU加速型实例安装Tesla驱动及CUDA工具包的操作场景。 GPU加速型云主机，需要安装Tesla驱动和CUDA工具包以实现计算加速功能。 使用公共镜像创建的计算加速型（P系列）实例默认已安装特定版本的Tesla驱动。 使用私有镜像创建的GPU加速型云主机，需在创建完成后安装Tesla驱动，否则无法实现计算加速功能。 本节操作介绍GPU云主机安装Tesla驱动及CUDA工具包的操作步骤。

产品组件 组件 描述 相关介绍 智能网关 部署在客户侧的重要网络设备。 详细说明请参见产品相关术语解释智能网关 智能网关（vCPE） 智能网关vCPE是智能网关的软件镜像版。 详细说明请参见产品相关术语解释智能网关（vCPE） 网络接入点（POP） POP点是SDWAN组网的重要网络节点。 详细说明请参见产品相关术语解释网络接入点 SDWAN骨干网 承载主要网络流量和连接较大规模网络节点的核心网络部分。 详细说明请参见产品相关术语解释SDWAN骨干网 云专线 客户到云的高品质专线或专网服务。 详细说明请参见什么是天翼云云专线

本文将为您介绍如何复制伸缩配置来新增一条配置。 操作步骤 1. 登录控制中心。 2. 单击控制中心左上角的，选择弹性伸缩组所在地域。 3. 单击“计算>弹性伸缩服务”，进入弹性伸缩管理控制台。 4. 单击“伸缩配置”，进入“伸缩配置”页签，在待复制的伸缩配置行，单击“操作”列的“复制”。 5. 在“复制伸缩配置”页面，您可以修改配置名称、云主机规格和镜像等参数，如需保持相同配置，可直接点击右下角“确认”按钮。 6. 系统会自动刷新列表，您可以看到新增的伸缩配置。

本节主要介绍集群概述。 随着应用程序开发向基于容器的方向发展，编排和管理资源的需求变得越来越重要。Kubernetes是一个开源的、功能强大的容器编排系统，用于管理容器化应用和服务，它提供了应用部署、规划、更新、维护的一种机制，让部署容器化的应用更加简单并且高效。 云容器引擎（Cloud Container Engine，以下简称CCE）是一种托管的Kubernetes服务，可进一步简化基于容器的应用程序部署和管理，您可以在CCE中方便的创建Kubernetes集群、部署您的容器化应用，以及方便的管理和维护。 集群优势 传统的应用部署方式是通过插件或脚本来安装应用。这样做的缺点是应用的运行、配置、管理、所有生存周期将与当前操作系统绑定，这样做并不利于应用的升级更新/回滚等操作，当然也可以通过创建虚拟机的方式来实现某些功能，但是虚拟机非常重，并不利于可移植性。 新的方式是通过部署容器方式实现，每个容器之间互相隔离，每个容器有自己的文件系统，容器之间进程不会相互影响，能区分计算资源。相对于虚拟机，容器能快速部署，由于容器与底层设施、机器文件系统解耦的，所以它能在不同云、不同版本操作系统间进行迁移。 容器占用资源少、部署快，每个应用可以被打包成一个容器镜像，每个应用与容器间成一对一关系也使容器有更大优势，使用容器可以在build或release的阶段，为应用创建容器镜像，因为每个应用不需要与其余的应用堆栈组合，也不依赖于生产环境基础结构，这使得从研发到测试、生产能提供一致环境。类似地，容器比虚拟机轻量、更“透明”，这更便于监控和管理。 集群（Cluster）是容器运行所需云资源的集合，包含了若干云服务器节点（物理服务器或者虚拟机）、负载均衡、虚拟私有云等云资源，您可以在集群中运行您的应用程序。在CCE中，我们可以创建若干集群，每个集群可以创建多个容器，每个容器里面运行一个应用实例，然后通过内置的负载均衡策略，实现对这一组应用实例的管理、发现、访问，而这些细节都不需要运维人员去进行复杂的手工配置和处理。

镜像 Entrypoint 镜像CMD 容器运行命令 容器运行参数 最终执行 [touch] [/root/test] 未设置 未设置 [touch /root/test] [touch] [/root/test] [mkdir] 未设置 [mkdir] [touch] [/root/test] 未设置 [/opt/test] [touch /opt/test] [touch] [/root/test] [mkdir] [/opt/test] [mkdir /opt/test]

产品简介 极速缓存（HPKV，High Performance KVCache）是天翼云自主研发的模型推理多级 KV Cache 缓存服务，扩展了受显存容量限制的 Prefix Cache 能力，将 KV Cache 跨请求复用能力进一步扩展到 CPU 内存（分布式内存池）和高性能存储（SSD、HPFS）。 云容器引擎提供高度可扩展的、高性能的Kubernetes集群、一站式容器服务；兼容主流国产化服务器和操作系统，取得全栈国产化适配认证证书。其整合了镜像、监控、日志、负载均衡、灰度/蓝绿、多种弹性策略、高效调度、集群插件、模板市场等基础能力，帮助企业快速构建和运行可弹性扩展的应用，实现业务的快速交付与持续创新。 模板市场是云容器引擎基于 Kubernetes Helm 提供的应用模板管理与发布能力。您可以将 HPKV 模板（Chart）上传至模板市场，实现快速部署与后期管理，大幅简化 Kubernetes 资源的配置部署过程。 并行文件服务 HPFS 作为极速缓存 HPKV 的三级存储层，承担模型文件、缓存数据的持久化与高并发读写任务。HPFS 让缓存存储从 GB 级显存扩展至 PB 级，通过全链路 RDMA 与 IB/RoCE 高速网络协议提供千万级 IOPS 与 TBps 级吞吐，同时保证亚毫秒级延迟，达成最佳成本效益。

限制项 约束和限制 描述 版本 当前服务端版本有3.8.9和3.8.35 兼容AMQP 091协议的客户端版本。 连接数 RabbitMQ单机和集群实例，不同实例规格的连接数上限不一致，具体限制，请参考产品规格。 。 通道数 < 2047 单条连接可以建立的通道数。 消息大小 50MB 请勿发送大于此长度的消息，否则生产失败。 内存高水位阈值 < 80% 内存使用率超过80%会触发内存高水位，生产者流程被阻塞。 磁盘高水位阈值 > 2GB 磁盘剩余空间低于2GB会触发磁盘高水位，生产者流程被阻塞。 clusterpartitionhandling pauseminority 当集群发生网络分区时，代理会检查自己是否处于“少数派”（存储分区的代理数小于等于总代理数的一半称为少数派）。少数派中的代理将会自动关闭服务并定期检测网络状态，待分区恢复之后重新启动服务。如果未开启镜像队列，发生分区时少数派上的队列将无法生产消费。此策略相当于放弃了可用性而选择了数据一致性。 rabbitmqdelayedmessageexchange 插件延迟时间存在1%左右的误差，可能提前或者推迟发送消息给消费者。 实例是否开启消息延迟功能。 延时消息最大延时时间 7天 延时消息的最大延时时间。

本章节介绍当使用云主机备份创建镜像后，镜像创建的云主机登录后进入维护模式，可能造成的原因和解决方案。 现象描述 使用云主机备份创建镜像后，通过创建成功的镜像创建云主机，但登录云主机后提示系统进入维护模式，无法正常使用云主机。 可能原因 当云主机带有数据盘的时候，恢复后的云主机中的系统盘/etc/fstab文件信息仍是原云主机的配置参数，和新数据盘的UUID信息不匹配，导致云主机启动过程中加载/etc/fstab信息出错，系统进入维护模式。 解决方法 本例以CentOS系统为例介绍解决方法。 1. 使用镜像创建新云云主机后，在云主机控制台，选择目标云主机“操作”列下“远程登录”进入云主机。 2. 在维护模式界面，根据提示进入系统。 图 系统进入维护模式 3. 执行cat /etc/fstab命令查看数据盘挂载信息。 图 数据盘UUID信息 4. 执行vi /etc/fstab 命令打开文件，按i 进入编辑模式，删除所有数据盘的挂载信息后，按Esc 键退出编辑模式，输入 :wq! 退出保存。 图 刷新后的/etc/fstab文件 5. 执行reboot命令重启系统。 图 系统正常启动界面 6. 进入系统后，手动挂载数据盘。 图 手动挂载数据盘 7. 执行blkid命令获取数据盘的UUID信息。 图 获取数据盘UUID信息 8. 执行vi /etc/fstab 命令打开文件，按i 进入编辑模式，将数据盘挂载信息添加到/etc/fstab文件中，按 Esc键退出编辑模式，输入 :wq! 退出保存。 图 手动添加数据盘挂载信息 添加后，系统重启会自动挂载。

基本信息 负载类型：选择守护进程DaemonSet。工作负载类型的介绍请参见工作负载概述。 负载名称：填写工作负载的名称。 命名空间：选择工作负载的命名空间，默认为default。您可以单击后面的“创建命名空间”，命名空间的详细介绍请参见创建命名空间。 容器运行时：CCE集群默认使用普通运行时。 时区同步：选择是否开启时区同步。开启后容器与节点使用相同时区（时区同步功能依赖容器中挂载的本地磁盘，请勿修改删除），时区同步详细介绍请参见时区同步。 容器配置 容器信息 Pod中可以配置多个容器，您可以单击右侧“添加容器”为Pod配置多个容器。 基本信息：容器基本信息 生命周期：设置容器生命周期 健康检查：设置容器健康检查 环境变量：设置环境变量 数据存储：存储概述 安全设置：对容器权限进行设置，保护系统和其他容器不受其影响。请输入用户ID，容器将以当前用户权限运行。 容器日志：使用ICAgent采集容器日志 说明 负载实例数大于1时，不支持挂载云硬盘类型的存储。 镜像访问凭证：用于访问镜像仓库的凭证，默认取值为defaultsecret，使用defaultsecret可访问SWR镜像仓库的镜像。defaultsecret详细说明请参见defaultsecret。 GPU显卡：默认为不限制。当集群中存在GPU节点时，工作负载实例可以调度到指定GPU显卡类型的节点上。

如何解决上传软件包失败的问题？ 问题描述 上传满足系统要求的软件包后，系统提示“无权限访问，请联系管理员”。 解决方法 步骤 1 在谷歌浏览器中，选择“更多工具 > 清除浏览数据”。 步骤 2 在弹出的清除浏览数据窗口中，保持默认勾选，单击“清除数据”。 如何解决Docker客户端push镜像失败的问题 问题描述 在后台Docker登录成功以后，使用Docker客户端上传镜像包时，例如执行如下命令上传： docker push 10.125.54.133:20202 / test1 /busybox:latest 说明： 10.125.54.133:20202为租户或用户准备上传仓库的IP和端口号。 test1为namespace。 上传失败，Docker客户端出现如下提示： unauthorized: authentication required 解决方法 步骤 1 租户或用户以正确的AK/SK登录Docker客户端。 步骤 2 向本租户或用户下有操作权限的namespace上传镜像，或者更换到新的namespace。 执行如下命令，向本租户或用户下有操作权限的namespace上传镜像。 docker push 10.125.54.133:20202/test2 /busybox:latest 说明： 10.125.54.133:20202为为租户或用户准备上传仓库的IP和端口号。 test2为该租户或用户下有操作权限的namespace。 执行如下命令，更换到新的namespace。 docker push 10.125.54.133:20202/test3 /busybox:latest 说明： 10.125.54.133:20202为为租户或用户准备上传仓库的IP和端口号。 test3为新的namespace。 步骤 2 上传成功后，显示如下： The push refers to a repository [10.125.54.133:20202/test2/busybox] 6a749002dd6a: Pushed latest: digest: sha256:ecb3f3e96e003af6e02f0f47ac4d25a3b0585db54de0a82bb070f8cb78a79bc7 size: 527 出现异常，请联系技术支持工程师。

本文档为制作Windows系统私有镜像指导手册的步骤2,安装VirtIO驱动、QEMU Guest Agent。 操作场景 VirtIO驱动，用于弹性云主机识别云硬盘等存储设备，是Windows镜像必备驱动。 QEMU Guest Agent（简称qga），是天翼云平台弹性云主机执行关键功能的依赖工具。包括： 云主机重置密码 创建云主机快照 操作步骤 安装VirtIO和QEMU Guest Agent 说明 Windows虚拟机安装完成后，请检查VirtIO对应的CD驱动器下的文件。 如果CD驱动器主目录下存在virtiowinguesttools.exe文件，请直接执行此文件，按默认操作步骤执行，即可完成VirtIO驱动和QEMU Guest Agent的安装； 如果CD驱动器主目录下不存在virtiowinguesttools.exe文件，请执行主目录下的virtiowingtx64.msi文件安装VirtIO驱动，并运行/guestagent/qemugax8664.exe文件安装QEMU Guest Agent。安装过程中，请按默认操作步骤执行。 注意 如果您未按照 配置VirtIO和QEMU Guest Agent 打开PowerShell，将以下内容直接复制粘贴并执行。 StartService Name 'QEMU Guest Agent VSS Provider' StartService Name 'QEMUGA' SetService Name 'QEMU Guest Agent VSS Provider' StartupType Automatic SetService Name 'QEMUGA' StartupType Automatic

本文为您介绍租户集群为自建集群的集群组件安装步骤。 注意事项 集群组件在运行时会挂载k8s node宿主机的/data（非crio）和/root（crio）目录，请确保目录的权限正常。 请确保您的k8s集群允许出网策略TCP端口：31080、30432、32345。 获取部署脚本 1. 进入容器安全卫士产品控制台。 2. 在左侧导航栏选择“安装配置 > 组件安装”，进入组件安装页面。 3. 单击“集群组件部署”，进入集群组件部署页面。 4. 选择“是否为天翼原生k8s集群”，此处选择“自建集群”；选择集群所在的资源池。 5. 下载镜像。 1. 选择容器运行环境（支持docker、containerd、CRIO）。 2. 选择集群CPU架构（支持X86、ARM架构）。 3. 单击“下载镜像Tar包”下载镜像Tar包到本地，然后加载至您的私有仓库中（请不要修改镜像名称）。 Tar包中包含4个镜像，分别为： library/dosecagent:20241224T19.31.05V5.2.0release298e83b85cc6c5bc,library dosechosttool:alpineV3.8,library dosecscanner:20250106T17.38.12V5.2.0releasebd003dd3e87a1881,library dosecserver:20250107T11.36.00V5.2.1sp891.1release287a57d168109d92 6. 生成部署脚本。 1. 选择集群所在的VPC、VPC子网，输入私有仓库的地址、账号、密码。 2. 单击“生成yaml文件”，并将yaml文件保存到本地。 注意 系统会根据您的输入自动生成yaml。 容器安全卫士不会保存您的私有仓库用户名和密码以保证安全。 下载后的包，内容请勿进行修改。 下载的脚本仅能用于一个k8s集群使用，若在不同集群重复使用可能造成数据异常。

方式二：在购买云主机时开启防护 在购买弹性云主机时，当镜像类型选择“公有镜像”，支持开启主机安全防护，此处选择开启“基础版 ”防护。详细操作步骤请参见创建弹性云主机。 弹性云主机创建成功后，将自动安装服务器安全卫士的Agent并开启防护，这个过程需要一定的时间，请耐心等待。 查看防护状态 开启防护后，需要在服务器列表页面查看云主机资产的防护状态，确保所有待防护的云主机已开启防护。 1. 登录服务器安全卫士（原生版）控制台。 2. 在左侧导航栏，选择“资产管理 > 服务器列表”，进入服务器列表页面。 3. 查看云主机防护状态：若Agent状态为“在线”，防护状态为“免费防护”，表示已正常开启防护。 说明 若Agent状态为“离线”，请参考以下步骤安装Agent： 1. 登录服务器安全卫士（原生版）控制台。 2. 在左侧导航栏，选择“资产管理 > 服务器列表”，进入服务器列表页面。 3. 点击“安装Agent”，弹出安装Agent窗口，按需选择安装命令。 支持Linux和Windows系统。 支持天翼云主机和天翼云外主机。 4. 根据界面提示，完成安装命令执行。具体操作，请参见安装Agent。