本文档主要介绍GPU云主机中Tesla驱动的自动安装、预装驱动、一键部署安装三种便捷部署方式,助力用户快速完成Tesla驱动及配套CUDA、cuDNN组件的部署,满足高性能计算、AI训练推理等业务的GPU算力需求。 预装驱动 前提条件 适用于GPU计算加速型云主机部署Tesla驱动，无资源池功能限制。 需选择带有预装Tesla驱动关键字的专属公共镜像。 操作步骤 1. 进入创建云主机页面，选择GPU计算加速型云主机规格，在镜像选择环节，选择名称含预装Tesla驱动标识的公共镜像； 2. 完成其余云主机配置后，提交创建申请； 3. 云主机创建成功后，Tesla驱动及配套CUDA、cuDNN组件已默认部署完成，可直接启用GPU计算相关业务。 自动安装 前提条件 仅适用于GPU计算加速型云主机部署Tesla驱动。 仅部分资源池支持该功能，若目标资源池无此功能，可选择其他安装方式。 仅支持Linux系列操作系统的公共镜像。 操作步骤 1. 进入创建云主机页面，选择GPU计算加速型云主机规格，在镜像环节选择Linux系列公共镜像； 2. 进入云主机配置环节，找到并勾选安装GPU驱动功能选项； 3. 在弹出的版本选择界面，按需选择匹配的Driver、CUDA、cuDNN版本； 4. 完成其余云主机配置后，提交创建申请； 5. 云主机创建完成后，系统将自动完成所选版本的Tesla驱动及配套组件的安装部署，无需手动干预，安装过程相对耗时，云主机启动时间会更长，并伴有自动重启。 一键部署安装

切换操作系统 支持用户在客户端切换操作系统，包含租户下公共镜像、自定义镜像、共享镜像的同系统切换，如Windows系统、统信UOS系统、麒麟V10系统镜像，不支持不同系统之间切换。如果用户只有系统盘，支持切换至整机镜像，但是数据盘不展示。 切换镜像需注意以下几点： （1）切换操作系统将会清除安装在系统盘的程序、数据； （2）数据盘的图片、视频、文档等数据可继续使用； （3）如非AI云电脑故障，一般情况下不建议使用切换操作系统。 20. 设备调试 若有无法识别的外设，在客户端工具栏设置选择“外设调试”，选择当前连接的外设，配置设备类型，选择重定向方式。 （1）若调试完的设备规则仅在当前终端使用，则选择保存在本地。 优先级关系：设备调试>设备规则>外设重定向，存储设备同时开USB重定向策略和文件重定向策略时，优先走文件重定向策略。 21. 其他设置 Mac键盘：开启后，键盘功能按Ma端方式响应（仅限Mac端）。 工具栏：开启后工具栏超过3秒未操作，自动收起工具栏。 臻控©弱网优化：网络环境较差时，在桌面内工具栏偏好设置其他设置中打开“臻控©弱网优化”开关，退出桌面再重新进入生效，可以提升AI云电脑使用流畅度。 唤起云智助手：快捷键Alt（Option）+E 22.

提供多种登录方式，安全高效 通过VNC方式、SSH方式（仅适用于Linux云主机）和MSTSC方式（仅适用于Windows云主机）可登录云主机。其中，VNC方式适用于未绑定弹性IP的云主机登录查看。 多种镜像，实现业务的快速部署 支持常用的Linux、Windows镜像，如CentOS、Ubuntu等。支持将云主机导出为私有镜像，并基于私有镜像快速创建新云主机，实现业务的批量、快速部署。支持将私有镜像共享给其它用户，方便多用户统一部署。 支持多网卡 通过为云主机配置多块网卡，将不同的内网 IP 地址与不同网卡进行绑定，实现同一云主机划分至不同的虚拟云子网以及配置不同的安全组策略。 提供云主机备份、云硬盘备份 支持对云主机的系统盘或数据盘进行备份。基于备份数据，用户可创建新的云主机或恢复磁盘数据。 支持按需重装操作系统 支持主流的Windows Server 2012、2016、2019、CentOS 7.x、8.x等操作系统，满足用户对不同业务的部署需求。如在安装应用过程中出现问题，还可通过控制台重装当前操作系统。 支持多种鉴权方式 在创建云主机时，可选择通过密码和密钥方式登录。如选择密码方式登录，可在创建时设置登录密码，或在创建后通过“重置密码”操作设置密码。

低门槛容器化，全套微服务治理 CAE 让您免运维 K8s 基础设施，秒级完成从代码包、Docker 镜像部署任意语言的在线应用（如微服务、Web 服务），并自动弹性伸缩按量计费。平台内置免费 Nacos 注册中心，支持 Spring Cloud 无侵入迁移，开箱即用服务注册发现、限流降级、无损上下线及全链路灰度等全套微服务治理能力，极简助力业务容器化转型。 开放标准，自主无忧 基于标准容器与Kubernetes生态构建，避免厂商锁定。您的应用可平滑迁移至任意兼容K8s的平台，保障业务长期发展的灵活性与自主权。 安全可靠，专注业务 底层采用安全容器技术，网络层通过VPC实现租户级强隔离，为您的应用与数据提供从基础设施到网络的双重安全保障，让您安心专注于业务创新。 生态集成，开箱即用 深度集成天翼云负载均衡（ELB）、文件存储（SFS）、对象存储（ZOS）等IaaS服务，以及微服务引擎（MSE）、应用监控（ARMS）等PaaS生态，提供一站式、高内聚的完整解决方案，大幅提升开发和运维效率。

本节介绍了SSH密钥方式登录的操作场景、前提条件、本地使用Windows操作系统登录流程、本地使用Linux操作系统登录流程、后续处理。 操作场景 本节操作介绍在Windows和Linux环境中使用SSH密钥对方式远程登录Linux云主机的操作步骤。 前提条件 已获取创建该弹性云主机时使用的密钥对私钥文件。 弹性云主机已经绑定弹性IP，绑定方式请参见查看弹性云主机详细信息。 已配置安全组入方向的访问规则，配置方式请参见 配置安全组规则。 使用的登录工具（如PuTTY）与待登录的弹性云主机之间网络连通。例如，默认的22端口没有被防火墙屏蔽。 本地使用Windows操作系统 如果您本地使用Windows操作系统登录Linux弹性云主机，可以按照下面方式登录弹性云主机。 方式一：使用PuTTY登录 我们以PuTTY为例介绍如何登录弹性云主机。使用PuTTY登录弹性云主机前，需要先将私钥文件转化为.ppk格式。 1. 判断私钥文件是否为.ppk格式。 − 是，执行7。 − 否，执行2。 2. 在以下路径中下载PuTTY和PuTTYgen。 说明 PuTTYgen是密钥生成器，用于创建密钥对，生成一对公钥和私钥供PuTTY使用。 3. 运行PuTTYgen。 4. 在“Actions”区域，单击“Load”，并导入创建弹性云主机时保存的私钥文件。导入时注意确保导入的格式要求为“All files ( . )”。 5. 单击“Save private key”。 6. 保存转化后的私钥到本地。例如：kp123.ppk 7. 双击“PUTTY.EXE”，打开“PuTTY Configuration”。 8. 单击“Session”，在“Host Name (or IP address)”下的输入框中输入弹性云主机的弹性IP。 图 配置弹性IP 9. 选择“Connection > data”，在Autologin username处输入镜像的用户名。 说明 使用“SSH密钥方式”登录弹性云主机时： 如果是“CoreOS”的公共镜像，镜像的用户名为“core”。 如果是“非CoreOS”的公共镜像，镜像的用户名为“root”。 10. 选择“Connection > SSH > Auth”，在最下面一个配置项“Private key file for authentication”中，单击“Browse”，选择6转化的密钥。 11. 单击“Open”。 登录弹性云主机。 方式二：使用Xshell登录 1. 打开Xshell工具。 2. 通过弹性IP，执行以下命令，SSH远程连接弹性云主机。 ssh 用户名@弹性IP 说明 使用“SSH密钥方式”登录弹性云主机时： 如果是“CoreOS”的公共镜像，镜像的用户名为“core”。 如果是“非CoreOS”的公共镜像，镜像的用户名为“root”。 3. （可选）如果系统弹窗提示“SSH安全警告”，此时需单击“接受并保存”。 图 SSH安全警告 4. 选择“Public Key”，并单击“用户密钥(K)”栏的“浏览”。 5. 在“用户密钥”窗口中，单击“导入”。 6. 选择本地保存的密钥文件，并点击“打开”。 7. 单击“确定”，登录弹性云主机。

本文介绍如何跨AZ挂载文件系统。 应用场景 针对企业而言，不管业务是不是在云上，服务的稳定和连续性都是无法回避的话题，为了降低不可抗力因素对服务提供造成的影响，有了高可用性和容灾的概念。 跨AZ部署是实现服务高可用较为有效的方法，本次我们介绍跨AZ挂载文件系统，云主机和文件系统部署在不同的机房，通过天翼云内部高速通道实现连通，实现文件存储跨AZ级别的高可用。本次以NFS文件系统跨AZ挂载Linux云主机为例。 方案使用云产品 弹性云主机、弹性文件服务 方案优势 跨AZ挂载文件系统能够实现服务的高可用性，且极具性价比。 跨AZ挂载文件系统可以消除服务中的单点故障，同时具备很低的网络时延。 操作步骤 步骤一：创建弹性云主机 1. 本次操作实践中，需要创建弹性云主机以挂载文件系统，此次以CentOS 7.6系统为例介绍操作。弹性云主机创建流程详见创建弹性云主机。弹性云主机部分参数可参考下表： 参数 说明 可用区 可用区1 镜像 CentOS 7.6 64位 弹性IP 自动分配 IP版本 IPv4 带宽 5M 2. 配置完成，点击提交订单，等待云主机创建完成。

本文将为您介绍什么是云硬盘扩容以及如何在控制台上实现扩容。 操作场景 当云硬盘空间不足时，用户可以扩大云硬盘的容量，也就是云硬盘扩容。云硬盘扩容可以有如下两种处理方式： 申请一块新的云硬盘，并挂载给云主机。 扩容原有云硬盘空间。系统盘和数据盘均支持扩容。 本文主要对方式二进行介绍。在该方式中，您可以对状态为“已挂载”或者“未挂载”的云硬盘进行扩容。状态为“已挂载”的云硬盘，即当前需要扩容的云硬盘已经挂载给云主机。状态为“未挂载”的云硬盘，即当前需要扩容的云硬盘未挂载至任何云主机。系统盘支持的最大容量为2TB，数据盘支持的最大容量为32TB（X系列数据盘的最大容量为64TB），最小扩容容量为1GB，扩容步长为1GB。 约束与限制 若扩容的云硬盘处于“已挂载”状态： 云硬盘为非共享盘，则其挂载的云主机状态必须为“运行中”或“关机”才支持扩容。 云硬盘为共享盘，则其挂载的所有云主机状态必须都为“运行中”或“关机”才支持扩容。 注意 按需云主机支持“节省关机模式”，此模式下关闭云主机，云主机也处于“关机”状态，同样支持扩容云硬盘。 使用公共镜像创建的系统盘及使用公共镜像制作的私有镜像创建的系统盘支持在“已挂载”状态下扩容。 云硬盘扩容功能支持扩大云硬盘容量，不支持缩小云硬盘容量。 当磁盘已经投入使用后，请在扩容前务必检查磁盘的分区形式，具体说明如下： 分区形式 注意事项 MBR分区 容量最大支持2TB（2048GB），超过2TB的部分无法使用。 GPT分区 容量最大支持18EB（19327352832 GB）。云硬盘服务支持的最大数据盘容量为32TB（32768 GB），即您最大可将数据盘扩容至32TB。 MBR分区需扩容至2TB以上 必须将磁盘分区形式由MBR切换成GPT，期间会中断业务，并且更换磁盘分区形式时会清除磁盘的原有数据，请在扩容前先对数据进行备份。

使用须知 P2v型云主机当前支持如下版本的操作系统： − Windows Server 2019 Standard 64bit − Windows Server 2016 Standard 64bit − Ubuntu Server 16.04 64bit − CentOS 7.4 64bit − EulerOS 2.2 64bit 使用公共镜像创建的P2v型云主机，默认已安装Tesla驱动。 使用私有镜像创建的P2v型云主机，请确认在制作私有镜像时已安装Tesla驱动。如果未安装，请在创建完成后安装驱动，以实现计算加速功能。详细操作请参考GPU加速型实例安装Tesla驱动及CUDA工具包章节。

操作说明 本方案基于天翼云 ROS（资源编排服务）控制台，采用 Terraform Module 模块化设计，实现赛事用云主机全流程自动化批量部署。用户仅需导入模板、配置核心参数，即可一键完成 VPC、子网、安全组规则、云主机、弹性 IP 等全套网络与计算资源的自动化创建，全程无需手动操作。 通过模块化封装，方案支持灵活自定义可用区、网络网段、实例规格及部署数量，同时内置安全密码自动生成能力，可满足网络安全赛事、攻防演练、CTF 竞赛等场景下的多组别隔离、环境统一与快速交付需求，实现资源部署高效化、运行环境标准化、运维管理轻量化，为各类赛事靶机环境提供稳定、便捷的规模化交付能力。 适用场景 网络安全赛事靶机批量快速开通与统一部署 多组别、多题型竞赛环境的标准化网络搭建 攻防演练、CTF 赛事多镜像靶场环境一致性交付 临时赛事训练、演示环境快速创建与赛后一键回收 需自定义网段、靶机规格与资源隔离的规模化赛事场景 核心能力 在 ROS 控制台中： 导入模板（基于 Terraform 语法适配） 核心参数配置：配置实例数量（instancecount）、可用区选择、镜像、云主机规格等等 一键创建资源栈 即可自动完成： 多VPC和子网自动创建与分配 N 台云主机批量创建 弹性公网 IP 自动绑定 符合安全规范的随机密码自动生成 同时支持一键删除资源栈，实现全量资源自动回收

参数 解释说明 指定基础镜像 指定构建新Image时使用的基础镜像，通常在Dockerfile文件中第一个有效指令FROM中指定。 文件名称/路径 以.txt为后缀名的文件名称。 Dockerfile是一个文本文件，文件内包含了用于构建镜像的指令（Instruction）。 文件来源 文件分为本地上传、GitLab同步。 扫描状态 扫描状态分为待扫描、扫描中、扫描完成和扫描失败。 风险等级 风险等级分为未知、高风险、中风险、低风险、无风险，未知代表该文件未经过扫描。 添加时间 添加或发现该Dockerfile文件的时间。

操作场景 当前支持给Java类工作负载提供调用链、拓扑等监控能力，若您为Java类工作负载，并且需要监控状态，请勾选“Java探针”选项，并输入监控组名称。 工作负载创建时和创建后，均可以对Java类工作负载监控进行设置。 说明： 若您还未开通应用性能管理服务，请单击界面中的，参照界面提示购买应用实例数，单击“立即购买”，查看订单无误后，参照界面提示单击“提交订单”。 操作步骤 创建工作负载时进行设置 步骤 1 登录CCE管理控制台，在左侧导航栏中选择“工作负载 > 无状态负载 Deployment”或“工作负载 > 有状态负载 StatefulSet”，单击“创建无状态工作负载”或“创建有状态工作负载”。 步骤 2 在创建工作负载时，在“高级设置”中找到“性能管理配置”，在“安装探针”处勾选“Java探针”，将会启用应用性能管理服务并在节点上安装探针。 说明：安装探针会产生少量资源消耗，主要作用是可对java工作负载提供应用调用链、拓扑、SQL分析、堆栈追踪等监控能力。 步骤 3 输入监控组名称，如testapp。若已有监控组，可下拉选择。 步骤 4 选择“探针版本”。探针版本默认为latest，具体可查看下拉框后的“版本说明”。 图设置性能管理配置 步骤 5 选择“探针升级策略”，默认为“重启自动升级”。 说明：“探针升级策略”为获取探针镜像的策略，可选值有“重启自动升级”和“手动升级”。 重启自动升级：每次都尝试重新下载镜像。 手动升级：如果本地有该镜像，则使用本地镜像，本地不存在时下载镜像。 创建工作负载后设置或修改 步骤 1 登录CCE管理控制台，在左侧导航栏中选择“工作负载 > 无状态负载 Deployment”或“工作负载 > 有状态负载 StatefulSet”。 步骤 2 在工作负载列表中，单击要设置的工作负载名称，在工作负载详情页中单击“工作负载运维”页签。 步骤 3 在“性能管理配置”中，单击下方的“编辑”，勾选“Java探针”，将会启用应用性能管理服务并在节点上安装探针。 图12 单击编辑后进行设置 说明： 安装探针会产生少量资源消耗，主要作用是可对java工作负载提供应用调用链、拓扑、SQL分析、堆栈追踪等监控能力。 步骤 4 输入或修改“监控组”名称，如testapp。若已有监控组，可下拉选择。 步骤 5 选择“探针版本”。探针版本默认为latest，具体可查看下拉框后的“版本说明”。 步骤 6 选择“探针升级策略”，默认为“重启自动升级”。 图设置或修改性能管理配置 步骤 7 单击“重启实例”，完成设置。 说明： 1.9.7以下版本的集群，在“有状态工作负载”中不能修改该设置。 步骤 8 应用启动后，等待约3分钟，应用数据就会呈现在APM界面中，此时登录APM，您可以在APM上通过拓扑、调用链等进行应用性能优化，详细操作请参考。

模块 权限 权限码 权限范围 企业项目 管理企业项目 msap:inst:manageEnterpriseProject 子账号拥有此权限才可以查看对应的企业项目 环境规划 查看环境 msap:inst:viewEnv 查看环境，部署单元等查看权限 环境规划 创建环境 msap:inst:createEnv 创建环境，部署单元权限 环境规划 更新环境 msap:inst:updateEnv 更新环境，部署单元权限 环境规划 删除环境 msap:inst:deleteEnv 删除环境，部署单元权限 环境规划 查看集群 msap:inst:viewCluster 查看集群 环境规划 管理集群 msap:inst:manageCluster 管理集群（包括导入权限，移除） 项目管理 查看项目 msap:inst:viewProject 查看项目，以及关联的环境数据 项目管理 创建项目 msap:inst:createProject 创建项目 项目管理 更新项目 msap:inst:updateProject 更新项目，以及关联的环境数据 项目管理 删除项目 msap:inst:deleteProject 删除项目 应用 查看应用 msap:inst:viewApplication 查看应用 应用 管理应用 msap:inst:manageApplication 管理应用，包括创建、更新、删除应用 应用 查看应用分组 msap:inst:viewAppGroup 查看应用分组 应用 管理应用分组 msap:inst:manageAppGroup 管理应用分组，包括创建、更新、删除应用分组 技术栈 查看技术栈 msap:inst:viewTechStack 查看技术栈 技术栈 管理技术栈 msap:inst:manageTechStack 管理技术栈，创建、更新、删除技术栈 制品库 查看制品库 msap:inst:artifactory 查看制品库，包括制品、镜像、资源占用等查看权限 制品库 管理制品库 msap:inst:manageArtifactory 同步镜像等权限 应用实例运维 查看应用实例 msap:inst:viewAppInst 涉及查看应用实例、发布单列表、批量发布单等一系列应用实例查看权限 应用实例运维 创建应用实例 msap:inst:createAppInst 创建应用实例 应用实例运维 管理应用实例 msap:inst:manageAppInst 涉及应用的更新、发布（发布单创建、更新、删除）、生命周期管理等一些列操作权限 应用实例运维 删除应用实例 msap:inst:deleteAppInst 删除应用实例 应用实例运维 配置应用实例 msap:inst:configureAppInst 接口访问配置；微服务治理 应用实例运维 查看Kubernetes配置 msap:inst:viewK8sConfiguration 查看Kubernates配置：配置项，保密字典，配置模板 应用实例运维 配置Kubernetes msap:inst:configureK8s 配置Kubernates（增删改）：配置项，保密字典，配置模板 应用实例运维 查看Ingress路由 msap:inst:viewIngress 查看Ingress应用路由 应用实例运维 管理Ingress路由 msap:inst:manageIngress 管理Ingress应用路由 应用实例运维 批量运维 msap:inst:batchOps ECS批量运维 服务治理 查看微服务配置 msap:inst:msConfig 查看微服务配置 服务治理 管理微服务配置 msap:inst:manageMsConfig 管理微服务配置 服务治理 查看全链路流量控制 msap:inst:traffic 查看全链路流量控制 服务治理 管理全链路流量控制 msap:inst:manageTraffic 管理全链路流量控制 系统管理 主子账号 msap:inst:viewAccount 查看主子账号及子账号权限策略 系统管理 查看服务连接 msap:inst:viewServiceConnect 查看服务连接 系统管理 管理服务连接 msap:inst:manageServiceConnect 管理服务连接 系统管理 审计日志 msap:inst:viewBgLog 查看审计日志权限

在使用GPU云主机进行推理时,vLLM版本会影响计算性能与功能支持,Open WebUI版本关系着用户交互体验与功能兼容性。本文提供完整升级指南,进一步增强系统稳定性、界面功能完整及性能最优。 一、Open WebUI升级指南 1. 查看现有版本 plaintext docker exec it openwebui bash c "cat /app/package.jsongrep version" 2. 版本升级 （1）登录云主机，下载最新容器镜像 plaintext docker pull ghcr.nju.edu.cn/openwebui/openwebui:v0.6.5 （2）删除旧镜像 查看当前容器镜像 删除旧容器镜像 plaintext docker image rm ghcr.nju.edu.cn/openwebui/openwebui:cuda 查看更新后的容器镜像 3. 修改启动openwebui命令参数 plaintext vi /root/.startwebui.sh 修改后内容如图 4. 清理容器 plaintext docker ps a docker rm f openwebui

本文向您介绍如何修改弹性云主机(Windows)的SID。 操作场景 Windows操作系统是通过安全标识符（SID）对计算机和用户的识别。由于基于同一镜像生产的云服务器实例 SID 相同，会引起无法入域的问题。如果您需要搭建 Windows 域环境，则需要通过修改 SID 以达到入域的目的。本文档以 Windows Server 2012 操作系统云服务器为例，介绍如何使用系统自带sysprep 以及 sidchg 工具修改 SID。 注意 本说明仅适用于 Windows Server 2008 R2 、Windows Server 2012 以及Windows Server 2016及更高版本。 如果有批量修改 SID 的需求，可通过制作自定义镜像（选择 “执行 sysprep 制作镜像”）解决。 修改云主机SID可能导致数据丢失或系统损坏，建议您提前做好数据备份。 操作步骤 使用sysprep修改SID 注意 1. 使用 sysprep 修改 SID 后，系统参数很多都被重新设置，包括 IP 配置信息等，您必须手动重新设置。 2. 使用 sysprep 修改 SID 后，C:UsersAdministrator 将会被重置，系统盘部分数据将被清理，请注意做好数据备份。 1. 使用远程登录方式登录云主机。 2. 在操作系统界面，点击运行，输入cmd，按Enter，打开管理员命令行工具。 在管理员命令行工具中，执行以下命令，保存当前网络配置。 ipconfig /all 3. 以管理员身份使用 PowerShell 执行以下命令。 $unattendContent @" true Work 3 true true "@ $unattendContent OutFile FilePath C:WindowsSystem32Sysprepunattend.xml Encoding UTF8 Force C:WindowsSystem32Sysprepsysprep.exe /generalize /oobe /shutdown /unattend:C:WindowsSystem32Sysprepunattend.xml 4. 执行完成后，系统会自动关机。此时，您可在云平台制作私有镜像。 5. 启动云主机进入操作系统后执行下方命令，验证SID是否已修改，返回类似如下信息，则表示SID已完成修改。 whoami /user 6. 根据步骤2保存的网络配置信息，重新设置网卡相关信息(如IP地址、网关地址、DNS等)。

性能数据 xFT在生成token时延（Next Token Latency）上有明显的优化，在16vcpu的机型上能使用主流3B规格模型达到低于80ms/token的生成速度，足以满足业界需求。 3.1.4 EMR云主机StableDiffusion性能指标 注意 在天翼云EMR云主机正式上线后，我们更新性能指标如下。 基本参数 vcpu数：16 内存：64GB 硬盘：通用型SSD 模型：stablediffusion21 输入token个数：<16 推理Steps：20 batch size：1 数据类型：torch(FP32)，IPEX(FP32) 性能数据 IPEX在推理总时延上有一定的提升，在本示例16vcpu和20steps配置下能够将256x256大小图片生成时延压缩到10秒内，512x512大小图片生成时延压缩到35秒内，具有一定的实用价值。 3.2 AI软件工具实施方法（基于一键部署镜像） 为了方便您进行性能测试，天翼云联合英特尔制作了一键部署的云主机镜像，内置torch2.0环境，Intel® Extension for PyTorch与xFasterTransformer软件，以及Llama27bchat与stablediffusion21模型。您可直接开通云主机并选择对应镜像进行体验。 镜像支持的云主机规格与资源池信息如下表： 注意 内存需在32G及以上。 处理器型号 云主机规格 资源池 英特尔第三代至强可扩展处理器AVX512 s7 / c7 / m7 西南西南1 华东华东1 英特尔第四代至强可扩展处理器AMX s8r 华东华东1 可用区2 英特尔第五代至强可扩展处理器AMX c8e 华东华东1 可用区2 注意 镜像内置的是天翼云七代主机(s7/c7/m7)特殊编译版本的xfastertransformer，如果您使用的是天翼云八代机(s8r)，请在xFT环境下手动更新安装新版本，否则版本不兼容，可参考下方的示例代码。 plaintext conda activate xFT pip install xfastertransformer1.4.0 i 镜像名称：应用镜像 ubuntu IntelAI推理加速，如图所示：

容器配置 容器信息 Pod中可以配置多个容器，您可以单击右侧“添加容器”为Pod配置多个容器。 基本信息：容器基本信息 生命周期：设置容器生命周期 环境变量：设置环境变量 数据存储：存储概述 容器日志：使用ICAgent采集容器日志 说明 负载实例数大于1时，不支持挂载云硬盘类型的存储。 镜像访问凭证：用于访问镜像仓库的凭证，默认取值为defaultsecret，使用defaultsecret可访问SWR镜像仓库的镜像。defaultsecret详细说明请参见defaultsecret。 GPU显卡：默认为不限制。当集群中存在GPU节点时，工作负载实例可以调度到指定GPU显卡类型的节点上。 步骤 4 单击右下角“创建工作负载”。

弹性云主机的主机名带后缀novalocal，这正常吗？ 问题描述 用户使用hostname命令查看不同镜像的弹性云主机主机名，发现部分镜像的弹性云主机主机名带后缀“.novalocal”，如示例所示： 假设创建弹性云主机时，用户自定义的主机名是“abc”，使用hostname命令查看不同镜像下，弹性云主机的主机名以及重启弹性云主机后的主机名，显示结果如下表所示。 表 不同镜像查询的主机名 镜像 重启前查询的主机名 重启后再次查询的主机名 CentOS 6.8 abc abc.novalocal CentOS 7.3 abc.novalocal abc.novalocal Ubuntu 16 abc abc 不同镜像的弹性云主机，查询的主机名有的带后缀“.novalocal”，有的不带后缀“.novalocal”，这正常吗？ 问题处理 正常现象。 Linux弹性云主机的静态主机名来源于创建弹性云主机时，通过Cloudinit注入的用户自定义名称。经测试验证发现，Cloudinit和不同发行版本的操作系统在配合实现上，存在差异，具体表现为：查询的主机名有的带后缀“.novalocal”，有的不带后缀“.novalocal”。 如果您希望查询到的主机名不带后缀“.novalocal”，可以通过更改主机名进行规避，修改主机名的方法请参见怎样使修改的静态主机名永久生效？。 弹性云主机重启后，主机名被还原为安装时的主机名？ 以CentOS 7操作系统的弹性云主机为例： 1. 登录Linux弹性云主机，查看“cloudinit”的配置文件。 2. 检查“/etc/cloud/cloud.cfg”文件中“updatehostname”是否被注释或者删除。如果没有被注释或者删除，则需要注释或删除 “updatehostname”语句。 说明 “updatehostname”表示每次重启时，“cloudinit”都会更新主机名。

显示设置（分辨率） 如需设置AI云电脑分辨率，前往控制面板，进入“设置显示设置”。 分辨率，缩放设置：分辨率和缩放设置默认与终端本地保持一致。 Direct 3D特性：关闭Direct 3D特性，可能导致某些涉及到Direct 3D功能的软件不正常，如果播放视频卡顿（使用爱奇艺、腾讯视频等）建议临时关闭此功能。 显示设置（竖屏模式） AI云电脑桌面支持横竖屏一键切换，自动适配办公、阅读、娱乐等多场景。进入“设置显示设置”即可体验。 画面设置 AI云电脑提供四种画面模式一键切换：默认均衡、清晰优先、流畅优先，以及支持手动微调的自定义模式，满足不同场景需求。 系统重装 如需重装系统，进入“设置系统重装”，系统恢复会将系统还原至初始状态，该操作会清空系统盘内所有程序与数据，非特殊情况请勿使用，并请务必提前备份重要资料耐心等待完成。 切换操作系统 政企版支持用户在客户端切换操作系统，包含租户下公共镜像、自定义镜像、共享镜像的同系统切换，如Windows系统、统信UOS系统、麒麟V10系统镜像，不支持不同系统之间切换。如果用户只有系统盘，支持切换至整机镜像，但是数据盘不展示。 切换镜像需注意以下几点： 1. 切换操作系统将会清除安装在系统盘的程序、数据； 2. 数据盘的图片、视频、文档等数据可继续使用； 3. 如非AI云电脑故障，一般情况下不建议使用切换操作系统。

本节为您接受如何为麒麟系统云主机配置图形化界面。 操作场景 为了提供纯净的弹性云主机系统给客户，麒麟系统云主机默认没有安装图形化界面，如果您需要图形化界面，请参见本节内容进行安装。 操作步骤 1. 配置网络，确保yum源可以正常使用。银河麒麟服务器操作系统在有外网的环境下可以直接使用yum源，而在无外网的环境下需要挂载镜像作为本地源。 2. 在字符界面执行以下命令，列出可安装的图形化包组 yum group list 3. 在字符界面执行yum groupinstall y "带GUI的服务器"命令，安装图形化桌面相关包，如下示例： yum groupinstall y "Server with UKUI GUI" 4. 在字符界面执行以下命令，设置系统默认的启动方式为graphical.target，即图形化启动 systemctl setdefault graphical.target 5. 在字符界面执行以下命令，重启系统使其生效 reboot 6. 重启系统后即可进入图形化界面 7. 输入用户名与密码，进入系统 安装图形化桌面相关包报错 操作背景 一般地，Linux 基础镜像不会默认安装图形化桌面相关包。银河麒麟高级服务器操作系统可按照本文档指导以上步骤自行安装。经用户反馈，有些条件下会有如下报错，可按以下方法进行解决。 经分析，银河麒麟高级服务器操作系统 V10 SP3（2303）使用以下路径的官方源。 < 存量基础镜像出于安全等因素所预装的 selinuxpolicy 相关包的版本是 3.14.276.se.29.01.ky10，但截至此篇 FAQ 发布时，官方源的最新版本已回退为 3.14.276.se.26.08.ky10，导致安装图形化桌面相关包时存在无法自动处理的依赖冲突问题。

本章节介绍在云原生API网关中通过HTTP API访问容器服务中的应用 概述 当您的容器服务中的应用需要通过外部访问时，可以通过创建HTTP API并配置路由，实现应用的互联网访问。本文以容器服务CCE为例，介绍如何通过云原生API网关实现微服务的外部访问。 前提条件 1. 已具备云容器引擎CCE实例，参见创建一个CCE应用集群。 2. 部署微服务demo到云容器引擎CCE实例，参见创建工作负载及服务或者使用容器镜像服务发布容器应用。 方案概览 通过创建云原生API网关实例，将云原生API网关与需要暴露的容器服务进行关联，在网关中设置API的路由规则，确保请求能够正确地路由到对应的容器服务，配置完成后，客户端即可通过API网关访问容器中的应用。 1. 新建云原生API网关实例：根据已有微服务环境，创建云原生API网关实例。 2. 创建服务来源：在云原生API网关中添加服务来源，根据实际情况选择云容器引擎CCE。 3. 添加服务：云原生API网关能够根据云容器引擎CCE来源获取服务的命名空间，将已有的服务添加到云原生API网关，作为备选服务。 4. 创建HTTP API：为网关实例创建HTTP API。 5. 创建路由：为该服务添加路由策略并发布。 6. 路由调试：测试微服务路由功能。

本节介绍天翼云息壤一体化智算服务平台的产品定义。 天翼云息壤是基于算力加速、训练推理、算网调度三个层面的技术一体化核心竞争力，构建的领先开放的一体化智算服务平台，其包含以下核心产品： 公共算力服务：统一的资源调度和交易平台，提供多维度的核心调度能力。 训推服务：为大模型训练、推理、应用提供全栈工具链的智算服务平台，预置丰富的基座大模型和镜像，支持国产化等异构算力，提供算子加速与模型加速，极大提升大模型训练推理效率。 模型推理服务：面向企业开发者的一站式大模型服务平台，提供功能全面、安全可靠且具有价格优势的模型调用服务，同时配备完整的大模型开发工具链，帮助企业开发者实现大模型服务与应用对接。 应用托管：提供一站式应用托管平台，免运维底层资源，支持跨域算力调度与分布式服务部署，具备自适应弹性伸缩能力，提供应用构建、部署、运维和治理全生命周期管理，构建息壤应用生态体系。 科研助手：一站式科研实训平台，可调度各种类型的计算资源，针对各科研场景搭载开箱即用的科研软件。 产品形态及其使用场景 天翼云息壤一体化智算服务平台面向细分客户群体的不同使用场景，提供多种产品形态，如下表所示。 产品形态 产品定位 使用场景 公共算力服务 统一资源调度和交易平台，提供多维度的核心调度能力，支持多方算力接入，实现跨地域跨服务商异构算力一体化供给，满足算力互联接入、促成算力交易、闭环算力运营流程、符合算力政策四大核心需求。 适用于对算力有特定要求的客户，比如算力所在区域、算力卡型、成本等，需要在全国范围内寻匹配的供应商。 训推服务 训推平台是为大模型训练、推理、应用提供全栈工具链的智算服务平台，包含数据处理、模型开发、训练任务、智算资产管理、模型服务等模块。预置丰富的基座大模型和镜像，支持国产化等异构算力，提供算子加速与模型加速，极大提升大模型训练推理效率。 用户无需自建平台，基于训推服务开箱即用，快速、高效训练模型，部署服务用于业务生产。 模型推理服务 面向企业开发者的一站式大模型服务平台，提供功能全面、安全可靠且具有价格优势的模型调用服务，同时配备完整的大模型开发工具链，帮助企业开发者实现大模型服务与应用对接。 适用于缺少资源、缺乏算力管理和分布式框架底层经验，希望低门槛使用，或需要基于用户的行业数据，对基础大模型进行调优训练，快速部署并与业务系统进行集成等场景。 应用托管 提供一站式应用托管平台，免运维底层资源，支持跨域算力调度与分布式服务部署，具备自适应弹性伸缩能力，提供应用构建、部署、运维和治理全生命周期管理，构建息壤应用生态体系。 可基于息壤公有云便捷托管部署自己的应用，并全面掌控资源运行状态。 科研助手 一款适用于高校科研场景的一站式科研实训平台，实现可调度各种类型的计算资源，并针对仿真、流体计算、材料化学、数学计算等科研场景搭载常用科研软件，支持一键部署、随时随地、无需配置开箱即用。 适用于高校科研场景，解决高校科研团队在日常科研场景中面临的算力分散、算力短缺、科研软件不好找等核心痛点问题。

本章节介绍微服务云应用平台相关名词解释 MSAP 本系统即微服务云应用平台（MicroService Application Platform）的英文简称。 云容器引擎 云容器引擎是天翼云产品，提供高度可扩展的、高性能的Kubernetes集群、一站式容器服务。 ECS 弹性云主机（Elastic Cloud Server）是天翼云产品，可随时获取、弹性扩展，由 CPU、内存、镜像、云硬盘组成，结合多种能力打造安全应用环境，确保服务稳定运行。 应用性能监控 应用性能监控是天翼云产品，帮助您进行应用性能管理。通过无入侵式探针接入的方式，无需您修改代码，就能够对应用进行全方位监控，帮助您快速定位出错接口和慢接口，重现调用参数，发现系统瓶颈，从而大幅提升线上问题诊断的效率。 微服务治理中心 微服务治理中心是天翼云微服务引擎的子产品，兼容SpringCloud、Dubbo等开源微服务框架，支持无侵入的接入应用，提供标签路由、灰度发布、无损上下线、服务降级、服务鉴权等服务治理的能力。 注册配置中心 注册配置中心是天翼云微服务引擎的子产品，面向业界主流开源微服务项目，致力于帮助用户发现、配置和管理微服务，实现动态服务发现、服务配置、服务元数据及流量管理等功能，通过微服务注册配置中心，您可以更敏捷、更简单地构建、交付和管理微服务平台。

虚拟私有云 虚拟私有云为分布式缓存服务Redis版实例提供一个逻辑隔离的区域，构建一个安全可靠、 可配置和管理的虚拟网络环境。更多信息请参见虚拟私有云产品定义。 弹性云主机 分布式缓存服务Redis版订购后，默认按照用户选择的实例规格开通弹性云主机，云主机由 CPU、内存、镜像、云硬盘组成，同时结合VPC、安全组、数据多副本保存等能力，打造一个既高效又可靠安全的计算环境，确保分布式缓存服务Redis持久稳定运行。更多信息请参见弹性云主机产品定义。 云硬盘 分布式缓存服务Redis版订购后，默认按照一定的存储大小开通云硬盘。云硬盘是一种可弹性扩展的块存储设备，可以为分布式缓存服务Redis提供高性能、高可靠的块存储服务。更多信息请参见云硬盘产品定义。 弹性IP 弹性IP是可以独立申请的公网 IP 地址，包括公网IP地址与公网出口带宽服务。可以与分布式缓存服务Redis动态绑定和解绑，实现云资源的互联网访问。针对需要公网访问分布式缓存服务Redis版实例的需求，用户可开通弹性IP后，在Redis实例开通页面进行绑定。更多信息请参见绑定公网IP。

实施步骤（手动） 安装前准备 创建弹性云主机，且弹性云主机已绑定弹性公网IP。 为了更好的获取和更新系统和软件，建议您更新镜像源为天翼云镜像源，详细操作，请参见如何使用天翼云提供的内网yum源。 登录弹性云主机，执行如下命令，新建jdk目录和tomcat目录。 plaintext cd /home/ mkdir webDemo cd webDemo/ mkdir jdk mkdir tomcat 您可以选择将安装包下载至本地后使用文件传输工具将安装包上传至云主机。或者选择使用wget命令直接下载安装包至云主机。 方法一：使用文件传输工具上传安装包至云主机。 使用WinSCP工具上传jdk软件包至云主机jdk文件夹。 使用WinSCP工具上传tomcat软件包至云主机tomcat文件夹。 方法二：使用wget命令直接下载安装包至云主机。 执行如下命令，进入jdk目录。 plaintext cd /home/webDemo/jdk 执行如下命令，下载jdk软件包。软件包下载地址请参考表1查询jdk下载地址，或者使用其他开源镜像地址获取安装包。 plaintext wget jdk软件包下载地址 例如：单击开源镜像地址，查询当前可用版本，以v8.5.93版本安装包为例，执行以下命令。 plaintext wget nocheckcertificate 执行如下命令，进入tomcat目录。 plaintext cd /home/webDemo/tomcat 执行如下命令，下载tomcat软件包。 请参考表1查询tomcat下载地址，或者使用其他开源镜像地址获取安装包。 plaintext wget achetomcatx.x.xx.tar.gz 例如：单击开源镜像地址，查询当前可用版本，以v8.5.93版本安装包为例，执行以下命令。 plaintext wget nocheckcertificate

画面设置 如需设置AI云电脑画面，可选择“默认设置”，“清晰优先”，“流畅优先”，“自定义设置”。 系统重装 如需系统重装，偏好设置点击系统重装，选择“系统盘重装至初始状态”，进行系统重装，系统重装会将系统还原至初始状态，系统盘的程序或数据会被清除，如非特殊情况，否则不建议使用。 切换操作系统 AI云电脑（政企版）支持用户在客户端切换操作系统，包含租户下公共镜像、自定义镜像、共享镜像的同系统切换，如Windows系统、统信UOS系统、麒麟V10系统镜像，不支持不同系统之间切换。如果用户只有系统盘，支持切换至整机镜像，但是数据盘不展示。 切换镜像需注意以下几点： （1）切换操作系统将会清除安装在系统盘的程序、数据； （2）数据盘的图片、视频、文档等数据可继续使用； （3）如非AI云电脑故障，一般情况下不建议使用切换操作系统。 设备调试 提示：Mac客户端不支持设备调试 若有无法识别的外设，在在客户端工具栏偏好设置选择“设备调试”，选择当前连接的外设，配置设备类型，选择重定向方式。 若调试完的设备规则仅在当前终端使用，则选择保存在本地使用。 若调试完的设备规则共享他人，需要提交到管理控制台，管理员审核通过后租户下其他桌面也可使用。 优先级关系：设备调试>设备规则>外设重定向，存储设备同时开USB重定向策略和文件重定向策略时，优先走文件重定向策略。

操作系统 版本 Linux 天翼云提供的公共Linux镜像均支持 Windows 天翼云提供的公共Windows镜像均支持

本文介绍如何查看容器列表及列表参数说明。 在容器安全的实时监测页面，支持按“节点”和“命名空间”进行分类查看集群中的容器信息。 操作步骤 1. 登录容器安全卫士控制台。 2. 在左侧导航栏选择“容器安全 > 实时检测”，进入容器实时检测页面。 3. 分类查看容器信息：选择“节点”和“命名空间”页签，可以更直观地分类查看集群中各个节点和各个命名空间上的容器信息。 4. 查看汇总统计信息：容器列表上方汇总展示了当前节点或命名空间中各类型的容器数量，包括运行中容器、特权容器、节点启动容器、有漏洞的容器和有异常行为的容器等，单击想要查看的容器类型，下方容器列表会根据单击选择的条件进行筛选。 5. 随着在左侧树形结构中的选择改动，右侧统计结果将响应式动态变化。 6. 查看容器列表：容器列表内，支持按照“容器名称”、“镜像名称”、“Pod名称”、“容器标签”、“容器IP”、“容器类型”、“运行状态”、“安全状态”等进行筛选查询。 容器列表内各参数说明如下： 参数 说明 容器名称 容器的名称。 容器类型 容器类型分为集群启动容器、节点启动容器和特权容器。 Pod名称 容器所属Pod的名称。 应用 容器所提供的应用服务，如kubernetes、apache、nginx等。 镜像名称 关联镜像是指该容器基于哪个镜像构建的。 运行状态 运行状态分为运行中、停止运行、已暂停、已删除。 安全状态 安全状分为“有异常”和“无异常”，有异常是指触发了安全策略产生告警的容器。 7. 查看图标说明：在容器列表左下角，可查看容器列表中图标的说明信息，前三个图标（节点启动容器、集群启动容器、特权容器）表示的是容器类型，其余图标表示的是容器列表中的应用。

本节介绍了云主机CloudInit及安装方法。 CloudInit介绍 CloudInit是开源的云初始化工具，使用安装了CloudInit的镜像创建云主机时可以通过“用户数据注入”功能，注入初始化自定义信息（例如为云主机设置登录密码）；还可以通过查询、使用元数据，对正在运行的云主机进行配置和管理。不安装CloudInit工具，将无法对云主机进行自定义配置，只能使用镜像原有密码登录云主机。 安装方法 建议您在创建私有镜像前先安装CloudInit/CloudbaseInit，安装方法如下： 如果是Windows操作系统，请下载并安装CloudbaseInit。 安装CloudbaseInit相关操作请参考安装并配置CloudbaseInit工具。 如果是Linux操作系统，请下载并安装CloudInit。 安装CloudInit相关操作请参考安装CloudInit工具。 配置CloudInit相关操作请参考配置CloudInit工具。

本节介绍了安装Windows特殊驱动的操作场景、GPU驱动、SRIOV网卡驱动。 操作场景 对于一些类型的弹性云主机，如果使用私有镜像进行创建，需要在制作私有镜像时安装特殊驱动。 GPU驱动 如果这个私有镜像用于创建GPU加速型云主机，需要在镜像中安装合适的GPU驱动来获得相应的GPU加速能力。GPU加速型实例中配备的NVIDIA Tesla GPU支持两种类型的驱动：Tesla驱动和GRID/vGPU驱动。 如果需要使用OpenGL/DirectX/Vulcan等图形加速能力，则需要安装GRID/vGPU驱动并自行配置使用GRID License。此外，GRID/vGPU驱动配合vDWS类型License，也支持CUDA，用来满足既需要计算加速也需要图形加速的场景。 如果需要使用NVIDIA CUDA计算加速能力，则需要安装Tesla驱动。 GRID驱动安装方法 实例类型 安装方法 :: G1型 请参见《弹性云主机》“操作指南 > 实例 > 安装驱动和工具包 > GPU加速型实例安装GRID驱动”章节的“下载GRID驱动及License软件包”内容。 G3型 请参见《弹性云主机》“操作指南 > 实例 > 安装驱动和工具包 > GPU加速型实例安装GRID驱动”章节的“下载GRID驱动及License软件包”内容。 G2型 驱动下载地址：< Toolkit建议选择最新版本。 注意 GPU驱动安装完成后，请使用以下命令切换显卡工作模式并重启云主机（假设GPU驱动所在目录为“C:Program FilesNVIDIA CorporationNVSMInvidiasmi.exe”）： "C:Program FilesNVIDIA CorporationNVSMInvidiasmi.exe" dm 0

介绍分布式消息服务RabbitMQ与天翼云其他服务关系。 虚拟私有云(CTVPC，Virtual Private Cloud) 虚拟私有云为分布式消息服务RabbitMQ提供一个逻辑隔离的区域，构建一个安全可靠、 可配置和管理的虚拟网络环境。更多信息请参见虚拟私有云。 弹性云主机（CTECS，Elastic Cloud Server） 分布式消息服务RabbitMQ订购后，默认按照用户选择的实例规格开通弹性云主机，云主机由 CPU、内存、镜像、云硬盘组成，同时结合VPC、安全组、数据多副本保存等能力，打造一个既高效又可靠安全的计算环境，确保分布式消息服务RabbitMQ持久稳定运行。更多信息请参见弹性云主机。 云硬盘（CTEVS，Elastic Volume Service） 分布式消息服务RabbitMQ订购后，默认按照用户选择的存储大小开通云硬盘。云硬盘是一种可弹性扩展的块存储设备，可以为分布式消息服务RabbitMQ提供高性能、高可靠的块存储服务。更多信息请参见云硬盘。 弹性IP（Elastic IP，EIP） 弹性IP是可以独立申请的公网 IP 地址，包括公网IP地址与公网出口带宽服务。可以与分布式消息服务RabbitMQ动态绑定和解绑，实现云资源的互联网访问。针对需要公网访问分布式消息服务RabbitMQ实例的需求，用户可开通弹性IP后，在RabbitMQ实例开通页面进行绑定。更多信息请参见弹性IP。

本文介绍了如何部署模型推理服务。 概述 推理服务是将训练好的机器学习模型部署为可实时处理预测请求的系统，它涉及模型的配置、部署、监控和弹性伸缩。科研助手的推理服务确保了高效、可靠的推理能力。 操作步骤 1. 登录科研助手控制台。 2. 在控制台左侧导航栏中，选择【科研服务】。 3. 在【科研服务】页面中，单击左上角的【部署服务】。 4. 在【部署服务】页面中,分别需要配置基础信息和资源配置。在基础信息中填写服务名称、选择需要部署服务的模型和模型版本，选择所需的运行环境。在资源配置中选择模型服务所需的资源规格和实例数量。配置完毕后点击【启动服务】，即可创建模型推理服务。 5. 以下是配置项的详细说明： 【基础信息】 配置项 介绍 服务名称 模型推理服务的名称，用于在服务列表中展示模型名称。 算法框架 选择模型所使用的框架，默认pytorch。 模型格式 选择模型推理服务所使用的模型格式，默认torchscript。 运行环境 选择实例运行的镜像，内置了模型推理服务所需的运行环境。 【模型来源】 配置项 介绍 企业项目 选择存放模型的科研文件所在的企业项目。 科研文件 选择存放模型的科研文件。 模型路径 选择模型存放在科研文件中的路径。 【资源配置】 配置项 介绍 队列 选择对应可用区下的队列。 资源规格 选择对应可用区下的资源规格。 实例数量 为模型推理服务所需申请的实例数量。

本节介绍了怎样设置镜像密码的有效期的操作步骤。 如果弹性云主机镜像密码已过期导致无法登录，请联系管理员处理。 如果弹性云主机还可正常登录，用户可以参考以下操作设置密码有效期，避免密码过期造成的不便。 操作步骤 以EulerOS 2.2镜像为例： 1. 登录弹性云主机。 2. 执行以下命令，查看密码有效期。 vi /etc/login.defs 找到配置项“PASSMAXDAYS”，该参数表示密码的有效时间。 3. 执行以下命令，修改参数“PASSMAXDAYS”的取值。 chage M 99999 username 其中：99999为密码有效期限，username为系统用户，例如root用户。 说明 建议用户根据实际情况及业务需求进行配置，定期使用该命令更新密码有效期。 4. 再次执行vi /etc/login.defs，验证配置是否生效。 图 验证配置