本文介绍弹性容器实例ECI的基本概念。 ECI相关概念 使用ECI涉及的相关概念如下表所示。 概念 说明 容器（Container） 容器是轻量的、可执行的独立软件包，是镜像运行的实体 容器组（Container Group） 容器组是一组可以被调度到同一台宿主机上的容器集合。这些容器共同构成了容器组的生命周期，并共享容器组的网络和存储资源。一个容器组即一个ECI实例，其概念与Kubernetes的Pod概念类似 镜像（Image） 镜像是一个特殊的文件系统，包含容器应用运行所需的程序、库文件、配置等。Docker镜像是容器应用打包的标准格式，在部署容器化应用时，您需要指定镜像，该镜像可以来自于Docker Hub、天翼云容器镜像服务CRS或者您的私有Registry 镜像缓存（ImageCache） 镜像缓存用于加速拉取镜像，减少ECI实例启动耗时。受网络、镜像大小等因素影响，镜像拉取是ECI实例启动的主要耗时，提前制作镜像缓存可以加速拉取镜像 数据卷（Volume） 数据卷是容器组的共享存储资源。您可以将外部数据卷挂载到指定的容器组，容器组中声明的数据卷由容器组中的所有容器共享 标签（Tag） 标签是附加在容器组上的一系列Key/Value键值对。标签需要在创建容器组时设置，每个容器组最多可以拥有20个标签，其中key值必须唯一。标签的概念与Kubernetes的Label概念类似 虚拟节点（Virtual Node） 基于Kubernetes社区的Virtual Kubelet技术，ECI可以通过虚拟节点的方式接入到Kubernetes集群中，即ECI实例并不会运行在一个集中式的真实节点上，而是会被打散分布在整个天翼云的资源池中

步骤三：本地验证 1. 启动docker容器 docker run u 1003:1003 p 8000:8000 customcontainerhttpexample:latest 2. 打开一个新的命令行窗口，向开放的8000端口发送消息，访问模板代码中指定的/invoke路径 curl XPOST H 'ContentType: application/json' d '{"message":"HelloWorld"}' localhost:8000/helloworld 按照模块代码中返回 Hello FunctionGraph, method POST 3. 在容器启动端口可以看到 receive {"message":"HelloWorld"} 或者使用docker logs命令获取容器的日志 步骤四：上传镜像 1. 登录容器镜像服务控制台，在左侧导航栏选择“我的镜像”。 2. 单击右上角的“客户端上传”或“页面上传”。 3. 根据指示上传镜像。 4. 上传成功后，在“我的镜像”界面可查看。 步骤五：创建函数 1. 登录函数工作流控制台，在左侧的导航栏选择“函数 > 函数列表”。 2. 单击右上方的“创建函数”，进入“创建函数”页面，使用容器镜像部署函数。 3. 填写基本信息。 1. 函数类型：选择“HTTP函数” 2. 函数名称：输入“customcontainerhttp” 3. 容器镜像：选择上一步上传到SWR的镜像。 4. 现有委托：使用包含SWR Admin权限的委托。 4. 完成后单击“创建函数”。

本章节主要介绍典型应用场景，以满足客户多样性的防护需求。 主机安全 统一安全管理 企业主机安全提供统一的主机安全管理能力，帮助用户更方便地管理云服务器的安全配置和安全事件，降低安全风险和管理成本。 安全风险评估 对主机系统进行安全评估，将系统存在的各种风险（帐户、端口、软件漏洞、弱口令等）进行展示，提示用户及时加固，消除安全隐患。 主动安全防御 通过清点主机安全资产，管理主机漏洞与不安全配置，预防安全风险；通过网络、应用、文件主动防护引擎主动防御安全风险。 黑客入侵检测 提供主机全攻击路径检测能力，能够实时、准确地感知黑客入侵事件，并提供入侵事件的响应手段，对业务系统“零”影响，有效应对APT攻击等高级威胁。 容器安全 容器镜像安全 即使在Docker Hub下载的官方镜像中也常常包含了漏洞，而研发人员在使用大量开源框架时更加剧了镜像漏洞问题的出现。 容器镜像安全对镜像进行安全扫描，将镜像中存在的各种风险（镜像漏洞、账号、恶意文件等）进行展示，提示用户及时修改，消除安全隐患。 容器运行时安全 通常容器的行为是固定不变的，容器安全服务帮助企业制定容器行为的白名单，确保容器以最小权限运行，有效阻止容器安全风险事件的发生。

天翼云EMR实例DeepSeekR1DistillQwen7B蒸馏模型部署实践 本节内容主要介绍如何在天翼云EMR实例上，基于Intel® xFasterTransformer加速库和vllm推理引擎完成模型部署，并展示相关性能指标。 1. 服务部署 为了方便用户使用，天翼云联合英特尔制作了一键部署的云主机镜像，内置DeepSeekR1DistillQwen7B模型、vLLM推理框架、xFT加速库以及openwebui前端可视环境。您可在天翼云控制台选择下列资源池和镜像，开通云主机进行体验。 类型 可用资源 可用资源池 华东华东1az2、华东华东1az3 可用规格 c8e系列（最低内存需求32G） 可用镜像 DeepSeekvLLM英特尔AMX推理加速(CPU) 完成云主机开通后，推理服务会在5分钟内自动启动，您无需进行任何其他操作。 注意 如需在云主机外访问服务，您需要绑定弹性IP，并在安全组内放行22/3000/8000端口。 2. 模型使用 openwebui前端使用 镜像已内置openwebui，并已完成和vllm的连接配置，可直接通过以下地址进行访问: plaintext 注意 1. 首次打开页面时，您需要先完成管理员注册，以进行后续的用户管理。注册数据均保存在云实例的/root/volume/openwebui目录下。 2. 如果首次打开对话页面时没有模型可供选择,请您稍等几分钟让模型完成加载即可。 vllm api调用 镜像内置vllm服务可直接通过如下地址访问： plaintext

为了更方便部署,当前多地域资源池可使用云主机启动模版部署DeepSeekR1大模型。通过创建启动模板,可以一键从模板开通多台云主机,快速拉起服务。 当前功能邀测中,您可提交工单进行申请。 前置步骤 进入创建云主机启动模板页面 1. 点击天翼云门户首页的“控制中心”，输入登录的用户名和密码，进入控制中心页面。 2. 单击“产品服务列表>弹性云主机”，进入计算控制台，单击“云主机启动模板”，进入启动模板列表页。 3. 单击“创建启动模板”，进入云主机实例模版创建页。 大模型服务器启动模板配置 1. 根据业务需求配置“计费模式”、“地域”、“可用区”、“企业项目”、“虚拟私有云”等。 2. 选择规格。此处选择"CPU架构"为"X86"、"分类"为"GPU加速/AI加速型"、"规格族"为"GPU计算加速型pi7"、"规格"为"pi7.4xlarge.4"。 3. 选择镜像。“镜像类型”选择“镜像市场”，在云镜像市场中选择预置了DeepSeekR1模型的DeepSeekR17BUbuntu22.04镜像。 注意 本镜像推荐配置：内存≥8G、显存≥16G。 注意 目前提供了预装多种量化精度、多种参数量的模型，如您有需求，也可在云镜像市场中进行选择。 4. 设置云盘类型和大小。 5. 根据需要设置网络，包括"网卡"、"安全组"，同时配备 "弹性IP" 用于下载和访问模型；设置高级配置，包括"登录方式"、"云主机组"、"用户数据"。 6. 填写此模板名称，创建启动模板。

参数名称 参数说明 安装探针 选择安装探针。目前只支持“APM探针”。 探针类型 选择探针的版本类型。 探针升级策略 探针升级的方式、策略。默认为“重启自动升级”。 重启自动升级：每次都尝试重新下载镜像。 重启手动升级：如果本地有该镜像，则使用本地镜像，本地不存在时下载镜像。 APM环境 输入APM环境名称，该参数为选填。 APM业务 选择一个已有的APM应用。 子业务 输入APM子应用，该参数为选填。 接入密钥 将会自动获取APM服务的密钥信息。

本节主要介绍相关术语解释。 使用云容器引擎服务，会涉及到以下基本概念： 集群： 是指容器运行所需云资源的集合，包含了若干台云主机、负载均衡器等云资源。 实例（Pod）： 由相关的一个或多个容器构成一个实例，这些容器共享相同的存储和网络空间。 工作负载： Kubernetes资源对象，用于管理Pod副本的创建、调度以及整个生命周期的自动控制。 Service： 由多个相同配置的实例（Pod）和访问这些实例（Pod）的规则组成的微服务。 Ingress： Ingress是用于将外部HTTP（S）流量路由到服务（Service）的规则集合。 Helm应用 ：Helm是管理Kubernetes应用程序的打包工具，提供了Helm Chart在指定集群内图形化的增删改查。 镜像仓库 ：用于存放Docker镜像，Docker镜像用于部署容器服务。 您在使用前可以了解更多Kubernetes相关知识，具体请参见：<

本文主要介绍Agent安装配置方式说明 。 安装Agent方式有如下几种，你可以根据你所使用的服务的操作系统类型、是否有多个服务器以及个人习惯选择任何一种或多种安装方式： 安装场景 支持的服务 参考章节 安装Agent（Linux） ECS、BMS 在ECS/BMS中安装配置Agent（Linux） 安装Agent（Windows） ECS 在ECS中安装配置Agent（Windows） 批量安装Agent（Linux） ECS 在ECS中批量安装Agent（Linux） 安装配置依赖： 安装Agent依赖DNS的配置和安全组配置，DNS错误或安全组规则不正确会导致Agent包下载失败。因此在安装Agent前需要首先修改DNS的配置并配置安全组规则。 安装Agent后，可以通过“修复插件配置”完成委托配置和文件配置。 当通过“修复插件配置”或其他原因无法完成Agent配置时，您还可以手工配置Agent。 支持安装Agent的操作系统请参见Agent支持的系统有哪些？ 对于私有镜像，推荐您使用已安装Agent的ECS或BMS制作私有镜像，并使用该私有镜像创建ECS或BMS，并在创建完资源后通过修复插件配置（ Linux ）来完成Agent的配置。 注：制作的私有镜像不支持跨Region使用，跨Region使用会导致没有监控数据。 注意 使用私有镜像安装使用Agent过程中出现任何问题，CES将不对此提供技术支持。

section84b7112f7f4d1fd3)。 购买时长 支持选择111个月、15年。 自动续订 根据您业务自身需求选择是否开启自动续订。 5.配置完成后，确认订单无误并阅读《天翼云数据安全专区服务协议》后，勾选“我已阅读并同意《天翼云数据安全专区服务协议》”，单击“立即购买”。 在一类节点购买云主机 购买云主机请参考：弹性云主机创建弹性云主机章节。 数据库安全网关资产 推荐云主机规格 4资产 CPU：8核 内存：16GB 系统盘：100GB 数据盘：500GB 8资产 CPU：8核 内存：16GB 系统盘：100GB 数据盘：1TB 16资产 CPU：16核 内存：32GB 系统盘：100GB 数据盘：1TB 32资产 CPU：32核 内存：64GB 系统盘：100GB 数据盘：2TB 说明 选择镜像时，需要在“云镜像市场”选择“数据安全专区数据库安全网关V1”镜像。 在二类节点购买云主机 购买云主机请参考：弹性云主机创建弹性云主机章节。 数据库安全网关资产 推荐云主机规格 4资产 CPU：8核 内存：16GB 系统盘：100GB 数据盘：500GB 8资产 CPU：8核 内存：16GB 系统盘：100GB 数据盘：1TB 16资产 CPU：16核 内存：32GB 系统盘：100GB 数据盘：1TB 32资产 CPU：32核 内存：64GB 系统盘：100GB 数据盘：2TB 说明 选择镜像时，需要在“公共镜像”选择“安全产品—数据安全专区数据库安全网关(100GB)”镜像。

一、构建服务器 1. 构建服务器并准备ISO镜像文件。 推荐使用Packer软件的服务器配置如下： CPU：Intel 或 AMD，4核或以上， 内存：8GB或以上， 存储：100GB（存储空间需要包含服务器自身操作系统、源ISO镜像文件、构建的镜像文件的空间，建议您预留的空间大于这些空间总和）， 网络：联通公网，需要下载虚拟化、Packer 等软件。 注意 使用Packer构建镜像的过程中需要使用虚拟化软件（包括KVM、Libvirt、QEMU等），因此请您确认：使用Packer软件构建镜像的物理机或虚拟机支持虚拟化。 如果您无法确定本机是否支持虚拟化，您可以采用本示例的方式，基于Windows操作系统，安装VMware Workstation，并勾选支持虚拟化的配置，创建出服务器。 本示例基于 Windows 操作系统的宿主机，使用 VMware Workstation 创建出 CentOS9 64位 操作系统的虚拟机，作为使用 Packer 构建镜像的服务器。 使用 VMware Workstation 请确认勾选“虚拟化 Intel VTx/EPT 或 AMDV/RVI(V)”，如下图所示： 创建完成后，将原始ISO镜像上传至该虚机。 本示例使用的是ctyunos22.06.iso作为演示，目标为制作ctyunos22.06.qcow2的镜像文件。 2. 安装虚拟化环境。 1. 加载 KVM 模块。 执行以下命令在虚拟机内加载KVM模块。 plaintext modprobe kvm 执行下述命令检查虚拟机是否加载KVM模块。 plaintext lsmod grep kvm 或者 plaintext egrep o '(vmxsvm)' /proc/cpuinfo 如果有返回表示已加载： vmx：代表 Intel 的虚拟化支持（VTx） svm：代表 AMD 的虚拟化支持（AMDV） 如下图所示： 2. 启动 Libvirt 服务。 在操作系统命令行中执行以下命令： plaintext

本文介绍如何创建私密凭据。 操作步骤 1.单击左侧导航栏的【配置中心】>【私密凭据】，单击【创建私密凭据】； 2.参照下表设置新增私密凭证参数，其中带“”标志的参数为必填参数。其中类型参数为单选参数，共三个选项，涉及后续填写项有所区别，首次进入默认为Opaque，参数如下表。输入完成后，单击【创建】。 参数 参数含义 集群 访问凭据所在集群。若没有可选集群，单击“创建集群”进行创建，操作步骤请参见集群创建 命名空间 访问凭据所在命名空间。若没有可选命名空间，单击“创建命名空间”进行创建，操作步骤请参见创建命名空间 名称 新建访问凭据的名称，同一个命名空间里命名必须唯一 类型 . Opaque：一般密钥类型。 . Credentials：存放拉取私有仓库镜像所需的认证信息。 . Dockercfg：存放拉取私有仓库镜像所需的配置文件。 . IngressTLS：存放Ingress服务所需的证书 类型为： Opaque 添加项 增加一对键、配置项内容 键 配置项的键值。键值只能由字母、数字、句点、连字符和下划线组成 配置项内容 配置项的内容 类型为： Credentials 镜像仓库地址 输入镜像仓库的地址 用户名 该镜像仓库的用户名称 密码 用户名称所对应的的密码 邮箱 该用户的邮箱地址，必须为user@domain格式 Dockerconfigjson 添加项 增加一对键、配置项内容 键 配置项的键值。键值只能由字母、数字、句点、连字符和下划线组成 配置文件 配置项的内容，可上传文件，上传拉取私有仓库镜像所需的配置文件 IngressTLS 添加项 增加一对键、配置项内容 键 配置项的键值。键值只能由字母、数字、句点、连字符和下划线组成 证书文件 存放Ingress服务所需的证书文件 秘钥文件 存放Ingress服务所

本节主要介绍镜像创建无状态工作负载（Nginx） 。 您可以使用容器镜像快速创建一个可公网访问的单实例工作负载。本章节将指导您基于云容器引擎CCE快速部署Nginx容器应用，并管理该容器应用的全生命周期，以期让您具备将云容器引擎应用到实际项目中的能力。 前提条件 您需要创建一个至少包含一个4核8G节点的集群，且该节点已绑定弹性IP，并确保其可联网下载容器镜像。 集群是运行工作负载的逻辑分组，包含一组云主机资源，每台云主机即集群中的一个节点。 创建集群的方法，请参见 集群。 Nginx应用概述 Nginx是一款轻量级的Web服务器，您可通过CCE快速搭建nginx web服务器。 本章节将以创建Nginx应用为例，来创建一个工作负载，预计需要5分钟。 本章节执行完成后，可成功访问Nginx的网页，如下图。 图 本例结果 操作步骤 步骤 1 登录CCE控制台。 步骤 2 单击集群进入集群控制台。 步骤 3 在左侧菜单栏选择“工作负载”，单击右上角“创建负载”。 步骤 4 填写以下参数，其它保持默认。 基本信息 负载类型：选择无状态负载。 负载名称：nginx。 命名空间：default。 实例数量：请设置为1。 容器配置 在基本信息中，“镜像名称”输入框中输入“nginx:latest”。 服务配置 单击服务配置下的加号，创建服务（Service），用于从外部访问负载。本例将创建一个负载均衡类型的Service，请在右侧弹窗中配置如下参数。 Service名称：输入应用发布的可被外部访问的名称，设置为：nginx。 访问类型：选择“负载均衡 ( LoadBalancer )”。 服务亲和：保持默认。 负载均衡器：如果已有负载均衡（ELB）实例，可以选择已有ELB，如果没有可选择“自动创建”，创建一个公网类型负载均衡器。 端口配置： 对外协议：TCP。 服务端口：设置为9888，该端口号将映射到容器端口。 容器端口：容器中应用启动监听的端口，nginx镜像请设置为80，其他应用容器端口和应用本身的端口一致。 步骤 5 单击右下角“创建工作负载”。 等待工作负载创建成功。 创建成功后在无状态负载下会显示一个运行中的工作负载。

集群外资源迁移 集群外资源主要包括自建镜像仓库、自建数据库等。这些迁移工作是可选的，可以根据实际需求决定是否进行。 自建镜像仓库迁移请参见：迁移自建Harbor至容器镜像服务企业版 自建数据库如mysql迁移请参见：使用mysqldump迁移MySQL数据 迁移工具安装 Velero作为一款开源的解决方案，专为Kubernetes集群设计，提供了全面的备份与迁移功能。其内建了对Restic工具的支持，以确保对Persistent Volume（PV）数据的安全备份。借助Velero，用户能够系统性地备份原Kubernetes集群中的各类资源实体，包括但不限于Deployments、Jobs、Services、ConfigMaps等，以及与Pod关联的持久卷数据，并将这些备份安全地传输并储存在指定的对象存储服务中。 当面临灾难恢复场景或有计划的集群迁移需求时，目标集群只需运用同样配置的Velero工具，即可从预先设定的对象存储位置检索相应的备份数据，进而按照实际需求逐步恢复集群资源的状态。 前提条件 原始自建集群Kubernetes版本与所选云容器引擎的版本差距尽量小，差距越大，迁移过程中出现不兼容的风险越大 准备存放备份数据的对象存储，可以使用云厂商提供的对象存储，或者自建minio服务，本文使用自建MinIO服务 已开通迁移的目标云容器引擎集群 源集群与目标集群都可以正常访问到对象存储服务

云产品名称 产品说明 计费说明 弹性容器实例ECI 用于部署Serverless容器引擎集群应用及插件，更多信息，请参见 虚拟私有云VPC 用于构建集群网络环境和路由规则，更多信息，请参见 弹性负载均衡ELB 用于为集群创建负载均衡，更多信息，请参见 容器镜像服务CRS 用于容器镜像的安全托管和全生命周期管理，更多信息，请参见 NAT网关 用于为集群开启公网访问和公网镜像拉取，更多信息，请参见 弹性IP 用于云资源与公网通信，更多信息，请参见

使用SCSI类型磁盘需要安装驱动吗 使用SCSI的磁盘时，需要为某些云主机操作系统安装驱动，具体如下： 物理机 物理机的Windows和Linux镜像操作系统中已经预安装了使用SCSI磁盘所需的驱动，即SDI卡驱动，因此无需再安装。 KVM ECS 当您使用SCSI磁盘时，推荐您配合虚拟化类型为KVM的ECS一同使用。因为KVM ECS的Linux操作系统内核中已经包含了驱动，Windows操作系统中也包含了驱动，无需您再额外安装驱动，使用便捷。 说明 ECS的虚拟化类型分为KVM和XEN，想了解您所使用的ECS虚拟化类型，请参见“弹性云主机用户指南 > 产品介绍 > 实例类型”。 XEN ECS 由于驱动和操作系统支持的限制，不建议您一同使用SCSI磁盘与虚拟化类型为XEN的ECS。 然而，当前有一部分Windows和Linux操作系统支持SCSI磁盘，详情请参见下表。 说明 当XEN ECS的操作系统已满足SCSI磁盘的要求时，需要根据以下情况判断是否安装SCSI驱动。 Windows公共镜像的操作系统中已经预安装Paravirtual SCSI (PVSCSI) 驱动，无需再安装。 Windows私有镜像的操作系统中未安装PVSCSI驱动，请您自行下载并安装驱动。 具体方法请参见“镜像服务用户指南”中的“优化Windows私有镜像（可选）”小节。 Linux操作系统中未安装PVSCSI驱动，请在这里下载源码并编译安装。 表 SCSI磁盘支持的操作系统 虚拟机化类型 操作系统 ::: XEN Windows 请参见“公共镜像”中的Window操作系统。 查看方法：登录管理控制台，选择“镜像服务 > 公共镜像 > ECS镜像 > Windows”，即可查看操作系统列表。 XEN Linux SUSE Linux Enterprise Server 11 SP4 64bit (内核版本号为3.0.10168default or 3.0.10180default) SUSE Linux Enterprise Server 12 64bit (内核版本号为3.12.5152.31default) SUSE Linux Enterprise Server 12 SP1 64bit (内核版本号为3.12.6760.64.24default) SUSE Linux Enterprise Server 12 SP2 64bit (内核版本号为4.4.7492.35.1default)

操作场景 在运行中始终不保存任何数据或状态的工作负载称为“无状态负载 Deployment”，例如nginx。您可以通过控制台或kubectl命令行创建无状态负载。 前提条件 在创建容器工作负载前，您需要存在一个可用集群。若没有可用集群 ，请参照集群管理>购买混合集群中内容进行创建。 若工作负载需要被外网访问，请确保集群中至少有一个节点已绑定弹性IP，或已购买负载均衡实例。 创建多个工作负载时，请确保容器使用的端口不冲突 ，否则部署会失败。 通过控制台创建 云容器引擎提供了多种创建工作负载的方式，您可以通过如下方式进行创建： 基于“我的镜像”创建工作负载，用户首先需要将镜像上传至容器镜像服务。 基于“共享镜像”创建工作负载，即其它租户通过“容器镜像服务”共享给您的镜像。 您希望通过YAML方式创建工作负载，您可在“创建无状态工作负载”高级设置页面单击界面右侧的“YAML创建”，通过yaml的方式创建工作负载。YAML编写完成后，可单击“创建”，直接创建工作负载。 说明： YAML文件是和界面保持同步的，您也可以通过界面和YAML互动完成工作负载的创建。例如： 界面中填写工作负载名称后，YAML文件会自动关联该名称。 界面中添加完镜像后，YAML中也会自动关联该镜像。 控制台界面右侧的“YAML创建”不支持多个YAML混合，请分别创建，否则创建时将会报错。 步骤 1 登录CCE控制台，在左侧导航栏中选择“工作负载 > 无状态负载 Deployment”，单击“创建无状态工作负载”。参照下表设置工作负载基本信息，其中带“”标志的参数为必填参数。 工作负载基本信息 参数 参数说明 工作负载名称 新建工作负载的名称，命名必须唯一。 请输入4到63个字符的字符串，可以包含小写英文字母、数字和中划线（），并以小写英文字母开头，小写英文字母或数字结尾。 集群名称 新建工作负载所在的集群。 命名空间 在单集群中，不同命名空间中的数据彼此隔离。使应用可以共享同个集群的服务，也能够互不干扰。若您不设置命名空间，系统会默认使用default命名空间。 实例数量 工作负载的实例数量。工作负载可以有一个或多个实例，用户可以设置具体实例个数，默认为2，可自定义设置为1。 每个工作负载实例都由相同的容器部署而成。设置多个实例主要用于实现高可靠性，当某个实例故障时，工作负载还能正常运行。若使用单实例，节点异常或实例异常会导致服务异常。 时区同步 单击开启后，容器将和节点使用相同时区。 须知：时区同步功能开启后，在“数据存储 > 本地磁盘”中，将会自动添加HostPath类型的磁盘，请勿修改删除该磁盘。 工作负载描述 工作负载描述信息。 步骤 2 单击“下一步：容器设置”，添加容器。 1. 单击“添加容器”，选择需要部署的镜像。 − 我的镜像：展示了您创建的所有镜像仓库。 − 第三方镜像：CCE支持拉取第三方镜像仓库（即镜像仓库之外的镜像仓库）的镜像创建工作负载。使用第三方镜像时，请确保工作负载运行的节点可访问公网。第三方镜像的具体使用方法请参见如何使用第三方镜像。 若您的镜像仓库不需要认证，密钥认证请选择“否”，并输入“镜像名称”，单击“确定”。 若您的镜像仓库都必须经过认证（帐号密码）才能访问，您需要先创建密钥再使用第三方镜像，具体操作请参见如何使用第三方镜像。 − 共享镜像：其它租户通过“容器镜像服务”共享给您的镜像将在此处展示，您可以基于共享镜像创建工作负载。 2. 配置镜像基本信息。 工作负载是Kubernetes对一组Pod的抽象模型，用于描述业务的运行载体，一个Pod可以封装1个或多个容器，您可以单击右上方的“添加容器”，添加多个容器镜像并分别进行设置。 镜像参数说明 参数 说明 镜像名称 导入的镜像，您可单击“更换镜像”进行更换。 镜像版本 选择需要部署的镜像版本。 容器名称 容器的名称，可修改。 特权容器 特权容器是指容器里面的程序具有一定的特权。 若选中，容器将获得超级权限，例如可以操作宿主机上面的网络设备、修改内核参数等。 容器规格 CPU 配额： 申请：容器需要使用的最小CPU值，默认0.25Core。 限制：允许容器使用的CPU最大值。建议设容器配额的最高限额，避免容器资源超额导致系统故障。 内存配额： 申请：容器需要使用的内存最小值，默认512MiB。 限制：允许容器使用的内存最大值。如果超过，容器会被终止。 申请和限制的具体请参见设置容器规格。 GPU 配额：当集群中包含GPU节点时，才能设置GPU，无GPU节点不显示此选项。 容器需要使用的GPU百分比。勾选“使用”并设置百分比，例如设置为10%，表示该容器需使用GPU资源的10%。若不勾选“使用”，或设置为0，则无法使用GPU资源。 GPU 显卡：工作负载实例将被调度到GPU显卡类型为指定显卡的节点上。 若勾选“不限制”，容器将会随机使用节点中的任一显卡。您也可以勾选某个显卡，容器将使用特定显卡。 3. 生命周期：用于设置容器启动和运行时需要执行的命令。 − 启动命令：设置容器启动时执行的命令，具体请参见设置容器启动命令。 − 启动后处理：设置容器成功运行后执行的命令，详细配置方法请参见设置容器生命周期。 − 停止前处理：设置容器结束前执行的命令，通常用于删除日志/临时文件等，详细配置方法请参见设置容器生命周期。 4. 健康检查：CCE提供了存活与业务两种探针，用于判断容器和用户业务是否正常运行。详细配置方法请参见设置容器健康检查。 − 工作负载存活探针：检查容器是否正常，不正常则重启实例。 − 工作负载业务探针：检查用户业务是否就绪，不就绪则不转发流量到当前实例。 5. 环境变量：在容器中添加环境变量，一般用于通过环境变量设置参数。 在“环境变量”页签，单击“添加环境变量”，当前支持三种类型： − 手动添加：输入变量名称、变量/变量引用。 − 密钥导入：输入变量名称，选择导入的密钥名称和数据。您需要提前创建密钥，具体请参见配置中心>创建密钥。 − 配置项导入：输入变量名称，选择导入的配置项名称和数据。您需要提前创建配置项，具体请参见配置中心>创建配置项。 说明： 对于已设置的环境变量，单击环境变量后的“编辑”，可对该环境变量进行编辑。单击环境变量后的“删除”，可删除该环境变量。 6. 数据存储：给容器挂载数据存储，支持本地磁盘和云存储，适用于需持久化存储、高磁盘IO等场景。具体请参见存储管理。 7. 安全设置：对容器权限进行设置，保护系统和其他容器不受其影响。 请输入用户ID，容器将以当前用户权限运行。 8. 容器日志：设置容器日志采集策略、配置日志目录。用于收集容器日志便于统一管理和分析。详细配置请参见采集容器标准输出日志、采集容器内路径日志。 步骤 3 单击“下一步：工作负载访问设置”，单击“添加服务”，设置工作负载访问方式。 若工作负载需要和其它服务互访，或需要被公网访问，您需要添加服务，设置工作负载访问方式。 工作负载访问的方式决定了这个工作负载的网络属性，不同访问方式的工作负载可以提供不同网络能力，具体请参见网络管理>网络概述。 步骤 4 单击“下一步：高级设置”，配置更多高级策略。 升级策略：您可以指定无状态工作负载的升级方式，包括逐步“滚动升级”和整体“替换升级”。 − 滚动升级：将逐步用新版本的实例替换旧版本的实例，升级的过程中，业务流量会同时负载均衡分布到新老的实例上，因此业务不会中断。 最大无效实例数：每次滚动升级允许的最大无效实例数，如果等于实例数有断服风险（最小存活实例数 实例数 最大无效实例数）。 − 替换升级：将先把您工作负载的老版本实例删除，再安装指定的新版本，升级过程中业务会中断。 缩容策略：为工作负载删除提供一个时间窗，预留给生命周期中PreStop阶段执行命令。若超过此时间窗，进程仍未停止，该工作负载将被强制删除。 − 缩容时间窗 (s)：请输入时间，该时间为工作负载停止前命令的执行时间窗（09999秒），默认30秒。 − 缩容优先级：可根据业务需要选择“优先减少新实例”或“优先减少老实例”。 迁移策略：当工作负载实例所在的节点不可用时，系统将实例重新调度到其它可用节点的时间窗。 − 迁移时间窗 (s)：请输入时间，默认为300秒。 调度策略：您可以根据需要自由组合静态的全局调度策略或动态的运行时调度策略来实现自己的需求。具体请参见亲和反亲和性调度>调度策略概述。 Pod高级设置 − Pod标签：内置app标签在工作负载创建时指定，主要用于设置亲和性与反亲和性调度，暂不支持修改。您可以单击下方的“添加标签”增加标签。 说明： 客户端DNS配置：CCE集群内置DNS插件CoreDNS，为集群内的工作负载提供域名解析服务。详细使用方法请参见Kubernetes集群内置DNS配置说明。 − DNS策略： 追加域名解析配置：选择该配置后，将保留默认配置，以下“IP地址”和“搜索域”配置可能不生效。 替换域名解析配置：选择该配置后，将仅使用以下“IP地址”和“搜索域”配置进行域名解析。 继承Pod所在节点域名解析配置：将继承Pod所在节点的域名解析配置。 − IP地址：您可对自定义的域名配置域名服务器，值为一个或一组DNS IP地址，如“1.2.3.4”。 − 搜索域：定义域名的搜索域列表，当访问的域名不能被DNS解析时，会把该域名与搜索域列表中的域依次进行组合，并重新向DNS发起请求，直到域名被正确解析或者尝试完搜索域列表为止。 − 超时时间（s）：查询超时时间，请自定义。 − ndots：表示域名中必须出现的“.”的个数，如果域名中的“.”的个数不小于ndots，则该域名为一个FQDN，操作系统会直接查询；如果域名中的“.”的个数小于ndots，操作系统会在搜索域中进行查询。 自定义指标监控：是指监控系统提供的一种指标收集机制，该机制允许工作负载在部署时自定义需要上报的指标名称以及获取这些指标数据的接入点信息，在应用运行时由监控系统按固定的频率访问接入点进行指标的收集。 性能管理配置：性能管理服务可协助您快速进行工作负载的问题定位与性能瓶颈分析。 步骤 5 配置完成后，单击“创建”，在创建成功页面单击“返回工作负载列表”，查看工作负载状态。 在工作负载列表中，当工作负载状态为“运行中”时，表示工作负载创建成功。工作负载状态不会实时更新，请刷新页面查看。 步骤 6 在“无状态负载 Deployment”页面的工作负载列表中，复制“外部访问地址”，可在浏览器中访问工作负载。 说明： 当工作负载访问方式设为“节点访问（NodePort）”并绑定弹性IP或设为“负载均衡 ( LoadBalancer )”时，才可以获取外部访问地址，可以访问外网。 工作负载列表页在超过500条以上时，将采用Kubernetes的分页机制进行分页。Kubernetes的分页机制：仅支持回到第一页和查看下一页，不支持查看上一页，且在分页显示的情况下，资源总数显示的是批量查询出的数目而不是真实总数。 通过kubectl命令行创建 本节以nginx工作负载为例，说明kubectl命令创建工作负载的方法。 前提条件 请参见通过kubectl操作CCE集群配置kubectl命令，使弹性云主机连接集群。 操作步骤 步骤 1 登录已配置好kubectl命令的弹性云主机。 步骤 2 创建一个名为nginxdeployment.yaml的描述文件。其中，nginxdeployment.yaml为自定义名称，您可以随意命名。 vi nginxdeployment.yaml 描述文件内容如下。此处仅为示例，deployment的详细说明请参见kubernetes官方文档。 apiVersion: apps/v1 kind: Deployment metadata: name: nginx spec: replicas: 1 selector: matchLabels: app: nginx strategy: type: RollingUpdate template: metadata: labels: app: nginx spec: containers: image: nginx imagePullPolicy: Always name: nginx imagePullSecrets: name: defaultsecret 以上yaml字段解释如下表。 deployment字段详解 字段名称 字段说明 必选/可选 apiVersion 表示API的版本号。 说明 集群版本为1.9之前的无状态应用apiVersion格式为extensions/v1beta1，1.9之后的集群兼容extensions/v1beta1和apps/v1两种格式Version，请根据集群版本输入。 必选 kind 创建的对象类别。 必选 metadata 资源对象的元数据定义。 必选 name deployment的名称。 必选 Spec 用户对deployment的详细描述的主体部分都在spec中给出。 必选 replicas 实例数量。 必选 selector 定义Deployment可管理的容器实例。 必选 strategy 升级类型。当前支持两种升级方式，默认为滚动升级。 RollingUpdate：滚动升级。 ReplaceUpdate：替换升级。 可选 template 描述创建的容器实例详细信息。 必选 metadata 元数据。 必选 labels metadata.labels定义容器标签。 可选 spec: containers image（必选）：容器镜像名称。 imagePullPolicy（可选）：获取镜像的策略，可选值包括Always（每次都尝试重新下载镜像）、Never（仅使用本地镜像）、IfNotPresent（如果本地有该镜像，则使用本地镜像，本地不存在时下载镜像），默认为Always。 name（必选）：容器名称。 必选 imagePullSecrets Pull镜像时使用的secret名称。若使用私有镜像，该参数为必选。 需要Pull SWR容器镜像仓库的镜像时，参数值固定为defaultsecret。 当Pull第三方镜像仓库的镜像时，需设置为创建的secret名称。 可选 步骤 3 创建deployment。 kubectl create f nginxdeployment.yaml 回显如下表示已开始创建deployment。 deployment "nginx" created 步骤 4 查看deployment状态。 kubectl get pods deployment状态显示为Running，表示deployment已创建成功。 NAME READY STATUS RESTARTS AGE icagentm9dkt 0/0 Running 0 3d nginx1212400781qv313 1/1 Running 0 3d 参数解析： NAME：pod的名称 READY：已经部署完毕的pod副本数 STATUS：状态 RESTARTS：重启次数 AGE：已经运行的时间 步骤 5 若工作负载（即deployment）需要被访问（集群内访问或节点访问），您需要设置访问方式，具体请参见8 网络管理创建对应服务。

1.3 部署脚本下载与解压 将部署所需脚本包下载至服务运行目录并解压，其中Qwen332B目录包含服务启停脚本（appstart.sh、appstop.sh等）、配置文件（config.json）及相关运行目录。 plaintext cd /mnt/nvme0n1 wget tar xvf qwen332bhw1nodev20250728.tar 1.4 MindIE 容器镜像准备 MindIE 容器镜像是模型推理的运行环境载体，需按以下步骤准备： 1、创建镜像存储目录并下载镜像： plaintext mkdir p /mnt/nvme1n1/apptainer cd /mnt/nvme1n1/apptainer wget 2、在服务运行目录创建软链接，便于服务调用镜像： plaintext cd /mnt/nvme0n1/Qwen332B ln s /mnt/nvme1n1/apptainer/mindie2.0.RC2800IA2py311openeuler24.03ltsqwen3.sif . 1.5 下载模型文件 将模型文件下载并保存在每个节点的/mnt/nvme1n1/model/ 目录下，并配置模型文件访问权限为750，确保服务可正常读取： plaintext [root@new ~] ls l /mnt/nvme1n1/model/Qwen332B total 64004232 rwxrx 1 root root 728 Jul 24 11:23 config.json rwxrx 1 root root 73 Jul 24 11:23 configuration.json rwxrx 1 root root 239 Jul 24 11:23 generationconfig.json rwxrx 1 root root 1671853 Jul 24 11:23 merges.txt rwxrx 1 root root 3957109648 Jul 24 11:36 model00001of00017.safetensors 。。。。。。 rwxrx 1 root root 3055341992 Jul 24 11:50 model00017of00017.safetensors rwxrx 1 root root 58330 Jul 24 11:46 model.safetensors.index.json rwxrx 1 root root 16636 Jul 24 11:46 README.md rwxrx 1 root root 9732 Jul 24 11:46 tokenizerconfig.json rwxrx 1 root root 11422654 Jul 24 11:46 tokenizer.json rwxrx 1 root root 2776833 Jul 24 11:46 vocab.json 二、起停服务

本节介绍风险阻断的用户指南。 概述 通过风险阻断功能，配置阻断规则以及可放通的规则和漏洞白名单，能够在拉取镜像时检查容器镜像是否符合阻断策略，并采取阻断措施，返回相关阻断说明。提高容器运行环境的安全系数。 添加风险阻断策略 本功能只能在企业版实例使用，对于个人版实例不支持使用此功能。 1. 进入容器镜像服务控制台。 2. 在顶部菜单栏，选择所需资源池。 3. 在实例页面中选择已开通的企业版实例。 4. 在企业版实例管理页面的左侧菜单上选择 "安全可信" "风险阻断"，在界面左上角点击“配置阻断策略”按钮。 5. 在弹出界面中设置策略所属命名空间、阻断规则、放通未扫描和漏洞白名单等信息，点击“确定”，各参数说明如下： 参数 是否必填 说明 命名空间 必填 本策略关联的命名空间，凡是此命名空间下的所有镜像拉取都会使用当前策略进行检查。 阻断规则 必填 可选项包括：严重、高危、中危和低危。凡是所拉取的镜像包含规则指定漏洞等级及以上的，则会被阻断拦截。 放通未扫描 非必填 当所拉取的镜像因正在扫描或者扫描失败而无法获取扫描结果的，需要勾选此选项方可正常拉取，否则仍然会被阻断拦截。 漏洞白名单 非必填 可录入一条或多条漏洞的CVE ID（多条用英文逗号“,”分隔），如果镜像安全扫描结果中包含该漏洞ID，将被阻断规则忽略。

产品架构 通过和其他产品、服务组合，弹性云主机可以实现计算、存储、网络、镜像安装等功能： 弹性云主机在不同可用区中部署（可用区之间通过内网连接），部分可用区发生故障后不会影响同一区域内的其它可用区。 可以通过虚拟私有云建立专属的网络环境，设置子网、安全组，并通过弹性IP实现外网链接（需带宽支持）。 通过镜像服务，可以对弹性云主机安装镜像，也可以通过私有镜像批量创建弹性云主机，实现快速的业务部署。 通过云硬盘服务实现数据存储，并通过云硬盘备份服务实现数据的备份和恢复。 云监控是保持弹性云主机可靠性、可用性和性能的重要部分，通过云监控，用户可以观察弹性云主机资源。 云硬盘备份可为云硬盘创建备份，利用备份数据回滚云硬盘，以最大限度保证用户数据正确性和安全性，确保云硬盘安全。 云主机备份提供对弹性云主机的备份保护服务。支持对弹性云主机中的所有云硬盘（系统盘和数据盘）进行备份，并利用备份数据恢复弹性云主机数据。 图 ECS产品架构 访问方式 公有云提供了Web化的服务管理平台，即管理控制台和基于HTTPS请求的API（Application programming interface）管理方式。 API方式 如果用户需要将公有云平台上的弹性云主机集成到第三方系统，用于二次开发，请使用API方式访问弹性云主机，如有需求，请联系天翼云客户经理。 控制台方式 其他相关操作，请使用管理控制台方式访问弹性云主机。 如果用户已注册公有云，可直接登录管理控制台，从主页选择“弹性云主机”。

如何处理“挂载分区XXX到目录XXX失败”？ 问题描述 Linux文件级迁移过程中，在任务详情页面显示迁移失败，失败原因为：“sms.3205 挂载分区 /dev/vdc1到目录 /mnt/vdc1失败”。 问题分析 源端存在文件系统不在兼容列表范围内，导致无法成功挂载。 解决方案 检查源端文件系统类型，目前主机迁移服务支持的Linux文件系统类型包括：ext2，ext3、ext4、xfs、vfat、btrfs。reiserfs等文件系统暂不支持。 对于不支持的文件系统，可以将文件拷贝到其他文件系统，然后卸载不支持的文件系统后再进行迁移。 如果源端服务器不方便上述操作，您可以采用以下方式： 使用镜像服务，通过外部镜像文件创建Windows系统盘镜像或通过外部镜像文件创建Linux系统盘镜像。 不迁移源端服务器，直接使用公有镜像或市场镜像创建目的端服务器，然后重新部署源端服务器的应用。 使用甄选商城上云迁移专家服务。 “迁移分区到目的端失败”或“同步分区到目的端失败”怎么处理？ 问题描述 迁移过程中提示“SMS.0805 迁移分区XXX到目的端XXX失败”或“SMS.0806 同步分区XXX到目的端XXX失败”。 问题分析 迁移分区数据到目的端失败可能有如下几种原因： 1. 源端到目的端网络不通 2. 目的端该分区磁盘被写满 3. 目的端磁盘被卸载 4. 源端 /etc/ssh/sshconfig配置错误 5. tar进程退出 解决方案 1. 请先排查是否是网络原因导致的，如果网络不通请先解决网络问题。 2. 请查看目的端该分区是否被占满，如果该分区被占满可删除目的端部分无用文件，然后重试。也可删除源端该分区部分无用文件，然后重新迁移。确保分区磁盘留有足够空间。 3. 查看目的端该分区磁盘是否被卸载，如果被卸载请重新挂载。登录主机迁移服务控制台，单击左侧导航栏的“迁移服务器”，单击要迁移的服务器操作列的“开始”。 4. 请查看 /root/f2fmigrateerror.log。如果有类似 /etc/ssh/sshconfig:line 69: Bad configuration option: clientactiveinterval。表明配置有问题，请更正 sshconfig配置后重试。 5. 检查源端或目的端是否存在tar进程，如果不存在说明tar进程被终止。请登录主机迁移服务控制台，单击左侧导航栏的“迁移服务器”，单击要迁移的服务器操作列的“开始”。

十五、 CCE启动实例失败时的重试机制是怎样的？ CCE是基于原生Kubernetes的云容器引擎服务，完全兼容Kubernetes社区原生版本，与社区最新版本保持紧密同步，完全兼容Kubernetes API和Kubectl。 在Kubernetes中，Pod的spec中包含一个restartPolicy字段，其取值包括：Always、OnFailure和Never，默认值为：Always。 Always：当容器失效时，由kubelet自动重启该容器。 OnFailure：当容器终止运行且退出不为0时（正常退出），由kubelet自动重启该容器。 Never：不论容器运行状态如何，kubelet都不会重启该容器。 restartPolicy适用于Pod中的所有容器。 restartPolicy仅针对同一节点上kubelet的容器重启动作。当Pod中的容器退出时，kubelet 会按指数回退方式计算重启的延迟（10s、20s、40s...），其最长延迟为5分钟。 一旦某容器执行了10分钟并且没有出现问题，kubelet对该容器的重启回退计时器执行重置操作。 每种控制器对Pod的重启策略要求如下： Replication Controller（RC）和DaemonSet：必须设置为Always，需要保证该容器的持续运行。 Job：OnFailure或Never，确保容器执行完成后不再重启。 十六、 CCE集群中工作负载镜像的拉取策略？ 容器在启动运行前，需要镜像。镜像的存储位置可能会在本地，也可能会在远程镜像仓库中。 Kubernetes配置文件中的imagePullPolicy属性是用于描述镜像的拉取策略的，如下： Always：总是拉取镜像。 imagePullPolicy: Always IfNotPresent：本地有则使用本地镜像，不拉取。 imagePullPolicy: IfNotPresent Never：只使用本地镜像，从不拉取，即使本地没有。 imagePullPolicy: Never 说明 1. 如果设置为Always ，则每次容器启动或者重启时，都会从远程仓库拉取镜像。 如果省略imagePullPolicy，策略默认为Always。 2. 如果设置为IfNotPreset，有下面两种情况： 当本地不存在所需的镜像时，会从远程仓库中拉取。 如果我们需要的镜像和本地镜像内容相同，只不过重新打了tag。此tag镜像本地不存在，而远程仓库存在此tag镜像。这种情况下，Kubernetes并不会拉取新的镜像。

为了充分发挥昇腾910B物理机的优势，满足企业级用户对于大规模并行计算和分布式存储的需求，我们特此编写了这份基于物理机Galaxy镜像和CTyunOS操作系统的昇腾910B多机部署指南。本指南旨在为用户提供一个从环境准备到服务管理的全面解决方案，帮助用户便捷快速地搭建起稳定、高效地AI计算集群。 一、环境准备 1.1 前置条件 建议通过弹性高性能计算入口（弹性高性能计算 天翼云）开通多台昇腾910B物理机集群（集群配置管理节点队列与计算节点确认配置） 管理节点使用CTyunOS23.01.2@GalaxyMasterNPU24.1.0.3镜像的昇腾910B物理机（绑定EIP） 所有计算节点使用CTyunOS23.01.2@GalaxyComputeNPU24.1.0.3镜像的昇腾910B物理机 使用共享存储：官网控制台海量文件服务OceanFS（海量文件服务 OceanFS 天翼云） 或弹性文件服务SFS Turbo（弹性文件服务 SFS 天翼云） 1.2 本地NVME分区 将节点的nvme1n1和nvme0n1两块NVME盘分别挂载在/mnt/nvme1n1和/mnt/nvme0n1上。 plaintext !/bin/bash 设备列表 devices("/dev/nvme0n1" "/dev/nvme1n1") mountpoints("/mnt/nvme0n1" "/mnt/nvme1n1") fstype"xfs"

主要功能 云容器引擎支持对容器应用的全生命周期管理，具有以下功能： 集群管理 通过控制台一键创建Kubernetes集群，支持跨可用区高可用。 一站式容器管理 容器应用全生命周期管理。 高性能容器隧道网络、VPC网络等容器网络。 云硬盘EBS、弹性文件存储SFS、对象存储OBS等持久化存储支持。 资源、应用、容器多维度监控。 基于角色的权限管理和容器运行时安全。 应用市场内容 对接容器镜像服务SWR，支持自定义镜像和共享镜像。

云资源审计 弹性云主机已接入天翼云云审计供您免费使用，为您提供统一的云资源配置历史追踪、配置合规审计，帮助您支撑安全分析、合规审计、资源跟踪和问题定位等常见应用场景。 云审计可检测当前天翼云账号和所有 IAM 用户的操作记录，可记录通过天翼云控制台、OpenAPI访问和使用云上产品和服务的日志数据。具体支持的云服务审计事件，请参见++支持审计的云产品及关键操作列表++。 云审计默认为您记录最近7天的事件。如需保存更长时间的日志，则需要创建跟踪，将产生的时间记录到日志审计（原生版）或对象存储ZOS。详细操作，请参见云审计++配置事件追踪器++ 当您将事件投递到日志审计（原生版）或对象存储ZOS后，可以通过日志审计（原生版）或对象存储ZOS查询或分析事件。 流日志和流量镜像作用 流量镜像（Traffic Mirror）功能可以将网络流量从某一云服务器的网卡镜像到其他指定的云服务器的网卡上，以便于应用到内容检查、监控分析、问题排查等场景。流量镜像主要是镜像并筛选出符合条件的流量，因此它可以在不影响网络性能的情况下，捕获和记录网络流量，帮助管理员诊断网络故障、检测网络攻击等。更多信息，请参见++流量镜像概述++ 。

步骤一：创建GPU云主机 1. 进入创建云主机页面 a.点击天翼云门户首页的“控制中心”，输入登录的用户名和密码，进入控制中心页面。 b.单击“产品服务列表>弹性云主机”，进入主机列表页。 c.单击“创建云主机”，进入弹性云主机创建页。 2. 进行基础配置 a.根据业务需求配置“计费模式”、“地域”、“企业项目”、“虚拟私有云”、“实例名称”、“主机名称”等。 b.选择规格。此处选择“CPU架构”为“X86”、分类“GPU加速/AI加速型”、“规格族”为“GPU计算加速型pi7”、“规格”为“pi7.4xlarge.4”。 c.选择镜像。“镜像类型”选择“镜像市场”，在云镜像市场中选择预置了DeepSeek R1模型的DeepSeekR17BUbuntu22.04镜像。 注意 本镜像推荐配置：内存≥8G、显存≥16G。 注意 目前也提供了预装DeepSeekR170B模型的镜像，如您有需求，也可在云镜像市场中进行选择。 d.设置云盘类型和大小。 3.

本小节介绍数据加密IMS服务端加密。 用户在镜像服务（Image Management Service，IMS）上传镜像文件时，可以选择“KMS加密”，使用KMS提供的密钥来加密上传的文件 。 可供选择的用户主密钥包含以下两种： KMS为使用IMS（Image Management Service，IMS）的用户创建一个默认主密钥“ims/default”。 用户通过KMS界面创建的非默认主密钥。 用户也可以通过调用IMS API接口创建加密镜像。

为了充分发挥昇腾 910B 物理机的优势，满足企业级用户对于大规模并行计算和分布式存储的需求，我们特此编写了这份基于物理机Galaxy镜像和CTyunOS操作系统的昇腾910B多机部署指南。本指南旨在为用户提供一个从环境准备到服务管理的全面解决方案，帮助用户便捷快速地搭建起稳定、高效地AI计算集群。 一、环境准备 1.1 前置条件 建议通过弹性高性能计算入口（弹性高性能计算）开通多台昇腾910B物理机集群（集群配置管理节点队列与计算节点确认配置） 管理节点使用CTyunOS23.01.2@GalaxyMasterNPU24.1.0.3镜像的昇腾910B物理机（绑定EIP） 所有计算节点使用CTyunOS23.01.2@GalaxyComputeNPU24.1.0.3镜像的昇腾910B物理机 使用共享存储：官网控制台海量文件服务OceanFS（海量文件服务 OceanFS） 或弹性文件服务SFS Turbo（弹性文件服务 SFS） 1.2 本地NVME分区 将节点的nvme1n1和nvme0n1两块NVME盘分别挂载在/mnt/nvme1n1和/mnt/nvme0n1上。 !/bin/bash 设备列表 devices("/dev/nvme0n1" "/dev/nvme1n1") mountpoints("/mnt/nvme0n1" "/mnt/nvme1n1") fstype"xfs"

本文为您介绍如何使用ECI快速部署ChatGLM6B。 背景信息 ChatGLM6B 是一个开源的、支持中英双语的对话语言模型，基于 General Language Model架构，具有 62 亿参数。结合模型量化技术，用户可以在消费级的显卡上进行本地部署（INT4 量化级别下最低只需 6GB 显存）。ChatGLM6B 使用了和 ChatGPT 相似的技术，针对中文问答和对话进行了优化。经过约 1T 标识符的中英双语训练，辅以监督微调、反馈自助、人类反馈强化学习等技术的加持，62 亿参数的 ChatGLM6B 已经能生成相当符合人类偏好的回答。如果没有GPU硬件的话，也可以在CPU上进行推理，但是推理速度会更慢。 前期准备 已开通天翼云弹性容器实例服务。 天翼云容器镜像服务CRS或私有镜像仓库中已推送开源ChatGLM6B镜像。 硬件需求 量化等级 最低GPU显存 无GPU情况下内存需求 INT4 6GB 32GB INT8 8GB 暂未测试 FP16（无量化） 13GB 暂未测试 操作步骤 下面将介绍如何在ECI上快速部署ChatGLM6B的CPU实例并进行推理。 1. 通过天翼云弹性容器实例订购页面创建ECI实例。 2. 根据上述硬件需求，配置合适的CPU，内存资源。 3. 镜像选择开源ChatGLM6B镜像，并指定镜像版本。 4. 在容器设置中，配置启动命令 python3 webdemo.py、cpu。 5. 提交订单，然后回到控制台页面等待ECI实例Running。

使用私钥文件获取登录密码失败时,可以参考本文。 可能原因 1.出现获取密码失败一般原因是弹性云主机 cloudinit 失败，没有通过 cloudinit 注入密码。 2.Cloudinit 注入密码失败原因有： 网络原因导致弹性云主机无法连接到 cloudinit 服务器； 镜像上 cloudinit 没有获取密码相关配置； 弹性云主机上其他问题导致弹性云主机 cloudinit 无法获取。 处理办法 1. 检查弹性云主机的网络配置，是否导致弹性云主机 cloudinit 失败，操作如下： 弹性云主机所在安全组 80 端口的“出方向”和“入方向”是否放通。 2. 检查镜像上 cloudinit 是否配置了获取密码，当前 HEC 环境中的所有公共镜像均已正确配 置 cloudinit。 如果客户使用公共镜像则无需检查此项。 如果客户使用私有镜像创建弹性云主机，则需要确认镜像中已正确配置了 cloudinit。 3. 其他方面：大规格弹性云主机的虚拟内存导致客户弹性云主机 cloudinit 执行失败。 4. 通过查看日志检查原因，cloudinit 日志查看步骤如下： 将无法获取密钥的弹性云主机关机后，将系统盘卸载。 使用公共镜像创建一个临时 windows 弹性云主机，将上一步骤中卸载的卷挂载在此弹性云主机上。 登录临时创建的弹性云主机主机，打开主机管理器，选择“文件和存储服务 > 卷 > 磁盘”，单击鼠标右键选择“脱机”状态的磁盘，单击“联机”。 打开新联机的磁盘，查看“/Programe Files/Cloudbase Solution/CloudbaseInit/log”路径下的“cloudbaseinit”文件，通过日志查看原因。

本章介绍主机迁移服务，对于源端服务器的约束和限制。 兼容性列表 Windows兼容性列表 主机迁移服务支持的Windows操作系统列表参见下表。 若您需要将不包含在Windows兼容性列表的OS版本源端服务器迁移到天翼云，您可以采用以下方式： 使用镜像服务，通过外部镜像文件创建Windows系统盘镜像。 不迁移源端服务器，直接使用公有镜像或市场镜像创建目的端服务器，然后重新部署源端服务器的应用。 使用天翼云甄选商城上云专业迁移服务。 表 windows兼容列表 OS版本 位数 支持UEFI 备注 Windows Server 2008 64 NO 无法通过UEFI方式启动Windows Server 2008/2008 R2。 Windows Server 2008 R2 64 NO Windows Server 2012 64 Yes Windows Server 2012 R2 64 Yes Windows Server 2016 64 Yes Windows Server 2019 64 Yes Windows Server 2022 64 Yes Windows 7 64 NO Windows 8.1 64 NO Windows 10 64 Yes Linux兼容性列表 主机迁移服务支持的Linux迁移方式包括：Linux文件级迁移。 支持的Linux文件级迁移OS兼容性列表，参见下表。 若您需要将不包含在下表的OS版本源端服务器迁移到天翼云，您可以采用以下方式： 使用镜像服务，通过外部镜像文件创建Linux系统盘镜像。 不迁移源端服务器，直接使用公有镜像或市场镜像创建目的端服务器，然后重新部署源端服务器的应用。 使用天翼云甄选商城上云专业迁移服务。 表 Linux文件级迁移系统兼容性列表 OS类型 OS版本 位数 是否支持UEFI Redhat Red Hat Enterprise Linux 6.0（仅支持KVM平台） 64 NO Red Hat Enterprise Linux 6.1/6.2/6.3/6.4/6.5/6.7/6.8/6.9/6.10 64 NO Red Hat Enterprise Linux 7.0 64 NO Red Hat Enterprise Linux 7.1/7.2/7.3/7.4/7.5/7.6/7.7/7.8/7.9 64 Yes Red Hat Enterprise Linux 8.0/8.1/8.2/8.3/8.4/8.5/8.6 64 Yes Red Hat Enterprise Linux 9.0 64 Yes CentOS CentOS 6.0（仅支持KVM平台） 64 NO CentOS 6.1/6.2/6.3/6.4/6.5/6.6/6.7/6.8/6.9/6.10 64 NO CentOS 7.0 64 NO CentOS 7.1/7.2/7.3/7.4/7.5/7.6/7.7/7.8/7.9 64 Yes CentOS 8.0/8.1/8.2/8.3/8.4/8.5 64 Yes CentOS Stream 8 64 Yes 源端会被识别为CentOS 8.0，不会影响迁移 CentOS Stream 9 64 Yes 源端会被识别为CentOS 9.0，不会影响迁移 Oracle Oracle Linux 6.0/6.1/6.2/6.3/6.4/6.5/6.6/6.7/6.8/6.9/6.10 64 NO Oracle Linux 7.0 64 NO Oracle Linux 7.1/7.2/7.3/7.4/7.5/7.6/7.7/7.8/7.9 64 Yes Oracle Linux 8.0/8.1/8.2/8.3/8.4/8.5 64 Yes SUSE SUSE Linux Enterprise Server 11 SP3 64 NO SUSE Linux Enterprise Server 11 SP4 64 Yes SUSE Linux Enterprise Server 12 SP0 64 Yes 该版本不支持btrfs SUSE Linux Enterprise Server 12 SP1/SP2/SP3/SP4/SP5 64 Yes SUSE Linux Enterprise Server 15 SP0/SP1/SP2/SP3 64 Yes SUSE Linux Enterprise Server 15 SP4 64 NO Ubuntu Ubuntu Server 12.04 64 NO Ubuntu Server 14.04 64 Yes Ubuntu Server 16.04 64 Yes Ubuntu Server 18.04 64 Yes Ubuntu Server 19.04 64 Yes Ubuntu Server 20.04 64 Yes Ubuntu Server 22.04 64 Yes Debian Debian GNU/Linux 6.0.10 64 NO Debian GNU/Linux 7.11.0 64 NO Debian GNU/Linux 8.0/8.1/8.2/8.3/8.4/8.5/8.6/8.7/8.8/8.9/8.10/8.11 64 NO Debian GNU/Linux 9.0/9.1/9.2/9.3/9.4/9.5/9.6/9.7/9.8/9.9/9.10/9.11/9.12/9.13 64 NO Debian GNU/Linux 10.0/10.1/10.2/10.3/10.4/10.5/10.6/10.7/10.8/10.9/10.10/10.11/10.12/10.13 64 Yes Debian GNU/Linux 11.0/11.1/11.2 64 Yes Debian GNU/Linux 11.3/11.4/11.5/11.7 64 NO Fedora Fedora 23/24/25/26/27/28/29/33/34/35/36/37 64 NO EulerOS EulerOS 2.2.0 64 NO EulerOS 2.3.0 64 NO EulerOS 2.5.0 64 NO Amazon Linux Amazon Linux 2.0 64 NO Amazon Linux 2018.3 64 NO Alibaba Cloud Linux Alibaba Cloud Linux 3.2104 64 NO Alibaba Cloud Linux 3.2104快速启动版 64 NO Alibaba Cloud Linux 2.1903 LTS 64 NO Alibaba Cloud Linux 2.1903 LTS快速启动版 64 NO Alibaba Cloud Linux 2.1903 LTS等保2.0三级版 64 NO TencentOS TencentOS Server 2.4 64 NO TencentOS Server 2.4 (TK4) 64 NO TencentOS Server 3.1 (TK4) 64 NO Kylin Kylin Linux Advanced Server V10 (Sword) 64 NO OpenEuler OpenEuler 20.03 64 NO OpenEuler 21.09 64 NO OpenSUSE OpenSUSE 15.1/15.2/51.3/15.4 64 NO Rocky Linux Rocky Linux 8.5/8.6/8.7/9.0/9.1 64 NO

安装后校验 1. 检查容器状态：docker ps grep E 'dmsdas' 2. 检查启动日志：docker logs f 卸载服务 1. 查看容器ID，docker ps grep E 'dmsdas' 2. 停止容器：docker stop 3. 移除容器：docker rm 4. 查看镜像ID：docker images grep E 'dmsdas' 5. 移除镜像：docker rmi

replace it with your exactly ports: containerPort: 80 如何为集群绑定弹性IP？ 可以通过申请弹性IP并将弹性IP绑定到集群上。 点击导航栏【资源管理】>【集群管理】，进入集群列表>点击集群名称，进入集群详情页>点击【API Server 公网IP】旁的绑定，选择已有IP，完成绑定操作。 用户也可以在创建集群的步骤中选择已有的弹性IP进行绑定。 说明 ：弹性IP需要在控制台【网络】>【弹性公网IP】处申请，具体操作请见【购买弹性IP】。 创建容器应用有哪几种方式？有什么区别？ 目前支持两种部署方式，用户可基于自身需求选择： 通过天翼云官方镜像：基于天翼云官方平台上的镜像创建容器应用，无需上传私有镜像。 上传并选择私有镜像：您可基于业务需求制作私有 docker 镜像，上传到容器镜像服务。基于该私有镜像创建容器应用。 用户如何自定义镜像？ 用户可以通过Dockerfile进行镜像制作，用户需要首先在本地安装Docker引擎，所有通过天翼云云容器引擎创建或添加的节点，系统都会自动为节点安装 1.11.2 版本的 Docker，用户也可登陆节点机器进行镜像制作，无需手动安装。若需要了解更多 Docker基础知识，请参阅 本节以Nginx镜像为例，修改官方Nginx镜像的欢迎页面，定制一个新的镜像，将欢迎页面改为“Hello, CCE!”。具体的操作步骤如下： 前往资源池控制台，点击【计算】>【弹性云主机】，获取集群节点的用户密码，使用 root 用户登录 Docker 所在的云主机。用户也可自行登陆到已安装好Docker的本地环境上进行制作； 创建一个文件夹，用于存放镜像，进入该文件夹，再通过touch命令创建一个名为 Dockerfile 的文件； mkdir mynginx cd mynginx touch Dockerfile 使用vi命令编辑 Dockerfile； vi Dockerfile 文件内容如下： FROM nginx RUN echo ' Hello,CCE! ' > /usr/share/nginx/html/index.html 其中： FROM 语句：表示使用nginx镜像作为基础； RUN 语句：表示执行echo命令，在显示器中显示一段Hello,CCE的文字； 完成编写后，使用wq！命令保存文件并退出。 构建 Docker 镜像，使用docker build 构建镜像； docker build t nginx:v3 . 其中： t 为镜像命名 . 代表本次执行的上下文路径 查看镜像。 执行以下命令，查看制作好的Docker镜像： docker images