本章节介绍微服务云应用平台产品优势 企业级元数据管理 支持企业级大规模分布式系统的研发运维，提供灵活的项目、应用分组、应用和可扩展技术栈等元数据管理。 多种语言支持 支持JAVA/GO/Python等多种语言应用托管，支持从制品（JAR/WAR）部署，支持自定义容器镜像部署。 多种底层服务器选择 无缝集成了ECS云服务器和云容器引擎，支持应用托管到ECS集群、K8s集群。并基于应用视角，提供基于虚机模式或容器模式发布运维管控。 应用监控告警 无侵入提供强大的应用级监控能力，灵活配置应用多指标诊断报警。 全面拥抱开源 拥抱开源生态，无侵入支持主流开源框架 Spring Cloud 和 Dubbo 近五年内的版本。 全面服务治理能力 零代码侵入实现Dubbo和SpringCloud微服务治理，支持灰度发布，服务降级，环境隔离等多种高级特性。 深度整合天翼云产品 无缝集成云容器引擎，微服务引擎、应用性能监控和云日志服务等云产品能力，轻松一站式管理业务应用。

本节介绍了常见问题:镜像安全相关问题。 如何扫描所有镜像 目前支持扫描单个版本的容器镜像。

本文介绍如何设置设置容器工作目录。 功能说明 在容器镜像的构建过程中，可以通过WORKDIR指定容器的工作目录。当用户创建ECI Pod时，支持用户自定义工作目录，该目录将覆盖镜像中定义的目录。如果用户未定义工作目录，镜像中也未指定WORKDIR，则默认工作目录将是根目录。 配置示例 可以通过容器的workingDir字段来设置启动命令和参数，配置参考如下： shell apiVersion: apps/v1 kind: Deployment metadata: name: nginxdeployment labels: app: nginx spec: replicas: 1 selector: matchLabels: app: nginx template: metadata: labels: app: nginx spec: containers: name: nginx image: registryhuadong1.crsinternal.ctyun.cn/opensource/nginx:1.25alpine ports: containerPort: 80 workingDir: /test nodeName: vndu53cymkxxxxcnhuadong1jsnj1apublicctcloud

本文主要介绍基于天翼云弹性文件服务,如何将其挂载至docker容器中。 应用场景 本文适用于docker容器中实现天翼云弹性文件服务的挂载。 前提条件 购买一个NFS协议的弹性文件系统。 购买一台配置弹性IP的云主机（或者物理机）。 准备工作 1.登录天翼云官网页面，找到控制中心。 2.本文以华北2资源池为例，购买一台配置弹性IP的云主机，具体操作请参考创建弹性云主机。此次以CentOS 8.2系统的弹性云主机为例，部分参数可参考下表： 参数 说明 镜像 CentOS 8.2 64位 弹性IP 自动分配 IP版本 IPV4 带宽 5M 您也可以选择购买一台配置弹性IP的物理机，具体操作请参考自助开通天翼云物理机。 3.创建一个弹性文件系统，具体操作请参考创建弹性文件系统，部分参数可参考下表： 参数 说明 存储类型 SFS Turbo标准型 协议类型 NFS 选择网络 选择与弹性云主机（或物理机）相同的VPC 操作步骤 使用docker挂载弹性文件系统可以分为几个关键步骤： 安装docker>拉取镜像>宿主机挂载文件系统>创建并运行容器，实现文件系统挂载 。具体操作步骤如下：

本节介绍了：DNS FAQ的用户指南。 如何进入CoreDNS Pod执行命令？ 问题现象 使用 kubectl n kubesystem exec it {coredns pod} bash及类似命令发现无法进入到CoreDNS Pod中执行或者查看相关信息。 问题原因 CoreDNS所使用的容器镜像是基于Scratch构建，不具备Shell执行环境，所以无法使用bash命令进入。 解决方案 可以使用nsenter的方式访问CoreDNS Pod所处的容器网络环境。 kubernetes中的服务的域名不能通过coredns正确解析 问题现象 kubernetes中的服务建立成功后，无法通过域名访问。 问题原因 kubernetes中的服务的域名的格式不对。 解决方案 使用完整的域名格式进行解析，servicename.nsname.svc.cluster.local。

本节介绍容器迁移。 基于 CCE One 容器迁移能力，帮助业务将本地IDC或三方云上的Kubernetes容器集群，迁移到天翼云云容器引擎服务；迁移过程安全、可靠、灵活、高效，无需停机，热迁移、对业务零影响。 工作原理 将应用从一个环境迁移到另一个环境是一项具有挑战性的任务，因此仔细的规划和准备至关重要。天翼云CCE One的容器迁移服务通过以下五个阶段为您提供全流程迁移指导： 1. 集群评估：在此阶段，您需要评估源集群的规模以决定目标集群的类型和资源规模。 2. 依赖数据迁移：在这个阶段，基于天翼云上的云迁移、云备份等标准云产品服务，您将迁移镜像以及依赖服务的相关数据。 3. 元数据迁移：在此阶段，您需要通过容器备份/恢复功能或集群联邦方式，将应用元数据从源集群迁移到目标集群，从而让应用在目标集群中正常运行起来。 4. 应用迁移：在这个阶段，您可以通过特定方式进行流量调度，例如智能DNS+单集群LB或多集群Ingress、多集群Service等，将业务流量逐步从源集群迁移到目标集群。 5. 业务验证：流量迁移过程中及流量迁移完成后，您可以对迁移后业务允许情况进行验证，以确保服务运行符合预期。 通过遵循天翼云CCE One容器迁移服务的全流程迁移指导，您可以更顺利地将应用从一个环境迁移到另一个环境。

本文介绍如何设置设置容器工作目录。 功能说明 在容器镜像的构建过程中，可以通过WORKDIR指定容器的工作目录。当用户创建ECI Pod时，支持用户自定义工作目录，该目录将覆盖镜像中定义的目录。如果用户未定义工作目录，镜像中也未指定WORKDIR，则默认工作目录将是根目录。 配置示例 可以通过容器的workingDir字段来设置启动命令和参数，配置参考如下： plaintext apiVersion: apps/v1 kind: Deployment metadata: name: nginxdeployment labels: app: nginx spec: replicas: 1 selector: matchLabels: app: nginx template: metadata: labels: app: nginx spec: containers: name: nginx image: registryhuadong1.crsinternal.ctyun.cn/opensource/nginx:1.25alpine ports: containerPort: 80 workingDir: /test nodeName: vndu53cymkxxxxcnhuadong1jsnj1apublicctcloud

服务部署支持在推理场景将平台预置模型和模型仓库模型部署为模型在线服务。 前置条件 如果预置镜像不满足开发要求，需要基于自有镜像，需要完成镜像文件准备，详见我的镜像。 如果需要使用代码包，需要完成代码包准备，详见我的代码包。 创建在线服务 1. 登录训推智算服务平台。 2. 创建在线服务入口： 入口一：在左侧菜单选择“模型服务”“服务部署”，点击“部署模型”，进入在线服务创建页面。 入口二：在左侧菜单选择“模型管理”，点击模型卡片的“部署”，进入在线服务创建页面。 3. 当前模型部署支持将不同来源、不同类型的模型转化为可对外提供服务的模型应用，满足多样化的业务场景需求： 自定义部署：部署的模型来自于模型管理中用户通过开发机和训练任务生成的个性化的自有模型，或者是平台预置模型。选择“我的模型”列表下的目标模型文件，要求客户对自有模型的训练逻辑、 部署时的资源规格有清晰的认知，否则会直接影响部署效果。“我的模型”只适用于单机部署，如果想使用多机部署，请选择”预置模型“。 参数名 说明 服务名称 必填，在线服务名称。 模型文件 选择自定义配置，则可选择模型管理中“我的模型”或者“预置模型”下的模型文件。 模型选择 选择模型管理中的“我的模型”或者“预置模型”文件，挂载到容器内路径。 镜像来源 支持选择系统预置镜像、自定义镜像、他人分享镜像和镜像地址输入。 代码包选择 非必填，可以选择目标代码包。 环境变量 输入变量名称和值。 运行命令 必填，用以启动镜像的运行命令和端口号（例如：启动镜像的运行命令脚本。示例如下：cd /work/mount/code

本章主要介绍 步骤六：部署应用（CCE篇） 部署服务提供可视化、自动化部署服务。提供丰富的部署步骤，有助于用户制定标准的部署流程，降低部署成本，提升发布效率。 为了可以更快的、更稳定的持续地交付软件，开发团队需要一部分自助化部署服务的能力，以减轻部分后续维护工作。 本章节介绍开发人员Chris如何将发布件部署至云容器引擎。若您需要了解如何署至ECS，请参照步骤六：部署应用（ECS篇）操作。 预置应用简介 样例项目中预置了如下表所示的3个应用，本章节以应用“phoenixcdcce”为例进行讲解。 预置应用 预置应用 应用说明 phoenixsamplestandalone 部署至ECS流程对应的应用。 phoenixcdcce 部署至CCE流程对应的应用。 phoenixsampletest 部署至测试环境对应的应用。 购买并配置云容器引擎 本文档中使用的是云容器引擎CCE。 步骤 1 登录云容器引擎服务器，购买CCE集群。 其中集群及节点的必要配置建议参照下表，表中未涉及的可根据实际情况选择。 CCE集群购买配置 配置分类 配置项 配置建议 ::: 基础配置 计费模式 选择“按需计费”。 基础配置 集群版本 根据需要选择，建议选择最新版本。 网络配置 网络模型 选择“容器隧道网络”。 网络配置 虚拟私有云 选择已有的虚拟私有云，若列表中没有合适的选项，单击“创建虚拟私有云”完成创建。 网络配置 控制节点子网 选择已有的子网，若列表中合适的选项，单击“创建子网”完成创建。 网络配置 容器网段 勾选“自动设置网段”。 节点配置 配置分类 配置项 配置建议 ::: 计算配置 计费模式 选择“按需计费”。 计算配置 节点类型 选择“弹性云服务器虚拟机”。 计算配置 节点规格 选择“通用型”、2核8G及以上规格即可。 计算配置 容器引擎 选择“Docker”。 计算配置 操作系统 选择公共镜像中的Euler镜像。 计算配置 节点名称 输入自定义名称 。 计算配置 登录方式 选择“密码”。 计算配置 密码 输入自定义密码 。 网络配置 节点IP 选择“随机分配”。 网络配置 弹性公网IP 选择“自动创建”。

应用安装信息 Nginx 1.22：/usr/sbin/nginx PHP 8.1：/usr/bin/php MySQL 5.7：/usr/bin/mysql WordPress：/var/www/html/wordpress 注意 如使用WordPress镜像，请先确保已经添配置如下防火墙规则 方向：入方向 协议：TCP 端口范围：6060 远端：0.0.0.0/0 Docker应用镜像 前提条件 已创建Docker应用镜像的轻量型云主机。 具体创建流程请前往创建轻量型云主机页面查看。 应用版本 Docker19.03.9 操作步骤 步骤一：远程登陆云主机 步骤二：拉取镜像 1.拉取镜像，执行指令：docker pull 镜像名称 2.查看镜像，执行指令：docker images 步骤三：启动容器 执行指令：docker run it 镜像名称 步骤四：查看容器 执行指令：docker ps 幻兽帕鲁（Palworld）应用镜像 前提条件 已创建幻兽帕鲁（Palworld）应用镜像的轻量型云主机。 具体创建流程请前往创建轻量型云主机页面查看。 操作步骤 步骤一：获取主机IP地址 在服务器列表页或详情页查看轻量应用服务器的弹性公网IP 步骤二：登录Steam客户端 1.打开Steam客户端，登录Steam账号 2.在“库”中找到幻兽帕鲁，并点击【开始游戏】 步骤三：配置游戏专用服务器 1.在游戏菜单选择【加入多人游戏(专用服务器)】 2.在地址输入框输入轻量应用服务器的弹性公网IP 步骤四：更新世界参数(可跳过) 为提升游戏体验可根据帮助文档修改世界叁数

本章节介绍微服务云应用平台服务连接管理功能 概述 服务连接管理主要用于提供容器镜像服务的服务连接，配置服务连接后，用户在使用自购镜像仓库的目标仓库类型或使用自购仓库镜像的镜像类型时使用。 服务连接列表 服务连接列表展示所有服务连接，分页展示服务连接名称、连接类型、创建者、创建时间以及操作列。 点击左侧导航栏的系统管理服务连接管理即可进入服务连接列表页面。 创建服务连接 在服务连接列表页面，点击创建服务连接进入服务连接配置流程。在创建服务连接对话框，选择服务连接类型后点击下一步，填写服务连接名，创建并选择服务授权/证书后点击确定。 点击服务授权/证书后的新建按钮即进入证书配置流程。在创建证书对话框，输入证书名称、用户名称，选择类型，并填写对应的密码或令牌，点击确定。 修改服务连接 如果您的服务连接的证书有改动，您可使用修改服务连接实现。在服务连接列表页面，点击操作列的编辑按钮，即可开始按需修改服务连接。 删除服务连接 如果需要删除服务连接，点击服务连接列表的删除操作列按钮，在提示框点击确定即可。 说明 当该服务连接被应用实例使用后，该服务连接禁止删除。

本文介绍如何管理镜像缓存。 本节介绍如何创建、查询、删除镜像缓存。 创建镜像缓存 您可以通过控制台手动创建镜像缓存。 1. 在弹性容器实例控制台的镜像缓存页面，单击"创建镜像缓存"。 2. 在创建镜像缓存页面，设置相关参数。相关参数说明如下： 1. 基本参数：设置可用区、专有网络和安全组等参数，用户创建中转ECI实例。 2. 镜像缓存：输入镜像名称，选择镜像地址和版本号，按需设置大小和保留时长。 3. 镜像仓库访问凭证：如果镜像是私有镜像，请填写镜像仓库的地址、访问用户名和密码。 3. 在镜像缓存页面查看创建结果。 4. 当状态变为ready时，表示镜像缓存创建成功。单击镜像缓存ID，可以打开详情页面，查看基本信息和相关事件。 查询镜像缓存 创建镜像缓存后，您可以查询镜像缓存信息。当镜像缓存状态为创建完成（ready）时，可以使用该镜像缓存。 在弹性容器实例控制台的镜像缓存页面查看镜像缓存的名称、状态等信息，单击镜像缓存ID可以查看事件等详细信息。

本文介绍镜像设置，包括镜像扫描设置、指定可信镜像、查看风险评分。 扫描设置 1. 登录容器安全卫士控制台。 2. 在左侧导航栏，选择“镜像安全 > 镜像设置”，进入镜像设置页面。 3. 选择“扫描设置”页签。设置扫描类型、自动扫描节点新增镜像和周期扫描等。 扫描类型支持如下两种： 快速扫描：只扫描包管理器安装的软件。 深度扫描：在快速扫描的基础上增加扫描第三方依赖库、Web框架库和病毒木马等恶意文件。 4. 配置完成后，单击“保存”。 指定可信镜像 1. 登录容器安全卫士控制台。 2. 在左侧导航栏，选择“镜像安全 > 镜像设置”，进入镜像设置页面。 3. 选择“可信镜像”页签。指定可信任的仓库、基础镜像、节点镜像，可对非信任的镜像进行忽略、报警、阻断的操作。 说明 如需使用镜像阻断功能，请在“安装配置 > 组件安装”页面中开启镜像所在集群的镜像阻断功能，详细操作请参见 4. 配置完成后，单击“保存”。

本文主要介绍云日志服务与其他服务的关系。 虚拟私有云(CTVPC ，Virtual Private Cloud) 虚拟私有云为您需要接入的弹性云主机或容器集群提供一个逻辑隔离的区域，构建一个安全可靠、 可配置和管理的虚拟网络环境。更多信息请参见虚拟私有云。 弹性云主机（CTECS，Elastic Cloud Server） 通过云日志服务，您可采集弹性云主机上的应用日志。云主机由 CPU、内存、镜像、云硬盘组成，同时结合VPC、安全组、数据多副本保存等能力，打造一个既高效又可靠安全的计算环境。更多信息请参见弹性云主机。 云容器引擎 云容器引擎提供高可靠高性能的企业级容器应用管理服务，支持Kubernetes社区原生应用和工具，帮助用户在云上轻松部署、管理和扩展容器化应用。更多信息请参见云容器引擎产品介绍。 VPC终端节点 VPC终端节点（CTVPCEP，VPC EndPoint）可以在VPC内提供便捷、安全、私密的通道与云日志服务进行连接，用于进行日志数据上报。该服务使用天翼云内部网络，无需弹性公网IP，为您提供性能更加强大、更加灵活的网络。更多信息请参见VPC终端节点产品介绍。

本文档基于天翼云（CTyunOS）生态环境，针对昇腾910B物理机实例，提供MinerU2.1服务从环境准备、服务启停到API调用的完整操作指南。通过遵循本文档步骤，可在天翼云CTyunOS镜像环境中高效部署MinerU2.1服务，充分利用昇腾910B的算力优势，满足模型推理等AI服务需求。 1 环境准备 1.1 前置条件 操作系统镜像：使用天翼云官方提供的CTyunOS CTyunOS 23.01.2@GalaxyComputeNPU25.0.rc1.1 64位镜像，该镜像已针对天翼云算力环境优化，适配昇腾硬件。 云服务器实例：选用天翼云昇腾910B物理机实例，套餐规格为physical.Icas910b.2xlarge11，确保具备满足MinerU2.1服务运行的算力与硬件资源。 1.2 本地NVME分区 需将节点的nvme1n1和nvme0n1两块NVME盘分别挂载至/mnt/nvme1n1和/mnt/nvme0n1目录（后续MinerU2.1的模型、容器镜像存储及服务启动将依赖这两个挂载点），执行以下脚本完成分区挂载与开机自动挂载配置： plaintext !/bin/bash 设备列表 devices("/dev/nvme0n1" "/dev/nvme1n1") mountpoints("/mnt/nvme0n1" "/mnt/nvme1n1") fstype"xfs"

本页主要介绍云容器引擎产品的kubelet配置。 名称 类型 描述 示例值 cpuManagerPolicy String CPU 管理器策略。 none kubeAPIQPS Integer 与 API Server 通信的每秒查询个数。 100 kubeAPIBurst Integer 每秒发送到 API Server 的突发请求数量上限。 100 maxPods Integer 运行的 Pod 个数上限。 110 podPidsLimit Integer Pod 中可使用的 PID 个数上限。 1 eventRecordQPS Integer 每秒可生成的事件数量。 5 eventBurst Integer 事件记录的个数的突发峰值上限。 10 topologyManagerPolicy String 使用的拓扑管理器策略名称。 none topologyManagerScope String 拓扑管理策略的资源对齐粒度 container resolvConf String 容器指定DNS解析配置文件 runtimeRequestTimeout String 除长期运行的请求之外所有运行时请求的超时时长 120s serializeImagePulls Boolean 是否逐一拉取镜像。 FALSE registryPullQPS Integer 镜像仓库的 QPS 上限。 5 registryBurst Integer 突发性镜像拉取的个数上限。 10 containerLogMaxFiles Integer 每个容器可以存在的日志文件个数上限。 20 containerLogMaxSize String 日志文件被轮转之前可以到达的最大大小。 50Mi imageGCHighThresholdPercent Integer 镜像用量超过此阈值，则镜像垃圾回收会持续执行。 80 imageGCLowThresholdPercent Integer 镜像用量低于此阈值时不会执行镜像垃圾回收操作。 70 cpuCFSQuota Boolean CPU CFS 配额约束开关。 FALSE systemReservedMem String 系统内存预留 100Mi kubeReservedMem String Kubernetes组件内存预留 100Mi evictionHard:memory.available String 硬驱动逐配置项：节点可用内存值 100Mi evictionHard:nodefs.available String 硬驱动逐配置项：Kubelet使用的文件系统的可用容量的百分比 10% evictionHard:nodefs.inodesFree String 硬驱动逐配置项：Kubelet使用的文件系统的可用inodes数的百分比 5% evictionHard:imagefs.available String 硬驱动逐配置项：容器运行时存放镜像等资源的文件系统的可用容量的百分比 10% evictionHard:imagefs.inodesFree String 硬驱动逐配置项：容器运行时存放镜像等资源的文件系统的可用inodes数的百分比 10% evictionHard:pid.available String 硬驱动逐配置项：留给分配Pod使用的可用PID数的百分比 10% evictionSoft:memory.available String 软驱逐配置项：节点可用内存值 100Mi evictionSoft:nodefs.available String 软驱逐配置项：Kubelet使用的文件系统的可用容量的百分比 10% evictionSoft:nodefs.inodesFree String 软驱逐配置项：Kubelet使用的文件系统的可用inodes数的百分比 10% evictionSoft:imagefs.available String 软驱逐配置项：容器运行时存放镜像等资源的文件系统的可用容量的百分比 10% evictionSoft:imagefs.inodesFree String 软驱逐配置项：容器运行时存放镜像等资源的文件系统的可用inodes数的百分比 10% evictionSoft:pid.available String 软驱逐配置项：留给分配Pod使用的可用PID数的百分比 10% evictionSoftGracePeriod:memory.available String 驱逐周期 10s evictionSoftGracePeriod:nodefs.available String 驱逐周期 10s evictionSoftGracePeriod:nodefs.inodesFree String 驱逐周期 10s evictionSoftGracePeriod:imagefs.available String 驱逐周期 10s evictionSoftGracePeriod:imagefs.inodesFree String 驱逐周期 10s evictionSoftGracePeriod:pid.available String 驱逐周期 10s

本文介绍弹性容器实例ECI的计费概述。 使用弹性容器实例ECI时涉及到的计费项如下，如果您在使用过程中关联天翼云其他云产品资源，您需要为您使用的资源付费。 计费项 资源 计费说明 相关文档 ECI实例 支持两种创建方式，您可根据您的实际情况进行选择： 基础模式，即按vCPU和内存 指定实例规格，即按ECS规格 ECI实例计费 镜像缓存 创建镜像缓存：手动创建需支付临时资源费用和快照费用；自动创建无需付费 使用镜像缓存：根据镜像缓存类型和大小，可能需要额外支付云盘费用 镜像缓存计费 临时存储空间 创建ECI的过程中，如果您增加了临时存储空间大小，您需要为其付费 临时存储空间计费 根据业务需要，您可能需要使用天翼云其他云产品资源。相关说明如下： 资源 计费说明 相关文档 网络 如果您的ECI实例需要公网通信，则需要配置弹性IP或NAT网关，支付相应的网络费用 弹性IP计费说明 NAT网关计费说明 存储 如果您的ECI实例需要持久化存储，弹性容器实例支持挂载天翼云云硬盘、对象存储等，根据您使用的存储资源，支付相应的存储费用 云硬盘计费说明 对象存储计费说明 [](

步骤二：数据迁移 在这个阶段，您将把镜像和相关依赖服务的数据迁移到天翼云对应云产品中。可基于天翼云上提供的专业云迁移、云备份等迁移工具，或基于云产品提供的专门迁移指引进行迁移。例如： 三方云镜像仓库迁移参考：第三方镜像仓库导入 三方云MySQL迁移请参考：其他云MySQL迁移到RDS For MySQL 三方云PostgreSQL迁移请参考：其他云PostgreSQL迁移到RDS For PostgreSQL 其他类型存储迁移，请参考天翼云上对应云产品提供的迁移指引； 步骤三：天翼云集群创建与纳管 在这个阶段，您将评估目标集群所需规格信息并创建对应的天翼云CCE集群；然后将该目标集群关联到分布式容器云平台CCE One注册集群； 云容器引擎允许用户对集群资源进行个性化选取，以精准匹配其多样化的业务诉求。如下所示的表中，列举了集群的指标参数，并提供了参考规划选择；用户应依据自身业务的确切需求，对相关设置做出合理调配，其间，我们建议尽可能保持与原集群性能配置的一致性水平。 主要指标参数 指标参数说明 本示例规划 kubernetes版本 1.27.8 1.29.3 1.29.3 网络插件 cubecni：cubecni 是云容器引擎自研的网络插件，支持基于 Kubernetes 标准的网络策略来定义容器间的访问策略 calico：使用社区 calico CNI 插件的IP模式 cubecni apiserver访问 API Server的访问需要依赖ELB实例，您可根据需要选择合适的ELB规格，系统将根据该规格创建一个私网ELB实例。规格选择请见：[了解ELB实例规格](

1.3 部署脚本下载与解压 将部署所需脚本包下载至服务运行目录并解压，其中Qwen332B目录包含服务启停脚本（appstart.sh、appstop.sh等）、配置文件（config.json）及相关运行目录。 plaintext cd /mnt/nvme0n1 wget tar xvf qwen332bhw1nodev20250728.tar 1.4 MindIE 容器镜像准备 MindIE 容器镜像是模型推理的运行环境载体，需按以下步骤准备： 1、创建镜像存储目录并下载镜像： plaintext mkdir p /mnt/nvme1n1/apptainer cd /mnt/nvme1n1/apptainer wget 2、在服务运行目录创建软链接，便于服务调用镜像： plaintext cd /mnt/nvme0n1/Qwen332B ln s /mnt/nvme1n1/apptainer/mindie2.0.RC2800IA2py311openeuler24.03ltsqwen3.sif . 1.5 下载模型文件 将模型文件下载并保存在每个节点的/mnt/nvme1n1/model/ 目录下，并配置模型文件访问权限为750，确保服务可正常读取： plaintext [root@new ~] ls l /mnt/nvme1n1/model/Qwen332B total 64004232 rwxrx 1 root root 728 Jul 24 11:23 config.json rwxrx 1 root root 73 Jul 24 11:23 configuration.json rwxrx 1 root root 239 Jul 24 11:23 generationconfig.json rwxrx 1 root root 1671853 Jul 24 11:23 merges.txt rwxrx 1 root root 3957109648 Jul 24 11:36 model00001of00017.safetensors 。。。。。。 rwxrx 1 root root 3055341992 Jul 24 11:50 model00017of00017.safetensors rwxrx 1 root root 58330 Jul 24 11:46 model.safetensors.index.json rwxrx 1 root root 16636 Jul 24 11:46 README.md rwxrx 1 root root 9732 Jul 24 11:46 tokenizerconfig.json rwxrx 1 root root 11422654 Jul 24 11:46 tokenizer.json rwxrx 1 root root 2776833 Jul 24 11:46 vocab.json 二、起停服务

本节介绍了设置容器健康检查的用户指南。 健康检查是一项关键功能，它允许系统根据预设标准定期检查容器的运行状态。若未配置健康检查，即使容器内部的应用程序发生故障，Pod也可能无法察觉，从而导致服务中断，尽管Pod的状态仍显示为正常。 Kubernetes提供了三种类型的健康检查探针，以应对不同的监控需求： 存活探针（livenessProbe）：类似于执行系统级的进程检查（如ps命令），用于确定容器是否仍在正常运行。若存活检查失败，Kubernetes将重启该容器。 就绪探针（readinessProbe）：用于评估容器是否已准备好接收流量。对于启动时间较长或依赖外部服务的容器，此探针尤为重要。若就绪检查失败，Kubernetes将阻止流量流向该容器。 启动探针（startupProbe）：在容器启动阶段使用，以确保在存活和就绪检查之前，应用程序有足够的时间完成初始化。这有助于避免因启动缓慢而导致的误判重启。 检查机制 HTTP请求检查：适用于提供HTTP/HTTPS服务的容器。Kubernetes将定期发送GET请求至指定路径和端口，若响应码在200至399之间，则视为检查成功。 TCP端口检查：针对提供TCP服务的容器，Kubernetes将尝试建立TCP连接。若连接成功，则检查通过。 执行命令检查：用户可指定容器内的命令，Kubernetes将定期执行该命令。若命令返回0，则检查成功。 注意 执行命令时，需确保所需程序已包含在容器镜像中，且对于shell脚本，需指定脚本解析器。 GRPC检查（仅在特定版本及以上支持）：无需暴露HTTP端点或可执行文件，Kubernetes可通过GRPC连接查询应用状态。

本节主要介绍应用组件部署 部署方式说明 云容器引擎（Cloud Container Engine，简称CCE）提供高度可扩展的、高性能的企业级Kubernetes集群，支持运行Docker容器。借助云容器引擎，您可以在云平台上轻松部署、管理和扩展容器化应用程序。 如果创建的组件未开启构建，则不支持容器部署。 部署组件 本节介绍如何将静态组件部署到对应的环境上。 新建应用组件时，也可以选择“创建并部署”，部署操作与本节介绍步骤相同。 前提条件 1. 已经创建应用组件或者正在创建应用组件并完成了静态组件配置，请参考新建应用组件。 2. 已经完成环境创建，请参考环境管理。 3. 如果您基于软件包或者镜像包部署组件，需要将软件包或者镜像包上传： 将软件包上传至OBS对象存储中 将镜像包上传至镜像仓库，请参考上传镜像。 操作步骤 1、登录ServiceStage控制台，选择“应用管理 > 应用列表”。 2、选择已经创建的应用，单击应用名称，进入应用“概览”页。 3、在“组件列表”选择已经创建的组件，单击“操作”栏“部署”。 4、设置基本配置，其中带“”标志的参数为必填参数。 参数 参数说明 :: 环境 选择已创建的环境。 部署版本 组件版本号，例如：1.0.0。 描述 组件的描述信息。 部署系统 支持云容器引擎。 详情请参见部署方式说明。 基础资源 会自动加载所选环境包含的基础资源，根据实际业务需要进行选择。 实例数量 组件可以有一个或多个实例，用户可以设置具体实例个数。 设置多个实例主要用于实现高可靠性，当某个实例故障时，应用组件还能正常运行。 资源配额 组件无法调度到剩余资源小于申请值的节点上，配置方法请参考资源限制指南。 可以根据需要自定义“CPU配额”和“内存配额”。 组件状态 根据需要设置组件状态。 5、单击“下一步 组件配置”，配置组件。 “组件类型”为“通用”且运行时为“Docker”的组件，执行以下操作： a.选择镜像。支持多容器，可以单击“添加容器”增加镜像。 b.设置“镜像版本”。 c.输入“容器名称”。 d.（可选）设置“资源配额”。组件无法调度到剩余资源小于申请值的节点上。可以根据需要自定义“CPU配额”和“内存配额”。 e.（可选）设置“高级设置” 展开“高级设置> 组件配置”，可以设置“环境变量”，请参考设置应用环境变量。 展开“高级设置 > 部署配置”： 设置“启动命令”、“生命周期”，请参考设置应用生命周期。 设置“数据存储”，请参考设置数据存储。 展开“高级设置 > 运维监控”： 设置“日志采集”，请参考配置应用日志策略。 设置“健康检查”，请参考设置应用健康检查。 f.（可选）开启“公网访问” i.设置“公网ELB” 选择已经创建的负载均衡。 若不存在，请单击“新增ELB”创建新的负载均衡。 ii.（可选）设置“HTTPS” 若开启HTTPS，单击“使用已有”选择已经创建的证书。 若证书不存在，请单击“新创建”创建新的服务器证书。 iii.设置“域名” 在输入框中输入自定义域名。详情请参考配置域名映射。 iv.设置“监听端口” 设置应用进程的监听端口。 g.（可选）设置“数据库” 选择已经创建的缓存实例。 h.（可选）设置“时区” 修改容器节点的时区，默认和容器节点所在Region的时区一致。 i.（可选）设置“调度策略”，请参考设置应用组件实例调度策略。 j.（可选）设置“升级策略”，请参考设置应用组件实例升级策略。 k.（可选）设置“性能管理”，请参考设置应用性能管理。 其他类型的组件，执行以下操作： a.设置“镜像” 应用来源为软件包，会加载已经配置的组件静态信息。 组件运行时为Docker，需要从SWR镜像仓库选择镜像包。 b.（可选）开启“公网访问” i.设置“公网ELB” 选择已经创建的负载均衡。 若不存在，请单击“新增ELB”创建新的负载均衡，详情请参考“帮助中心 > 弹性负载均衡 > 用户指南 > 负载均衡器 > 创建负载均衡器”创建增强型负载均衡器。 ii.（可选）设置“HTTPS” 若开启HTTPS，单击“使用已有”选择已经创建的证书。 若证书不存在，请单击“新创建”创建新的服务器证书。创建服务器证书请参考“帮助中心 > 弹性负载均衡 > 用户指南 > 证书管理 > 创建证书”创建证书。 iii.设置“域名” 在输入框中输入自定义域名。详情请参考配置域名映射。 iv.（可选）设置“监听端口” 应用进程的监听端口，对于Tomcat8运行时，默认为8080，也支持自定义。 c.（可选）设置“JVM” 组件运行时为“Java8”、“Tomcat8”时需要设置。 输入JVM参数，如Xms256m Xmx1024m，多个参数以空格间隔，不填则使用默认值。 d.（可选）设置“Tomcat配置” 组件运行时为“Tomcat8”时需要配置。 i.勾选“配置参数”，弹出“Tomcat配置”对话框。 ii.单击“使用示例模板”，根据业务要求编辑模板文件。 iii.单击“确定”。 e.（可选）设置“微服务引擎” 微服务类型组件需要设置该参数。 默认选择环境中添加的微服务引擎，创建微服务引擎请参考创建微服务引擎专享版。 f.（可选）设置“数据库” 选择已经创建的缓存实例。 g.（可选）设置“时区” 修改容器的时区，默认和容器节点所在Region的时区一致。 h.（可选）设置“高级设置” 部署系统选择虚机部署时，只能设置“环境变量”。 展开“高级设置> 组件配置”，可以设置“环境变量”，请参考设置应用环境变量。 展开“高级设置 > 部署配置”： 设置“启动命令”、“生命周期”，请参考设置应用生命周期。 设置“数据存储”，请参考设置数据存储。 设置“调度策略”，请参考设置应用组件实例调度策略。 设置“升级策略”，请参考设置应用组件实例升级策略。 展开“高级设置 > 运维监控”： 设置“日志采集”，请参考配置应用日志策略。 设置“健康检查”，请参考设置应用健康检查。 设置“性能管理”，请参考设置应用性能管理。 设置“自定义监控指标”，请参考设置应用组件自定义指标监控。 6、单击“下一步 规格确认”，确认规格无误后，单击“部署”。 组件部署完成后，在应用“概览”页的“环境视图”可查看组件状态。

在使用GPU云主机进行推理时,vLLM版本会影响计算性能与功能支持,Open WebUI版本关系着用户交互体验与功能兼容性。本文提供完整升级指南,进一步增强系统稳定性、界面功能完整及性能最优。 一、Open WebUI升级指南 1. 查看现有版本 plaintext docker exec it openwebui bash c "cat /app/package.jsongrep version" 2. 版本升级 （1）登录云主机，下载最新容器镜像 plaintext docker pull ghcr.nju.edu.cn/openwebui/openwebui:v0.6.5 （2）删除旧镜像 查看当前容器镜像 删除旧容器镜像 plaintext docker image rm ghcr.nju.edu.cn/openwebui/openwebui:cuda 查看更新后的容器镜像 3. 修改启动openwebui命令参数 plaintext vi /root/.startwebui.sh 修改后内容如图 4. 清理容器 plaintext docker ps a docker rm f openwebui

本文介绍如何设置容器启动命令和参数。 功能说明 在容器镜像的构建过程中，可以通过ENTRYPOINT或CMD指定容器的启动命令和参数。当用户创建ECI Pod时，支持用户自定义容器的启动命令和参数。如果用户未定义容器的启动命令和参数，则将以容器镜像中指定的ENTRYPOINT或CMD启动。 配置示例 可以通过容器的 command和args字段来设置启动命令和参数，配置参考如下： shell apiVersion: apps/v1 kind: Deployment metadata: name: nginxdeployment labels: app: nginx spec: replicas: 1 selector: matchLabels: app: nginx template: metadata: labels: app: nginx spec: containers: name: nginx image: registryhuadong1.crsinternal.ctyun.cn/opensource/nginx:1.25alpine ports: containerPort: 80 command: ["sleep"] args: ["3600"] nodeName: vndu53cymkxxxxcnhuadong1jsnj1apublicctcloud

本文介绍如何设置容器启动命令和参数。 功能说明 在容器镜像的构建过程中，可以通过ENTRYPOINT或CMD指定容器的启动命令和参数。当用户创建ECI Pod时，支持用户自定义容器的启动命令和参数。如果用户未定义容器的启动命令和参数，则将以容器镜像中指定的ENTRYPOINT或CMD启动。 配置示例 可以通过容器的 command和args字段来设置启动命令和参数，配置参考如下： plaintext apiVersion: apps/v1 kind: Deployment metadata: name: nginxdeployment labels: app: nginx spec: replicas: 1 selector: matchLabels: app: nginx template: metadata: labels: app: nginx spec: containers: name: nginx image: registryhuadong1.crsinternal.ctyun.cn/opensource/nginx:1.25alpine ports: containerPort: 80 command: ["sleep"] args: ["3600"] nodeName: vndu53cymkxxxxcnhuadong1jsnj1apublicctcloud

本节介绍孤岛集群迁移至天翼云CCE集群。 若本地或三方云集群，无法通过公网/内网方式纳管到天翼云分布式容器云平台CCE One时，将不能使用三方单集群控制台相关运维能力，也即无法通过前端操作指引方式对集群应用进行必要的备份和恢复。此时，可考虑通过登录用户集群离线备份恢复方式进行操作。 适用场景 本地或三方云集群未纳管至分布式容器云，需在集群内实现备份迁移一体化操作，应用快捷上云。 操作指引 步骤一：集群评估与纳管 在这个阶段，您将根据源集群的现状来评估适合迁移的目标集群类型。可以基于必要的开源工具自动或手工收集源集群的信息，包括Kubernetes版本、规模、工作负载、存储等数据，并根据收集到的数据考虑合适的目标集群信息。 为方便后续的数据备份与恢复，或者基于联邦的细粒度应用迁移，您需要将源集群注册到天翼云CCE One注册集群； 步骤二：数据迁移 在这个阶段，您将把镜像和相关依赖服务的数据迁移到云端。可基于天翼云上提供的专业云迁移、云备份等迁移工具，或基于云产品提供的专门迁移指引进行迁移。例如： 自建镜像仓库迁移请参考：迁移自建Harbor至容器镜像服务企业版 自建数据库如mysql迁移请参考：本地MySql迁移到RDS For MySQL 自建PostgreSQL迁移请参考：本地PostgreSQL迁移到RDS For PostgreSQL 自建Redis迁移请参考：自建Redis迁移到DCS 其他类型存储迁移，请参考天翼云上对应云产品提供的迁移指引；

本节介绍基线检查列表的参数信息。 1. 登录容器安全卫士产品控制台。 2. 在左侧导航栏选择“安全合规”，进入安全合规页面。 3. 在安全合规页面单击“基线名称”，进入基线详情页面。 4. 筛选检查项：支持按照“集群”、“检查项名称”、“类型”、“启用状态”进行筛选查询。 “集群”筛选通过左上角“集群”下拉列表选择，支持选择全部集群或单个集群，集群改变时，检查通过率、检查未通过、检查通过数量和详情会随之更新。 5. 基线合规信息参数说明。 参数 说明 检查项名称 基线检查项的名称。 基线检查项类别 基线检查项类别随着基线类型的不同而不同。 检查对象类型 类型指的是基线检查项检测对象的类型，分为容器、镜像和节点。 来源 基线检查项的来源。 检测通过率 该基线检测项在相应对象类型（容器或镜像或节点）中的检查通过率，通过用绿色线条表示，不通过用红色线条表示。 检查未通过 未通过该基线检测项的容器（或镜像、或节点）数量。 检查通过 通过该基线检测项的容器（或镜像、或节点）数量。 启用状态 是否启用该基线检查项。

本小节介绍容器安全内容。 容器安全能够扫描镜像中的漏洞与配置信息，帮助企业解决传统安全软件无法感知容器环境的问题；同时提供容器进程白名单、容器文件监控、容器信息收集和容器逃逸检测功能，有效防止容器运行时安全风险事件的发生。

Kubernetes 1.30 版本Changelog 1. Pod 调度就绪机制（GA），通过 spec.schedulingGates 字段，允许用户在 Pod 创建后动态控制其调度时机。例如，当存储卷或网络策略未准备好时，Pod 可被标记为 “未就绪”，避免无效调度导致的资源浪费。 2. Pod 拓扑分布最小域（GA），在 PodTopologySpread 中新增 minDomains 参数，要求 Pod 至少分布在指定数量的拓扑域（如可用区）。若当前域不足，Pod 将暂停调度，触发自动缩放器创建新节点，确保高可用性。 3. 基于索引的 Job 回退机制（Beta），支持为索引 Job 的每个任务索引单独配置重试策略（.spec.backoffLimitPerIndex），避免因单个索引失败导致整个 Job 终止。适用于分布式训练等需细粒度控制的场景。 4. 基于容器资源的 HPA（GA），Horizontal Pod Autoscaler 可根据 Pod 内单个容器的 CPU / 内存使用情况进行扩缩容，而非依赖 Pod 整体指标。例如，优先对关键容器（如数据库主节点）设置更严格的扩缩容阈值。 5. 负载均衡器 IP 模式（Beta）， LoadBalancer 类型的 Service 新增 .status.loadBalancer.ingress.ipMode 字段，用于指定负载均衡器IP的转发行为。该字段仅在指定了.status.loadBalancer.ingress.ip字段时才能被指定。 6. 多服务 CIDR 支持（Alpha），允许为集群配置多个 Service ClusterIP 地址段（通过 ServiceCIDR 资源），扩展服务 IP 地址空间，满足复杂网络拓扑需求。 7. 基于 CEL 的准入控制（GA），该特性支持通过CEL表达式声明资源的验证准入策略。 8. ImageMaximumGCAge（Beta），允许kubelet配置对未使用镜像被垃圾回收前的最大存活时间，即在达到指定时间后若镜像仍然未被使用，那么镜像将可被垃圾收集机制清理。默认值为"0s"，即不设置时间限制）。 更多信息请参考：Kubernetes 1.30 Changelog

本文为您介绍如何在ECI实例中查看GPU信息。 背景信息 nvidiasmi是NVIDIA System Management Interface的缩写，是一种用于监视和管理NVIDIA GPU的命令行工具。它提供了有关GPU的详细信息，包括GPU的使用情况、温度、电源消耗、驱动程序版本等。通过nvidiasmi，可以了解GPU的性能和健康状况，以及识别任何可能的问题。使用nvidiasmi，可以完成下列管理： 监视GPU的使用情况：nvidiasmi可以显示GPU的当前使用率、内存使用情况、温度和功耗等信息。这对于调试和优化GPU应用程序非常有用。 管理GPU的电源消耗：nvidiasmi可以显示GPU的功耗和电源限制，并允许您调整GPU的电源模式和限制，以平衡性能和功耗之间的关系。 检查驱动程序版本：nvidiasmi可以显示已安装的NVIDIA驱动程序的版本号，以便您了解驱动程序是否需要更新。 监控GPU的温度：nvidiasmi可以提供GPU的温度信息，帮助您确保GPU在安全的温度范围内运行。 前期准备 已开通天翼云弹性容器实例服务。 ECI容器镜像中已安装nvidia显卡驱动。 操作步骤 下面将介绍如何在ECI实例中使用nvidiasmi工具查看GPU信息： 1. 通过天翼云弹性容器实例订购页面创建ECI GPU实例。 2. 选择已安装nvidia显卡驱动的容器镜像。 3. 在ECI控制台管理页面进入实例详情。 4. 点击“远程连接”标签，当容器连接成功后，执行nvidiasmi命令即可查看GPU信息，如下图所示：

查看策略信息 1. 登录容器安全卫士控制台。 2. 在左侧导航栏选择“网络雷达”，进入网络雷达可视图页面。 3. 单击某个工作负载，进入该工作负载的详情页面。 4. 选择“策略”页签，查看策略信息。 按照策略状态分为“已发布策略”和“预发布策略”页面。可查看与该deployment包含的所有IP、pod相关的所有网络安全策略（或预发布策略）的信息，包括策略名称、策略描述、策略类型这些信息。 5. 单击“前往策略管理”按钮后，跳转到“策略管理”页面，并搜索出对应策略。 查看风险信息 1. 登录容器安全卫士控制台。 2. 在左侧导航栏选择“网络雷达”，进入网络雷达可视图页面。 3. 单击存在风险的工作负载（中心有红色感叹号的灰色圆形代表存在风险的工作负载），进入该工作负载的详情页面。 4. 定位到“风险”页面，可查看其风险来源，是存在漏洞还是报警提示。 如果存在漏洞 1. 在“风险 > 漏洞”页面可查看该deployment构建pod时指定镜像的名称、版本和漏洞统计信息。 2. 再单击“前往镜像安全”，跳转到“镜像安全 > 节点镜像”页面，可查看该镜像的漏洞风险详情。在“镜像安全”页面，系统将自动按照刚刚查看的镜像名称进行检索，自动筛选出该镜像。 3. 单击“镜像名称”即可查看镜像安全概览、关联信息、漏洞详情、软件、文件、环境变量、安全溯源等详细信息。 如果有报警提示 1. 在“风险 > 报警”页面可查看该deployment中包含的容器存在的未处理报警信息，包括容器的名称、所在节点、报警数量统计信息。 2. 再单击“前往运行态检测”，跳转到“告警响应 > 运行态检测”页面，可查看该容器的未处理报警信息。在“告警响应 > 运行态检测”页面，系统将自动按照刚刚查看的报警信息进行检索，自动筛选出该报警信息。 3. 单击操作列中的“详情”可查看攻击链条、告警原因、风险说明、建议等信息，并立即进行处理。

3.保存模型 在VSCode列表页面保存模型到模型管理。 三、服务部署 点击“部署我的模型”，填写表单创建服务。 服务名称：服务名称应小于50字符，不能包含空格。 镜像选择：系统内置镜像、从JupyterLab/VSCode中制作的自定义镜像、容器镜像服务共享过来的镜像。平台预置支持910B的通用推理服务镜像ascendcommoninfersvc 模型选择：开发机保存的模型，或其他方式保存的模型。 代码包选择：开发机保存的代码包，或其他方式保存的代码包。 环境变量：输入镜像的启动依赖的环境变量。 运行命令：输入镜像的启动运行命令。 端口号：在线服务进程监听的端口号。 资源部署信息：现在规格以及实例数 授权管理：选择已创建的授权或去新创建授权后再选择 服务部署好后，进入服务的详情页获取服务的APPKEY和modelId 调用OpenAPI验证 App Key需要放置在请求的Authrization请求头中: Authorization: Bearer APPKEY e.g. modelId需要添加在请求体中的model字段：model: modelId e.g. Postman请求示例 plaintext curllocation ' header 'Authorization: Bearer 4a56fe' header 'ContentType: application/json' data '{ "model":"b41b61", "maxtokens":1024, "topp":0.1, "topk":5, "stream":false, "temperature":0.8, "streamoptions": { "includeusage":true }, "messages": [ { "role":"user", "content":"ping" } ] }'

差异项 差异化配置说明 镜像差异化(imageOverrider) 指定容器镜像参数差异化配置 命令差异化(commandOverrider) 指定容器运行命令的差异化配置 参数差异化(argsOverrider) 指定容器运行参数的差异化配置，与commandOverrider类似 标签差异化(labelsOverrider) 指标资源标签的差异化配置 注解差异化(annotationsOverrider) 指定资源注解的差异化配置 字段差异化(fieldOverrider) 支持内置yaml、json的差异化 文本差异化(plaintext) 泛指任意资源，与kubectl patch方式类似