参数 是否必填 参数类型 说明 示例 下级对象 concurrency 否 Integer IstioProxy线程数 2 enableCoreDump 否 Boolean 核心转存 false enableDnsCapture 否 Boolean 是否开启istio内置dns false enableElegantTermination 否 Boolean 是否开启优雅终止 false excludeIPRanges 否 String 不拦截对外访问的地址范围 127.0.0.1 excludeInboundPorts 否 String 设置端口使入口流量免于经过Sidecar代理 80,8080 excludeOutboundPorts 否 String 设置端口使出口流量免于经过Sidecar代理 80,8080 holdApplicationUntilProxyStarts 否 Boolean 生命周期管理 true includeIPRanges 否 String 拦截对外访问的地址范围 192.168.0.0/16 includeInboundPorts 否 String 设置端口使入口流量经过Sidecar代理 443 includeOutboundPorts 否 String 设置端口使出口流量经过Sidecar代理 443 interceptionMode 否 String Sidecar对入向流量的拦截策略，REDIRECT：默认的拦截策略，Sidecar将使用重定向方式拦截入向流量。TPROXY：透明代理拦截策略，Sidecar将以透明代理的方式拦截入向流量。NONE:不拦截流量 REDIRECT lifecycleStr 否 String Sidecar代理生命周期JSON字符串 logLevel 否 String 日志等级，如果不设置则为warning info outboundTrafficPolicy 否 String 出向流量策略。取值：ALLOWANY：允许访问所有外部服务。REGISTRYONLY：只能访问注册到网格内的服务。 ALLOWANY proxyMetadata 否 Map of String 环境变量 proxyStatsMatcher 否 Object 统计相关指标 CustomProxyConfigProxyStatsMatcher selector 否 Map of String workload的标签选择器 sidecarProxyInitResourceLimit 否 Object Sidecar代理初始化容器资源限制 ResourcesLimitReq sidecarProxyInitResourceRequest 否 Object Sidecar代理初始化容器资源最低申请额度 ResourcesRequestReq sidecarProxyResourceLimit 否 Object Sidecar代理容器资源限制 ResourcesLimitReq sidecarProxyResourceRequest 否 Object Sidecar代理容器资源最低申请额度 ResourcesRequestReq terminationDrainDuration 否 String Istio Proxy终止等待时长 5s

参数 是否必填 参数类型 说明 示例 下级对象 concurrency 否 Integer IstioProxy线程数 2 enableCoreDump 否 Boolean 核心转存 false enableDnsCapture 否 Boolean 是否开启istio内置dns false enableElegantTermination 否 Boolean 是否开启优雅终止 false excludeIPRanges 否 String 不拦截对外访问的地址范围 127.0.0.1 excludeInboundPorts 否 String 设置端口使入口流量免于经过Sidecar代理 80,8080 excludeOutboundPorts 否 String 设置端口使出口流量免于经过Sidecar代理 80,8080 holdApplicationUntilProxyStarts 否 Boolean 生命周期管理 true includeIPRanges 否 String 拦截对外访问的地址范围 192.168.0.0/16 includeInboundPorts 否 String 设置端口使入口流量经过Sidecar代理 443 includeOutboundPorts 否 String 设置端口使出口流量经过Sidecar代理 443 interceptionMode 否 String Sidecar对入向流量的拦截策略，REDIRECT：默认的拦截策略，Sidecar将使用重定向方式拦截入向流量。TPROXY：透明代理拦截策略，Sidecar将以透明代理的方式拦截入向流量。NONE:不拦截流量 REDIRECT lifecycleStr 否 String Sidecar代理生命周期JSON字符串 logLevel 否 String 日志等级，如果不设置则为warning info outboundTrafficPolicy 否 String 出向流量策略。取值：ALLOWANY：允许访问所有外部服务。REGISTRYONLY：只能访问注册到网格内的服务。 ALLOWANY proxyMetadata 否 Map of String 环境变量 proxyStatsMatcher 否 Object 统计相关指标 CustomProxyConfigProxyStatsMatcher selector 否 Map of String workload的标签选择器 sidecarProxyInitResourceLimit 否 Object Sidecar代理初始化容器资源限制 ResourcesLimitReq sidecarProxyInitResourceRequest 否 Object Sidecar代理初始化容器资源最低申请额度 ResourcesRequestReq sidecarProxyResourceLimit 否 Object Sidecar代理容器资源限制 ResourcesLimitReq sidecarProxyResourceRequest 否 Object Sidecar代理容器资源最低申请额度 ResourcesRequestReq terminationDrainDuration 否 String Istio Proxy终止等待时长 5s

本文介绍如何客户端上传私有镜像。 创建好仓库后，用户需要向仓库上传本地镜像，镜像通过客户端进行上传。客户端上传指的是用户在本地环境使用docker命令将镜像上传到容器镜像服务的镜像仓库。本章节将以nginx:1.10镜像为例，介绍如何通过客户端上传私有镜像。 操作前提 用户本地环境已安装Docker客户端，并确定Docker服务已启动； 确保本地网络环境良好，且可访问公网； 请确保镜像的正确性，能够成功后台启动； 已创建名为nginx的容器镜像仓库，操作过程请参见创建容器镜像仓库 。 操作步骤 1.登录云容器引擎控制台，单击左侧导航栏的【镜像仓库】，进入仓库列表界面； 2.单击仓库名称，可进入仓库详情页，点击右上角【上传镜像】，页面将展示镜像上传步骤； 以下将根据页面提示步骤，详细的说明客户端上传镜像到镜像仓库的操作流程： 3.登录镜像仓库服务器； 1）获取登陆指令及用户名密码：点击【上传镜像】后，从提示页面中可获取镜像登录指令及用户名密码，用户名可直接获取，密码可需要点击查看密码获取； 2）登陆仓库：打开用户本地环境，在命令行内输入步骤1）中获得的指令，当页面出现successful的关键词提示，即表明仓库已登陆成功； 4.标记镜像； 1）使用命令获得本地镜像名称或镜像ID：docker images 2）标记镜像：我们以nginx镜像为例，本次需要为nginx镜像打上仓库tag，提示面板中步骤2的提示，我们完成命令填写后，在命令行中使用以下命令： docker tag {镜像ID} cceregistry.ctyun.cn:443/{仓库名}/{镜像名}:{标签名} docker tag nginx cceregistry.ctyun.cn:443/nginx/nginx:1.10 其中，第一个nginx为仓库名，第二个nginx为镜像名，1.10为版本号。 5.推送镜像至镜像仓库； 根据提示面板中步骤3提示的push命令，我们完成命令填写后，在命令行中使用以下命令，将打好tag的镜像上传到对应仓库中： docker push cceregistry.ctyun.cn:443/nginx/nginx:1.10 终端显示如下信息，表明 push 镜像成功。 6d6b9812c8ae: Pushed 695da0025de6: Pushed fe4c16cbf7a4: Pushed 1.10: digest: sha256:eb7e3bbd8e3040efa71d9c2cacfa12a8e39c6b2ccd15eac12bdc49e0b66cee63 size: 948 6.返回云容器引擎平台，依次点击【镜像仓库】>【仓库名称】，进入镜像列表页面，可查看到上传的镜像信息，至此用户已完成镜像上传功能，可进行镜像管理及应用部署等操作。

介绍如何设置ICAgent日志采集开关。 在“ICAgent采集开关”页签，支持设置ICAgent采集开关（控制ICAgent是否对日志数据进行采集）、采集Syslog日志到AOM、采集容器标准输出到AOM。 设置采集开关 1、登录管理控制台，选择“管理与部署 > 云日志服务 LTS”，进入“日志管理”页面。 2、左侧导航选择“配置中心”，单击“ICAgent采集开关”。 3、ICAgent采集开关是用来控制ICAgent是否对日志数据进行采集。 “ICAgent采集开关”默认打开，当您不需要采集日志时，通过关闭“ICAgent采集开关”停止日志采集，以减少资源占用。 “ICAgent采集开关”关闭后，ICAgent会停止采集日志，且在应用运维管理AOM控制台的“日志采集开关”也会同步关闭。 4、采集Syslog日志到AOM用来控制ICAgent是否采集Syslog日志到AOM1.0。开关关闭后，ICAgent将不会采集Syslog日志到AOM1.0，此功能仅支持5.12.182以上版本的ICAgent。 5、采集容器标准输出到AOM。选择CCE集群，开启或关闭应用到该集群。开关关闭后，ICAgent将不会采集标准输出日志到AOM，此功能仅支持5.12.133以上版本的ICAgent。建议使用云容器引擎CCE应用日志接入LTS直接采集容器标准输出到LTS，不推荐采集到AOM。

概述 应用运维管理服务（AOM）可以监控和查看ServiceStage服务的运行状态、各个指标的使用情况，并对监控项创建告警规则。 当您使用ServiceStage服务部署组件后，AOM服务能关联通过在ServiceStage部署组件的监控指标，帮助您实时掌握组件的各项性能指标，精确掌握组件运行情况。 设置监控及告警 ServiceStage支持容器和虚机两种组件部署方式。 设置容器部署组件监控及告警 CCE会配合AOM对集群进行全方位的监控，在创建节点时会默认安装AOM的ICAgent（在集群kubesystem命名空间下名为icagent的DaemonSet），ICAgent默认采集集群底层资源以及运行在集群上负载的监控数据并上传到AOM。另外，设置应用组件自定义指标监控后，ICAgent还能采集负载的自定义指标监控数据并上传到AOM。 参考设置资源监控告警阈值，完成阈值告警规则设置后，组件运行过程中产生的各种告警会上传到AOM。 支持的监控指标 指标是对资源性能的数据描述或状态描述。 容器部署组件支持的监控指标 容器部署组件的资源基础监控包含CPU、内存、磁盘等，具体请参考下表。 表 资源监控指标 监控指标 指标含义 取值范围 单位 CPU内核总量(cpuCoreLimit) 该指标用于统计测量对象申请的CPU核总量。 ≥1 核（Core） CPU内核占用(cpuCoreUsed) 该指标用于统计测量对象已经使用的CPU核个数。 ≥0 核（Core） CPU使用率(cpuUsage) 该指标用于统计测量对象的CPU使用率。服务实际使用的与申请的CPU核数量比率。 0～100% 百分比（Percent） 物理内存总量(memCapacity) 该指标用于统计测量对象申请的物理内存总量。 ≥0 兆字节（Megabytes） 物理内存使用率(memUsage) 该指标用于统计测量对象已使用内存占申请物理内存总量的百分比。 0～100% 百分比（Percent） 物理内存使用量(memUsed) 该指标用于统计测量对象实际已经使用的物理内存（Resident Set Size）。 ≥0 兆字节（Megabytes） 磁盘读取速率(diskReadRate) 该指标用于统计每秒从磁盘读出的数据量。 ≥0 千字节/秒（Kilobytes/Second） 磁盘写入速率(diskWriteRate) 该指标用于统计每秒写入磁盘的数据量。 ≥0 千字节/秒（Kilobytes/Second） 下行Pps(recvPackRate) 每秒网卡接收的数据包个数。 ≥0 个/秒（Packets/Second） 文件系统容量(filesystemCapacity) 该指标用于统计测量对象文件系统的容量。 仅支持1.11及其更高版本的kubernetes集群中驱动模式为devicemapper的容器。 ≥0 兆字节（Megabytes） 下行Bps(recvBytesRate) 该指标用于统计测试对象的入方向网络流速。 ≥0 字节/秒（Bytes/Second） 下行包错率(recvErrPackRate) 每秒网卡接收的错误包个数。 ≥0 个/秒（Packets/Second） 上行Pps(sendPackRate) 该指标用于统计测试对象的出方向网络流速。 ≥0 字节/秒（Bytes/Second） 上行包错率(sendErrPackRate) 每秒网卡发送的错误包个数。 ≥0 个/秒（Packets/Second） 上行Bps(sendBytesRate) 该指标用于统计测试对象的出方向网络流速。 ≥0 字节/秒（Bytes/Second） 容器错包个数(rxPackErrors) 该指标用于统计测量对象收到错误包的数量。 ≥0 个（Packets） 线程数(threadsCount) 该指标用于统计主机中当前创建的线程数量。 ≥0 无 文件系统可用(filesystemAvailable) 该指标用于统计测量对象文件系统的可用大小。 仅支持1.11及其更高版本的Kubernetes集群中驱动模式为devicemapper的容器。 ≥0 兆字节（Megabytes） 文件系统使用率(filesystemUsage) 该指标用于统计测量对象文件系统使用率。实际使用量与文件系统容量的百分比。 仅支持1.11及其更高版本的Kubernetes集群中驱动模式为devicemapper的容器。 ≥0 百分比（Percent） 句柄数(handleCount) 该指标用于统计测量对象使用的句柄数。 ≥0 无 组件状态(status) 该指标用于统计应用组状态是否正常。 l 0：表示正常l 1：表示异常 无 虚拟内存总量（virMemCapacity） 该指标用于统计测量对象申请的虚拟内存总量。 ≥0 兆字节（Megabytes）

指定宿主机核容器内服务到的端口映射，可自主选择 capadd SYSADMIN Docker 命令中的一个选项，用于给容器添加额外的 Linux 内核能力 v ${STORAGELOCATION}:/app/server/storage 服务启动数据宿主机目录和容器目录的映射 v ${STORAGELOCATION}/.env:/app/server/.env 服务启动环境变量配置文件，宿主机和容器的映射 e STORAGEDIR"/app/server/storage" 容器内的环境变量，指定服务数据在容器内存放目录 mintplexlabs/anythingllm 4. 登录Anything LLM 接入GPU物理机提供的DS模型 1. 登录Anything LLM，选择设置LLM首选项。 2. 设置“Local AI Base URL"，其中”Local AI Base URL“填充GPU物理机DS地址和端口，然后保存。 Embedding模型 不同的任务需要不同的模型和数据库支持。如信息检索任务，需要 embedding 模型能准确捕捉文本语义信息，向量数据库具备高效的检索功能；对于推荐系统任务，模型要能挖掘用户和物品的潜在特征，数据库要支持快速的相似性计算。 Anything LLM支持多种Embedding模型引擎，包括AnythingLLM Native Embedder (default)、OpenAI、Azure OpenAI、LocalAi (all)、Ollama (all)、LM Studio (all)、Cohere。下面以LocalAi (all)使用BGE M3模型为例说明，其他请参考对应软件官网安装使用。 1. 创建GPU云主机并开放安全组规则。 BGE M3 是一款文本嵌入模型，在部署使用时，云主机配置会受任务类型（如推理、训练）、数据规模、并发请求数量等因素影响。如果是训练任务建议使用1张A100，其他任务可根据实际需求创建规格。创建步骤请参考创建配备GPU驱动的GPU云主机（Linux）GPU云主机用户指南创建GPU云主机 天翼云。 安全组放开Anything LLM云主机弹性IP+端口8000，参考添加安全组规则弹性云主机用户指南安全安全组配置安全组规则 天翼云。 2. 下载模型 2.1.安装依赖包 参考文档在天翼云使用vLLM运行DeepSeek的最佳实践32B等版本自定义部署DeepSeek步骤三：手动部署DeepSeek > 1.安装依赖包。 2.2.下载BGE M3模型 将以下内容保存为 modeldownload.py 文件，参数 cachedir 为模型的下载路径，您可以按需修改，需确保存储空间足够存放模型。 plaintext from modelscope import snapshotdownload modeldir snapshotdownload('BAAI/bgem3', cachedir'/root/modelpath', revision'master') 运行该文件，启动模型下载。 plaintext python modeldownload.py 2.3.运行模型 plaintext vllm serve BAAI/bgem3 servedmodelname bgem3 gpumemoryutilization 0.95 enforce 3. 配置Embedding模型引擎 4. 使用Embedding模型引擎

容器IP地址管理 VPC网络按如下规则分配容器IP： 容器网段需单独分配 节点维度划分地址段，集群的所有节点从容器网段中分配一个固定大小（用户自己配置）的IP网段 容器网段依次循环分配IP网段给新增节点 调度到节点上的Pod依次循环从分配给节点的IP网段内分配IP地址 图 VPC网络IP地址管理 按如上IP分配，VPC网络的集群最多能创建节点数量 容器网段IP数量 ÷ 节点从容器网段中分配IP网段的IP数量 比如容器网段为172.16.0.0/16，则IP数量为65536，节点分配容器网段掩码为25，也就是每个节点容器IP数量为128，则最多可创建节点数量为65536/128512。当然，集群能创建多少节点，还受节点网络和集群规模的影响。 图 容器网段配置（创建集群时配置） 网段规划建议 在集群网络构成中介绍集群中网络地址可分为节点网络、容器网络、服务网络三块，在规划网络地址时需要从如下方面考虑： 三个网段不能重叠 ，否则会导致冲突。且集群所在VPC下所有子网（包括扩展网段子网）不能和容器网段、服务网段冲突。 保证 每个网段有足够的IP地址可用 。 节点网段的IP地址要与集群规模相匹配，否则会因为IP地址不足导致无法创建节点。 容器网段的IP地址要与业务规模相匹配，否则会因为IP地址不足导致无法创建Pod。每个节点上可以创建多少Pod还与其他参数设置相关，具体请参见节点最多可以创建多少个 Pod。 例如集群规模为200节点，容器网络模型为VPC网络。 则此时选择节点子网的可用IP数量需要超过200，否则会因为IP地址不足导致无法创建节点。 容器网段为10.0.0.0/16，可用IP数量为65536，如容器IP地址管理中所述，VPC网络IP分配是分配固定大小的网段（使用掩码实现，确定每个节点最多分配多少容器IP），例如上限为128，则此时集群最多支撑65536/128512个节点，然后去掉Master节点数量，最终结果就是509个。 图 容器网段配置（创建集群时配置）

服务 说明 软件开发生产线 需求管理 预置3个已规划并已完成的迭代、项目的模块设置、以及若干统计报表。 软件开发生产线 代码托管 预置代码仓库“phoenixsample”，存放项目示例代码。 软件开发生产线 代码检查 预置4个任务，任务详情介绍请参见步骤四：检查代码。 软件开发生产线 编译构建 预置5个任务，任务详情介绍请参见步骤五:构建应用。 软件开发生产线 制品仓库 用于存储通过构建任务生成的软件包。 软件开发生产线 部署 预置3个应用，应用详情介绍请参见步骤六：部署应用CCE篇。 软件开发生产线 测试计划 功能测试用例库，预置十余个测试用例。 软件开发生产线 流水线 预置5条流水线，流水线详情介绍请参见步骤八：配置流水线，实现持续交付。 其它组件和服务 统一身份认证服务 用于管理帐号。 其它组件和服务 容器镜像服务 用于存放构建任务生成的Docker镜像。 其它组件和服务 云容器引擎 用于软件包部署，与ECS部署属于两种不同的部署方式。 其它组件和服务 云主机 用于软件包部署，与CCE部署属于两种不同的部署方式。

操作场景 普通任务是一次性运行的短任务，部署完成后即可执行。正常退出（exit 0）后，任务即执行完成。 普通任务是用来控制批处理型任务的资源对象。批处理业务与长期伺服业务（Deployment、Statefulset）的主要区别是： 批处理业务的运行有头有尾，而长期伺服业务在用户不停止的情况下永远运行。Job管理的Pod根据用户的设置把任务成功完成就自动退出了。成功完成的标志根据不同的spec.completions策略而不同，即： 单Pod型任务有一个Pod成功就标志完成。 定数成功型任务保证有N个任务全部成功。 工作队列型任务根据应用确认的全局成功而标志成功。 前提条件 已创建资源，具体操作请参见购买节点。若已有集群和节点资源，无需重复操作。 步骤 1 （可选）普通任务需要基于镜像创建，若选择私有镜像，用户首先需要将镜像上传至镜像仓库。 步骤 2 登录CCE控制台，在左侧导航栏中选择“工作负载 > 普通任务 Job”，单击“创建普通任务”。 步骤 3 参照下表配置任务基本信息，其中带“”标志的参数为必填参数。 参数 参数说明 任务名称 新建任务的名称，命名必须唯一。 请输入4到63个字符的字符串，可以包含小写英文字母、数字和中划线（），并以小写英文字母开头，小写英文字母或数字结尾。 容器集群 新建任务所在的集群。 命名空间 新建任务所属的命名空间，默认为default。 实例数量 任务的实例数量。任务可以有一个或多个实例，用户可以设置具体实例个数，默认为1。 每个任务实例都由相同的容器部署而成。设置多个实例主要用于实现高可靠性，当某个实例故障时，任务还能正常运行。 任务描述 任务描述信息。 步骤 4 单击“下一步：添加容器”，添加容器和镜像。 1. 单击“选择镜像”，选择需要部署的镜像。 − 我的镜像：展示了您创建的所有镜像仓库。 − 第三方镜像：CCE支持拉取第三方镜像仓库（即镜像仓库之外的镜像仓库）的镜像创建任务。使用第三方镜像时，请确保任务运行的节点可访问公网。第三方镜像的具体使用方法请参见如何使用第三方镜像。 若您的镜像仓库不需要认证，密钥认证请选择“否”，并输入“镜像地址”，单击“确定”。 若您的镜像仓库都必须经过认证（帐号密码）才能访问，您需要先创建密钥再使用第三方镜像，具体操作请参见如何使用第三方镜像。 − 共享镜像：其它租户通过“容器镜像服务”共享给您的镜像将在此处展示，您可以基于共享镜像创建工作负载。 2. 配置镜像参数。 参数 说明 镜像 导入的镜像，您可单击“更换镜像”进行更换。 镜像版本 选择需要部署的镜像版本。 容器名称 容器的名称，可修改。 容器规格 CPU 配额： 申请：容器需要使用的最小CPU值，默认0.25Core。 限制：允许容器使用的CPU最大值。建议设容器配额的最高限额，避免容器资源超额导致系统故障。 内存配额： 申请：容器需要使用的内存最小值，默认0.5GiB。 限制：允许容器使用的内存最大值。如果超过，容器会被终止。 申请和限制的具体请参见6.10.2 设置容器规格。 GPU 配额：当集群中包含GPU节点时，才能设置GPU，无GPU节点不显示此选项。 容器需要使用的GPU百分比。勾选“使用”并设置百分比，例如设置为10%，表示该容器需使用GPU资源的10%。若不勾选“使用”，或设置为0，则无法使用GPU资源。 GPU 显卡：工作负载实例将被调度到GPU显卡类型为指定显卡的节点上。 若勾选“不限制”，容器将会随机使用节点中的任一显卡。您也可以勾选某个显卡，容器将使用特定显卡。 3. （可选）高级设置。 参数 参数说明 生命周期 生命周期脚本定义，主要针对容器类任务的生命周期事件采取的动作。 启动命令：输入容器启动命令，容器启动后会立即执行。详细步骤请参见容器设置。 启动后处理：任务启动后触发。详细步骤请参见设置容器生命周期。 停止前处理：任务停止前触发。详细步骤请参见设置容器生命周期。 环境变量 在容器中添加环境变量，一般用于通过环境变量设置参数。在环境变量页签，单击“添加环境变量”。当前支持三种类型。 手动添加：输入变量名称、变量/变量引用。 密钥导入：输入变量名称，选择导入的密钥名称和数据。您需要提前创建密钥，具体请参见创建密钥。 配置项导入：输入变量名称，选择导入的配置项名称和数据。您需要提前创建配置项，具体请参见创建配置项。 数据存储 支持挂载本地磁盘或者云存储到容器中，以实现数据文件的持久化存储。 详细步骤请参见存储管理。 容器日志 CCE支持配置工作负载日志策略，便于日志收集分析，以及按周期防爆处理。详细步骤请参见采集容器标准输出日志。 4. （可选）一个任务实例包含1个或多个相关容器。若您的任务包含多个容器，请单击“添加容器”，再执行添加容器的操作。 步骤 5 配置完成后，单击“创建”。 待状态为“执行中”，普通任务创建成功。 使用kubectl创建Job Job的配置参数如下所示。 spec.template格式与Pod相同。 RestartPolicy仅支持Never或OnFailure。 单个Pod时，默认Pod成功运行后Job即结束。 .spec.completions表示Job结束需要成功运行的Pod个数，默认为1。 .spec.parallelism表示并行运行的Pod的个数，默认为1。 spec.backoffLimit表示失败Pod的重试最大次数，超过这个次数不会继续重试。 .spec.activeDeadlineSeconds表示Pod运行时间，一旦达到这个时间，Job即其所有的Pod都会停止。且activeDeadlineSeconds优先级高于backoffLimit，即到达activeDeadlineSeconds的Job会忽略backoffLimit的设置。 根据.spec.completions和.spec.Parallelism的设置，可以将Job划分为以下几种类型。 任务类型 Job类型 说明 使用示例 一次性Job 创建一个Pod直至其成功结束 数据库迁移 固定结束次数的Job 依次创建一个Pod运行直至completions个成功结束 处理工作队列的Pod 固定结束次数的并行Job 依次创建多个Pod运行直至completions个成功结束 多个Pod同时处理工作队列 并行Job 创建一个或多个Pod直至有一个成功结束 多个Pod同时处理工作队列 以下是一个Job配置示例，保存在myjob.yaml中，其计算π到2000位并打印输出。 apiVersion: batch/v1 kind: Job metadata: name: piwithtimeout spec: completions: 50

本文主要介绍最佳实践 天翼云容器镜像服务最佳实践.pdf

本节主要介绍使用限制。 集群和节点 云容器引擎对单个用户的资源数量和容量限定了配额，默认情况下，您最多可以创建50个集群（每个Region下），每个集群中可以选择50节点、200节点、1000节点、2000节点几种规格。 非高可用模式的集群在控制节点故障后将不可用，影响业务功能，不适用于商用场景，建议您选择“高可用”模式。 集群创建时将默认创建名称带有“cce”标识的安全组规则，删除或修改后可能导致集群无法正常使用。 集群名称、集群规模、高可用开关、网络模型、网段配置、服务转发模式在集群创建后将无法修改，请谨慎选择。 CCE集群默认安装采集探针，方便您在Web界面查看集群资源的日志和监控信息。 集群一旦创建以后，不支持变更以下项： 变更集群的控制节点数量，例如非高可用集群（控制节点数量为1）变更为高可用集群（控制节点数量为3）。 变更控制节点可用区。 变更集群的网络配置，如所在的虚拟私有云VPC、子网、容器网段、服务网段、IPv6、kubeproxy代理（转发）模式。 变更网络模型，例如“容器隧道网络”更换为“VPC网络”。 CCE创建的ECS实例（节点）目前支持“按需计费”和“包年/包月”，其他资源（例如负载均衡）为按需计费。如果资源所属的服务支持将按需计费实例转换成包年/包月实例，您可以通过对应的控制台进行操作。 集群中纳管计费模式为“包年包月”的节点时，无法在CCE控制台为其续费，用户需前往ECS控制台单独续费。 由于ECS（节点）等CCE依赖的底层资源存在产品配额及库存限制，创建集群、扩容集群或者自动弹性扩容时，可能只有部分节点创建成功。 ECS（节点）规格要求：CPU ≥ 2核且内存 ≥ 4GB。 通过搭建VPN方式访问CCE集群，需要注意VPN网络和集群所在的VPC网段、容器使用网段不能冲突

极速文件存储（SFS Turbo）具有按需申请，快速供给，弹性扩展，方便灵活等特点，适用于多种使用场景，主要面向DevOps、容器微服务、企业办公等场景。 图CCE挂载极速文件存储卷 极速文件存储说明 符合标准文件协议：用户可以将文件系统挂载给服务器，像使用本地文件目录一样。 数据共享：多台服务器可挂载相同的文件系统，数据可以共享操作和访问。 私有网络：数据访问必须在数据中心内部网络中。 直接使用云上现有IAAS服务构建独享的云文件存储，为租户提供数据隔离保护和IOPS性能保障，主要面向DevOps、容器微服务、企业办公等场景。 适用于多读多写（ReadWriteMany）场景下的各种工作负载（Deployment/StatefulSet）和普通任务（Job）使用。

本节介绍了用户指南:使用LVM动态存储卷。 云容器引擎服务提供cstorcsi插件，支持通过LVM方式，基于容器集群节点上的硬盘，虚拟化成一个小型存储池，当需要特定份额的存储时，从中划分出对应份额的磁盘供业务容器使用。 使用LocalPV、HostPath都可以实现Pod对主机存储空间的访问，但均具有一定局限性，比如无法做到容量隔离、无法限制IOPS/吞吐等、无法直观了解各节点存储空间余量从而进行合理调度。基于此，云容器引擎提供LVM数据卷方案，以解决上述问题。 前提条件 已创建容器集群 该功能使用风险、限制较多，默认控制台不对外开放。如需使用，请通过工单方式联系相关人员添加功能白名单。 安装存储插件cstorcsi，插件配置参数localStorPlugins开启lvm插件。如插件已安装，可以通过“插件实例”——“cstorcsi”——“更新”，配置localStorPlugins: "lvm,localpv"，实现插件配置更新。 使用限制 cstorcsi插件安装版本要求3.4.0及以上； 如果节点池默认配置数据盘，那么新增节点的第一块数据盘（供容器运行时和Kubelet组件使用）不支持导入为存储池。 创建存储池将占用磁盘设备，必要时会进行格式化操作。为避免数据丢失，请务必确认磁盘设备存在，并可用于存储池。 存储池配置或者修改，默认10min生效，如需调整，可以更新cstorcsi插件配置参数configEffectInterval实现。 存储池不支持缩容和删除；如果删除节点上存储池的磁盘，会导致存储池异常。 LVM本地存储卷，不支持数据的跨节点迁移，不适合在高可用场景中使用。 请勿自行对节点上的本地存储资源（例如VG，PV，LV）以及插件运行需要的CRD（包括NodeStorageManager、CStorLocalStorage）进行修改或删除；

本节介绍了用户指南:使用LVM动态存储卷。 云容器引擎服务提供cstorcsi插件，支持通过LVM方式，基于容器集群节点上的硬盘，虚拟化成一个小型存储池，当需要特定份额的存储时，从中划分出对应份额的磁盘供业务容器使用。 使用LocalPV、HostPath都可以实现Pod对主机存储空间的访问，但均具有一定局限性，比如无法做到容量隔离、无法限制IOPS/吞吐等、无法直观了解各节点存储空间余量从而进行合理调度。基于此，云容器引擎提供LVM数据卷方案，以解决上述问题。 前提条件 已创建容器集群 该功能使用风险、限制较多，默认控制台不对外开放。如需使用，请通过工单方式联系相关人员添加功能白名单。 安装存储插件cstorcsi，插件配置参数localStorPlugins开启lvm插件。如插件已安装，可以通过“插件实例”——“cstorcsi”——“更新”，配置localStorPlugins: "lvm,localpv"，实现插件配置更新。 使用限制 cstorcsi插件安装版本要求3.4.0及以上； 如果节点池默认配置数据盘，那么新增节点的第一块数据盘（供容器运行时和Kubelet组件使用）不支持导入为存储池。 创建存储池将占用磁盘设备，必要时会进行格式化操作。为避免数据丢失，请务必确认磁盘设备存在，并可用于存储池。 存储池配置或者修改，默认10min生效，如需调整，可以更新cstorcsi插件配置参数configEffectInterval实现。 存储池不支持缩容和删除；如果删除节点上存储池的磁盘，会导致存储池异常。 LVM本地存储卷，不支持数据的跨节点迁移，不适合在高可用场景中使用。 请勿自行对节点上的本地存储资源（例如VG，PV，LV）以及插件运行需要的CRD（包括NodeStorageManager、CStorLocalStorage）进行修改或删除；

工作负载即Kubernetes对一组Pod的抽象模型，用于描述业务的运行载体，包括Deployment、Statefulset、Daemonset、Job、CronJob等多种类型。 云容器引擎CCE提供基于Kubernetes原生类型的容器部署和管理能力，支持容器工作负载部署、配置、监控、扩容、升级、卸载、服务发现及负载均衡等生命周期管理。 基本概念 无状态工作负载：即kubernetes中的“Deployment”，无状态工作负载支持弹性伸缩与滚动升级，适用于实例完全独立、功能相同的场景，如：nginx、wordpress等。创建无状态工作负载请参见 创建无状态负载(Deployment)。 有状态工作负载：即kubernetes中的“StatefulSet”，有状态工作负载支持实例有序部署和删除，支持持久化存储，适用于实例间存在互访的场景，如ETCD、mysqlHA等。创建有状态工作负载请参见 创建有状态负载(StatefulSet)。 创建守护进程集：即kubernetes中的“DaemonSet”，守护进程集确保全部（或者某些）节点都运行一个Pod实例，支持实例动态添加到新节点，适用于实例在每个节点上都需要运行的场景，如ceph、fluentd、Prometheus Node Exporter等。创建守护进程集请参见 创建守护进程集(DaemonSet)。 普通任务：即kubernetes中的“Job”，普通任务是一次性运行的短任务，部署完成后即可执行。使用场景为在创建工作负载前，执行普通任务，将镜像上传至镜像仓库。创建普通任务请参见 创建普通任务(Job)。 定时任务：即kubernetes中的“CronJob”，定时任务是按照指定时间周期运行的短任务。使用场景为在某个固定时间点，为所有运行中的节点做时间同步。创建定时任务请参见 创建定时任务(CronJob)。 工作负载与容器间的关系 一个工作负载由一个或多个实例（Pod）组成。一个实例由一个或多个容器组成，每个容器都对应一个容器镜像。对于无状态工作负载，实例都是完全相同的。 工作负载与容器的关系 工作负载生命周期说明 工作负载状态说明 状态 说明 运行中 所有实例都处于运行中才是运行中。 未就绪 容器处于异常、实例数为0或pending状态时显示此状态。 升级/回滚中 触发升级或回滚动作后，工作负载会处于升级/回滚中。 可用 当多实例无状态工作负载运行过程中部分实例异常，可用实例不为0，工作负载会处于可用状态。 执行完成 任务执行完成，仅普通任务存在该状态。 已停止 触发停止操作后，工作负载会处于停止状态，实例数变为0。v1.13之前的版本存在此状态。 删除中 触发删除操作后，工作负载会处于删除中状态。 暂停中 触发暂停操作后，工作负载会处于暂停中状态。

本节介绍网络的用户指南:服务发现DNS。 云容器引擎使用coreDNS做集群内部域名解析。集群内部应用间可通过Service域名调用，coreDNS会将Service域名自动转换为对应的Service IP地址，可确保不同部署环境内部访问入口的一致。 关于服务发现DNS详细配置和管理，请参见服务发现DNS。

本文主要介绍如何采集Nginx日志。 Nginx日志是运维网站的重要信息，天翼云云日志服务支持通过Nginx分词模式快速配置Nginx日志采集规则。本文介绍如何通过云日志服务控制台创建Nginx接入配置。 前提条件 1. 登录云日志服务控制台。 2. 左侧菜单栏点击“日志接入”，进入接入管理页面。 3. 在“数据导入”模块中，点击“Nginx日志”。 4. 根据nginx服务部署模式，选择接入场景为“云主机场景”或者“云容器引擎”场景。以下步骤以云主机场景为例，云容器引擎场景可参考云容器引擎接入说明。 5. 选择目标日志项目和日志单元，单击下一步。 6. 在选择主机组页面，选择目标主机组。 7. 在采集配置步骤中，提取模式选择“nginx模板分词”，Nginx日志配置、正则表达式以及抽取结果的配置说明如下表。其余配置字段可参考接入云主机文本日志。 字段 说明 Nginx日志配置 此处填写Nginx日志模版，通常以logformat开头，Nginx日志模版配置可前往/etc/nginx/nginx.conf或 /usr/local/nginx/conf/nginx.conf查看。如： c logformat main '$remoteaddr $remoteuser [$timelocal] ' '"$request" $status $bodybytessent ' '"$httpreferer" "$httpuseragent"'; 正则表达式 将根据上面的 Nginx 日志模板自动生成日志提取正则表达式，如： c (S+)ss(S+)s[(d+S+d+:d+:d+:d+)s+S+]s"(S+)s+(S+)s+S+"s(S+)s(S+)s"([^"])"s"([^"])". 样例日志 正则表达式下方的样例日志中填写一条实际的 Nginx 日志，用于验证上述提取模式配置是否正确。 抽取结果 点击样例日志右方的验证按钮，验证通过后，可为每个字段设定名称或直接使用默认值。 8. 创建索引。默认开启全文索引，您也可以根据需要手动创建字段索引用于字段查询。 9. 点击完成，即可完成导入任务创建。等待1分钟左右，在查询日志界面能查询到日志，则说明导入成功。

本节介绍了用户指南;存储基础知识。 数据卷（Volume） Container 中的文件在磁盘上采用临时存储机制，这给 Container 中运行的重要应用程序带来以下影响： 容器崩溃时文件丢失： kubelet 虽然会重新启动容器，但容器会以干净的状态重启，原有文件数据不可恢复。 多容器文件共享困难：在同一 Pod 中运行多个容器并需要共享文件时，临时存储无法提供稳定的的共享存储空间。 Kubernetes 卷（Volume）能够有效解决上述问题： 卷提供持久化存储：卷通过将容器文件挂载到持久化存储介质（如网络存储或本地磁盘），确保容器重启后数据仍然保留。 多容器共享相同的卷：同一 Pod 中的多个容器可挂载相同的卷，实现高效的文件共享与通信，避免数据复制和同步的开销。 数据卷（Volume）是 Pod 与外部存储设备之间的数据传输通道，同时也是 Pod 内部容器之间、Pod 之间以及 Pod 与外部环境实现数据共享的机制。 Kubernetes 支持多种类型的 Volume。通常，与 Kubernetes 代码一同发布和迭代的内置存储卷插件属于 InTree 类型；而由存储服务商基于 CSI 或 FlexVolume 接口扩展的、独立于 Kubernetes 代码的存储卷插件则称为 OutOfTree 类型。目前，CSI 是更受推荐的扩展接口。

本文介绍容器安全卫士管理类常见问题。 容器安全卫士有哪些注意事项？ 安全探针仅支持三种容器运行时，包括：docker、containerd、crio。 安全探针在运行时会挂载k8s node宿主机的 /data（非crio）和 /root（crio）目录，请确保目录的权限正常。 安全探针需要跟中心通信，请确保您的k8s集群允许出网策略TCP端口：31080、30432、32345。 接入容器安全卫士对现有业务和服务器运行有影响吗？ 接入容器安全卫士不需要中断现有业务，不会影响服务器的运行状态，即不需要对其进行任何操作（例如关机或重启）。 防护探针本身需要占用宿主机一定资源，可能会对宿主机产生一定影响。不过请放心，容器安全卫士对防护探针做了资源监控和降级处置，来保障业务稳定、安全。

本小节介绍SWR私有镜像管理。 私有镜像仓库中的镜像来源于容器镜像服务(SWR)的自有镜像，企业主机安全支持对这些共享镜像手动执行漏洞、恶意文件、软件信息、文件信息、基线检查、敏感信息的扫描并提供扫描报告。 约束限制 仅HSS容器版支持该功能。 仅支持对Linux镜像执行安全扫描。 查看私有镜像 1、 登录管理控制台。 2、在弹窗界面单击“体验新版”，切换至企业主机安全页面。 注意 切换至新版后，在总览页左上角单击“返回旧版”，可切换至企业主机安全（旧版） 3、 在左侧导航栏中，选择“资产管理 > 容器管理” ，进入容器管理界面，选择“容器镜像 > SWR私有镜像”页签。 4、单击“从SWR更新自有镜像”，可以同步SWR所有自有镜像。 手动扫描私有镜像 您可以手动执行全量、批量或单镜像的安全扫描。安全扫描的时长主要取决于镜像的大小。一般情况下扫描一个镜像可以在三分钟之内完成，扫描完成后，单击“安全报告”查看安全报告。 SWR私有镜像支持的安全扫描项如下： 扫描项 说明 漏洞 检测镜像中存在的漏洞。 恶意文件 检测镜像中存在的恶意文件。 软件信息 统计镜像中的软件信息。 文件信息 统计镜像中的文件信息。 基线检查 配置检查： − 检测CentOS 7、Debian 10、EulerOS和Ubuntu16镜像的系统配置项。 − 检测SSH应用配置项。 弱口令检查：检测镜像中存在的弱口令。 口令复杂度检查：检测镜像中不安全的口令复杂度策略。 敏感信息 检测镜像中含有敏感信息的文件。 默认不检测的路径如下： − /usr/ − /lib/ − /lib32/ − /bin/ − /sbin/ − /var/lib/ − /var/log/ − /nodemodules/ / .md − /nodemodules//test/ − /service/iam/examplestest.go − /grafana/public/build/.js 说明 可在“漏洞报告>敏感信息”页面，单击“敏感文件过滤路径管理”，设置不需要检测的Linux路径，最多可添加20个路径。 不检测的场景如下： − 文件大于20M。 − 文件类型为二进制、常用进程和自动生成类型。 软件合规 检测不允许使用的软件和工具。 基础镜像信息 检测未使用基础镜像构建的业务镜像。 1、登录管理控制台，进入企业主机安全页面。 2、在左侧导航栏中，选择“资产管理 > 容器管理”，进入容器管理界面。 3、选择“容器镜像 > 私有镜像仓库”，展开镜像名称，单击“操作”列的“安全扫描”，扫描单个镜像。 4、 在弹出的提示框中，单击“确定”，启动扫描任务。 5、待目标镜像“扫描状态”列显示为“扫描完成”，即扫描结束。

本文为您介绍弹性文件服务的定义和产品架构。 产品概述 弹性文件（CTSFS，Scalable File Service）提供按需扩展的高性能文件存储（NAS），可为云上多个弹性云服务器、容器、物理机等计算服务提供大规模共享访问，具备高可用性和高数据持久性。提供标准的POSIX文件访问接口，可以将现有应用与文件存储无缝集成。天翼云提供标准型和性能型两种规格文件存储服务，可满足多场景下用户需求，参见产品规格及应用场景。 产品架构 天翼云弹性文件服务提供基于标准POSIX文件接口的存储服务，可以将现有应用与文件存储无缝集成。适用于Linux和Windows操作系统。 弹性文件服务、对象存储、云硬盘的区别 天翼云弹性文件服务、对象存储、云硬盘的主要区别如下： 维度 弹性文件服务 对象存储 云硬盘 概念 弹性文件服务提供了一个高度可扩展的文件系统，可在云环境中共享文件数据。具有高可用性、持久性和可靠性。 对象存储具有高度的可扩展性和耐久性，可以存储任意类型的海量数据，并且能够自动处理数据冗余、故障恢复和数据分发。 云硬盘提供了高性能、低延迟、可扩展的块级存储。云硬盘可以被挂载到弹性云主机或物理机上，使其能够持久化地存储数据。 存储方式 弹性文件服务采用文件存储方式。文件存储将数据组织为层次化的目录和文件结构，用户可以通过文件路径和名称来操作文件和目录。 对象存储将数据存储为独立的对象。每个对象由数据本身和与之相关的元数据（例如文件名、文件类型、大小等）组成。 云硬盘采用块存储方式。块存储将数据分为固定大小的块（通常为几KB或几MB），并通过唯一的块地址进行访问。 访问方式 弹性文件服务通过网络共享的方式进行访问。用户可以在需要的弹性云主机实例或容器实例上挂载文件系统，并通过标准的文件系统接口（如NFS、SMB等）访问共享的文件系统。 对象存储需要指定桶地址，通过HTTP或HTTPS等传输协议进行访问。 云硬盘类似于PC机的硬盘，无法单独使用，通常通过挂载（Mount）的方式来访问。它可以被挂载到弹性云主机或物理机上，使其在操作系统中可见。 适用场景 如应用程序的配置文件、日志文件等需要共享的文件数据以及在容器化应用中支持多个容器实例之间的数据共享和同步。 如大数据分析、数据湖、数据备份和归档等大规模数据存储和分析场景；静态网站托管解决方案存储。 如作为弹性云主机或物理机的数据存储介质进行数据存储和持久化；大规模数据处理与分布式计算等高性能计算场景。 容量 弹性文件服务可按需扩展，单文件系统容量默认最大为32TB。如需更大容量的文件系统，可提工单申请。 对象存储服务没有容量限制，存储资源可无限扩展。 云硬盘支持按需扩容，最小扩容步长为1 GB，单个云硬盘可由10 GB扩展至32 TB。 是否支持数据共享 是 是 是 是否支持远程访问 是 是 否

本文为您介绍弹性文件服务的定义和产品架构。 产品概述 弹性文件（CTSFS，Scalable File Service）提供按需扩展的高性能文件存储（NAS），可为云上多个弹性云服务器、容器、物理机等计算服务提供大规模共享访问，具备高可用性和高数据持久性。提供标准的POSIX文件访问接口，可以将现有应用与文件存储无缝集成。天翼云提供标准型和性能型两种规格文件存储服务，可满足多场景下用户需求，参见产品规格及应用场景。 产品架构 天翼云弹性文件服务提供基于标准POSIX文件接口的存储服务，可以将现有应用与文件存储无缝集成。适用于Linux和Windows操作系统。 弹性文件服务、对象存储、云硬盘的区别 天翼云弹性文件服务、对象存储、云硬盘的主要区别如下： 维度 弹性文件服务 对象存储 云硬盘 概念 弹性文件服务提供了一个高度可扩展的文件系统，可在云环境中共享文件数据。具有高可用性、持久性和可靠性。 对象存储具有高度的可扩展性和耐久性，可以存储任意类型的海量数据，并且能够自动处理数据冗余、故障恢复和数据分发。 云硬盘提供了高性能、低延迟、可扩展的块级存储。云硬盘可以被挂载到弹性云主机或物理机上，使其能够持久化地存储数据。 存储方式 弹性文件服务采用文件存储方式。文件存储将数据组织为层次化的目录和文件结构，用户可以通过文件路径和名称来操作文件和目录。 对象存储将数据存储为独立的对象。每个对象由数据本身和与之相关的元数据（例如文件名、文件类型、大小等）组成。 云硬盘采用块存储方式。块存储将数据分为固定大小的块（通常为几KB或几MB），并通过唯一的块地址进行访问。 访问方式 弹性文件服务通过网络共享的方式进行访问。用户可以在需要的弹性云主机实例或容器实例上挂载文件系统，并通过标准的文件系统接口（如NFS、SMB等）访问共享的文件系统。 对象存储需要指定桶地址，通过HTTP或HTTPS等传输协议进行访问。 云硬盘类似于PC机的硬盘，无法单独使用，通常通过挂载（Mount）的方式来访问。它可以被挂载到弹性云主机或物理机上，使其在操作系统中可见。 适用场景 如应用程序的配置文件、日志文件等需要共享的文件数据以及在容器化应用中支持多个容器实例之间的数据共享和同步。 如大数据分析、数据湖、数据备份和归档等大规模数据存储和分析场景；静态网站托管解决方案存储。 如作为弹性云主机或物理机的数据存储介质进行数据存储和持久化；大规模数据处理与分布式计算等高性能计算场景。 容量 弹性文件服务可按需扩展，单文件系统容量默认最大为32TB。如需更大容量的文件系统，可提工单申请。 对象存储服务没有容量限制，存储资源可无限扩展。 云硬盘支持按需扩容，最小扩容步长为1 GB，单个云硬盘可由10 GB扩展至32 TB。 是否支持数据共享 是 是 是 是否支持远程访问 是 是 否

托管版集群控制面的规格如何调整？ 若您的托管版集群节点规模发生变化，可以在“集群列表>更多>变更规格”手动调整控制面的规格。 若您想动态调整控制面可通过自动变更规格功能实现。 集群删除之后相关数据能否再次找回？ 用户主动退订集群之后，部署在集群上的工作负载也会同步删除，无法恢复，请慎重退订集群。 如果集群因到期退订，系统默认保留15天冻结期，冻结期内可以续费恢复集群实例。 选用containerd作为容器运行时的容器集群节点重启后，集群启动失败？ 执行下面命令查看系统服务 containerdnydusgrpc是否正常运行。 plaintext systemctl status containerdnydusgrpc 如果服务未运行，可以先手动执行下面命令，将其开启，以恢复集群。 plaintext systemctl start containerdnydusgrpc 检查下面文件是否存在以判断服务自启动正常。 plaintext ls /etc/systemd/system/multiuser.target.wants/containerdnydusgrpc.service 如果不存在，则创建软连接，这样下次重启后，服务能正常自动运行。 plaintext ln s /etc/systemd/system/containerdnydusgrpc.service /etc/systemd/system/multiuser.target.wants/containerdnydusgrpc.service

一、总体说明 1.1 工具概述 EvalScope是一款专为大模型部署后性能评估设计的压力测试工具，支持多并发场景下的吞吐量、延迟、稳定性等核心指标测试。通过配置输入/输出Token长度、并发数等参数，可模拟真实业务负载，验证模型服务在不同上下文场景下的性能表现。工具基于Apptainer容器化部署，确保环境一致性，降低依赖冲突风险。 1.2 使用须知 网络配置 ：被测模型服务需暴露HTTP接口（如 资源要求：测试过程可能产生高I/O和网络负载，建议在独立测试环境中执行，避免影响生产服务。 流式输出（SSE）： 天翼云定制版EvalScope工具不支持流式输出，若需使用流式输出，请使用Evalscope最新官方版本，使用过程参考HCC性能测试工具EvalScope。 1.3 应用场景 模型部署验证：确认模型服务在指定并发和上下文长度下的响应能力。 性能瓶颈定位：通过多并发和Token配置组合，识别吞吐量下降或延迟突增的临界点。 服务稳定性测试：长时间高负载下验证服务是否存在内存泄漏、连接超时等异常。 二、物料准备 2.1 天翼云定制版EvalScope高性能容器SIF文件获取 基于Apptainer（原 Singularity）封装的EvalScope压测工具，已完成x86与arm架构适配，使用cthpc一键安装工具，秒级快速下发Apptainer高性能容器灌装，当前支持： 华东1、武汉41、上海15、华北2、华南2、西南1、西南2贵州、长沙42、杭州7。 cthpc 支持自动识别主机硬件架构，智能下发匹配当前架构的程序版本，无需人工区分架构、手动选择安装包，实现跨架构统一分发部署。 shell mkdir p /home/bench 使用 cthpc 工具极速下发 cthpc apptainer makecache cthpc apptainer install evalscopev1.0.1ctyun dir /mnt/nvme0n1/apptainer/ 三、测试过程

一、总体说明 1.1 工具概述 EvalScope是一款专为大模型部署后性能评估设计的压力测试工具，支持多并发场景下的吞吐量、延迟、稳定性等核心指标测试。通过配置输入/输出Token长度、并发数等参数，可模拟真实业务负载，验证模型服务在不同上下文场景下的性能表现。工具基于Apptainer容器化部署，确保环境一致性，降低依赖冲突风险。 1.2 使用须知 网络配置 ：被测模型服务需暴露HTTP接口（如 资源要求：测试过程可能产生高I/O和网络负载，建议在独立测试环境中执行，避免影响生产服务。 1.3 应用场景 模型部署验证：确认模型服务在指定并发和上下文长度下的响应能力。 性能瓶颈定位：通过多并发和Token配置组合，识别吞吐量下降或延迟突增的临界点。 服务稳定性测试：长时间高负载下验证服务是否存在内存泄漏、连接超时等异常。 random数据模式： random 数据集模式需指定 tokenizerpath，按 prefixlength/min/maxpromptlength 随机生成 Prompt；DeepSeekV4 系列模型权重无内置chattemplate.jinja或chattemplate.json文件，不支持该模式。 二、物料准备 2.1 Evalscope高性能容器SIF文件获取 基于Apptainer（原 Singularity） 封装的Evalscope压测工具，已完成x86与arm架构适配，使用cthpc一键安装工具，秒级快速下发Apptainer高性能容器灌装，当前支持： 华东1、武汉41、上海15、华北2、华南2、西南1、西南2贵州、长沙42、杭州7。 当前上线版本 v1.7.0，cthpc支持自动识别主机硬件架构，智能下发匹配当前架构的程序版本，无需人工区分架构、手动选择安装包，实现跨架构统一分发部署。 plaintext mkdir p /home/bench 使用 cthpc 工具极速下发 cthpc apptainer makecache cthpc apptainer install evalscopev1.7.0 dir /mnt/nvme0n1/apptainer/ 三、测试过程

一、总体说明 1.1 工具概述 EvalScope是一款专为大模型部署后性能评估设计的压力测试工具，支持多并发场景下的吞吐量、延迟、稳定性等核心指标测试。通过配置输入/输出Token长度、并发数等参数，可模拟真实业务负载，验证模型服务在不同上下文场景下的性能表现。工具基于Apptainer容器化部署，确保环境一致性，降低依赖冲突风险。 1.2 使用须知 网络配置 ：被测模型服务需暴露HTTP接口（如 资源要求：测试过程可能产生高I/O和网络负载，建议在独立测试环境中执行，避免影响生产服务。 流式输出（SSE）： 天翼云定制版EvalScope工具不支持流式输出，若需使用流式输出，请使用Evalscope最新官方版本，使用过程参考HCC性能测试工具EvalScope。 1.3 应用场景 模型部署验证：确认模型服务在指定并发和上下文长度下的响应能力。 性能瓶颈定位：通过多并发和Token配置组合，识别吞吐量下降或延迟突增的临界点。 服务稳定性测试：长时间高负载下验证服务是否存在内存泄漏、连接超时等异常。 二、物料准备 2.1 天翼云定制版EvalScope高性能容器SIF文件获取 基于Apptainer（原 Singularity）封装的EvalScope压测工具，已完成x86与arm架构适配，使用cthpc一键安装工具，秒级快速下发Apptainer高性能容器灌装，当前支持： 华东1、武汉41、上海15、华北2、华南2、西南1、西南2贵州、长沙42、杭州7。 cthpc 支持自动识别主机硬件架构，智能下发匹配当前架构的程序版本，无需人工区分架构、手动选择安装包，实现跨架构统一分发部署。 shell mkdir p /home/bench 使用 cthpc 工具极速下发 cthpc apptainer makecache cthpc apptainer install evalscopev1.0.1ctyun dir /mnt/nvme0n1/apptainer/ 三、测试过程

本章节介绍创建镜像微服务的步骤 概述 镜像微服务是创建微服务应用中重要的一种接入类型。目前微服务云应用平台支持Java 语言Spring Cloud和Dubbo框架的微服务，创建微服务应用，可以使用微服务治理以及应用性能监控的相关能力。在本章中，我们将会详细阐述创建镜像微服务的完整步骤。 前提条件 1. 您已开通微服务云应用平台 2. 您已开通微服务治理中心 3. 您已开通应用性能监控 4. 您已订购一个云容器引擎 5. 您已订购一个nacos注册中心 创建应用实例 在左侧导航栏，选择容器应用实例 > 应用发布 > 应用实例。在应用实例左上角点击创建应用实例。 基本信息填写 项目/应用：选择应用。 应用实例名称：无需修改，使用默认名称即可。 技术栈版本：镜像部署无需关心技术栈版本，可任意选择。 部署单元：选择应用发布到的部署单元，平台会根据选择部署单元对应的可用区信息将pod平均调度到对应的可用区节点。 接入方式：选择镜像。 应用实例版本：无需修改，使用默认版本即可。 企业项目：选择default。 部署配置填写 选择集群：选择导入到环境中的云容器引擎。 工作负载类型：根据实际情况选择负载类型。 镜像类型：选择Demo镜像。 选择镜像：选择springcloudprovidernacos.jar镜像使用1.0.0版本。 Pod数量：输入期望发布的pod个数。 单Pod资源配额：填写pod cpu 和 内存 预留和限制数值信息。 监控及治理方案：勾选接入服务治理中心，应用发布成功后可在服务治理导航栏设置应用治理规则。勾选接入应用性能监控后，可在应用详情界面查看应用监控信息。 高级配置与制品微服务一致，可参考创建制品微服务章节按需配置。 点击下一步，进入到预览界面，确认信息无误后，点击创建。 创建成功后，点击查看实例详情按钮，来到实例详情界面，至此镜像微服务已经创建完成。如何部署可查看微服务应用部署章节。

本节主要介绍产品定义 应用服务网格(CT Application Service Mesh，简称ASM) 是高可靠、高性能的全托管式服务网格，以应用基础设施方式为用户提供服务流量管理、服务发布以及服务访问安全和服务运行监控能力，通过一键启用方式无缝对接云容器引擎CCE。

本小节介绍关闭节点防护。 操作须知 关闭防护对业务不会产生影响，但关闭后服务器被入侵的风险会急剧上升，建议保持开启防护的状态。 操作步骤 1、 登录管理控制台。 2、在弹窗界面单击“体验新版”，切换至企业主机安全页面。 切换至新版后，在总览页左上角单击“返回旧版”，可切换至企业主机安全（旧版） 3、在左侧导航树中，选择“资产管理 > 容器管理”，进入“容器节点管理”页面。 4、 根据需求可选择批量关闭防护和单服务器关闭防护。 单服务器关闭防护 a.在“节点列表”中目标服务器的“操作”列单击“关闭防护”。 b.在弹窗中确认关闭服务器的信息，确认无误，单击“确认”，防护关闭。 c.关闭后在“资产管理 > 容器管理 > 节点列表”页面查看目标服务器的“容器防护状态”为“未防护”，关闭成功。 批量关闭防护 a.在“节点列表”中勾选多个目标服务器前的选框，单击上方“关闭防护”。 b.在弹窗中确认关闭服务器的信息，确认无误，单击“确认”，防护关闭。 c.关闭后在“资产管理 > 容器管理 > 节点列表”页面查看目标服务器的“容器防护状态”为“未防护”，关闭成功。 说明 关闭防护对业务不会产生影响，但关闭后服务器被入侵的风险会急剧上升，建议保持开启防护的状态。

参数 说明 服务名称 填写weathermapweb。 访问方式 选择“公网访问”。 访问类型 选择“弹性IP”。 服务亲和 选择默认设置。 协议 选择TCP。 容器端口 填写3000。 访问端口 选择“自动生成”。

本节介绍了:指标告警的用户指南。 应用场景 在云容器引擎服务中，资源监控已经对接了云监控服务，并能够使用云监控提供的指标告警能力。 前提条件 已创建集群，具体操作请参见 用户指南 > 集群 > 新建集群 章节。若已有集群，无需重复操作。 集群已安装ccsemonitor插件，可参考 用户指南 > 插件 章节 创建通知组 登陆云容器引擎控制台， 点击左侧导航栏中的集群，进入集群列表页面。 在集群列表中点击需要配置告警的集群，进入集群管理页面. 左侧菜单栏选择 运维管理 > 指标告警 > 通知组 进入通知组配置页面。 通知组支持联系人、翼连、WebHook集成三种通知对象，其中联系人支持手机号（短信）和邮箱（邮件）、翼连支持发送到翼连群、WebHook支持发送到用户指定的WebHook后端。 创建基础策略 登陆云容器引擎控制台， 点击左侧导航栏中的集群，进入集群列表页。 在集群列表中点击需要配置告警的集群，进入集群管理页面。 左侧菜单栏选择 运维管理 > 指标告警 > 告警策略 进入通知策略配置页面，点击按钮创建通知策略 创建通知策略。 通知策略可以配置通知对象、通知模板、渲染API地址、通知时段，其中通知对象为用户在通知组设置的对象，邮件、短信、翼连三种告警方式支持分别独立配置模板，一般没有特殊需求使用默认模板即可。

本文为您介绍如何使用ECI实例访问云硬盘数据。 背景信息 天翼云硬盘（CTEVS，Elastic Volume Service）是一种可弹性扩展的块存储设备，可以为ECI提供高性能、高可靠的块存储服务。天翼云硬盘规格丰富，满足不同场景的业务需求，适用于文件系统、数据库、开发测试等场景。 前期准备 已开通天翼云弹性容器实例服务。 已创建至少一块云硬盘，且要求与待创建ECI实例归属同一可用区。 云硬盘需要满足按量计费模式，VBD模式，非共享，状态未挂载等要求。 操作步骤 天翼云弹性容器实例ECI支持用户通过控制台和OpenAPI等多种方式创建挂载云硬盘作为数据卷的ECI实例。下面将介绍在ECI实例中如何访问云硬盘中数据： 1. 打开ECI控制台页面。 2. 点击实例ID进入实例详情页面。 3. 点击“远程连接”，建立一个访问容器的通道。 4. 可以通过df h命令查看已挂载的文件系统及挂载目录。如下图所示，我们为ECI实例挂载了一块30G大小的云硬盘，挂载目录为/disktest。 5. 让我们尝试向云硬盘中写入文件，执行 echo 'ctyun yyds' > /disktest/evs.txt 命令。这段命令的含义是向云硬盘下的evs.txt文件中写入'ctyun yyds'。 6. 让我们参数从云硬盘中读文件，执行cat /disktest/evs.txt命令。这段命令的含义是读取云硬盘下的evs.txt文件。