多集群架构的弹性扩展 随着业务的增长，CCR 支持将数据和查询负载分布到多个集群中，从而实现弹性扩展。通过部署多个从集群来分担查询压力，可以提升系统的整体性能，满足更高的用户需求和并发请求。 读写分离 在高性能场景下，CCR 支持读写分离。主集群专注于处理数据写入，而从集群则负责处理查询请求。这种架构优化了查询性能，尤其适合需要高频读写操作的大数据环境。 技术实现与应用 部署跨集群复制需要在集群之间建立信任关系，并配置索引的复制参数。搜索引擎提供了灵活的 API 和管理工具，方便用户管理和控制跨集群复制任务。通过这些工具，用户可以轻松启动或暂停复制、调整复制策略，以及根据业务需求灵活配置复制模式。 CCR 支持实时复制和按需复制，用户可以根据具体需求选择适合的复制方式。无论是对数据的一致性要求极高的场景，还是需要降低跨集群网络传输开销的场景，CCR 都能提供可靠的解决方案。 操作示例 在leader集群插入数据： PUT ccrtest {"settings": {"numberofshards": 1,"numberofreplicas": 0}} POST ccrtest/doc/ { "name": "robert", "age": 30, "gender": "male" } 在follower集群配置： PUT cluster/settings { "persistent": { "cluster": { "remote": { "leadercluster": { "seeds": ["ip:9300"] } } } } } 开始复制： PUT opendistro/replication/follower01/start { "remotecluster":"leadercluster", "remoteindex": "ccrtest" } 返回： { "acknowledged" : true } 在leader集群插入数据： POST ccrtest/doc/ { "name": "jane", "age": 25, "gender": "female" } 再插一条： POST ccrtest/doc/ { "name": "Jane", "age": 18, "gender": "female" } 在follower集群查询,数据会自动复制过去： GET follower01/search 返回结果： { "took" : 435, "timedout" : false, "shards" : { "total" : 1, "successful" : 1, "skipped" : 0, "failed" : 0 }, "hits" : { "total" : { "value" : 2, "relation" : "eq" }, "maxscore" : 1.0, "hits" : [ { "index" : "follower01", "type" : "doc", "id" : "WUQFo4BrTIYgmxo8ErH", "score" : 1.0, "source" : { "name" : "robert", "age" : 30, "gender" : "male" } }, { "index" : "follower01", "type" : "doc", "id" : "pGiQF44BZY5qpm7NPGR", "score" : 1.0, "source" : { "name" : "Jane", "age" : 18, "gender" : "female" } } ] } }

步骤三：创建持久卷声明（PVC） 1. 创建示例yaml文件pvcstaticzos.yaml： plaintext apiVersion: v1 kind: PersistentVolumeClaim metadata: annotations: volume.beta.kubernetes.io/storageprovisioner: zos.csi.cstor.com name: pvcstaticzos namespace: default spec: accessModes: ReadWriteOnce resources: requests: storage: 5Gi volumeMode: Filesystem volumeName: {YOURPVNAME} 替换PV名称 2. 执行以下命令，创建pvc： plaintext kubectl apply f pvcstaticzos.yaml 步骤四：创建工作负载 1. 创建示例yaml文件podpvcstaticzos.yaml： shell apiVersion: apps/v1 kind: StatefulSet metadata: name: nginxpvcstaticzos labels: app: nginxpvcstaticzos spec: replicas: 1 serviceName: "" selector: matchLabels: app: nginxpvcstaticzos template: metadata: labels: app: nginxpvcstaticzos spec: containers: image: "registryhuadong1.crsinternal.ctyun.cn/opensource/nginx:1.26alpineslim" imagePullPolicy: "IfNotPresent" name: "nginx" resources: limits: cpu: "100m" memory: "256Mi" requests: cpu: "100m" memory: "256Mi" volumeMounts: mountPath: "/mnt/data" name: "volume1" subPath: "scetest" volumes: name: "volume1" persistentVolumeClaim: claimName: {YOURPVCNAME} 替换为步骤3中的PVC名称 2. 执行以下命令，创建StatefulSet： plaintext kubectl apply f podpvcstaticzos.yaml 步骤五：验证数据持久化 1. 登录弹性容器服务管理控制台。 2. 在容器组列表页点击刚才创建的实例。 3. 点击“远程连接”页签，进入到容器内。 4. 向/mnt/data 目录下写一个文件，执行: plaintext echo "Hello World" > /mnt/data/test.log 5. 查看/mnt/data 目录下文件，执行： plaintext cat /mnt/data/test.log 预期结果如下： 6. 退出“远程连接”，使用kubectl删除pod，会触发pod自动重建，等待Pod重新运行正常。 plaintext kubectl delete po nginxpvcstaticzos0 7. 对新建Pod，登录“弹性容器服务”管理控制台，继续执行“远程连接”，进入到容器内查看数据。执行： plaintext cat /mnt/data/test.log 预期结果如下： 8. 登录天翼云对象存储管理控制台，根据PV名称查看bucket，进入bucket中的文件管理，可以看到在容器内创建的文件： 下载文件并查看内容，预期结果与容器内写入数据一致。 9. 以上步骤说明，pod删除重建后，重新挂载对象存储卷，数据仍然存在；从对象存储下载数据并与写入数据一致， 说明对象存储中的数据可持久化保存。

插件简介 Everest是一个云原生容器存储系统，基于CSI为Kubernetes v1.15.6及以上版本集群对接云硬盘服务、对象存储服务、弹性文件服务 SFS、极速文件存储 SFS Turbo等存储服务的能力。 该插件为系统资源插件，kubernetes 1.15 及以上版本的集群在创建时默认安装。 说明： v1.13.11r1升级到v1.15.11r1集群后，原本v1.13的Flexvolume Fuxi容器存储由v1.15的Everest接管（插件版本v1.1.6及以上），原有功能保持不变。 Everest插件在1.2.0 版本 优化了使用对象存储时的秘钥认证功能，请在Everest插件升级完成后（从低于1.2.0的版本升级到1.2.0及以上版本），重启集群中使用对象存储的全部工作负载，否则工作负载使用对象存储能力将受影响。 约束与限制 仅支持v1.15 及以上版本的CCE集群安装本插件。 v1.13及以下版本集群创建时默认必装storagedriver（系统资源插件，必装）插件。 安装插件 本插件为系统默认安装，若因特殊情况卸载后，可参照如下步骤重新安装。 步骤 1 在CCE控制台中，单击左侧导航栏的“插件管理”，在“插件市场”页签下，单击“everest”插件下的“安装插件”。 步骤 2 在安装插件页面，选择安装的集群和插件版本，单击“下一步：规格配置”。 步骤 3 该插件可配置“单实例”或“高可用”规格，选择后单击“安装”。 待插件安装完成后，单击“返回”，在“插件实例”页签下，选择对应的集群，可查看到运行中的实例，这表明该插件已在当前集群的各节点中安装。 升级插件 步骤 1 登录CCE控制台，在左侧导航栏中选择“插件管理”，在“插件实例”页签下，选择对应的集群，单击“everest”下的“ 升级”。 说明： 如果升级按钮处于冻结状态，则说明当前插件版本是最新的版本，不需要进行升级操作。 升级everest插件时，会替换原先节点上的旧版本的everest插件，安装最新版本的everest插件以实现功能的快速升级。 步骤 2 在基本信息页面选择插件版本，单击“下一步”。 步骤 3 该插件可配置“单实例”或“高可用”规格，选择后单击“升级”即可升级“everest”插件。 卸载插件 步骤 1 在CCE控制台中，单击左侧导航栏的“插件管理”，在“插件实例”页签下，选择对应的集群，单击“everest”下的“卸载”。 步骤 2 在弹出的窗口中，单击“是”，可卸载该插件。

kubectl get deploy nginx NAME READY UPTODATE AVAILABLE AGE nginx 1/1 1 1 66s [root@cluster1] kubectl get pod NAME READY STATUS RESTARTS AGE nginx6799fc88d8sqjj4 1/1 Running 0 2m12s 我们可以基于联邦控制面kubectl方式，执行以下命令来将其提升到联邦控制面管理： shell [root@master1] karmadactl promote deployment nginx n default c member1 Resource "apps/v1, Resourcedeployments"(default/nginx) is promoted successfully 此时，再在联邦控制面中查询该工作负载，可看到已经可以查询到，说明已被联邦实例接管： shell [root@master1] kubectl get deploy NAME READY UPTODATE AVAILABLE AGE nginx 1/1 1 1 7m25s 检查成员集群中对应nginx无状态工作负载，对应Pod并未重启： shell [root@cluster1] kubectl get pod NAME READY STATUS RESTARTS AGE nginx6799fc88d8sqjj4 1/1 Running 0 15m 方式二：批量提升接管，原集群中工作负载Pod会重启 对于希望批量提升到联邦控制面接管，以及对Pod重启无感知的的服务或资源，可考虑采用本方式，其执行效率相对更高。 在成员集群中已部署服务非常多或应用较复杂情况下，该方式更适合。可基于更大的粒度，来做资源的接管和提升，例如： 以资源为粒度，迁移某种类型的全部资源 以应用为粒度，迁移某个应用涉及的所有类型的资源 此时，就需要资源模板结合集群联邦的调度策略PropagationPolicy，来接管相应资源，可以按如下方式操作。 1. 将所有资源的 YAML 配置应用到 集群联邦控制面, 作为集群联邦的 ResourceTemplate。此时，资源模板只会存在联邦控制面，并不会下发任何成员集群； 2. 编写 PropagationPolicy 调度策略, 并将其应用到集群联邦控制面。 您需要注意以下两个字段： 1. spec.conflictResolution: Overwrite：该字段的值必须是 Overwrite。 2. spec.resourceSelectors：指定哪些资源需要被迁移。 如果你希望的是将所有Deployment资源提升到联邦控制面管理，则可以配置类似如下的调度策略： shell apiVersion: policy.karmada.io/v1alpha1 kind: PropagationPolicy metadata: name: deploymentspp spec: conflictResolution: Overwrite placement: clusterAffinity: clusterNames: member1 priority: 0 resourceSelectors: apiVersion: apps/v1 kind: Deployment schedulerName: defaultscheduler 当前，除了YAML方式创建外，也支持基于前端页面的引导创建。可进入联邦控制台>策略管理>调度策略>创建调度策略页面进行配置。 在以上调度策略配置完成后，联邦实例将进行联邦资源模板与底层的同步与覆盖。一段时间后即可观测到相关工作负载已被联邦实例接管； 3. 基于集群联邦，将服务逐步迁移到目标集群中。 已接管的工作负载，支持按需调整其调度策略及差异化策略，来实现工作负载多集群之间的灵活调度。此时，您可以在联邦控制面中编辑需要迁移工作负载的实例数或调度策略，使其复制分发到目标成员集群中去。 点击进入工作负载>无状态，选在对应的工作负载实例后，点击后侧“全量替换”操作按钮进行编辑： 在编辑页面中，直接跳过模板配置步骤，进入调度与差异化配置页面。通过设置调整集群调度策略，可将工作负载复制分发到目标集群，或按权重拆分部分副本到新集群。如下： 如上图配置，提交更新后，工作负载将在源集群和目标集群中 1:1 比例部署。 4. 服务验证及终端灰度切流； 该步骤中，用户可基于应用实际架构及服务需求，在验证目标成员服务正常后，实施真实用户流量的逐步切流。 切流过程中，可配合通过调度策略逐步调整工作负载Pod副本在源集群与目标集群之间的分布，并最终全部迁移到天翼云上CCE集群，以实现完整的切流。

本页介绍分布式融合数据库HTAP的功能特性。 一站式 HTAP 解决方案 采用独特的行列混合存储策略，将传统的行存储和高效的列存储智能融合，结合先进的MPP（大规模并行处理）架构和优化技术，为用户提供一站式的HTAP服务。用户可以在同一个系统中实时高效处理TP、AP混合负载，简化架构复杂性，降低管理成本。 弹性伸缩，灵活计费 基于存储计算分离架构的精心设计，支持用户根据实际需求灵活扩展存储和计算能力，无论是扩大存储容量还是增加计算资源，都能够轻松实现；提供包年包月和按需付费两种灵活的计费方式，让用户能够根据实际使用情况选择最适合的付费模式，实现资源成本的有效管理和控制。综合而言，不仅保障了高效的资源分配和优化，还显著降低了资源投入的总体成本。 多项企业级能力 提供丰富的企业级能力，帮助用户大幅降低运维成本，有效保障数据库服务的稳定、安全及高效。这些企业级能力，包括但不限于：实时监测系统的运行状态和性能指标，帮助用户迅速识别潜在问题，采取适当的措施以保障数据库的稳定性；提供参数模板功能，用户可以根据不同的业务需求灵活地管理和调整数据库参数，确保数据库持续高效运行；提供强大的用户管理和权限控制功能，确保数据访问安全且合规；提供灵活的安全审计功能，帮助用户追踪和监测数据访问情况，增强整体安全性。

本节介绍调度策略。 调度概述 通过任务调度和异构资源调度，可提升智算集群的资源利用率和作业运行效率。 任务调度 任务调度为 AI/ML 任务提供了 Gang scheduling 和 Capacity Scheduling 调度能力。 功能 描述 Gang scheduling 在分布式计算场景需要一组Pod紧密协作，Gang scheduling策略可在并发系统中将多个相关联的进程调度到不同处理器上同时运行。最主要的原则是保证所有相关联的进程能够同时启动，防止部分进程的异常，避免整个关联进程组的阻塞。这种AllorNothing调度场景，就被称作Gang scheduling。CCSE提供Gang scheduling功能保障相关联的进程的同时启动和失败，防止因部分失败导致整个任务阻塞的情况。 Capacity Scheduling 在多用户共用集群的环境，如果仅仅依赖于Kubernetes的ResourceQuota机制来划分固定资源，由于每个用户对资源的需求和使用模式各异，这往往会导致集群资源未能被充分利用，从而降低了资源的整体使用效率。为了解决这一问题，CCSE创新性地引入了弹性配额组的概念。这种Capacity Scheduling功能在保障各用户获得其所需资源的同时，通过资源的动态共享，有效地提升了整个集群的资源使用效率。 资源调度 GPU 共享调度、GPU/CPU 拓扑感知调度等能力。 功能 描述 共享GPU调度 通过实施GPU的共享调度，可以实现多个Pod共享使用GPU卡，可以有效减少对GPU资源的投入，常用于模型推理等场景。 GPU/CPU拓扑感知调度 调度器基于异构资源的拓扑信息，比如GPU卡之间的NVLink、PcieSwitch等通信方式、CPU的NUMA拓扑结构等，调度的时候选择最优的GPU/CPU组合，为工作负载提供更好的性能。

参数 参数类型 说明 示例 下级对象 statusCode Integer 返回状态码（800为成功，900为失败） 800 message String statusCode为900时的错误信息; statusCode为800时为success, 英文 success description String statusCode为900时的错误信息; statusCode为800时为成功, 中文 成功 errorCode String statusCode为900时为业务细分错误码，三段式：product.module.code; statusCode为800时为SUCCESS SUCCESS returnObj Array of Objects 接口业务数据 returnObj error String statusCode为900时为业务细分错误码，三段式：product.module.code; statusCode为800时为SUCCESS

本章节主要介绍故障演练服务技术类问题。 故障演练的实现原理是什么？ 不同类型的故障动作实现原理各不相同，详细说明请参考故障动作库中的具体文档，下表简要概述了各类动作的核心原理： 分类 资源类型 动作类型 动作 简介 原理描述 计算 云主机 主机资源 主机宕机 使用云主机接口对实例进行关机 通过调用云主机关机OpenAPI触发关机 计算 云主机 CPU资源 CPU高负载 使用内部自研工具实施CPU高负载 预先在探针管理处将内部自研Agent安装至云主机上，使用管控通道下发动作执行命令 原理是启动自定义程序，空跑for循环来消耗CPU时间片 计算 云主机 内存资源 内存高负载 使用内部自研工具实施内存高负载 预先在探针管理处将内部自研Agent安装至云主机上，使用管控通道下发动作执行命令 原理是启动自定义程序不断申请内存，模拟主机内存负载升高 注意：设置高负载的内存故障注入后，可能会使得机器无法登入与控制，请谨慎使用 计算 云主机 磁盘资源 IO高负载 使用内部自研工具实施磁盘IO高负载 预先在探针管理处将内部自研Agent安装至云主机上，使用管控通道下发动作执行命令 原理是先通过dd命令将数据写入文件中，然后再通过循环读写文件占用磁盘带宽 计算 云主机 磁盘资源 IO Hang 模拟磁盘产生IO Hang效果 预先在探针管理处将内部自研Agent安装至云主机上，使用管控通道下发动作执行命令 原理是通过fsfreeze命令模拟磁盘夯死表现 注意：设置磁盘夯死故障注入后，可能会导致应用无法读写文件产出异常，请谨慎使用 计算 云主机 磁盘资源 磁盘填充 使用内部自研工具实施磁盘填充 预先在探针管理处将内部自研Agent安装至云主机上，使用管控通道下发动作执行命令 原理是通过dd命令将数据写入文件 计算 云主机 网络资源 网络丢包 使用TC和Netem模拟主机内网络丢包 预先在探针管理处将内部自研Agent安装至云主机上，使用管控通道下发动作执行命令 原理是通过增加TC和Netem规则模拟主机内网络丢包 注意：只对出方向流量生效，不会影响入流量；如果系统已配置有TC规则，动作执行会失败 计算 云主机 网络资源 网络延迟 使用TC和Netem模拟主机内网络延迟 预先在探针管理处将内部自研Agent安装至云主机上，使用管控通道下发动作执行命令 原理是通过增加TC和Netem规则模拟主机内网络延迟 注意：只对出方向流量生效，不会影响入流量；如果系统已配置有TC规则，动作执行会失败 计算 云主机 网络资源 网络包重复 使用TC和Netem模拟主机内网络包重复 预先在探针管理处将内部自研Agent安装至云主机上，使用管控通道下发动作执行命令 原理是通过增加TC和Netem规则模拟主机内网络包重复 注意：只对出方向流量生效，不会影响入流量；如果系统已配置有TC规则，动作执行会失败 计算 云主机 网络资源 网络包乱序 使用TC和Netem模拟主机内网络包乱序 预先在探针管理处将内部自研Agent安装至云主机上，使用管控通道下发动作执行命令 原理是通过增加TC和Netem规则模拟主机内网络包乱序 注意：只对出方向流量生效，不会影响入流量；如果系统已配置有TC规则，动作执行会失败 计算 云主机 网络资源 网络包损坏 使用TC和Netem模拟主机内网络包损坏 预先在探针管理处将内部自研Agent安装至云主机上，使用管控通道下发动作执行命令 原理是通过增加TC和Netem规则模拟主机内网络包损坏 注意：只对出方向流量生效，不会影响入流量；如果系统已配置有TC规则，动作执行会失败 计算 云主机 网络资源 端口占用 模拟指定端口占用 预先在探针管理处将内部自研Agent安装至云主机上，使用管控通道下发动作执行命令 原理是启动自定义程序， 创建Socket对象并绑定到指定端口 计算 云主机 网络资源 DNS篡改 篡改指定域名解析到指定IP 预先在探针管理处将内部自研Agent安装至云主机上，使用管控通道下发动作执行命令 原理是通过修改本地DNS解析文件实现 计算 云主机 网络资源 DNS不可用 DNS解析不可用 预先在探针管理处将内部自研Agent安装至云主机上，使用管控通道下发动作执行命令 原理是通过修改本地DNS解析文件或防火墙规则实现 注意：该动作风险较大，请谨慎操作 计算 云主机 JVM故障 JVM延迟 向特定JVM进程注入方法调用延迟故障 预先在探针管理处将内部自研Agent安装至云主机上，使用管控通道下发动作执行命令 原理是通过Java Agent在JVM进程内插入sleep代码来实现 中间件 Redis 集群资源 主从切换 Redis主从切换 通过调用Redis主从切换OpenAPI，触发Redis集群实例进行主从切换 中间件 Redis 节点资源 Redis节点故障 Redis节点发生故障 通过调用Redis停止Redis服务OpenAPI，模拟Redis节点故障，故障会触发Redis HA机制进行自动恢复 中间件 Redis 节点资源 Proxy节点故障 Proxy节点发生故障 通过调用Redis停止Proxy服务OpenAPI，模拟Proxy节点不可用 中间件 Redis 节点资源 节点主机宕机 Redis节点关机 通过关闭节点主机，模拟节点宕机 中间件 Redis 节点资源 CPU高负载 Redis节点CPU高负载 在节点启动自定义程序，空跑for循环来消耗CPU时间片 中间件 Redis 节点资源 内存高负载 Redis节点内存高负载 在节点启动自定义程序不断申请内存，模拟主机内存负载升高 注意：设置高负载的内存故障注入后，可能会使得机器无法登入与控制，请谨慎使用 中间件 Redis 节点资源 磁盘IO高负载 Redis节点磁盘IO高负载 在节点先通过dd命令将数据写入文件中，然后再通过循环读写文件占用磁盘带宽 中间件 Redis 节点资源 磁盘IO Hang Redis节点磁盘IO Hang 在节点通过fsfreeze命令模拟磁盘夯死表现 中间件 Redis 节点资源 网络丢包 Redis节点网络丢包 在节点通过增加TC和Netem规则模拟主机内网络丢包 注意：只对出方向流量生效，不会影响入流量；如果系统已配置有TC规则，动作执行会失败 中间件 Kafka 节点资源 Broker节点主机宕机 Broker节点关机 指定或随机一个Broker节点进行关机 中间件 Kafka 节点资源 Broker节点CPU高负载 Broker节点CPU高负载 指定或随机一个Broker节点启动自定义程序，空跑for循环来消耗CPU时间片 中间件 Kafka 节点资源 Broker节点磁盘IO高负载 Broker节点磁盘IO高负载 指定或随机一个Broker节点先通过dd命令将数据写入文件中，然后再通过循环读写文件占用磁盘带宽 中间件 Kafka 节点资源 分区Leader不可用 分区Leader发生故障 指定一个或多个分区Leader，通过调用Kafka模拟Leader故障OpenAPI，触发Leader重新选举 中间件 RCC 集群资源 停止服务 注册配置中心集群服务故障 通过调用RCC停止集群OpenAPI，模拟RCC集群服务故障 中间件 RCC 节点资源 停止节点 注册配置中心节点故障 通过调用RCC停止节点OpenAPI，模拟RCC节点故障 云容器 容器集群 节点资源 托管Master节点宕机 关闭云容器引擎Master节点主机 通过关闭云容器引擎Master节点主机，模拟Master节点宕机（支持托管版本和智算版） 云容器 容器集群 节点资源 节点宕机 关闭云容器引擎纳管的节点主机 通过关闭云容器引擎纳管的节点主机，模拟节点宕机（支持Worker节点或专有版容器Master节点） 云容器 容器集群 节点资源 Etcd节点宕机 停止Etcd服务，模拟Etcd节点宕机 通过停止Etcd节点上的服务，模拟Etcd节点宕机 云容器 集群Node CPU资源 CPU高负载 使用内部自研工具实施CPU高负载 启动自定义程序，空跑for循环来消耗CPU时间片 云容器 集群Node 内存资源 内存高负载 使用内部自研工具实施内存高负载 启动自定义程序不断申请内存，模拟主机内存负载升高 注意：设置高负载的内存故障注入后，可能会使得机器无法登入与控制，请谨慎使用 云容器 集群Node 磁盘资源 IO高负载 使用内部自研工具实施磁盘IO高负载 先通过dd命令将数据写入文件中，然后再通过循环读写文件占用磁盘带宽 云容器 集群Node 磁盘资源 磁盘填充 使用内部自研工具实施磁盘填充 通过dd命令将数据写入文件 云容器 集群Node 网络资源 网络丢包 使用TC和Netem模拟Node内网络丢包 通过增加TC和Netem规则模拟Node内网络丢包 注意：只对出方向流量生效，不会影响入流量；如果系统已配置有TC规则，动作执行会失败 云容器 集群Node 网络资源 网络延迟 使用TC和Netem模拟Node内网络延迟 通过增加TC和Netem规则模拟Node内网络延迟 注意：只对出方向流量生效，不会影响入流量；如果系统已配置有TC规则，动作执行会失败 云容器 集群Node 网络资源 网络包重复 使用TC和Netem模拟Node内网络包重复 通过增加TC和Netem规则模拟Node内网络包重复 注意：只对出方向流量生效，不会影响入流量；如果系统已配置有TC规则，动作执行会失败 云容器 集群Node 网络资源 网络包乱序 使用TC和Netem模拟Node内网络包乱序 通过增加TC和Netem规则模拟Node内网络包乱序 注意：只对出方向流量生效，不会影响入流量；如果系统已配置有TC规则，动作执行会失败 云容器 集群Node 网络资源 网络包损坏 使用TC和Netem模拟Node内网络包损坏 通过增加TC和Netem规则模拟Node内网络包损坏 注意：只对出方向流量生效，不会影响入流量；如果系统已配置有TC规则，动作执行会失败 云容器 集群Node 网络资源 DNS篡改 篡改指定域名解析到指定IP 通过修改本地DNS解析文件实现 云容器 集群Node 应用进程 进程停止 终止节点上的指定进程 通过kill 9停止节点上的指定进程 云容器 集群Node 应用进程 进程挂起 挂起节点上的指定进程 通过kill STOP挂起节点上的指定进程 云容器 集群Pod CPU资源 CPU高负载 使用内部自研工具实施CPU高负载 启动自定义程序，空跑for循环来消耗CPU时间片 云容器 集群Pod 内存资源 内存高负载 使用内部自研工具实施内存高负载 启动自定义程序不断申请内存，模拟主机内存负载升高 注意：设置高负载的内存故障注入后，可能会使得机器无法登入与控制，请谨慎使用 云容器 集群Pod 磁盘资源 IO高负载 使用内部自研工具实施磁盘IO高负载 先通过dd命令将数据写入文件中，然后再通过循环读写文件占用磁盘带宽 云容器 集群Pod 磁盘资源 磁盘填充 使用内部自研工具实施磁盘填充 通过dd命令将数据写入文件 云容器 集群Pod 网络资源 网络丢包 使用TC和Netem模拟Pod内网络丢包 通过增加TC和Netem规则模拟Pod内网络丢包 注意：只对出方向流量生效，不会影响入流量；如果系统已配置有TC规则，动作执行会失败 云容器 集群Pod 网络资源 网络延迟 使用TC和Netem模拟Pod内网络延迟 通过增加TC和Netem规则模拟Pod内网络延迟 注意：只对出方向流量生效，不会影响入流量；如果系统已配置有TC规则，动作执行会失败 云容器 集群Pod 网络资源 网络包重复 使用TC和Netem模拟Pod内网络包重复 通过增加TC和Netem规则模拟Pod内网络包重复 注意：只对出方向流量生效，不会影响入流量；如果系统已配置有TC规则，动作执行会失败 云容器 集群Pod 网络资源 网络包乱序 使用TC和Netem模拟Pod内网络包乱序 通过增加TC和Netem规则模拟Pod内网络包乱序 注意：只对出方向流量生效，不会影响入流量；如果系统已配置有TC规则，动作执行会失败 云容器 集群Pod 网络资源 网络包损坏 使用TC和Netem模拟Pod内网络包损坏 通过增加TC和Netem规则模拟Pod内网络包损坏 注意：只对出方向流量生效，不会影响入流量；如果系统已配置有TC规则，动作执行会失败 云容器 集群Pod 网络资源 DNS篡改 篡改指定域名解析到指定IP 通过修改本地DNS解析文件实现 云容器 集群Pod Pod资源 Pod删除 删除指定Pod 调用云容器引擎K8S API删除Pod 云容器 集群Pod 应用进程 进程停止 终止节点上的指定进程 通过kill 9停止节点上的指定进程 云容器 集群Pod 应用进程 进程挂起 挂起节点上的指定进程 通过kill STOP挂起节点上的指定进程 云容器 集群Pod JVM故障 JAVA方法调用延迟 指定JVM进程与方法增加调用延迟 通过Java Agent拦截指定JVM进程内方法，增加sleep操作模拟调用延迟 云容器 集群Pod JVM故障 JAVA方法抛自定义异常 指定JVM进程与方法抛出自定义异常 通过Java Agent拦截指定JVM进程内方法，增加thow操作模拟抛出异常 云容器 容器镜像 Harbor服务 Harbor服务不可用 停止Harbor服务，模拟容器镜像仓库不可用 通过调用容器镜像服务OpenAPI，停止Harbor服务，模拟容器镜像仓库不可用

监控项 单位 含义 指标名称 采集周期 GPU使用率 % 评估负载所消耗的计算能力，非空闲状态百分比 gpuutilongpu 1分钟 GPU显存使用量 可选KB、MB、GB，默认展示MB。 评估负载对显存的占用 memusageongpu 1分钟 GPU显存使用率 % 评估负载对显存的占用的百分比 memusageongpu 1分钟 GPU温度 ℃ 评估GPU散热情况 npuchipinfotemperature 1分钟 GPU功耗 W 评估GPU耗电情况 npuchipinfopower 1分钟

参数 配置说明 通用参数 分片：是否启用分片，默认启用。分片可以提高文件传输的效率和可靠性，默认分片大小为4096MB,支持填写256~10485760MB。 并行任务数：支持并行任务数上限、下限填写（引用存储单元的并行任务数），对于磁带任务，并行任务数指驱动器数。 备份前置脚本：备份任务开始前，执行前置脚本，根据脚本返回的结果决定是否执行备份。 备份后置脚本：备份任务结束后根据备份任务执行结果执行后置脚本；如果备份任务结果是成功的，则执行后置脚本；如果备份任务结果是失败的，则不执行后置脚本。 超时时间：设置脚本超时时间，若产生超时则直接结束当前脚本执行过程。 传输压缩 选择是否启用传输压缩。启用传输压缩后，源端对准备传输的数据进行压缩处理，目标端接收数据进行解压写入本地存储。提供四个压缩类型选择：极速压缩，普通压缩，快速压缩，均衡压缩。 压缩类型 极速压缩：极速压缩采用lz4。压缩速度最快，压缩率比较低。 普通压缩：普通压缩采用zip，压缩速度最慢，压缩率一般情况下最高。 快速压缩：快速压缩采用snappy，压缩速度比极速压缩稍慢，但是压缩率一般比极速压缩要高。 均衡压缩：均衡压缩采用minilzo，压缩速度比极速压缩稍慢，但是压缩率一般比极速压缩要高。 说明：压缩速度：极速压缩>普通压缩。压缩效果：普通压缩>极速压缩。综合考虑时间和效果，推荐使用极速压缩。 传输加密 选择是否启用传输加密。启用传输加密后，工作机在准备发送数据过程时使用加密算法和密钥加密数据，当灾备机收到数据后将执行解密操作再写入灾备机的本地存储。此选项默认不加密。 加密类型 提供AES、SM4加密算法。 带宽控制 用户选择时间段限制备份规则的带宽占用，避免数据复制业务对客户生产业务的影响。

前置条件 1.账号为主账号或者角色为IAM管理员的子账号 2.开通专属集群 操作步骤 队列旨在帮助用户精细化管理资源，队列是一个资源池中部分资源的集合，用于工作负载，比如训练任务、在线服务的运行，一个资源池中可创建多个队列。用户购买资源池后可将资源池划分成若干个队列，并使用队列中的资源处理不同业务的工作负载。 打开队列管理，顶部导航栏下拉选择集群的位置，选择到自己所有的专属集群。 【创建队列】操作 点击【创建队列】按钮，进入创建队列页面，填写相应信息。 说明 负载类型：选择的负载类型，代表对应的任务可以提交到该队列，占用该队列资源。比如某队列，负载类型选择了大模型微调、在线服务，则代表这两类任务可以提交到该队列，其他任务比如IDE、大模型评估等不可以提交到该队列。 实例规格和实例数：共同决定了该队列的资源额度上限。 管理员和成员：管理员的权限高于成员，成员只能使用该队列的资源，管理员除了能使用资源以外，还能管理该队列，具体包含管理用户，编辑，更配、启动/停止、删除操作。 【查询】操作 创建好的队列会出现在队列列表里，可通过负载类型、状态筛选，也可以通过队列ID、名称搜索。

本文主要介绍参考知识类问题。 一、 如何使容器重启后所在容器IP仍保持不变？ 单节点场景 如果集群下仅有1个节点时，要使容器重启后所在容器IP保持不变，需在工作负载中配置主机网络，在工作负载的yaml中的spec.spec.下加入hostNetwork: true字段。 多节点场景 如果集群下有多个节点时，除进行以上操作外，还需要设置节点的亲和策略，但工作负载创建后实例运行数不得超过亲和的节点数。 完成效果 进行如上设置并在工作负载运行后，工作负载实例ip与节点ip将保持一致，重启工作负载后ip也将保持不变。 二、云容器引擎CCE和微服务引擎的区别是什么？ 对于使用者而言，云容器引擎关注的重点是pod的部署，微服务引擎关注的是服务的使用。 对于技术实现来看，微服务引擎是对云容器引擎的再一次封装。 基础概念 云容器引擎（CCE） 云容器引擎（Cloud Container Engine，简称CCE）提供高度可扩展的、高性能的企业级Kubernetes集群，支持运行Docker容器，提供了Kubernetes集群管理、容器应用全生命周期管理、应用服务网格、Helm应用模板、插件管理、应用调度、监控与运维等容器全栈能力，为您提供一站式容器平台服务。借助云容器引擎，您可以在天翼云上轻松部署、管理和扩展容器化应用程序。 应用管理与运维平台（ServiceStage） ServiceStage应用管理与运维平台是一个应用托管和微服务管理平台，可以帮助企业简化部署、监控、运维和治理等应用生命周期管理工作。ServiceStage面向企业提供微服务、移动和Web类应用开发的全栈解决方案，帮助您的各类应用轻松上云，聚焦业务创新，帮助企业数字化快速转型

修复指导 请检查命名空间是否配置了自动注入sidecar，如果配置后重启Pod仍然无法注入，请检查实例数量是否超过了套餐限制。 如果网格未开启命名空间注入，可参考sidecar注入，为命名空间下所有工作负载关联的Pod注入sidecar。或者只为某个工作负载注入sidecar，方法如下： a.为工作负载所在命名空间打上istioinjectionenabled标签。 kubectl label ns istioinjectionenabled b.在CCE控制台为工作负载添加annotations字段。 annotations: sidecar.istio.io/inject: 'true' 您可以单击Installing the Sidecar了解更多sidecar注入的知识。 如果网格已经开启了命名空间注入，但是Pod未注入sidecar，需要在CCE控制台手动重启Pod，或者检查网格实例数量是否已经超出套餐配额。

字段 类型 必选 说明 workloadSelector WorkloadSelector N 用于选择匹配的工作负载 configPatches EnvoyConfigObjectPatch[] N 需要下发到数据面的配置 priority int N 优先级定义，可用于处理个EnvoyFilter匹配同一个工作负载，且EnvoyFilter之间存在依赖关系的场景 1. 默认的生效顺序为根命名空间 > 工作负载命名空间，在一个EnvoyFilter内的多个patch按照定义的顺序生效 2. 如果优先级为负，则在默认生效规则之前生效，如果为正则在默认生效规则之后生效 3. 建议优先级定义时保留足够的间隔，用于插入新的补丁

指标名称 指标介绍 logstashmaxjvmheapusage Logstash JVM堆内存使用率最大值 logstashavgjvmheapusage Logstash JVM堆内存使用率平均值 logstashmaxjvmyounggctime Logstash JVM Young GC最大耗时 logstashmaxjvmyounggccount Logstash JVM Young GC最大次数 logstashmaxjvmoldgctime Logstash JVM Old GC最大耗时 logstashmaxjvmoldgccount Logstash JVM Old GC最大次数 logstashmaxcpuusage Logstash CPU利用率最大值 logstashmaxloadaverage15 Logstash 15分钟负载最大值 logstashmaxloadaverage5 Logstash 5分钟负载最大值 logstashmaxloadaverage1 Logstash 1分钟负载最大值 logstashavgcpuusage Logstash CPU使用率平均值 logstashavgloadaverage15 Logstash 15分钟负载平均值 logstashavgloadaverage5 Logstash 5分钟负载平均值 logstashavgloadaverage1 Logstash 1分钟负载平均值 logstashsumeventsin Logstash 经过input插件数据总数 logstashsumeventsfiltered Logstash 经过filter插件数据总数 logstashsumeventsout Logstash 经过output插件数据总数 logstashmaxjvmusage Logstash 最大JVM利用率 logstashavgjvmusage Logstash 平均JVM利用率 logstashmaxmemoryusage Logstash 最大内存利用率 logstashavgmemoryusage Logstash 平均内存使用率 logstashmaxdiskusage Logstash 最大磁盘使用率 logstashavgdiskusage Logstash 平均磁盘使用率

本节介绍使用集群联邦实现应用多活容灾。 CCE One集群联邦支持将工作负载的实例分发至多个集群中，避免单集群故障引发业务中断，保障业务连续性。 前提条件 1. 已创建两个及以上的注册集群，具体操作参见 订购注册集群 章节。若已有集群，无需重复操作。 2. 已开通CCE One集群联邦实例。 环境搭建 1. 登录CCE One控制台，在左侧导航栏选择“集群资源” > “集群管理”，进入集群管理界面，确认待操作集群均处于“运行中”状态。 2. 在CCE One控制台左侧导航栏选择“舰队联邦” > “舰队管理”，新建一个容器舰队，并将待操作集群添加至舰队中。 3. 在CCE One控制台左侧导航栏选择“舰队联邦” > “联邦管理”，选择待操作联邦实例，进入联邦管理界面，查看“成员信息”，确认舰队及其下集群已接入联邦。 4. 在联邦管理界面左侧导航栏选择“工作负载” > “无状态”，创建一个nginx无状态负载。 填写负载名称、命名空间、实例数量、容器镜像等信息后，点击”下一步：调度与差异化“。 调度与差异化配置中，调度方式选择“集群权重”，并将两个集群权重设置为1:1。 注意 1. 如果待操作的多个集群位于不同资源池，建议打开“差异化配置”，按集群所在的资源池配置对应容器镜像，避免镜像拉取失败。 2. 配置完成后，点击“创建工作负载”进行创建，等待工作负载运行。

Linux环境 方式一：安装过程提示nodeclient、collectclient和fwclient服务正常即安装成功，如下图所示。 方式二：如果是安装一段时间后查看是否Agent客户端工作正常，请使用 ps aux grep client，如下图三个client正常存在即为正常。 Windows环境 方式一：在Administrator权限下的cmd安装，安装过程提示安装OK为完成安装，如下图。 方式二：在任务管理器中看到nodeclient、collectclient和fwclient三个任务也可判定安装成功，如下图。 为什么配置了策略工作负载没有启动防护的作用？ 可能存在两种配置缺少情况造成。 检查是否将配置的新策略发布，通过查看页面右上角倒数第二个图标（为发布图标），如果有显示数字代表还有配置未被发布，不会被生效到工作负载上，所以请点击发布图标或者进入到菜单点击“安全策略管理“>“更新发布”，提交发布说明就可以发布了。 可能没有将相应的工作负载切换到“防护”模式，在业务拓扑和工作负载列表两个页面都可以查看对应的工作负载是否开启了“防护”模式，只有防护模式才能够启用此工作负载的防护作用。 自适应微隔离WEB控制台必需使用何种浏览器？ 自适应微隔离产品使用了现代浏览器的特性，推荐使用一下浏览器： Chrome 73以上版本 Edge 17以上版本 Safari 11版本以上

本节介绍了云容器引擎的最佳实践：x86和ARM镜像的混合部署。 应用现状 云容器引擎允许在同一集群内同时创建两种不同架构的节点：x86架构和ARM架构。然而，由于这两种架构在底层技术上存在显著差异，因此通常来说，无法将为ARM架构设计的镜像（即应用程序）在x86架构的节点上成功运行，反之亦然。因此，在拥有同时支持x86和ARM节点的集群上部署工作负载时，可能会遭遇部署失败的情况。 解决方案 解决在不同架构的节点使用镜像创建工作负载通常有三种方法： 创建工作负载的时候通过亲和性设置，使用ARM架构镜像时让Pod调度到ARM架构的节点上，使用x86架构镜像时让Pod调度到x86架构的节点上。 创建工作负载的时候通过nodeSelector设置，使用ARM架构镜像时让Pod调度到ARM架构的节点上，使用x86架构镜像时让Pod调度到x86架构的节点上。 构建双架构镜像，同时支持ARM和x86架构。当Pod被调度到ARM架构节点时，将自动拉取针对ARM架构的镜像；而当Pod被调度到x86架构节点时，将自动拉取针对x86架构的镜像。尽管使用同一个地址，但背后实际上包含两个镜像。这种设计简化了工作负载描述文件，使其更具可读性和易于维护，无需单独配置节点亲和性和nodeSelector。

本章节介绍Kafka Broker CPU高负载故障演练。 背景介绍 分布式系统中作为数据交换和异步解耦核心的 Kafka 集群，其 Broker 节点 CPU 易因高消息吞吐量、过多消费者组、数据复制同步及消息压缩解压缩等因素出现持续高负载，进而引发消息延迟、吞吐量下降等问题，本演练可有效测试系统的应对与恢复能力。 基本原理 指定或随机一个Broker节点启动自定义程序，空跑for循环来消耗CPU时间片。 故障注入 1、纳管实例资源 1. 导航至 故障演练 > 目标应用 > 应用资源页面。 2. 在资源类型页签中选择分布式消息服务Kafka，然后单击添加资源。 3. 在弹出的对话框中，勾选目标分布式消息服务Kafka实例，单击确定。 2、编排演练任务 1. 导航至 故障演练 > 目标应用 > 演练管理 页面，单击新建演练。 2. 在基本信息 页面，按提示填写演练名称和描述，然后单击下一步。 3. 在演练对象配置页面： 配置动作组 ：为动作组 命名，资源类型选择分布式消息服务Kafka。 添加实例 ：单击添加实例 ，勾选上一步中添加的分布式消息服务Kafka实例。 添加故障动作 ：单击立即添加 ，在列表中选择Broker CPU高负载动作。 4. 在弹出的参数配置框中，配置所需参数，然后单击确定。 持续时间：故障动作持续时间。 CPU占用率：指定 CPU 负载百分比，取值在0 100之间

本文主要介绍如何使用第三方镜像。 操作场景 CCE支持拉取第三方镜像仓库的镜像来创建工作负载。 通常第三方镜像仓库必须经过认证（帐号密码）才能访问，而CCE中容器拉取镜像是使用密钥认证方式，这就要求在拉取镜像前先创建镜像仓库的密钥。 前提条件 使用第三方镜像时，请确保工作负载运行的节点可访问公网。 通过界面操作 步骤 1 创建第三方镜像仓库的密钥。 单击集群名称进入集群，在左侧导航栏选择“配置项与密钥”，在右侧选择“密钥”页签，单击右上角“创建密钥”，密钥类型必须选择为kubernetes.io/dockerconfigjson，如下图所示。详细操作请参见创建密钥。 此处的“用户名”和“密码”请填写第三方镜像仓库的帐号密码。 图 添加密钥 步骤 2 创建工作负载时，可以在“镜像名称”中直接填写私有镜像地址，填写的格式为domainname/namespace/imagename:tag，并选择步骤1中创建的密钥。 步骤 3 填写其他参数后，单击“创建工作负载”。

本文介绍了触发器的用户指南。 概述 触发器功能支持镜像版本更新时自动更新使用该镜像的云容器引擎工作负载，从而简化工作负载的发布流程。 前置条件 已开通容器镜像服务企业版实例 已开通云容器引擎集群 创建触发器 1. 进入容器镜像服务控制台。 2. 点击已开通的企业版实例名称。 3. 左侧导航栏点击 "容器镜像" "镜像仓库"，选择需要创建触发器的镜像仓库。 4. 在触发器标签页点击创建触发器按钮。 5. 在创建页面填写触发器相关的参数进行创建 参数 说明 触发器名称 触发器的名称。 Tag匹配条件 通过正则表达式设置规则匹配的镜像版本。使用方式示例如下： 匹配全部: . 匹配多个版本: v1v2v3 匹配前缀: v1. 集群 触发器关联的云容器引擎集群。 命名空间 触发器关联的命名空间。 工作负载类型 触发器关联的工作负载类型，包括：无状态，有状态，守护进程和定时任务。 工作负载 触发器关联的工作负载。 容器 触发器关联的容器。 镜像更新方式 触发器更新容器镜像的方式，包括通过Tag更新和通过Digest更新。当容器的镜像拉取策略为 IfNotPresent 时，由于云容器引擎节点本地存在镜像缓存，此时推送相同Tag的镜像将无法通过Tag触发容器拉取新镜像，因此推荐通过Digest更新。 当容器的镜像拉取策略为 Always 时，推荐通过Tag更新。 6. 创建完成后，可在列表页面查看创建的触发器。 7. 操作栏的编辑按钮可以修改触发器。禁用/启用按钮可以修改触发器的启用状态。删除按钮可以删除触发器。查看触发记录按钮可以查看触发器的触发记录。每当新推送的镜像命中触发器的Tag匹配条件时，则会新增一条触发记录，并且云容器引擎工作负载的镜像会自动更新。

本文将为您介绍通过专线网关实现物理专线双链路负载方式访问VPC。 应用场景 本地IDC通过两条物理专线接入天翼云华北2地域相同接入点。采用双链路负载方式，实现本地IDC网络与天翼云华北2地域中的VPC网络互通。如需使用云企业路由器搭建跨AZ入云网络架构，物理电路通过接入不同AZ接入点，实现双链路负载方式访问VPC网络，具体操作说明详见本地IDC通过负载专线入云。 本地IDC接入天翼云华北2地域的物理专线，配置如下。 物理专线名称 互联地址（天翼云侧） 互联地址（用户侧） 掩码 VLAN 物理专线1 10.250.0.1 10.250.0.2 255.255.255.252 100 物理专线2 10.250.0.5 10.250.0.6 255.255.255.252 200 天翼云华北2地域的VPC，配置如下。 VPC名称 VPC网段（IPv4） 子网网段（IPv4） VPC1 10.10.0.0/16 10.10.0.0/24 前提条件 1、在天翼云华北2已创建两条物理专线，具体操作说明详见创建物理专线。 2、在天翼云华北2已创建一个专线网关，具体操作说明详见创建专线网关。 3、在天翼云华北2已创建一个VPC，具体操作说明详见创建VPC。

本文主要介绍 Pod标签与注解。 Pod注解 CCE提供一些使用Pod的高级功能，这些功能使用时可以通过给YAML添加注解Annotation实现。具体的Annotation如下表所示。 Pod Annotation 注解 说明 默认值 kubernetes.AOM.log.stdout 容器标准输出采集参数，不配置默认将全部容器的标准输出上报至AOM，可配置采集指定容器或全部不采集。 示例： 全部不采集kubernetes.AOM.log.stdout: '[]' 采集container1和container2容器。kubernetes.AOM.log.stdout: '["container1","container2"]' metrics.alpha.kubernetes.io/customendpoints AOM监控指标上报参数，可将指定指标上报是AOM服务。 prometheus.io/scrape Prometheus指标上报参数，值为true表示当前负载开启上报。 prometheus.io/path Prometheus采集的url路径。 /metrics prometheus.io/port Prometheus采集的endpoint端口号。 prometheus.io/scheme Prometheus采集协议，值可以填写http或https kubernetes.io/ingressbandwidth Pod的入口带宽 kubernetes.io/egressbandwidth Pod的出口带宽 Pod标签 在控制台创建工作负载时，会默认为Pod添加如下标签，其中app的值为工作负载名称。您也可以根据需要为Pod添加其他标签。 在此处添加的Pod标签，同时也会在工作负载中添加selector.matchLabels，且一一对应，YAML示例如下。 ... spec: selector: matchLabels: app: nginx version: v1 template: metadata: labels: app: nginx version: v1 spec: ...

本文主要介绍管理节点标签。 节点标签可以给节点打上不同的标签，给节点定义不同的属性，通过这些标签可以快速的了解各个节点的特点。 节点标签使用场景 节点标签的主要使用场景有两类。 节点管理：通过节点标签管理节点，给节点分类。 工作负载与节点的亲和与反亲和： 有的工作负载需要的CPU大，有的工作负载需要的内存大，有的工作负载需要IO大，可能会影响其他工作负载正常工作等等，此时建议给节点添加不同标签。在部署工作负载的时候，就可以选择相应标签的节点亲和部署，保证系统正常工作；反之，可以使用节点的反亲和部署。 一个系统可以分为多个模块，每个模块由多个微服务组成，为保证后期运维的高效，可以将节点打上对应模块的标签，让各模块部署到各自的节点模块上，互不干扰，方便开发到各自节点上去维护。 节点固有标签 节点创建出来会存在一些固有的标签，并且是无法删除的，这些标签的含义请参见下表。 表节点固有标签 键 说明 新：topology.kubernetes.io/region 旧：failuredomain.beta.kubernetes.io/region 表示节点当前所在区域。 新：topology.kubernetes.io/zone 旧：failuredomain.beta.kubernetes.io/zone 表示节点所在区域的可用区。 新：node.kubernetes.io/baremetal 旧：failuredomain.beta.kubernetes.io/isbaremetal 表示是否为物理机节点。例如：false，表示非物理机节点 node.kubernetes.io/containerengine 表示容器引擎。例如：docker、containerd node.kubernetes.io/instancetype 节点实例规格。 kubernetes.io/arch 节点处理器架构。 kubernetes.io/hostname 节点名称。 kubernetes.io/os 节点操作系统类型。 node.kubernetes.io/subnetid 节点所在子网的ID。 os.architecture 表示节点处理器架构。例如：amd64，表示AMD64位架构的处理器 os.name 节点的操作系统名称。 os.version 操作系统节点内核版本。 node.kubernetes.io/containerengine 节点所用容器引擎。 accelerator GPU节点标签。 cce.cloud.com/ccenodepool 节点池节点专属标签。

字段 类型 必选 说明 workloadselector WorkloadSelector No 工作负载选择器，选择当前流量标签生效的工作负载。 rule TrafficLabelRule No 流量标签定义。

操作场景 上传模板到“模板市场 > 我的模板”中，为后期创建工作负载准备。 操作步骤 步骤 1 登录CCE控制台，在左侧导航栏中选择“模板市场 > 我的模板”，单击“上传模板”。 步骤 2 单击“添加文件”，选中待上传的工作负载包后，单击“上传”。 说明： 由于上传模板时创建对象存储桶的命名规则由ccecharts{region}{domainname} 变为ccecharts{region}{domainid}，其中旧命名规则中的domainname系统会做base64转化并取前63位，如果您在现有命名规则的对象存储桶中找不到模板，请在旧命名规则的桶中进行查找。 相关操作 模板创建完成后，在“我的模板”页面您还可以执行下表中的操作。 操作 说明 安装模板 单击“安装”，安装该模板用于创建工作负载，具体请参见通过模板创建工作负载。 更新模板 更新模板是针对同名同版本的模板，即只更新内容不更新版本，操作同“上传模板”。 下载模板 单击“更多 > 下载”，将模板下载到本地。 删除模板 单击“更多 > 删除”，删除已创建的模板。 模板删除后不能恢复，请谨慎操作。

操作场景 环境变量是指容器运行环境中设定的一个变量，环境变量可以在工作负载部署后修改，为工作负载提供极大的灵活性。 CCE中设置的环境变量与Dockerfile中的“ENV”效果相同。 在CCE中，您可以通过三种方式来添加环境变量：手动添加、密钥导入、配置项导入。 须知： 容器启动后，容器中的内容不应修改。如果修改配置项（例如将容器应用的密码、证书、环境变量配置到容器中），当容器重启（例如节点异常重新调度pod）后，会导致配置丢失，业务异常。 配置信息应通过入参等方式导入容器中，以免重启后配置丢失。 手动添加 步骤 1 创建工作负载时，添加容器镜像后，展开“环境变量”，单击“添加环境变量”。 步骤 2 根据实际需求，设置如下参数。 类型：手动添加。 变量名称：自定义填写变量名称，如demo。 变量/变量引用：输入变量的值，如value。 密钥导入 步骤 1 您需要先创建密钥，详细步骤请参见创建密钥。 步骤 2 创建工作负载时，添加容器镜像后，展开“环境变量”，单击“添加环境变量”。 步骤 3 根据实际需求，设置如下参数。 类型： 密钥导入。 变量名称： 自定义填写变量名称。 变量/变量引用： 请选择对应的密钥名称和键。 密钥导入 配置项导入 步骤 1 您需要先创建配置项，详细步骤请参见创建配置项。 步骤 2 创建工作负载时，添加容器镜像后，展开“环境变量”，单击“添加环境变量”。 步骤 3 根据实际需求，设置如下参数。 类型： 配置项导入。 变量名称： 自定义填写变量名称。 变量/变量引用： 请选择对应的配置项名称和键。 配置项导入

参数 参数类型 说明 示例 下级对象 statusCode Integer 返回状态码（800为成功，900为失败） 800 message String statusCode为900时的错误信息; statusCode为800时为success, 英文 success description String statusCode为900时的错误信息; statusCode为800时为成功, 中文 成功 errorCode String statusCode为900时为业务细分错误码，三段式：product.module.code; statusCode为800时为SUCCESS SUCCESS error String statusCode为900时为业务细分错误码，三段式：product.module.code; statusCode为800时为SUCCESS SUCCESS returnObj Object 接口业务数据 returnObj

本章节进行网格安全能力概述 概述 单体应用发展成微服务架构带来了诸多便利，业务迭代更加敏捷，扩展性更好，同时为服务架构也带了新的安全考虑，如： 微服务之间通信安全问题，如何防止中间人攻击。 微服务之间的访问控制问题，对于敏感服务和信息，如何限制微服务之间的访问。 微服务之间访问频繁且关系复杂，如何追溯服务之间的调用情况，需要具备审计能力。 服务网格的安全机制提供了零信任的安全机制，很好地解决了以上问题。 服务网格安全架构 服务身份及证书管理 身份是安全的基础，只有给每个服务赋予一个身份才能在服务相互访问时对各方的身份进行认证以及对操作进行鉴权。服务网格使用证书作为网格内工作负载的身份标识，服务网格负载网格内工作负载的身份证书颁发、轮换等，为网格安全提供基础能力。 身份认证 服务网格提供两种认证机制： 对等身份认证：用于sidecar代理之间通信时的身份认证，解决sidecar之间身份认证和通信加密问题，支持基于工作负载证书的mTLS双向认证。 请求身份认证：用于外部请求进入网格内的身份认证，支持JWT及OIDC的认证方式。 授权 在微服务通信中，确定了双方的身份之后，我们还需要对客户端是否有权限访问服务端的资源进行权限检查。当前服务网格支持全局、命名空间和工作负载级别的授权策略控制，同时支持集成外部授权服务能力。

通过本地磁盘存储将容器所在宿主机的文件目录挂载到容器的指定路径中，也可以不填写源路径。 本地磁盘使用场景 使用本地硬盘有四种形式： 主机路径挂载：将容器所在宿主机的文件目录挂载到容器指定的挂载点中，如容器需要访问/etc/hosts则可以使用HostPath映射/etc/hosts等场景。 临时路径挂载：用于临时存储，生命周期与容器实例相同。容器实例消亡时，EmptyDir会被删除，数据会永久丢失。 配置项挂载：将ConfigMap配置项中的key映射到容器中，可以用于挂载配置文件到指定容器目录。ConfigMap的创建请参见创建配置项，具体使用请参见使用配置项。 密钥挂载：将密钥中的数据挂载到容器的某一路径中。密钥是一种用于存储工作负载所需要认证信息、密钥的敏感信息等的资源类型，内容由用户决定。Secret的创建请参见创建密钥，具体使用请参见使用密钥。 下面分别介绍如何通过这四种形式进行挂载。 主机路径(HostPath)挂载 主机路径(HostPath)挂载表示将主机上的路径挂载到指定的容器路径。通常用于：“容器工作负载程序生成的日志文件需要永久保存”或者“需要访问宿主机上Docker引擎内部数据结构的容器工作负载”。 步骤 1 参照创建无状态负载(Deployment)、创建有状态负载(StatefulSet)或创建守护进程集(DaemonSet)，在“容器设置”步骤中，展开“数据存储”，单击“添加本地磁盘”。 步骤 2 设置添加本地磁盘参数，如下表。 表卷类型选择主机路径挂载 参数 参数说明 存储类型 主机路径(HostPath)。 主机路径 输入主机路径，如/etc/hosts。 说明 请注意“主机路径”不能设置为根目录“/”，否则将导致挂载失败。挂载路径一般设置为： /opt/xxxx（但不能为/opt/cloud） /mnt/xxxx（但不能为/mnt/paas） /tmp/xxx /var/xxx （但不能为/var/lib、/var/script、/var/paas等关键目录） /xxxx（但不能和系统目录冲突，例如bin、lib、home、root、boot、dev、etc、lost+found、mnt、proc、sbin、srv、tmp、var、media、opt、selinux、sys、usr等） 注意不能设置为/home/paas、/var/paas、/var/lib、/var/script、/mnt/paas、/opt/cloud，否则会导致系统或节点安装失败。 添加容器挂载 配置如下参数： 1. 子路径：请输入子路径，如：tmp。 使用子路径挂载本地磁盘，实现在单一Pod中重复使用同一个Volume。不填写时默认为根。 2. 挂载路径：请输入挂载路径，如：/tmp。 数据存储挂载到容器上的路径。请不要挂载在系统目录下，如“/ ”、“/var/run ”等，会导致容器异常。建议挂载在空目录下，若目录不为空，请确保目录下无影响容器启动的文件，否则文件会被替换，导致容器启动异常，工作负载创建失败。 须知： 挂载高危目录的情况下 ，建议使用低权限帐号启动，否则可能会造成宿主机高危文件被破坏。 3. 权限： 只读：只能读容器路径中的数据卷。 读写：可修改容器路径中的数据卷，容器迁移时新写入的数据不会随之迁移，会造成数据丢失。 单击“添加容器挂载”可增加多条设置，单击“确定”完成配置。 临时路径(EmptyDir)挂载 临时路径(EmptyDir)挂载适用于临时存储、灾难恢复、共享运行时数据等场景，工作负载实例的删除或者迁移会导致临时路径被删除。 步骤 1 参照创建无状态负载(Deployment)、创建有状态负载(StatefulSet)或创建守护进程集(DaemonSet)，在添加容器后，展开“数据存储”，单击“添加本地磁盘”。 步骤 2 选择本地磁盘类型为“临时路径挂载”，设置添加本地磁盘参数，如下表。 表卷类型选择临时路径挂载 参数 参数说明 存储类型 临时路径(EmptyDir)。 磁盘介质 若勾选“内存”，可以提高运行速度，但存储容量受内存大小限制。适用于数据量少，读写效率要求高的场景。 说明： Memory的EmptyDir使用的是内存，注意内存大小，用超过了容易oom。 Memory的EmptyDir的大小为实例规格的50%，暂时无法更改。 不使用Memory的EmptyDir不会占用系统内存。 若不勾选“内存”，即存储在硬盘上，适用于数据量大，读写效率要求低的场景。 添加容器挂载 配置如下参数： 1. 子路径：请输入子路径，如：tmp。 使用子路径挂载本地磁盘，实现在单一Pod中重复使用同一个Volume。不填写时默认为根。 2. 挂载路径：请输入挂载路径，如：/tmp。 数据存储挂载到容器上的路径。请不要挂载在系统目录下，如“/ ”、“/var/run ”等，会导致容器异常。建议挂载在空目录下，若目录不为空，请确保目录下无影响容器启动的文件，否则文件会被替换，导致容器启动异常，工作负载创建失败。 须知： 挂载高危目录的情况下 ，建议使用低权限帐号启动，否则可能会造成宿主机高危文件被破坏。 3. 权限： 只读：只能读容器路径中的数据卷。 读写：可修改容器路径中的数据卷，容器迁移时新写入的数据不会随之迁移，会造成数据丢失。 单击“添加容器挂载”可增加多条设置，单击“确定”完成配置。 配置项(ConfigMap)挂载 配置项(ConfigMap)挂载是将配置项中的数据挂载到指定的容器路径。平台提供工作负载代码和配置文件的分离，“配置项挂载”用于处理工作负载配置参数。用户需要提前创建工作负载配置，操作步骤请参见创建配置项。 步骤 1 参照创建无状态负载(Deployment)、创建有状态负载(StatefulSet)或创建守护进程集(DaemonSet)，在添加容器后，展开“数据存储”，单击“添加本地磁盘”。 步骤 2 选择本地磁盘类型为“配置项挂载”，设置添加本地磁盘参数，如下表。 表卷类型选择配置项挂载 参数 参数说明 存储类型 配置项(ConfigMap)。 配置项 选择对应的配置项名称。 配置项需要提前创建，具体请参见“创建配置项”。 添加容器挂载 配置如下参数： 1. 子路径：请输入子路径，如：tmp。 使用子路径挂载本地磁盘，实现在单一Pod中重复使用同一个Volume。不填写时默认为根。 2. 挂载路径：请输入挂载路径，如：/tmp。 数据存储挂载到容器上的路径。请不要挂载在系统目录下，如“/ ”、“/var/run ”等，会导致容器异常。建议挂载在空目录下，若目录不为空，请确保目录下无影响容器启动的文件，否则文件会被替换，导致容器启动异常，工作负载创建失败。 须知： 挂载高危目录的情况下 ，建议使用低权限帐号启动，否则可能会造成宿主机高危文件被破坏。 3. 设置权限：只读。只能读容器路径中的数据卷。 单击“添加容器挂载”可增加多条设置，单击“确定”完成配置。 密钥(Secret)挂载 密钥(Secret)挂载将密钥中的数据挂载到指定的容器路径，密钥内容由用户决定。用户需要提前创建密钥，操作步骤请参见创建密钥。 步骤 1 参照创建无状态负载(Deployment)、创建有状态负载(StatefulSet)或创建守护进程集(DaemonSet)，在添加容器后，展开“数据存储”，单击“添加本地磁盘”。 步骤 2 选择本地磁盘类型为“密钥挂载”，设置添加本地磁盘参数，如下表。 卷类型选择密钥挂载 参数 参数说明 存储类型 密钥(Secret)。 密钥 选择对应的密钥名称。 密钥需要提前创建，具体请参见“创建密钥”。 添加容器挂载 配置如下参数： 1. 子路径：请输入子路径，如：tmp。 使用子路径挂载本地磁盘，实现在单一Pod中重复使用同一个Volume。不填写时默认为根。 2. 挂载路径：请输入挂载路径，如：/tmp。 数据存储挂载到容器上的路径。请不要挂载在系统目录下，如“/ ”、“/var/run ”等，会导致容器异常。建议挂载在空目录下，若目录不为空，请确保目录下无影响容器启动的文件，否则文件会被替换，导致容器启动异常，工作负载创建失败。 须知 挂载高危目录的情况下 ，建议使用低权限帐号启动，否则可能会造成宿主机高危文件被破坏。 3. 设置权限：只读。只能读容器路径中的数据卷。 单击“添加容器挂载”可增加多条设置，单击“确定”完成配置。

本文主要介绍产品优势。 分布式消息服务Kafka完全兼容开源社区版本，旨在为用户提供便捷高效的消息队列。业务无需改动即可快速迁移上云，为您节省维护和使用成本。 一键式部署，免去集群搭建烦恼 您只需要在实例管理界面选好规格配置，提交订单。后台将自动创建部署完成一整套Kafka实例。 兼容开源，业务零改动迁移上云 兼容社区版Kafka的API，具备原生Kafka的所有消息处理特性。 业务系统基于开源的Kafka进行开发，只需加入少量认证安全配置，即可使用分布式消息服务Kafka，做到无缝迁移。 说明 Kafka实例兼容开源社区Kafka 1.1.0、2.3.0和2.7版本。在客户端使用上，推荐使用和服务端版本一致的版本。 安全保证 独有的安全加固体系，提供业务操作云端审计，消息存储加密等有效安全措施。 在网络通信方面，除了提供SASL（Simple Authentication and Security Layer）认证，还借助虚拟私有云（VPC）和安全组等加强网络访问控制。 数据高可靠 Kafka实例支持消息持久化，多副本存储机制。副本间消息同步、异步复制，数据同步或异步落盘多种方式供您自由选择。 集群架构与跨AZ部署，服务高可用 Kafka后台为多集群部署，支持故障自动迁移和容错，保证业务的可靠运行。 Kafka实例支持跨AZ部署，代理部署在不同的AZ，进一步保障服务高可用。不同AZ之间基于Kafka ISR（insync replica）进行数据同步，Topic需要选择数据多副本并且将不同副本分布到不同的ISR上，在ISR正常同步状态下，故障RPO（Recovery Point Objective）趋近于0。 无忧运维 云服务平台提供一整套完整的监控告警等运维服务，故障自动发现和告警，避免724小时人工值守。Kafka实例自动上报相关监控指标，如分区数、主题数、堆积消息数等，并支持配置监控数据发送规则，您可以在第一时间通过短信、邮件等获得业务消息队列的运行使用和负载状态。 海量消息堆积与弹性扩容 内建的分布式集群技术，使得服务具有高度扩展性。分区数可配置多达100个，存储空间弹性扩展，保证在高并发、高性能和大规模场景下的访问能力，轻松实现百亿级消息的堆积和访问能力。 多规格灵活选择 Kafka实例的带宽与存储资源可灵活配置，并且自定义Topic的分区数、副本数。

操作场景 容器组（Pod）是Kubernetes中最小的可部署单元。一个Pod（容器组）包含了一个应用程序容器（某些情况下是多个容器）、存储资源、一个唯一的网络IP地址、以及一些确定容器该如何运行的选项。Pod容器组代表了Kubernetes中一个独立的应用程序运行实例，该实例可能由单个容器或者几个紧耦合在一起的容器组成。 Kubernetes集群中的Pod存在如下两种使用途径： 一个Pod中只运行一个容器。"onecontainerperpod" 是Kubernetes中最常见的使用方式。此时，您可以认为Pod容器组是该容器的 wrapper，Kubernetes通过Pod管理容器，而不是直接管理容器。 一个Pod中运行多个需要互相协作的容器。您可以将多个紧密耦合、共享资源且始终在一起运行的容器编排在同一个Pod中，可能的情况有： − Content management systems, file and data loaders, local cache managers等 − log and checkpoint backup, compression, rotation, snapshotting等 − data change watchers, log tailers, logging and monitoring adapters, event publishers等 − proxies, bridges, adapters等 − controllers, managers, configurators, and updaters 您可以在云容器引擎CCE中方便的管理容器组（Pod），如编辑YAML、监控、删除等操作。 编辑YAML 可通过在线YAML编辑窗对容器组（Pod）的YAML文件进行修改和下载。 步骤 1 登录CCE控制台，在左侧导航栏中选择“工作负载 > 容器组 Pod”。 步骤 2 单击实例列表中后的“编辑YAML”，在弹出的“编辑YAML”窗中可对当前容器组（Pod）的YAML文件进行修改。 步骤 3 单击“修改”，在弹出的提示框中单击“确定”，完成修改。 说明：如果实例由其他工作负载创建，暂不支持在容器组（Pod）中单独修改。 步骤 4 （可选）在“编辑YAML”窗中，单击“下载”，可下载该YAML文件。 实例监控 您可以通过CCE控制台查看工作负载实例的CPU、内存使用情况以及网络上行和下行速率、磁盘的读写速率，以确定需要的资源规格。 步骤 1 登录CCE控制台，在左侧导航栏中选择“工作负载 > 容器组 Pod”。 步骤 2 单击实例列表中后的“监控”，可查看相应实例的CPU使用率、内存使用率以及网络上行和下行速率、磁盘的读写速率。 说明：实例处于非运行状态时，无法查看实例的监控数据。 删除实例 若实例无需再使用，您可以将其删除。实例删除后，将无法恢复，请谨慎操作。 步骤 1 登录CCE控制台，在左侧导航栏中选择“工作负载 > 容器组 Pod”。 步骤 2 单击待删除实例后的“删除”。 请仔细阅读系统提示，删除操作无法恢复，请谨慎操作。 步骤 3 单击“是”，即可删除该实例。 说明： 若Pod所在节点不可用或者关机，负载无法删除时可以在详情页面实例列表选择强制删除。 请确保要删除的存储没有被其他负载使用，导入和存在快照的存储只做解关联操作。 相关链接 []( " ")The Distributed System Toolkit: Patterns for Composite Containers []( " ")Container Design Patterns