背景介绍
云容器引擎(CCE)中,Etcd 节点是集群的分布式数据存储核心。硬件故障、系统内核异常、软件组件崩溃、网络中断及数据同步异常等因素,均可能导致 Etcd 节点故障。Etcd 节点故障会造成集群配置读写失败、状态同步异常,进而导致 Master 节点管控功能受限,Pod 调度、扩缩容等操作失效,影响上层业务稳定性,本演练可测试系统应对 Etcd 节点故障的恢复能力。
基本原理
通过停止Etcd 节点上的服务,模拟Etcd 节点故障。
故障注入
1、纳管实例资源
导航至 故障演练 > 目标应用 > 应用资源 页面。
在资源类型页签中选择云容器引擎,然后单击添加资源。
在弹出的对话框中,勾选目标云容器引擎实例,单击确定。
2、编排演练任务
导航至 故障演练 > 目标应用 > 演练管理页面,单击新建演练。
在基本信息页面,按提示填写演练名称和描述,然后单击下一步。
在演练对象配置页面:
配置动作组:为动作组命名,资源类型选择云容器引擎。
添加实例:单击添加实例,勾选上一步中添加的云容器引擎实例。
添加故障动作:单击立即添加,在列表中选择Etcd节点故障动作。
在弹出的参数配置框中,配置所需参数,然后单击确定。
持续时间:故障动作持续时间。
故障节点:故障动作的目标节点。
3、配置全局策略
在全局配置页面,按需添加保护策略和监控指标。
配置完成后,单击完成按钮,创建演练任务。
4、发起故障注入
发起演练:在演练管理列表找到对应演练任务,单击操作列的执行演练,在新页面中点击发起新演练。
进入实验:系统将自动跳转到本次演练的运行详情页,或在演练执行记录列表点击对应执行实例的详情进入。
注入故障:在动作组中,找到Etcd节点故障动作卡片,单击执行。
查看日志:单击动作卡片本身,在右侧弹出的侧边栏中查看执行详情。
效果验证
在故障注入期间,您可以通过以下方式验证演练效果:
1、观测实例指标:
登录云容器引擎控制台,进入 Etcd 节点监控页面,查看 Etcd 集群健康状态、数据同步延迟等指标。
2、业务应用验证:
尝试执行 Pod 创建、删除、扩缩容及集群配置修改等操作,验证是否因 Etcd 节点宕机导致操作失败或超时。
观察已运行的业务 Pod 是否保持稳定(未触发异常重建),验证故障恢复后,集群管控操作及数据同步是否能正常恢复。