使用对象存储静态存储卷时,需预先在对象存储控制台创建Bucket,并通过手动创建PV指定已有Bucket。创建PVC时关联该PV,即可实现容器内挂载对象存储。
此模式需要您先创建Bucket及PV资源,操作和管理相对复杂,通常推荐使用动态创建存储的方式。
前提条件
已创建容器集群。
已在插件市场安装存储插件cstor-csi,且插件正常运行。(建议使用>=4.0的CSI版本)
容器集群所在资源池已开通对象存储服务。
已在对象存储控制台创建Bucket。
使用限制
参见“对象存储概述”——“使用限制”
通过控制台使用对象存储静态存储卷
1、创建保密字典
进入天翼云对象存储控制台,进入Access Key管理;
查看对象存储密钥,并记录;
登录“云容器引擎”管理控制台;
在集群列表页点击进入指定集群;
进入主菜单“配置管理”——“保密字典”,选择命名空间,单击左上角“创建”。
输入名称、内容,内容项变量名分别是AK、SK(变量名大写),变量值分别对象上一步中获取到的密钥,点击提交。
创建持久卷(PV)
登录“云容器引擎”管理控制台;
在集群列表页点击进入指定集群;
进入主菜单“存储”——“持久卷”,单击左上角“创建持久卷”;
在创建对话框,配置持久卷PV的相关参数。配置项说明如下:
| 配置项 | 说明 |
|---|---|
| 名称 | PV的名称,以pvc-开头。 |
| 持久卷类型 | 当前支持云盘、弹性文件、对象存储、并行文件和海量文件,这里选择对象存储。 具体创建页中展示的存储类型由当前资源池支持情况决定。 |
| 存储驱动 | 采用默认CSI驱动。 |
| 访问模式 |
|
| 访问证书 | 选择命名空间、名称分别选择步骤1中保密字典所属命名空间及名称。 对应StorageClass中参数键分别为csi.storage.k8s.io/node-publish-secret-namespace、csi.storage.k8s.io/node-publish-secret-name |
| bucket名称 | 选择已创建bucket。 |
| 已有存储类 | 选择存储类功能在静态存储卷场景下较少使用。 仅当已存在带有存储类声明的持久卷申明(PVC)时,才需在此处配置匹配的存储类以实现绑定。 |
| 挂载选项 | 挂载参数,用户可根据自己的情况实际定制相关参数。 |
| 标签 | 用于对 PV 对象进行标记和分类的元数据属性,可以赋予 PV 以自定义的属性或标识。 |
说明
静态导入场景下,回收策略均为默认Retain,cstor-csi不会删除数据。
参数配置完成后,点击“确定”。创建成功后,可以在持久卷列表查看,此时PV状态为“可用”
创建持久卷声明(PVC)
进入主菜单“存储”——“持久卷声明”,单击左上角“创建持久卷声明”;
在创建对话框,配置持久卷声明PVC的相关参数。配置项说明如下:
| 配置项 | 说明 |
|---|---|
| 名称 | PVC的名称。 |
| 存储声明类型 | 当前支持云盘、弹性文件、对象存储、并行文件和海量文件,这里选择对象存储。 具体创建页中展示的存储类型由当前资源池支持情况决定。 |
| 是否指定存储类 | 在静态创建的场景下,除非持久卷指定了存储类,否则不需要指定存储类。 |
| 是否指定存储卷 | 在静态创建的场景下,需要指定上一步的存储卷。 |
| 持久卷名称 | 选择上一步创建的PV名称。 |
参数配置完成后,点击“确定”。创建成功后,可以在持久卷声明列表查看。
进入持久卷声明列表页,等待PVC状态为“已绑定” 。
3、创建工作负载
登录“云容器引擎”管理控制台;
在集群列表页点击进入指定集群;
进入主菜单“工作负载”——“有状态”,单击左上角“创建SatefulSet”;
在创建对话框,数据存储栏中,选择添加存储卷,卷类型选择“已有存储卷申明(PVC)”,操作栏选择“选择已有存储申明”;根据自己需要设置挂载路径、子路径和权限,
参数说明:
挂载路径:存储挂载到容器后,容器内部显示的路径地址。不建议使用类似于/usr或者/tmp类似的已有的容器目录路径,可能会造成目录相互遮蔽。
子路径:需要挂载的存储源地址的子目录
权限:读写/只读。
示例:将PVC“zos”对应存储的subpath指向的子目录(subpath为空表示使用根目录),挂载到容器里的/test路径上
所有的信息都配置完成后,单击“提交”,创建成功后,您就可以正常使用数据卷。
通过kubectl命令行使用对象存储静态存储卷
1、创建持久卷(PV)
注意
- 以下配置仅支持CSI版本4.0及其以上,您可以先在插件市场对CSI插件升级,再按照以下配置编写yaml。
- 以下参数为建议配置,您可在存储产品的支持范围内,根据自身实际情况进行调整。
- 部分参数由于不常用,示例中以#开头,未放开该参数,如有需求,请您根据实际需求使用。
- 部分#开头的中文内容为内容解释,并非参数。
使用kubectl连接集群,创建示例yaml文件pv-example.yaml:
apiVersion: "v1"
kind: "PersistentVolume"
metadata:
name: "pvc-zos-test-01" # pv的名字,以“pvc-”开头,然后记下后缀名,也就是hpfs-test-01。
spec:
accessModes:
- "ReadWriteOnce"
capacity:
storage: "5Gi" # 填写存储大小,对象存储桶无实际大小,按照格式随便填写大小就行。单位有Mi、Gi、Ti、Pi
csi:
driver: "zos.csi.cstor.com"
fsType: "ext4"
nodePublishSecretRef:
name: "zos" # 配置保密字典的名字
namespace: "default" # 配置的保密字典的命名空间
volumeAttributes:
bucket: "pvc-21dbe853-d75e-4dd0-b8f4-ed545e5d81a5" # bucket名字
driverType: "zos.csi.cstor.com"
mountEndpoint: "http://100.123.136.65:80" # endpoint地址
type: "STANDARD"
volumeHandle: "0205-0b-zos-test-01" #格式为0205-{PV-NAME-SUFFIX-LENTH}-{PV-NAME-SUFFIX},具体参照《参数说明》
persistentVolumeReclaimPolicy: "Retain"
volumeMode: "Filesystem"参数说明:
volumeHandle:格式为0205-{PV-NAME-SUFFIX-LENTH}-{PV-NAME-SUFFIX}
PV-NAME-SUFFIX表示PV名字后缀。
PV-NAME-SUFFIX-LENTH为16进制,表示PV名字后缀的长度。
例如PV-NAME-SUFFIX是"zos-test-01",则PV-NAME-SUFFIX-LENTH为0b
执行以下命令,创建PV
kubectl apply -f pv-example.yaml查看创建的PV:登录“云容器引擎”管理控制台;在集群列表页点击进入指定集群;进入主菜单“存储”——“持久卷”,在持久卷列表查看。
2、创建持久卷声明(PVC)
使用kubectl连接集群,创建示例yaml文件pvc-example.yaml:
apiVersion: v1
kind: PersistentVolumeClaim
metadata:
name: {YOUR-PVC-NAME}
namespace: default
spec:
accessModes:
- ReadWriteOnce
resources:
requests:
storage: 5Gi
volumeMode: Filesystem
volumeName: {YOUR-PV-NAME} #替换PV名称执行以下命令,创建PVC
kubectl apply -f pvc-example.yaml查看创建的PVC:登录“云容器引擎”管理控制台;在集群列表页点击进入指定集群;进入主菜单“存储”——“持久卷声明”,在列表查看。
3、创建工作负载
使用kubectl连接集群,创建示例yaml文件sts-example.yaml:
apiVersion: "apps/v1"
kind: "StatefulSet"
metadata:
name: "zos-test"
namespace: "default"
spec:
podManagementPolicy: "OrderedReady"
replicas: 1
revisionHistoryLimit: 10
serviceName: ""
template:
spec:
containers:
- image: "nginx:1.25-alpine"
imagePullPolicy: "IfNotPresent"
name: "container1"
resources:
limits:
cpu: "100m"
memory: "256Mi"
requests:
cpu: "100m"
memory: "256Mi"
terminationMessagePath: "/dev/termination-log"
terminationMessagePolicy: "File"
volumeMounts:
- mountPath: "/ccetmp"
name: "volume1"
subPath: "ccsetest"
dnsPolicy: "ClusterFirst"
restartPolicy: "Always"
schedulerName: "default-scheduler"
securityContext: {}
terminationGracePeriodSeconds: 30
volumes:
- name: "volume1"
persistentVolumeClaim:
claimName: {YOUR-PVC-NAME} #替换为步骤2中的PVC名称
updateStrategy:
rollingUpdate:
partition: 0
type: "RollingUpdate"执行以下命令,创建StatefulSet
kubectl apply -f sts-example.yaml查看创建的有状态负载:登录“云容器引擎”管理控制台;在集群列表页点击进入指定集群;进入主菜单“工作负载”——“有状态”,在列表查看
验证数据持久化
登录“云容器引擎”管理控制台;
在集群列表页点击进入指定集群;
进入主菜单“工作负载”——“有状态”,进入负载详情;
在Pod列表页,选择“远程登录”,进入到容器内执行以下命令:
1、向/ccetmp 目录下写一个文件,执行echo "Hello World" > /ccetmp/test.log
2、查看/ccetmp目录下文件,执行ls /ccetmp,预期结果如下:
test.log退出“远程登录”,对上一步中的Pod执行“销毁重建”,等待Pod重新运行正常;
对新建Pod,继续执行“远程登录”,进入到容器内查看数据。执行cat /ccetmp/test.log,预期结果如下:
Hello World登录“天翼云对象存储”管理控制台,根据PV名称查看bucket,进入bucket——文件管理,可以看到在容器内创建的文件:
下载文件并查看内容,预期结果与容器内写入数据一致。
以上步骤说明,pod删除重建后,重新挂载对象存储卷,数据仍然存在;从对象存储下载数据并与写入数据一致, 说明对象存储中的数据可持久化保存。