云容器引擎支持使用天翼云对象存储持久卷。cstor-csi插件支持使用对象存储动态存储卷和静态存储卷，通过将存储卷挂载到容器指定目录满足数据持久化需求。

前提条件

• 已创建容器集群。

• 已在插件市场安装存储插件cstor-csi，且插件正常运行。（建议使用>=4.0的CSI版本）

• 容器集群所在资源池已开通对象存储服务。

使用限制

参见 对象存储使用限制

通过控制台使用对象存储动态存储卷

1 、创建保密字典

• 进入天翼云对象存储控制台，进入Access Key管理；

• 查看对象存储密钥，并记录；

• 登录“云容器引擎”管理控制台；

• 在集群列表页点击进入指定集群；

• 进入主菜单“配置管理”——“保密字典”，选择命名空间，单击左上角“创建”。

• 输入名称、内容，内容项变量名分别是AK、SK（变量名大写），变量值分别对象上一步中获取到的密钥；点击提交；

2 、创建存储类（ StorageClass ）

• 登录“云容器引擎”管理控制台。

• 在集群列表页点击进入指定集群。

• 进入主菜单“存储”——“存储类”，单击左上角“创建”。

  

• 在创建对话框，配置存储类StorageClass的相关参数。配置项说明如下：

• 参数配置完成后，点击“确定”。创建成功后，可以在存储类列表查看。

3 、创建持久卷声明（ PVC ）

• 进入主菜单“存储”——“持久卷声明”，单击左上角“创建持久卷声明”；

• 在创建对话框，配置持久卷声明PVC的相关参数。配置项说明如下：

• 参数配置完成后，点击“确定”。创建成功后，可以在持久卷声明列表查看。

• 进入持久卷声明列表页，等待PVC状态为“已绑定” 。此时，进入主菜单“存储”——“持久卷“，可以看到对应的PV创建。

PV创建后，可以在“天翼云对象存储”管理控制台看到对应名称的bucket

如果PVC一直未绑定，可以查看进入对应PVC详情页查看事件，或者查看cstor-csi日志进行定位。

4 、创建工作负载

1. 登录“云容器引擎”管理控制台；

2. 在集群列表页点击进入指定集群；

3. 进入主菜单“工作负载”——“有状态”，单击左上角“创建SatefulSet”；

4. 在创建对话框，数据存储栏中，选择添加存储卷，卷类型选择“已有存储卷申明（PVC）”，操作栏选择“选择已有存储申明”；根据自己需要设置挂载路径、子路径和权限，

   • 参数说明：

     挂载路径：存储挂载到容器后，容器内部显示的路径地址。不建议使用类似于/usr或者/tmp类似的已有的容器目录路径，可能会造成目录相互遮蔽。

     子路径：需要挂载的存储源地址的子目录

     权限：读写/只读。

   • 示例：将PVC“zos”对应存储的subpath指向的子目录（subpath为空表示使用根目录），挂载到容器里的/test路径上

     

5. 所有的信息都配置完成后，单击“提交”，创建成功后，您就可以正常使用数据卷。

通过kubectl命令行使用对象存储动态存储卷

1 、创建存储类（ StorageClass ）

• 使用kubectl连接集群，创建示例yaml文件sc-example.yaml：

apiVersion: storage.k8s.io/v1
kind: StorageClass
metadata:
  name: cstor-csi-zos-standard-sc
provisioner: zos.csi.cstor.com
parameters:
  # 标准存储
  type: STANDARD

  # 使用bucket所使用的AK/SK的secret
  csi.storage.k8s.io/node-publish-secret-name: obs-secret
  csi.storage.k8s.io/node-publish-secret-namespace: default

  # 对象存储的AZ策略，不填默认为single-az
  azpolicy: single-az

  # kms的uuid，当配置了这个uuid后，意味着会使用加密功能。不配置或者配置为空，则均不使用加密。默认不使用加密功能。
  # kmsUUID: 111d979e-5f30-4dd6-a167-c8c8cdd8aa7c

  # 填写标签，根据自己需求填写，以逗号分隔，例如以下示例就是两对标签，
  # 其中第一个标签key为ccse，value为plugin，另外一个标签key为cstor-csi-provison，value为yes
  # 注意，此标签为存储侧的标签，并非容器侧的标签，最终只会在存储控制台展示。
  # tags: "cce:plugin,cstor-csi-provison:yes"

  # endpoint类型选择，如果为intranet表示使用内网地址，如果是internet表示使用外网地址。
  # 默认为intranet，不填该字段也默认为intranet
  # endpointType: intranet

reclaimPolicy: Delete
allowVolumeExpansion: true

• 执行以下命令，创建StorageClass

kubectl apply -f sc-example.yaml

• 查看创建的StorageClass：

登录“云容器引擎”管理控制台；

在集群列表页点击进入指定集群；

进入主菜单“存储”——“存储类”，在存储类列表查看。

2 、创建持久卷声明（ PVC ）

• 使用kubectl连接集群，创建示例yaml文件pvc-example.yaml：

apiVersion: v1
kind: PersistentVolumeClaim
metadata:
  name: cstor-pvc-zos
spec:
  accessModes:
    - ReadWriteOnce
  resources:
    requests:
      storage: 10Gi
  storageClassName: cstor-csi-zos-standard-sc

• 执行以下命令，创建PVC

kubectl apply -f pvc-example.yaml

• 查看创建的PVC：

登录“云容器引擎”管理控制台；

在集群列表页点击进入指定集群；

进入主菜单“存储”——“持久卷声明”，在列表查看。

3 、创建工作负载

• 使用kubectl连接集群，创建示例yaml文件sts-example.yaml：

apiVersion: "apps/v1"
kind: "StatefulSet"
metadata:
  name: "zos-test"
  namespace: "default"
spec:
  podManagementPolicy: "OrderedReady"
  replicas: 1
  revisionHistoryLimit: 10
  template:
    spec:
      containers:
      - image: "nginx:1.25-alpine"
        imagePullPolicy: "IfNotPresent"
        name: "container1"
        resources:
          limits:
            cpu: "100m"
            memory: "256Mi"
          requests:
            cpu: "100m"
            memory: "256Mi"
        terminationMessagePath: "/dev/termination-log"
        terminationMessagePolicy: "File"
        volumeMounts:
        - mountPath: "/ccetmp"
          name: "volume1"
          subPath: "ccsetest"
      dnsPolicy: "ClusterFirst"
      restartPolicy: "Always"
      schedulerName: "default-scheduler"
      securityContext: {}
      terminationGracePeriodSeconds: 30
      volumes:
      - name: "volume1"
        persistentVolumeClaim:
          claimName: "cstor-pvc-zos"
  updateStrategy:
    rollingUpdate:
      partition: 0
    type: "RollingUpdate"

• 执行以下命令，创建StatefulSet

kubectl apply -f sts-example.yaml

• 查看创建的有状态负载：

登录“云容器引擎”管理控制台；

在集群列表页点击进入指定集群；

进入主菜单“工作负载”——“有状态”，在列表查看。

验证数据持久化

• 登录“云容器引擎”管理控制台；

• 在集群列表页点击进入指定集群；

• 进入主菜单“工作负载”——“有状态”，进入负载详情；

• 在Pod列表页，选择“远程登录”，进入到容器内执行以下命令：

  1、向/ccetmp 目录下写一个文件，执行echo "Hello World" > /ccetmp/test.log

  2、查看/ccetmp目录下文件，执行ls /ccetmp，预期结果如下:

test.log

• 退出“远程登录”，对上一步中的Pod执行“销毁重建”，等待Pod重新运行正常；

• 对新建Pod，继续执行“远程登录”，进入到容器内查看数据。执行cat /ccetmp/test.log，预期结果如下：

Hello World

• 登录“天翼云对象存储”管理控制台，根据PV名称查看bucket，进入bucket——文件管理，可以看到在容器内创建的文件：

下载文件并查看内容，预期结果与容器内写入数据一致。

• 以上步骤说明，pod删除重建后，重新挂载对象存储卷，数据仍然存在；从对象存储下载数据并与写入数据一致，说明对象存储中的数据可持久化保存。