本文介绍了容器镜像按需加速的用户指南。 传统容器运行需要将全量镜像数据下载后再解包，然而容器启动可能仅使用其中部分的内容，导致容器启动耗时长。通过容器镜像服务企业版的按需加载功能，您可以在业务部署中使用加速镜像版本，实现镜像数据免全量下载和在线解压，大幅提升应用分发效率，享受极致的弹性体验。本文介绍如何按需加载容器镜像。 前置条件 已开通企业版镜像服务 已开通云容器引擎集群 背景信息 通过按需加速功能，您可以在部署业务工作负载时使用加速镜像，实现镜像数据免全量下载和在线解压，大幅度提升应用分发效率，缩短容器启动时间，减少容器镜像所消耗的存储空间。加速效果与镜像大小以及网络等因素有关。 注意 在创建容器实例时，选用Containerd作为容器运行时的集群支持使用镜像加速，而对于选用Docker作为运行时的实例则不支持使用。 转换加速镜像 通过在镜像仓库或者在命名空间级别启用自动转换加速镜像，在上传镜像后会自动转换成加速镜像。镜像转换时间取决于镜像大小，对原始镜像不做任何变更改动。 转换后的加速镜像与原始镜像所在的命名空间及镜像仓库保持一致，仅镜像版本（即镜像的Tag）比原始镜像多增加了“accelerated”后缀。 注意 1.在已有命名空间或镜像仓库中开启镜像加速自动转换，所覆盖的命名空间或镜像仓库下的存量镜像则不会自动转换； 2.加速镜像会增加对象存储Bucket的使用量； 3.因加速镜像转换需要一定耗时，建议提前上传镜像，预留足够的转化时长，以免影响业务的发布时间，例如，转换 40GiB 的镜像大约耗时 30 分钟； 4.随着镜像容量增加，除了增加转换时长，同样也会增加转换失败的风险，建议转的镜像容量控制在60GiB以内。 1. 登录容器镜像控制台。 2. 在顶部菜单栏，选择所需资源池。 3. 在实例页面中选择指定的企业版实例。 4. 在命名空间中开启镜像加速：在企业版实例管理页面的左侧菜单上选择 "容器镜像" "命名空间"。在命名空间创建时，打开开启镜像加速开关，其余信息点填写完成后点击创建按钮。对于现存的命名空间，在命名空间列表中的开启镜像加速开关列中，打开开关。 5. 在镜像仓库中开启镜像加速：在企业版实例管理页面的左侧菜单上选择 "容器镜像" "镜像仓库"。在未开启镜像加速的命名空间下创建镜像仓库时，打开开启镜像加速开关，其余信息点填写完成后点击创建。对于现存的镜像仓库，在镜像仓库列表中，选择未开启镜像加速的命名空间下的镜像仓库，点击编辑，在编辑页面中打开开启镜像加速开关，然后点击更新按钮。 6. 在启用镜像加速的命名空间或者镜像仓库中上传镜像，稍等片刻后，在镜像仓库的版本列表页中查看到已经转换完成的带“accelerated”后缀的加速镜像，转换时间受镜像自身大小影响。

本文介绍了容器镜像按需加速的用户指南。 传统容器运行需要将全量镜像数据下载后再解包，然而容器启动可能仅使用其中部分的内容，导致容器启动耗时长。通过容器镜像服务企业版的按需加载功能，您可以在业务部署中使用加速镜像版本，实现镜像数据免全量下载和在线解压，大幅提升应用分发效率，享受极致的弹性体验。本文介绍如何按需加载容器镜像。 前置条件 已开通企业版镜像服务 已开通云容器引擎集群 背景信息 通过按需加速功能，您可以在部署业务工作负载时使用加速镜像，实现镜像数据免全量下载和在线解压，大幅度提升应用分发效率，缩短容器启动时间，减少容器镜像所消耗的存储空间。加速效果与镜像大小以及网络等因素有关。 注意 在创建容器实例时，选用Containerd作为容器运行时的集群支持使用镜像加速，而对于选用Docker作为运行时的实例则不支持使用。 转换加速镜像 通过在镜像仓库或者在命名空间级别启用自动转换加速镜像，在上传镜像后会自动转换成加速镜像。镜像转换时间取决于镜像大小，对原始镜像不做任何变更改动。 转换后的加速镜像与原始镜像所在的命名空间及镜像仓库保持一致，仅镜像版本（即镜像的Tag）比原始镜像多增加了“accelerated”后缀。 注意 1.在已有命名空间或镜像仓库中开启镜像加速自动转换，所覆盖的命名空间或镜像仓库下的存量镜像则不会自动转换； 2.加速镜像会增加对象存储Bucket的使用量； 3.因加速镜像转换需要一定耗时，建议提前上传镜像，预留足够的转化时长，以免影响业务的发布时间，例如，转换 40GiB 的镜像大约耗时 30 分钟； 4.随着镜像容量增加，除了增加转换时长，同样也会增加转换失败的风险，建议转的镜像容量控制在60GiB以内。 1. 登录容器镜像控制台。 2. 在顶部菜单栏，选择所需资源池。 3. 在实例页面中选择指定的企业版实例。 4. 在命名空间中开启镜像加速：在企业版实例管理页面的左侧菜单上选择 "容器镜像" "命名空间"。在命名空间创建时，打开开启镜像加速开关，其余信息点填写完成后点击创建按钮。对于现存的命名空间，在命名空间列表中的开启镜像加速开关列中，打开开关。 5. 在镜像仓库中开启镜像加速：在企业版实例管理页面的左侧菜单上选择 "容器镜像" "镜像仓库"。在未开启镜像加速的命名空间下创建镜像仓库时，打开开启镜像加速开关，其余信息点填写完成后点击创建。对于现存的镜像仓库，在镜像仓库列表中，选择未开启镜像加速的命名空间下的镜像仓库，点击编辑，在编辑页面中打开开启镜像加速开关，然后点击更新按钮。 6. 在启用镜像加速的命名空间或者镜像仓库中上传镜像，稍等片刻后，在镜像仓库的版本列表页中查看到已经转换完成的带“accelerated”后缀的加速镜像，转换时间受镜像自身大小影响。

步骤三：编写Dockerfile 创建Dockerfile，这里以AIO作为基础镜像，将服务代码和配置文件复制到对应目录： plaintext FROM serverlesspublicregistry.crshuanan2.ctyun.cn/sandbox/ctyunaio:v1.1 USER root 拷贝自己应用supervisord的配置文件到容器 COPY conf/echoserver.conf /etc/supervisor/conf.d/echoserver.conf RUN chmod 644 /etc/supervisor/conf.d/echoserver.conf 创建echoserver输出的日志目录 RUN mkdir p /var/log/supervisor/echoserver 设置应用要用的环境变量 ENV ECHOSERVERHOST0.0.0.0 ECHOSERVERPORT9000 拷贝自己的应用到容器 COPY ./server /home/user/server RUN chmod 777 R /home/user USER user 其他基础镜像地址： serverlesspublicregistry.crshuanan2.ctyun.cn/sandbox/ctyunbase:v1.1 serverlesspublicregistry.crshuanan2.ctyun.cn/sandbox/ctyuncodeinterpreter:v1.1 serverlesspublicregistry.crshuanan2.ctyun.cn/sandbox/ctyunaio:v1.1 步骤四：构建并测试 shell docker build platform linux/amd64 t echoserver:v0.1 . f Dockerfile docker run d p 9000:9000 echoserver:v0.1 验证 curl 预期返回: ok 步骤五：推送镜像 将构建出来的镜像，推送到天翼云容器镜像服务CRS，后续创建自定义模板可从CRS里选择该镜像。 步骤六：创建自定义模板 进入控制台>创建沙箱模板，沙箱类型选择“自定义沙箱”，并选择上一步上传的镜像。 注意事项 端口冲突：自定义服务的内部端口不能与 AIO 内置服务冲突。AIO 内置服务端口： 沙箱管理代理envd：49983 Code Interpreter：49999、8888 BrowserTool：9223、9222 VncTool：6080、5900

子账号使用流程 前置条件 子账号为IAM普通用户角色且已登录到训推智算服务平台 子账号使用流程 若子账号为IAM管理员角色，则其拥有全部操作权限，操作流程和主账号别无二致，故角色为IAM管理员的子账号使用流程参见主账号使用流程章节；角色为IAM普通用户的子账号，使用流程如下： 子账号的使用流程主要是为了进行任务作业，具体步骤如下： 流程 子任务 说明 详细指导 数据集准备与处理 创建基础数据集 可上传基础数据集到ZOS或HPFS 基础数据集 数据集准备与处理 创建标注数据集 创建标注数据集，可对数据集进行标注，并发布为新的数据集 标注数据集 数据集准备与处理 数据清洗 可以对数据 数据处理 镜像准备 预置镜像 预置镜像即平台预先设置的完整镜像，可直接用于创建任务时使用 预置镜像 镜像准备 自定义镜像 可以通过开发机自主制作镜像或通过天翼云容器镜像服务将镜像服务内的容器共享给训推智算服务平台 [自定义镜像](

本节为您介绍如何弃用镜像。 操作场景 当用户由于某种原因，不再使用某个镜像但是也不想删除此镜像的时候，可以弃用此镜像。例如，用户可以弃用不再主动维护的镜像，也可以弃用已被较新版本取代的镜像。 前提条件 弃用镜像只支持私有镜像。 待弃用的镜像必须为“正常”状态。 状态为“已弃用”的镜像才能取消弃用。 弃用中、已弃用的镜像不可以分享。 已经分享出去的镜像，不能弃用。 弃用中、已弃用的镜像不支持“申请云主机”、“导出”、“修改”。 操作步骤 1. 登录天翼云控制中心。 2. 单击控制中心顶部的选择区域。 3. 在左侧导航栏选择“计算 > 镜像服务”。 4. 在镜像列表页，选择需要弃用的镜像，单击“弃用”。 5. 弃用之后镜像的状态会从“弃用中”逐步变为“已弃用”，状态为“已弃用”表示弃用镜像操作完成。 后续操作 1. 镜像弃用之后，在镜像列表，“申请云主机”按钮置灰不可操作。用户在购买云主机页面，选择镜像时，在镜像的下拉框不再展示此镜像。 2. 已弃用的镜像可以取消弃用，取消弃用之后，镜像可以正常使用。

参数 参数说明 templates 用于存放所有的template（模板）文件。 values.yaml 用于描述template文件所需的配置参数。 须知 定义template文件配置参数时，请注意此处定义的“镜像地址”务必和容器镜像仓库中对应的镜像地址保持一致。否则创建工作负载会异常，提示镜像拉取失败。 镜像地址获取方法如下：在CCE控制台，单击左侧导航栏的“镜像仓库”，进入容器镜像服务控制台。在“我的镜像 > 自有镜像”中，单击已上传镜像的名称，在“镜像版本 ”页签的“下载指令”栏中即可获取镜像地址，单击 按钮即可复制该指令。 README.md 一个markdown文件，包括： 描述Chart提供的工作负载或服务。 运行Chart的前提。 解释values.yaml文件中的配置 安装和配置Chart的相关信息。 Chart.yaml 模板的基本信息说明。注：Helm v3版本apiVersion从v1切换到了v2。 .helmignore 设定在工作负载安装时不需要读取templates的某些文件或数据。

操作步骤 1. 登录天翼云控制中心。 2. 单击控制中心顶部的选择区域。 3. 在左侧导航栏选择“计算 > 镜像服务”。 4. 在“镜像”列表页面，单击右上角“创建私有镜像”。 5. 在创建私有镜像页面，镜像类型选择“整机镜像”，镜像源选择“云主机”，选择对应云主机。 6. 填写镜像的基本信息，如企业项目、镜像名称、描述等，单击“下一步”按钮。 说明 镜像名称长度232位,只能由数字、字母、组成，不能以数字和开头、且不能以结尾。 7. 确认镜像参数，勾选“我已阅读并同意相关协议”，并单击“确认下单”按钮。 8. 返回私有镜像列表，可以看到状态处于“创建中”的整机镜像任务。等待状态变为“正常”，此时完成通过云主机创建整机镜像。 后续操作 1. 整机镜像创建完成后，可以在私有镜像列表看到已经创建成功的整机镜像。 2. 整机镜像支持的操作包括：查看详情、申请云主机、修改、删除。 3. 使用整机镜像申请云主机，单击操作栏的“申请云主机”，进入申请云主机界面，操作界面与常规的购买云主机一样。

步骤三：编写Dockerfile 创建Dockerfile，这里以AIO作为基础镜像，将服务代码和配置文件复制到对应目录： plaintext FROM serverlesspublicregistry.crshuanan2.ctyun.cn/sandbox/ctyunaio:v1.1 USER root 拷贝自己应用supervisord的配置文件到容器 COPY conf/echoserver.conf /etc/supervisor/conf.d/echoserver.conf RUN chmod 644 /etc/supervisor/conf.d/echoserver.conf 创建echoserver输出的日志目录 RUN mkdir p /var/log/supervisor/echoserver 设置应用要用的环境变量 ENV ECHOSERVERHOST0.0.0.0 ECHOSERVERPORT9000 拷贝自己的应用到容器 COPY ./server /home/user/server RUN chmod 777 R /home/user USER user 其他基础镜像地址： serverlesspublicregistry.crshuanan2.ctyun.cn/sandbox/ctyunbase:v1.1 serverlesspublicregistry.crshuanan2.ctyun.cn/sandbox/ctyuncodeinterpreter:v1.1 serverlesspublicregistry.crshuanan2.ctyun.cn/sandbox/ctyunaio:v1.1 步骤四：构建并测试 shell docker build platform linux/amd64 t echoserver:v0.1 . f Dockerfile docker run d p 9000:9000 echoserver:v0.1 验证 curl 预期返回: ok 步骤五：推送镜像 将构建出来的镜像，推送到天翼云容器镜像服务CRS，后续创建自定义模板可从CRS里选择该镜像。 步骤六：创建自定义模板 进入控制台>创建沙箱模板，沙箱类型选择“自定义沙箱”，并选择上一步上传的镜像。 注意事项 端口冲突：自定义服务的内部端口不能与 AIO 内置服务冲突。AIO 内置服务端口： 沙箱管理代理envd：49983 Code Interpreter：49999、8888 BrowserTool：9223、9222 VncTool：6080、5900

新建项目 项目是使用软件开发生产线各服务的基础，创建项目后才能完成后续操作。 步骤 1 进入软件开发生产线首页，单击“新建项目”。 步骤 2 选择“Scrum”，输入项目名称“Demo”，单击“确定”。 新建代码仓库 代码仓库用于项目代码的版本管理，本文使用服务内置的模板“Java Web Demo”创建代码仓库。 步骤 1 单击导航栏“代码 > 代码托管”，进入代码托管服务。 步骤 2 单击页面“普通新建”旁边的，选择“按模板新建”。 图 新建代码仓库 步骤 3 选择模板“Java Web Demo”，单击“下一步”。 步骤 4 输入代码仓库名称“WebDemo”，单击“确定”。 准备Dockerfile Dockerfile是用于构建镜像的文本文件，其中包含了构建镜像所需的指令和说明。了解Dockerfile更详细说明，请参见Docker官网。 步骤 1 单击仓库名称，进入代码仓库。 步骤 2 单击文件列表上方“新建”，在下拉列表中选择“新建文件”。 图 新建文件 步骤 3 输入文件名Dockerfile，文件详情输入以下命令行。 FROM openjdk:8alpine ADD target /demo COPY ./target/demoapp.jar /demo CMD ["java","jar","/demo/demoapp.jar"] 步骤 4 输入备注信息，单击“确定”。 构建并推送镜像 通过编译构建任务将软件的源代码编译成镜像，并把镜像推送归档到容器镜像服务（SWR）中。 步骤 1 单击导航栏“持续交付 > 编译构建”，进入编译构建服务。 步骤 2 单击“新建任务”，配置任务信息。 1. 基本信息：配置以下信息，单击“下一步”。 表 构建任务基本信息 配置项 配置建议 任务名称 输入自定义名称（本文中为“WebDemodocker”）。 源码源 选择“Repo”。 源码仓库 选择“WebDemo”。 分支 选择“master”。 2. 构建模板：选择“空白构建模板”，单击“下一步”。 步骤 3 配置构建步骤。 1. 单击“点击添加构建步骤”，在步骤列表中找到“Maven构建”，单击“添加”。 2. 单击“添加步骤”，在步骤列表中找到“制作镜像并推送到SWR仓库”，单击“添加”。 3. 参照下表配置步骤“制作镜像并推送到SWR仓库”（表中未涉及的字段保持默认配置即可）。 表 配置镜像信息 配置项 配置建议 组织 输入在准备工作中创建的组织名称“webdemo”。 镜像标签 v1.0.0 步骤 4完成配置，单击“新建并执行”。 当页面中显示时，表示任务执行成功。若构建失败，请参考《编译构建用户指南》排查处理。 步骤 5 登录容器镜像服务控制台，在页面左侧导航栏中选择“我的镜像”。 页面中有一条镜像名称为“demo”，所属组织为“webdemo”的记录。 单击镜像名称查看详情，镜像版本为“v1.0.0”。

本文介绍购买类常见问题。 云容器引擎服务与serverless容器服务的区别是什么？ 容器引擎将容器运行的集群资源也交付给了用户，用户能够感知到集群、节点的存在，能够对集群节点进行查看和管理，用户的操作权限及自由度更大，相应的也需要承担集群维护的责任。Serverless容器服务不涉及资源节点的管理，用户无法对集群节点进行操控，用户仅需要关注应用的运行。 说明： 关于云容器引擎服务产品的进一步详细信息可参照【产品定义】部分。 容器引擎是否需要购买镜像仓库？ 如若你开通了云容器引擎服务，云容器引擎平台将会提供一个免费的基础版镜像仓库供给用户使用，用户无需单独购买镜像仓库产品，也可以实现私有镜像的上传。若用户具有更高的需求，也可开通天翼云的容器镜像服务，服务目前为免费提供。 说明 ：镜像仓库的详细使用方式可参考容器镜像部分【创建容器镜像】。 云容器引擎常见的使用场景是什么？ 以下列举了几项使用云容器引擎的常见场景： 适用于传统IT架构渐进式转型的场景，实现单一架构解耦拆分为多个容器，系统更灵活，轻松应对市场变化。 适用于业务上线效率低下的场景，实现容器镜像贯穿从开发到运维各环节，统一环境配置，业务快速上线。 适用于访问量有明显波峰、波谷的应用，实现自动弹性伸缩，系统秒级自动弹性扩容，快速响应并发高峰。 适用于系统IT资源浪费严重的场景，使平均负载维持较高水平，每分钱都真正支持业务。 适用于复杂系统运维压力大的场景，基于容器服务实现自动化运维，基于实时日志快速问题定位，界面化操作和短信通知实现24小时自动监控。 说明： 更多场景应用可参考【应用场景】部分，或咨询客户。

本文介绍了触发器的用户指南。 概述 触发器功能支持镜像版本更新时自动更新使用该镜像的云容器引擎工作负载，从而简化工作负载的发布流程。 前置条件 已开通容器镜像服务企业版实例 已开通云容器引擎集群 创建触发器 1. 进入容器镜像服务控制台。 2. 点击已开通的企业版实例名称。 3. 左侧导航栏点击 "容器镜像" "镜像仓库"，选择需要创建触发器的镜像仓库。 4. 在触发器标签页点击创建触发器按钮。 5. 在创建页面填写触发器相关的参数进行创建 参数 说明 触发器名称 触发器的名称。 Tag匹配条件 通过正则表达式设置规则匹配的镜像版本。使用方式示例如下： 匹配全部: . 匹配多个版本: v1v2v3 匹配前缀: v1. 集群 触发器关联的云容器引擎集群。 命名空间 触发器关联的命名空间。 工作负载类型 触发器关联的工作负载类型，包括：无状态，有状态，守护进程和定时任务。 工作负载 触发器关联的工作负载。 容器 触发器关联的容器。 镜像更新方式 触发器更新容器镜像的方式，包括通过Tag更新和通过Digest更新。当容器的镜像拉取策略为 IfNotPresent 时，由于云容器引擎节点本地存在镜像缓存，此时推送相同Tag的镜像将无法通过Tag触发容器拉取新镜像，因此推荐通过Digest更新。 当容器的镜像拉取策略为 Always 时，推荐通过Tag更新。 6. 创建完成后，可在列表页面查看创建的触发器。 7. 操作栏的编辑按钮可以修改触发器。禁用/启用按钮可以修改触发器的启用状态。删除按钮可以删除触发器。查看触发记录按钮可以查看触发器的触发记录。每当新推送的镜像命中触发器的Tag匹配条件时，则会新增一条触发记录，并且云容器引擎工作负载的镜像会自动更新。

创建并挂载 HPFS 极速缓存 HPKV 需使用 HPFS 并行文件系统作为三级存储层，具体操作如下： 1. 创建文件系统 登录并行文件服务 HPFS 控制台，创建文件系统。文件系统需选择与 GPU 物理机规格相匹配的集群，否则将无法正常挂载。集群匹配关系的详细说明，请参见产品能力地图。 具体创建操作请参见创建文件系统。 2. 挂载文件系统至 GPU 物理机 将创建好的 HPFS 文件系统挂载至 GPU 物理机的 /mnt/hpfs 目录，以便推理服务读写缓存数据。 具体挂载操作请参见HPFSPOSIX 客户端挂载。 部署 HPKV 模板 完成基础资源准备后，需将 HPKV 的容器镜像与模板文件上传至容器镜像服务与模板市场，具体操作如下： 1. 获取 HPKV 模板文件 HPKV 模板文件为 .tgz 格式的压缩包。您可通过工单申请，在问题描述中填写：并行文件服务 HPFS，申请试用 HPKV 服务。 通过客户经理获取模板文件的下载链接，将 HPKV 模板文件下载至 GPU 物理机上挂载的 HPFS 文件系统目录中。 2. 开通并配置容器镜像服务 HPKV 部署需使用容器镜像服务存放相关镜像与模板文件。 1. 开通企业版 ：登录容器镜像服务控制台，开通企业版实例。具体操作请参见开通企业版实例。 2. 创建命名空间 ：在实例中创建用于存放 HPKV 镜像的命名空间。具体操作请参见容器镜像命名空间。 3. 创建镜像仓库 ：在命名空间下创建镜像仓库，用于存放 HPKV 容器镜像。具体操作请参见容器镜像仓库。 4. 创建 Chart 仓库 ：在实例中创建 Chart 仓库，用于存放 HPKV 模板文件（.tgz 包），注意仓库名称必须和模版文件的名称一致，具体操作请参见HelmChart命名空间、HelmChart镜像仓库。 3. 推送容器镜像至镜像仓库 1. 导入镜像 ：将获取的容器镜像 tar 包下载至本地。通过客户经理获取容器镜像的下载链接，将容器镜像同样下载至 GPU 物理机上挂载的 HPFS 文件系统目录中。 2. 使用 Docker 命令导入： shell yum install y docker vim /etc/docker/daemon.json { "runtimes": { "nvidia": { "args": [], "path": "nvidiacontainerruntime" } }, "dataroot": "/data/dockerdata" } shell systemctl restart docker docker ps docker load i 3. 上传镜像 ：登录镜像仓库，将导入的镜像推送至已创建的镜像仓库。具体操作请根据控制台指引操作或参见推送和拉取容器镜像。 4. 推送模板文件至 Chart 仓库 1. 登录 GPU 物理机节点：通过 SSH 登录已纳管的 GPU 物理机。 2. 推送模板 ：将获取的 .tgz 模板文件推送至 Chart 仓库。具体操作请根据控制台指引操作或参见推送和拉取Helm Chart。 5. 下载模型文件 通过客户经理获取模型文件的下载链接，将模型文件同样下载至 GPU 物理机上挂载的 HPFS 文件系统目录中。 6. 使用模板发布应用 1. 查看模板：在容器平台的“模板市场”中，进入“我的模板”，即可看到已上传的 HPKV 模板。 2. 获取凭证 ：在容器平台的“配置管理”中，进去“镜像拉取凭证”，创建镜像拉取凭证，具体操作请参见镜像拉取凭证。 3. 发布模板 ：在模板包版本中点击“发布”按钮后，在右侧的弹窗中填写“实例名称”，选择待发布的“集群名称”和“命名空间”，按下面示例编辑“values”，点击“确认”完成发布。具体操作请参见模板市场。 shell image: repository: ds0001registryshanghai15.crsinternal.ctyun.cn/XXXXXX/XXXXXX pullPolicy: IfNotPresent imagePullSecrets: name: XXXXXX commandArgs: /opt/start.sh 64g true && exec env VLLMENABLECTKVCTrue VLLMCTKVCSDKPATH/usr/local/kvstore/lib/ VLLMCTKVCGRPCPORT50051 vllm serve /mnt/hpfs/modelscope/models/Qwen/Qwen2.532BInstruct dtypeauto blocksize64 servedmodelname Qwen2.532BInstruct enableautotoolchoice toolcallparser hermes pipelineparallelsize 1 tensorparallelsize 4 port 8000 cpuoffloadgb0 enforceeager gpumemoryutilization0.95 maxmodellen32768 maxnumbatchedtokens32768 disablelogrequests kvtransferconfig '{"kvconnector":"KVStoreConnectorV1", "kvrole":"kvboth"}' resources: limits: hugepages2Mi: 200Gi memory: 300Gi requests: hugepages2Mi: 200Gi memory: 300Gi service: type: NodePort port: 8000 nodePort: 31800 关键参数说明 参数 说明 kvtransferconfig 启用极速缓存 HPKV 功能，kvconnector 指定连接器类型，kvrole 设置为 kvboth 表示同时支持读写缓存，无需修改 repository 需要设置为容器镜像的下载地址，参见第3步 imagePullSecrets 需要设置为镜像拉取的凭证，参见第6步 “ /mnt/hpfs/modelscope/models/Qwen/Qwen2.532BInstruct” 需要设置为模型文件下载地址，参见第5步 7. 验证服务启动 通过 curl 命令发送推理请求，验证缓存是否生效： shell curl shell curl X POST H "ContentType: application/json" d '{ "model": "/home/user/models/Qwen/Qwen2.50.5BInstruct/", "prompt": "请介绍一下天翼云", "maxtokens": 100 }'

创建并挂载 HPFS 极速缓存 HPKV 需使用 HPFS 并行文件系统作为三级存储层，具体操作如下： 1. 创建文件系统 登录并行文件服务 HPFS 控制台，创建文件系统。文件系统需选择与 GPU 物理机规格相匹配的集群，否则将无法正常挂载。集群匹配关系的详细说明，请参见产品能力地图。 具体创建操作请参见创建文件系统。 2. 挂载文件系统至 GPU 物理机 将创建好的 HPFS 文件系统挂载至 GPU 物理机的 /mnt/hpfs 目录，以便推理服务读写缓存数据。 具体挂载操作请参见HPFSPOSIX 客户端挂载。 部署 HPKV 模板 完成基础资源准备后，需将 HPKV 的容器镜像与模板文件上传至容器镜像服务与模板市场，具体操作如下： 1. 获取 HPKV 模板文件 HPKV 模板文件为 .tgz 格式的压缩包。您可通过工单申请，在问题描述中填写：并行文件服务 HPFS，申请试用 HPKV 服务。 通过客户经理获取模板文件的下载链接，将 HPKV 模板文件下载至 GPU 物理机上挂载的 HPFS 文件系统目录中。 2. 开通并配置容器镜像服务 HPKV 部署需使用容器镜像服务存放相关镜像与模板文件。 1. 开通企业版 ：登录容器镜像服务控制台，开通企业版实例。具体操作请参见开通企业版实例。 2. 创建命名空间 ：在实例中创建用于存放 HPKV 镜像的命名空间。具体操作请参见容器镜像命名空间。 3. 创建镜像仓库 ：在命名空间下创建镜像仓库，用于存放 HPKV 容器镜像。具体操作请参见容器镜像仓库。 4. 创建 Chart 仓库 ：在实例中创建 Chart 仓库，用于存放 HPKV 模板文件（.tgz 包），注意仓库名称必须和模版文件的名称一致，具体操作请参见HelmChart命名空间、HelmChart镜像仓库。 3. 推送容器镜像至镜像仓库 1. 导入镜像 ：将获取的容器镜像 tar 包下载至本地。通过客户经理获取容器镜像的下载链接，将容器镜像同样下载至 GPU 物理机上挂载的 HPFS 文件系统目录中。 2. 使用 Docker 命令导入： shell yum install y docker vim /etc/docker/daemon.json { "runtimes": { "nvidia": { "args": [], "path": "nvidiacontainerruntime" } }, "dataroot": "/data/dockerdata" } systemctl restart docker docker ps docker load i 3. 上传镜像 ：登录镜像仓库，将导入的镜像推送至已创建的镜像仓库。具体操作请根据控制台指引操作或参见推送和拉取容器镜像。 4. 推送模板文件至 Chart 仓库 1. 登录 GPU 物理机节点：通过 SSH 登录已纳管的 GPU 物理机。 2. 推送模板 ：将获取的 .tgz 模板文件推送至 Chart 仓库。具体操作请根据控制台指引操作或参见推送和拉取Helm Chart。 5. 下载模型文件 通过客户经理获取模型文件的下载链接，将模型文件同样下载至 GPU 物理机上挂载的 HPFS 文件系统目录中。 6. 使用模板发布应用 1. 查看模板：在容器平台的“模板市场”中，进入“我的模板”，即可看到已上传的 HPKV 模板。 2. 获取凭证 ：在容器平台的“配置管理”中，进去“镜像拉取凭证”，创建镜像拉取凭证，具体操作请参见镜像拉取凭证。 3. 发布模板 ：在模板包版本中点击“发布”按钮后，在右侧的弹窗中填写“实例名称”，选择待发布的“集群名称”和“命名空间”，按下面示例编辑“values”，点击“确认”完成发布。具体操作请参见模板市场。 shell image: repository: ds0001registryshanghai15.crsinternal.ctyun.cn/XXXXXX/XXXXXX pullPolicy: IfNotPresent imagePullSecrets: name: XXXXXX commandArgs: /opt/start.sh 64g true && exec env VLLMENABLECTKVCTrue VLLMCTKVCSDKPATH/usr/local/kvstore/lib/ VLLMCTKVCGRPCPORT50051 vllm serve /mnt/hpfs/modelscope/models/Qwen/Qwen2.532BInstruct dtypeauto blocksize64 servedmodelname Qwen2.532BInstruct enableautotoolchoice toolcallparser hermes pipelineparallelsize 1 tensorparallelsize 4 port 8000 cpuoffloadgb0 enforceeager gpumemoryutilization0.95 maxmodellen32768 maxnumbatchedtokens32768 disablelogrequests kvtransferconfig '{"kvconnector":"KVStoreConnectorV1", "kvrole":"kvboth"}' resources: limits: hugepages2Mi: 200Gi memory: 300Gi requests: hugepages2Mi: 200Gi memory: 300Gi service: type: NodePort port: 8000 nodePort: 31800 关键参数说明 参数 说明 kvtransferconfig 启用极速缓存 HPKV 功能，kvconnector 指定连接器类型，kvrole 设置为 kvboth 表示同时支持读写缓存，无需修改 repository 需要设置为容器镜像的下载地址，参见第3步 imagePullSecrets 需要设置为镜像拉取的凭证，参见第6步 “ /mnt/hpfs/modelscope/models/Qwen/Qwen2.532BInstruct” 需要设置为模型文件下载地址，参见第5步 7. 验证服务启动 通过 curl 命令发送推理请求，验证缓存是否生效： shell curl shell curl X POST H "ContentType: application/json" d '{ "model": "/home/user/models/Qwen/Qwen2.50.5BInstruct/", "prompt": "请介绍一下天翼云", "maxtokens": 100 }'

本节介绍了容器镜像版本保留的用户指南。 概述 容器镜像服务支持设置镜像版本保留规则，让用户自定义需要保留的镜像版本，并删除保留规则之外的镜像版本。 操作步骤 创建版本保留规则 1. 进入容器镜像服务控制台。 2. 点击已开通实例名称。左侧导航栏点击”容器镜像” “版本保留” 。在版本保留页面右上角选择命名空间，然后点击创建规则按钮。 3. 填写规则生效的仓库和Tag，以及需要保留最近推送的Tag数目。仓库和Tag的匹配规则如下： 参数 说明 key 精确匹配名称为key的仓库或Tag key 匹配前缀为key的仓库或Tag 匹配所有仓库或Tag {key1,key2,key3} 匹配多个仓库或Tag 4. 选择保留条件，并填写相应数量或时间。可选择的保留条件如下： 保留最近推送N个镜像 保留最近D天推送镜像 保留最近拉取N个镜像 保留最近D天拉取镜像 编辑执行方式 1. 创建完版本保留规则后，可在版本保留页面编辑规则的执行方式。 2. 点击执行方式右侧的编辑按钮，可选择手动执行或定时执行。默认为手动执行。 3. 若选择手动执行规则，版本保留任务只能由手动触发。 4. 若选择定时执行，可在控件中编辑执行周期： 每天：将在每天任一空闲时间执行 每周：将在每周任一空闲时间执行 5. 点击保存，在弹出的提示框中勾选“ 我已检查所有规则，确认执行“，点击确定，即可完成编辑。

参数 参数类型 说明 示例 下级对象 appDeployUuid String 应用实例uuid appDeployCode String 应用实例名称 appUuid String 应用uuid appName String 应用名称 envUuid String 环境uuid clusterUuid String 集群uuid clusterNamespace String 集群命名空间 techStackUuid String 技术栈uuid techStackVersion String 技术栈版本 techArch String 技术栈 deployUnitList Array of Strings 部署单元列表 appDeployInstVersionUuid String 应用实例版本uuid version String 应用实例版本 comment String 应用实例版本名称 type String 应用类型 packageSource String 制品来源 packageName String 制品名称 packageVer String 制品版本 dockerfileContent String dockerfile instanceId String 镜像服务实例id namespace String 镜像服务实例命名空间 repositoryId String 镜像服务实例仓库ID imageUrl String 镜像地址 imageName String 镜像名称 imageVer String 镜像版本 imageType String 镜像仓库类型 imageSecret String 镜像密钥 crType String 镜像仓库 crConnectionUuid String 服务连接CR类型connectionUuid ecsIds Array of Strings ECS uuid replicas Integer 应用实例pod数 runtimeEnvCode String 运行环境code runtimeEnvVer String 运行环境版本 activateMsgc Boolean 是否接入微服务治理中心 activateApm Boolean 是否接入应用性能监控 csmEnable Boolean 是否接入服务网格 source String 来源 epProjectId String 企业项目id imagePlatform String 镜像架构 appGroupUuid String 应用分组uuid msManagement Object 微服务治理 msManagement istioService Object 服务网格 istioService flowPrevention Object 限流降级 flowPrevention podResourceSpec Object Pod资源 podResourceSpec startCommand Object 启动命令 startCommand envVariableList Array of Objects 环境变量 envVariableList localStorage Object 本地存储 localStorage schedulingRule Object 调度规则 schedulingRule lifeCycleMgt Object 应用生命周期管理 lifeCycleMgt logConfigList Array of Objects 日志收集管理 logConfigList configMgtList Array of Objects 配置管理 configMgtList dnsConfigMgt Object DNS配置 dnsConfigMgt labelList Array of Objects 标签（Label）配置 labelList tomcatConfig Object Tomcat配置 tomcatConfig javaStartUpConfig Object Java启动参数配置 javaStartUpConfig annotationList Array of Objects 注解（Annotation）配置 annotationList sidecars Array of Objects Sidecar配置 sidecarAndInitContainer initContainers Array of Objects InitContainer配置 sidecarAndInitContainer pvcMountDescs Array of Objects PVC挂载 pvcMountDescs pvcTemplates Array of Objects PVC模板 pvcTemplates

本文档为您介绍跨资源池复制私有镜像的操作步骤。 操作场景 私有镜像跨资源池复制功能，支持您将同一个镜像从资源池A复制到资源池B，用于应用环境迁移或异地应用备份。 约束与限制 当前仅支持华东1西南1、华东1华北2之间互相进行的镜像复制。 复制时间与镜像文件大小正相关，镜像越大，复制时间越长。 操作步骤 1. 登录天翼云控制中心。 2. 单击控制中心顶部的选择区域。 3. 在左侧导航栏选择“计算 > 镜像服务”。 4. 点击“私有镜像”，进入私有镜像列表。 5. 选择指定私有镜像，点击“更多”，选择“复制镜像”。 6. 设置“目标地域”，如“西南 > 西南1”，其它地域均置灰不可选。 7. 选择“企业项目”。 8. 输入“镜像名称”。 9. 设置“是否编辑标签”，非必要项按需设置。 10. 输入“镜像描述”，非必要项按需设置。 11. 点击“确定”。 12. 复制过程，目的资源池的私有镜像列表中镜像处于“创建中”，创建完成后状态变成“可用”。

本节介绍了导出镜像的流程。 1、登录天翼云控制中心; 2、在云主机控制台，单击【镜像服务】； 3、在私有镜像列表中，在需要导出的镜像所在行，单击操作列的“更多 > 导出”。 4、在“导出镜像”对话框中，填写对应参数。 快速导出：大于128GB的镜像必须勾选“使用快速导出”，勾选后将无法指定导出格式，只能为zvhd2格式。 格式：目前支持qcow2、vmdk、vhd、zvhd格式，请根据需要进行选择。 名称：输入一个方便您识别的名称。 存储路径：单击展开桶列表，选择一个用来存储镜像的OBS桶。 5、单击“确定”。 在私有镜像列表上方可以查看镜像导出任务进程。 6、完成镜像导出。

本文主要介绍 镜像管理类问题 如何安装容器引擎？ 容器引擎几乎支持在所有操作系统上安装，用户可以根据需要选择要安装的容器引擎版本。 说明 容器镜像服务支持使用容器引擎1.11.2 及以上版本上传镜像。 安装容器引擎需要连接互联网，内网服务器需要绑定弹性IP后才能访问。 另外，在Linux 操作系统下，可以使用如下命令快速安装容器引擎。 curl fsSL get.docker.com o getdocker.sh sh getdocker.sh 如何制作容器镜像？ 自行制作容器镜像，主要有两种方法： 制作快照方式获得镜像（偶尔制作的镜像）：在基础镜像上（比如Ubuntu），先登录镜像系统并安装容器引擎软件，然后整体制作快照。 Dockerfile方式构建镜像（经常更新的镜像）：将软件安装的流程写成Dockerfile，使用docker build构建成容器镜像。 方法一：制作快照方式获得镜像 如果后续镜像没有变化，可采用方法一制作镜像。 具体操作如下： 找一台主机，安装容器引擎软件。 启动一个空白的基础容器，并进入容器。 例如：启动一个CentOS的容器。 docker run it centos 执行安装任务。 yum install XXX git clone cd bwa;make 说明 请预先安装好Git，并检查本机是否有ssh key设置。 输入exit退出容器。 制作快照。 docker commit m "xx" a "test" containerid test/image:tag a：提交的镜像作者。 containerid：步骤2中的容器id。可以使用docker ps a查询得到容器id。 m：提交时的说明文字。 test/image:tag：仓库名/镜像名:TAG名。 执行docker images可以查看到制作完成的容器镜像。

新建项目 项目是使用软件开发生产线各服务的基础，创建项目后才能完成后续操作。 步骤 1 进入软件开发生产线首页，单击“新建项目”。 步骤 2 选择“Scrum”，输入项目名称“Demo”，单击“确定”。 新建代码仓库 代码仓库用于项目代码的版本管理，本文使用服务内置的模板“Java Web Demo”创建代码仓库。 步骤 1 单击导航栏“代码 > 代码托管”，进入代码托管服务。 步骤 2 单击页面“普通新建”旁边的，选择“按模板新建”。 图 新建代码仓库 步骤 3 选择模板“Java Web Demo”，单击“下一步”。 步骤 4 输入代码仓库名称“WebDemo”，单击“确定”。 准备Dockerfile Dockerfile是用于构建镜像的文本文件，其中包含了构建镜像所需的指令和说明。了解Dockerfile更详细说明，请参见Docker官网。 步骤 1 单击仓库名称，进入代码仓库。 步骤 2 单击文件列表上方“新建”，在下拉列表中选择“新建文件”。 图 新建文件 步骤 3 输入文件名Dockerfile，文件详情输入以下命令行。 FROM openjdk:8alpine ADD target /demo COPY ./target/demoapp.jar /demo CMD ["java","jar","/demo/demoapp.jar"] 步骤 4 输入备注信息，单击“确定”。 构建并推送镜像 通过编译构建任务将软件的源代码编译成镜像，并把镜像推送归档到容器镜像服务（SWR）中。 步骤 1 单击导航栏“持续交付 > 编译构建”，进入编译构建服务。 步骤 2 单击“新建任务”，配置任务信息。 1. 基本信息：配置以下信息，单击“下一步”。 表 构建任务基本信息 配置项 配置建议 任务名称 输入自定义名称（本文中为“WebDemodocker”）。 源码源 选择“Repo”。 源码仓库 选择“WebDemo”。 分支 选择“master”。 2. 构建模板：选择“空白构建模板”，单击“下一步”。 步骤 3 配置构建步骤。 1. 单击“点击添加构建步骤”，在步骤列表中找到“Maven构建”，单击“添加”。 2. 单击“添加步骤”，在步骤列表中找到“制作镜像并推送到SWR仓库”，单击“添加”。 3. 参照下表配置步骤“制作镜像并推送到SWR仓库”（表中未涉及的字段保持默认配置即可）。 表 配置镜像信息 配置项 配置建议 组织 输入在准备工作中创建的组织名称“webdemo”。 镜像标签 v1.0.0 步骤 4完成配置，单击“新建并执行”。 当页面中显示时，表示任务执行成功。若构建失败，请参考《编译构建用户指南》排查处理。 步骤 5 登录容器镜像服务控制台，在页面左侧导航栏中选择“我的镜像”。 页面中有一条镜像名称为“demo”，所属组织为“webdemo”的记录。 单击镜像名称查看详情，镜像版本为“v1.0.0”。

本文为您介绍如何使用ECI快速部署Tensorflow。 背景信息 TensorFlow是一个开源的机器学习框架，由Google开发和维护。它提供了一个灵活的编程环境，可以用于构建和训练各种机器学习模型，包括神经网络。TensorFlow使用图形计算的方式来表示计算任务，并通过优化技术来实现高效的计算。它支持多种编程语言，包括Python和C++，并且可以在各种硬件平台上运行，包括CPU、GPU和TPU。TensorFlow已经成为机器学习和深度学习领域最受欢迎的框架之一，被广泛应用于各种领域，如图像识别、自然语言处理、推荐系统等。 前期准备 已开通天翼云弹性容器实例服务。 已开通天翼云弹性文件或对象存储服务，用于存储tensorflow训练结果。 准备工作 准备训练数据和容器镜像。 训练数据：本文以Github的一个TensorFlow训练任务为例。 容器镜像：在最佳实践中，ECI已准备好适用的示例镜像，示例镜像已上传到天翼云容器镜像仓库中。 创建镜像缓存。 在ECI控制台的镜像缓存页面手动创建镜像缓存，如下图所示： 创建镜像缓存时需拉取镜像，受镜像大小和网络的影响，需要一定时间。可通过镜像缓存列表页或者镜像缓存详情页查看进度。镜像缓存状态显示ready时，表示镜像缓存已经创建成功。

本节主要介绍灰度发布类问题 灰度发布部署版本为什么不能更换镜像？ 问题描述 灰度发布部署灰度版本时不能更换镜像类型。 原因分析 灰度发布针对服务的同一镜像，只允许选择不同的版本号。 解决方法 将所需镜像打包成同一镜像的不同版本并上传至镜像仓库。

服务名称 详细描述 弹性云主机（ECS） 编译构建服务可以自定义ECS的Slave节点，用户可以自定义ECS的构建执行资源。 部署服务支持将用户的应用部署到用户购买的ECS资源上。 详细内容请参见 云容器引擎（CCE） 编译构建服务可以自定义CCE的Slave节点，用户可以自定义CCE的构建执行资源。 部署服务支持将用户的应用部署到用户购买的CCE资源上。 详细内容请参见 应用管理和运维平台（ServiceStage） 部署服务支持ServiceStage的部署，用户可以直接使用ServiceStage的应用托管功能。 详细内容请参见 容器镜像服务（SWR） 编译构建服务拉取和推送镜像。 部署服务获取镜像仓地址。 详细内容请参见

先上传镜像至容器镜像服务仓库，然后才能做manifest docker push registrycrshuadong1.ctyun.cn/library/nginx:1.5amd64 docker push registrycrshuadong1.ctyun.cn/library/nginx:1.5arm64 创建双架构manifest文件并上传。 创建镜像manifest文件 docker manifest create amend insecure registrycrshuadong1.ctyun.cn/library/nginx:1.5 registrycrshuadong1.ctyun.cn/library/nginx:1.5amd64 registrycrshuadong1.ctyun.cn/library/nginx:1.5arm64 如果镜像在之前制作中没有添加架构信息，需要给镜像manifest文件添加arch信息 docker manifest annotate registrycrshuadong1.ctyun.cn/library/nginx:1.5 registrycrshuadong1.ctyun.cn/library/nginx:1.5amd64 arch amd64 docker manifest annotate registrycrshuadong1.ctyun.cn/library/nginx:1.5 registrycrshuadong1.ctyun.cn/library/nginx:1.5arm64 arch arm64 向容器镜像服务仓库推送镜像manifest docker manifest push p insecure registrycrshuadong1.ctyun.cn/library/nginx:1.5 用户在使用时只需要image中填写registrycrshuadong1.ctyun.cn/library/nginx:1.5这个镜像地址， 当Pod调度到 x86 架构的节点时，会拉取registrycrshuadong1.ctyun.cn/library/nginx:1.5amd64这个镜像； 当Pod调度到ARM架构的节点时，会拉取registrycrshuadong1.ctyun.cn/library/nginx:1.5arm64这个镜像。

本文为您介绍如何使用Nginx镜像创建ECI实例。 前提条件 请确保您已完成以下准备工作： 已开通弹性容器实例服务。 已在开通地域创建虚拟私有云、创建子网、创建安全组等。 操作步骤 下文开始介绍创建ECI实例的主要步骤： 1. 在弹性容器实例控制台左侧导航栏中选择“容器组”，进入容器组列表页。 2. 点击“创建弹性容器组”，进入弹性容器实例订购页。 3. 设置容器实例信息。 1. 配置实例名称，当打开订购页面时系统会随机生成一个以“eci”开头的名称，您也可按需自定义实例名称。名称由数字、小写字母、和''组成。 2. 计费模式仅支持“按需计费”。 3. 选择虚拟私有云、实例所在子网、安全组。如果当前地域未创建相关资源，支持跳转到对应产品控制台完成创建。 4. 配置容器组。 1. 支持基础模式和指定规格两种创建方式。选择具体创建模式后，首先您需要选择部署模式，并选择对应的可用区。接下来需要为容器组设置CPU和内存大小，重启策略，以及购买数量。最后，容器组支持多项高级设置，包括存储(配置项、临时目录、云硬盘、弹性文件、对象存储)，临时存储，镜像缓存，及日志服务等。 5. 配置容器。 1. 容器组支持配置多个容器，点击“+添加容器”可以新增配置。 2. 配置容器名称。 3. 配置容器镜像。如果没有镜像，支持跳转到容器镜像实例CRS创建镜像仓库，用于私有镜像管理。 4. 配置容器镜像版本。 5. 配置镜像拉取策略。支持“总是拉取”和“按需拉取”两种方式。 6. 配置启动命令。 7. 配置容器工作目录。 8. 支持开启高级设置。您可按需配置容器CPU、内存，环境变量，端口和协议，存储，健康检查，生命周期等信息。 说明 容器组内所有容器的CPU总和不得超过为容器组设置的CPU，容器组内所有容器组的内存总和不得超过为容器组设置的内存。 6. 点击“下一步”进入其他设置(选填)。 1. 配置EIP，按需选择自动创建还是使用已有。 2. 配置镜像访问凭证，若您容器里选的镜像是私有的（非天翼云容器镜像服务的镜像），请输入所选镜像的仓库地址、用户名、密码，以便ECI用来拉取镜像，支持添加多个凭证。 3. 标签，标签由区分大小写的键值对组成。例如，用户可以添加一个键为“Group”且值为“Web”的标签，最多可添加20个标签。 7. 点击“确认订单”，进入订单确认页面。勾选“我已阅读、理解并接受《天翼云弹性容器实例服务协议》《天翼云弹性容器实例服务等级协议》”，点击“提交订单”完成订购。 8. 进入弹性容器实例控制台容器组列表页，即可查看创建的ECI实例。

本文介绍如何使用Nginx镜像创建实例。 前提条件 请确保您已完成以下准备工作： 已开通弹性容器实例服务。 已在开通地域创建虚拟私有云、创建子网、创建安全组等。 操作步骤 下文开始介绍创建ECI实例的主要步骤： 1. 在弹性容器实例控制台左侧导航栏中选择“容器组”，进入容器组列表页。 2. 点击“创建弹性容器组”，进入弹性容器实例订购页。 3. 设置容器实例信息。 1. 配置实例名称，当打开订购页面时系统会随机生成一个以“eci”开头的名称，您也可按需自定义实例名称。名称由数字、小写字母、和''组成。 2. 计费模式仅支持“按需计费”。 3. 选择虚拟私有云、实例所在子网、安全组。如果当前地域未创建相关资源，支持跳转到对应产品控制台完成创建。 4. 配置容器组。 1. 支持基础模式和指定规格两种创建方式。选择具体创建模式后，首先您需要选择部署模式，并选择对应的可用区。接下来需要为容器组设置CPU和内存大小，重启策略，以及购买数量。最后，容器组支持多项高级设置，包括存储(配置项、临时目录、云硬盘、弹性文件、对象存储)，临时存储，镜像缓存，及日志服务等。 5. 配置容器。 1. 容器组支持配置多个容器，点击“+添加容器”可以新增配置。 2. 配置容器名称。 3. 配置容器镜像。如果没有镜像，支持跳转到容器镜像实例CRS创建镜像仓库，用于私有镜像管理。 4. 配置容器镜像版本。 5. 配置镜像拉取策略。支持“总是拉取”和“按需拉取”两种方式。 6. 配置启动命令。 7. 配置容器工作目录。 8. 支持开启高级设置。您可按需配置容器CPU、内存，环境变量，端口和协议，存储，健康检查，生命周期等信息。 说明 容器组内所有容器的CPU总和不得超过为容器组设置的CPU，容器组内所有容器组的内存总和不得超过为容器组设置的内存。 6. 点击“下一步”进入其他设置(选填)。 1. 配置EIP，按需选择自动创建还是使用已有。 2. 配置镜像访问凭证，若您容器里选的镜像是私有的（非天翼云容器镜像服务的镜像），请输入所选镜像的仓库地址、用户名、密码，以便ECI用来拉取镜像，支持添加多个凭证。 3. 标签，标签由区分大小写的键值对组成。例如，用户可以添加一个键为“Group”且值为“Web”的标签，最多可添加20个标签。 7. 点击“确认订单”，进入订单确认页面。勾选“我已阅读、理解并接受《天翼云弹性容器实例服务协议》《天翼云弹性容器实例服务等级协议》”，点击“提交订单”完成订购。 8. 进入弹性容器实例控制台容器组列表页，即可查看创建的ECI实例。

本节介绍了容器镜像服务:容器镜像常用操作。 安装容器运行时 常见的容器运行时包括以下3种，可以根据需求选择安装。 Docker Containerd CRIO docker常用操作 1. 登录容器镜像服务实例。 plaintext docker login usernamecrsuser testregistryhuadong1.crs.ctyun.cn 登录的用户名和密码为开通实例时设置的用户名和密码，如果忘记密码，可以在访问凭证页面重置密码。 2. 拉取镜像。 plaintext docker pull testregistryhuadong1.crs.ctyun.cn/nstest/repotest: 3. 推送镜像。 plaintext docker tag testregistryhuadong1.crs.ctyun.cn/nstest/repotest: docker push testregistryhuadong1.crs.ctyun.cn/nstest/repotest: 4. 示例： 使用docker images命令查看本地镜像。 plaintext docker images REPOSITORY TAG IMAGE ID CREATED SIZE busybox latest xxxxxxx 7 weeks ago 4.86MB 使用docker tag命令重命名镜像。 plaintext docker tag b539af69bc01 testregistryhuadong1.crs.ctyun.cn/nstest/repotest:v1 使用docker push命令推送镜像。 plaintext docker push testregistryhuadong1.crs.ctyun.cn/nstest/repotest:v1 ctr常用操作 1. 拉取镜像。 plaintext ctr image pull user tester testregistryhuadong1.crs.ctyun.cn/nstest/repotest: 2. 推送镜像。 plaintext ctr image tag testregistryhuadong1.crs.ctyun.cn/nstest/repotest: ctr image push user tester testregistryhuadong1.crs.ctyun.cn/nstest/repotest: 3. 示例： 使用ctr image ls命令查看本地镜像。 plaintext ctr image ls REF TYPE DIGEST SIZE PLATFORMS LABELS docker.io/library/busybox:latest application/vnd.docker.dist... sha256:3fbc632167424... 2.1 MiB linux/amd6 使用ctr image tag命令重命名镜像。 plaintext ctr image tag docker.io/library/busybox:latest testregistryhuadong1.crs.ctyun.cn/nstest/repotest:v1 使用ctr image push命令推送镜像。 plaintext ctr image push user tester testregistryhuadong1.crs.ctyun.cn/nstest/repotest:v1

发布java应用，如何设置jvm参数？ 设置jvm参数是为了让java应用运行性能更优。 1. 登录微服务云应用控制台，这里以容器应用实例为例，左侧菜单栏选择“应用运维>容器应用实例>应用发布>应用实例”，选择对应的Java应用实例，进入总览页。 2. 点击“新增版本”，选中”Java启动参数配置>编辑”。 3. 设置配置预览，内存配置，GC策略，工具，自定义。 配置了服务鉴权规则，没有生效？ 规则没生效有可能是规则没有设置正确，可以检查一下被调用方和接口规则设置的是否正确。 1. 到服务鉴权菜单找到对应的规则。 2. 进入到规则详情页面检查被调用方应用是否选择正确。 3. 检查接口规则是针对所有接口设置还是单独接口设置，单独接口需要检查接口路径是否正确。 查看配置的规则是否针对的某个特定接口，针对特定接口的规则只会在请求特定接口时生效。进入到服务鉴权规则列表页面，选择对应的规则惊喜编辑，将接口路径修改为正确的接口路径。 通过镜像发布，选择配置镜像，查看发布事件，提示拉取镜像失败? 配置镜像为用户直接购买的镜像服务，是由用户自己维护的，需要查看创建的镜像是否是私有镜像，私有镜像需要创建密钥，发布应用的时候选择密钥进行发布。 1. 在镜像选择界面，选择私有镜像后会出现一个创建密钥的按钮。 2. 点击创建密钥接口，可以创建新的密钥，也可以选择已经创建好的密钥。

概述 本章节主要介绍创建和更新自定义沙箱模板和自定义沙箱实例调试。自定义沙箱模板为创建沙箱模带来给多的灵活性，您可以通过扩展基础沙箱、代码沙箱、AIO沙箱和完全制作自定义镜像这4种方式在沙箱中运行您的服务。 创建自定义沙箱模板 操作步骤 1. 登录智能体引擎控制台，左侧导航选择沙箱菜单。 2. 单击创建沙箱模板。 3. 在创建沙箱模板窗口，填写自定义沙箱参数并单击确定。 4. 创建完成后，在沙箱模板列表页面，可以看到沙箱模板。沙箱模板创建和更新都为异步操作，需要您耐心等待完成。 自定义沙箱模板创建参数 参数名称 是否必填 参数说明 沙箱类型 是 智能体引擎支持基础沙箱、代码沙箱、浏览器沙箱、AIO沙箱和自定义沙箱5种沙箱类型。 模板名称 是 沙箱模板名称用户內唯一。 模板名称规则： 以字母开头，可包含字母、数字、下划线和连字符，且长度不超过32个字符。 描述 否 对于沙箱模板的描述。 镜像扩展类型 是 支持完全自定义镜像、基于基础沙箱镜像扩展、基于代码沙箱镜像扩展和基于AIO沙箱镜像扩展4种类型。 启动命令 否 对于完全自定义镜像，必须填写启动命令，其他进行镜像扩展类型无该参数。启动命令和参数之间需要使用空格隔开。 监听端口 是 沙箱中用户自定义服务的端口，该端口会用来探活。 容器镜像实例 是 选择用户容器镜像服务实例CRS，该实例和您订购的智能体引擎所在资源池一致。 容器镜像仓库 是 选择容器镜像仓库。 容器镜像版本 是 选择容器镜像版本。 规格方案 是 沙箱CPU和内存规格。 临时磁盘大小 是 沙箱使用的临时磁盘大小，目前只支持512MB规格。 执行超时时间 是 沙箱实例在创建后可运行的最长时间，超时将自动销毁。规格有多种，最短1分钟，最长为6小时，也可以创建永久常驻的沙箱实例。 访问凭证 否 访问沙箱实例入站凭证，目前支持API Key、Basic Auth和JWT3种类型。 执行角色 否 沙箱中需要访问天翼云资源，该角色生成的临时AK和临时SK会设置到环境变量中。 AGECTYUNACCESSKEY：如果沙箱模板中配置了执行角色，选择的角色的临时AK会放在该环境变量。 AGECTYUNSECRETKEY：如果沙箱模板配置了执行角色，选择的角色的临时SK会放在该环境变量。 网络配置 是 沙箱中访问公网和VPC。 访问公网 ：允许沙箱访问公网服务。 访问VPC：允许沙箱访问您VPC下的天翼云资源。访问VPC需要选择VPC和子网，并且支持配置黑白名单。 ZOS挂载 否 沙箱中挂载天翼云对象存储ZOS，最多支持5个挂载点。 ZOS挂载点 ：对象存储Bucket名称。 Bucket子目录 ：设置Bucket中的子目录，必须为绝对路径。设置为/表示挂载Bucket的根目录。 沙箱本地目录 ：设置沙箱运行环境中的本地目录。 沙箱本地目录权限：选择Bucket挂载到沙箱运行环境中的本地目录后，该目录的访问权限。支持设置为只读或读写权限。 NAS挂载 否 沙箱中挂载天翼云弹性文件服务SFS，最多支持5个挂载点，必须开启网络配置中的VPC访问，且弹性文件服务SFS和网络配置同VPC。 弹性文件服务 ：选择已创建的SFS文件系统实例。 VPCE挂载地址 ：选择SFS文件系统实例下的VPCE挂载地址。 远端目录 ：远端SFS中的目录是指位于SFS文件系统中的绝对目录，以/开头。 沙箱本地目录：设置沙箱运行环境中的本地目录。 网络配置中黑白名单语义： 未设置白名单：允许访问用户 VPC 内所有服务（仍受黑名单约束）。 设置白名单：仅允许访问白名单中的网段/IP（或对应服务）。 设置黑名单：禁止访问黑名单中的网段/IP（或对应服务）。 黑白名单冲突时，以白名单为更高优先级。 自定义镜像制作方法参见使用自定义镜像扩展Sandbox服务文档。

概述 本章节主要介绍创建和更新自定义沙箱模板和自定义沙箱实例调试。自定义沙箱模板为创建沙箱模带来给多的灵活性，您可以通过扩展基础沙箱、代码沙箱、AIO沙箱和完全制作自定义镜像这4种方式在沙箱中运行您自己的服务。 创建自定义沙箱模板 操作步骤 1. 登录智能体引擎控制台，左侧导航选择沙箱菜单。 2. 单击创建沙箱模板。 3. 在创建沙箱模板窗口，填写自定义沙箱参数并单击确定。 4. 创建完成后，在沙箱模板列表页面，可以看到沙箱模板。沙箱模板创建和更新都为异步操作，需要您耐心等待完成。 自定义沙箱模板创建参数 参数名称 是否必填 参数说明 沙箱类型 是 智能体引擎支持基础沙箱、代码沙箱、浏览器沙箱、AIO沙箱和自定义沙箱5种沙箱类型。 模板名称 是 沙箱模板名称用户內唯一。 模板名称规则： 以字母开头，可包含字母、数字、下划线和连字符，且长度不超过32个字符。 描述 否 对于沙箱模板的描述。 镜像扩展类型 是 支持完全自定义镜像、基于基础沙箱镜像扩展、基于代码沙箱镜像扩展和基于AIO沙箱镜像扩展4种类型。 启动命令 否 对于完全自定义镜像，必须填写启动命令，其他进行镜像扩展类型无该参数。启动命令和参数之间需要使用空格隔开。 监听端口 是 沙箱中用户自定义服务的端口，该端口会用来探活。 容器镜像实例 是 选择用户容器镜像服务实例CRS，该实例和您订购的智能体引擎所在资源池一致。 容器镜像仓库 是 选择容器镜像仓库。 容器镜像版本 是 选择容器镜像版本。 规格方案 是 沙箱CPU和内存规格。 临时磁盘大小 是 沙箱使用的临时磁盘大小，目前只支持512MB规格。 执行超时时间 是 沙箱实例在创建后可运行的最长时间，超时将自动销毁。规格有多种，最短1分钟，最长为6小时，也可以创建永久常驻的沙箱实例。 访问凭证 否 访问沙箱实例入站凭证，目前支持API Key、Basic Auth和JWT3种类型。 执行角色 否 沙箱中需要访问天翼云资源，该角色生成的临时AK和临时SK会设置到环境变量中。 AGECTYUNACCESSKEY：如果沙箱模板中配置了执行角色，选择的角色的临时AK会放在该环境变量。 AGECTYUNSECRETKEY：如果沙箱模板配置了执行角色，选择的角色的临时SK会放在该环境变量。 网络配置 是 沙箱中访问公网和VPC。 访问公网 ：允许沙箱访问公网服务。 访问VPC：允许沙箱访问您VPC下的天翼云资源。访问VPC需要选择VPC和子网，并且支持配置黑白名单。 ZOS挂载 否 沙箱中挂载天翼云对象存储ZOS，最多支持5个挂载点。 ZOS挂载点 ：对象存储Bucket名称。 Bucket子目录 ：设置Bucket中的子目录，必须为绝对路径。设置为/表示挂载Bucket的根目录。 沙箱本地目录 ：设置沙箱运行环境中的本地目录。 沙箱本地目录权限：选择Bucket挂载到沙箱运行环境中的本地目录后，该目录的访问权限。支持设置为只读或读写权限。 NAS挂载 否 沙箱中挂载天翼云弹性文件服务SFS，最多支持5个挂载点，必须开启网络配置中的VPC访问，且弹性文件服务SFS和网络配置同VPC。 弹性文件服务 ：选择已创建的SFS文件系统实例。 VPCE挂载地址 ：选择SFS文件系统实例下的VPCE挂载地址。 远端目录 ：远端SFS中的目录是指位于SFS文件系统中的绝对目录，以/开头。 沙箱本地目录：设置沙箱运行环境中的本地目录。 网络配置中黑白名单语义： 未设置白名单：允许访问用户 VPC 内所有服务（仍受黑名单约束）。 设置白名单：仅允许访问白名单中的网段/IP（或对应服务）。 设置黑名单：禁止访问黑名单中的网段/IP（或对应服务）。 黑白名单冲突时，以白名单为更高优先级。 自定义镜像制作方法参见使用自定义镜像扩展Sandbox服务文档。

本节为您介绍如何导出私有镜像。 操作场景 用户创建私有镜像后，可以把镜像文件导出到本地使用，或者导出后再上传到其他资源池使用。 前提条件 选择的对象存储桶的剩余容量必须大于镜像文件的大小。 当前资源池必须要有对象存储，且当前用户已经创建对象存储桶。 整机镜像不支持导出。 操作步骤 1. 登录天翼云控制中心。 2. 单击控制中心顶部的 选择区域，此处我们选择华东1为例。 3. 在左侧导航栏选择“计算 > 镜像服务”。 4. 在“镜像”列表页面，在目标私有镜像操作栏“更多”下拉列表单击“导出”，进入导出镜像页面。 5. 填入存储名称，存储名称即为对象存储上导出的镜像文件的名称，用户可以自行指定。 6. 在存储路径下拉框，选择其中一个对象存储桶。 7. 单击“确定”即可开始镜像的导出。 后续操作 1. 镜像导出完成后，可以到对应的对象存储桶查看镜像。 2. 在对象存储桶里面找到镜像，在操作栏单击“下载”按钮，即可将镜像文件下载到本地。

本文介绍如何创建容器应用。 应用指运行在CCE上的一组实例。创建一个完整的容器应用，可以通过“选择开源镜像”、“上传并选择私有镜像”两种方式实现，后续还将支持通过“应用模板”进行应用创建。本节指导用户通过容器镜像创建无状态类型的容器应用。 操作前提 已创建集群并添加节点。 若用户需要使用私有镜像作为镜像源，需要提前制作好私有镜像并将其上传到仓库中。 操作步骤 1.选择资源池，如【杭州2】，进入云容器引擎平台页面； 2.单击左侧导航栏的【工作负载】>【无状态】，进入无状态应用列表； 3.在【无状态】页下，单击【创建应用】按钮，进入应用创建页面； 4.按照页面提示填写，包含基本信息、容器设置、添加服务、高级配置几步。 1）基本信息填写：按照下表，输入相应参数，其它保持默认： 参数 说明 应用名称 nginx 部署集群 选择所创建的集群 实例数量 1 命名空间 default 2）单击【下一步】，进入容器设置页面>单击【选择镜像】按钮，弹出镜像选择框>在【天翼云官方镜像】页签中选择nginx的镜像，勾选后单击【确定】>选择镜像版本latest，容器名称及规格保持默认，其余配置可跳过>点击【下一步】，进入【添加服务】设置页面； 3）单击【添加服务】，参照下表，输入应用访问配置参数。本例中，将 nginx 应用设置为被集群内访问，参数具体填写内容如下表展示： 参数 说明 服务名称 输入应用发布的可被同个集群内的其他应用访问的名称，设置为：nginx 访问方式 集群内访问 容器端口 容器中应用启动监听的端口，nginx 镜像请设置为：81 访问端口 设置为8080 协议 TCP 4）单击【下一步】，高级设置可按需配置>单击【提交】,等待应用创建完成； 5）应用创建完成后，在应用管理列表中可查看到运行中的应用。 本章节以“天翼云官方镜像”的方式创建应用为例，来创建一个 nginx 容器应用。nginx 是一款轻量级的 Web 服务器，您可通过云容器引擎 CCE 快速创建 nginx 容器应用，搭建 nginx web 服务器。 说明： 节点和应用运行过程中会产生费用，建议您参照本章节创建应用后，删除应用和节点，避免费用产生。本章节执行完成后，可成功访问 nginx 的网页，如下图：

本章介绍函数工作流如何使用容器镜像部署函数。 概述 用户直接打包上传容器镜像，由平台加载并启动运行。与原本上传代码方式相比，用户可以使用自定义的代码包，不仅灵活也简化了用户的迁移成本。您可以选择“事件函数”类型创建自定义镜像函数，也可以选择“HTTP函数”类型创建自定义镜像函数。 支持的功能： 下载用户镜像 用户镜像储存在自己的SWR服务中，需要SWR Admin权限才能下载，FunctionGraph会在创建pod前使用swr api生成并设置好临时登录指令。 环境变量 设置FunctionGraph函数的加密配置和环境变量。 挂载外部数据盘 支持挂载外部数据盘。 预留实例 支持预留实例。 前提条件 创建一个包含“SWR Admin容器镜像服务（SWR）管理员”权限的委托，因为用户镜像储存在SWR服务中，只有拥有“SWR Admin”权限，才能调用与获取，拉取镜像。 操作步骤 1. 登录函数工作流控制台，在左侧的导航栏选择“函数 > 函数列表”。 2. 单击右上方的“创建函数”，进入“创建函数”页面。 3. 选择“容器镜像”，参见下表。 配置信息 参数 说明 函数类型 选择函数类型。 事件函数：通过触发器来触发函数执行。 HTTP函数：用户可以直接发送 HTTP 请求到 URL 触发函数执行。 说明 自定义容器镜像需包含HTTP Server，监听端口为8000。 HTTP函数只允许创建APIG/APIC的触发器类型，其他触发器不支持。 事件函数需创建一个HTTP Server并实现Method为POST和Path为/invoke的函数执行入口，可实现Method为POST和Path为/init的函数初始化入口 区域 选择要部署代码的区域。 函数名称 函数名称，命名规则如下： 可包含字母、数字、下划线和中划线，长度不超过60个字符。 以大/小写字母开头，以字母或数字结尾。 企业项目 选择已创建的企业项目，将函数添加至企业项目中，默认选择“default”。 容器镜像 输入镜像URL，即用于函数的容器镜像的位置。您可以单击“查看镜像”，查看自有镜像及共享镜像。 容器镜像覆盖 CMD：容器的启动命令，例如"/bin/sh"。该参数为可选参数，不填写，则默认使用镜像中的Entrypoint/CMD。字符串数组，以逗号分开。 Args：容器的启动参数，例如"args,value1"。该参数为可选参数，不填写，则默认使用镜像中的CMD。字符串数组，以逗号分开。 Working Dir：容器的工作目录。该参数为可选参数，不填写，则默认使用镜像中的配置。文件夹路径，以/开头。 用户ID：镜像运行时的用户ID，若不填写，默认为1003。 用户组ID：镜像运行时的用户组ID，若不填写，默认为1003。 现有委托 选择包含SWR Admin权限的委托。 说明 Command、Args、Working dir三个参数之和不能超过5120。 初次执行时需要从SWR中拉取镜像，且冷启动时需要启动容器，所以自定义镜像冷启动比较慢。后续每次冷启动，如果节点上没有镜像，都需要从SWR中拉取。 镜像需要选择为“公开”。 自定义容器镜像开放端口限定为8000。 可支持的镜像包最大为2G，当镜像包过大时可以采取一些方式缩容，比如在线题库场景中，可以把原本加载在容器中的题库数据通过外部文件系统挂载盘方式挂载到容器中。 FunctionGraph通过LTS日志采集容器输出到控制台的所有日志，可以通过标准输出或者开源日志框架重定向到控制台的方式打印业务信息。打印的内容建议包括系统时间、组件名称、代码行、关键数据等来方便定位。 oom错误时，内存占用大小可以在函数执行结果中查看。 用户函数需要返回一个合法的http响应报文。 示例： 使用容器镜像部署函数，开发HTTP函数示例，请参见开发HTTP函数示例。 使用容器镜像部署函数，开发事件函数示例，请参见开发事件函数示例。