修改租户目录 1. 在集群详情页，单击“租户管理”。 说明 MRS 3.x及之后版本请参考 2. 在左侧租户列表，单击需要修改HDFS存储目录的租户。 3. 单击“资源”页签。 4. 在“HDFS存储”表格，指定租户目录的“操作”列，单击“修改”。 “文件/目录数上限”填写文件和目录数量配额。 “文件/目录数上限”为可选参数，取值范围从1到9223372036854775806。 “存储空间配额”填写租户目录的存储空间大小。 “存储空间配额”的取值范围从1到8796093022208。 说明 为了保证数据的可靠性，HDFS中每保存一个文件则自动生成1个备份文件，即默认共2个副本。HDFS存储空间所有副本文件在HDFS中占用磁盘空间大小总和。例如“存储空间配额”设置为“500”，则实际只能保存约500/2250MB大小的文件。 5. 单击“确定”完成租户目录修改。 删除租户目录 1. 在集群详情页，单击“租户管理”。 说明 MRS 3.x及之后版本请参考 2. 在左侧租户列表，单击需要删除HDFS存储目录的租户。 3. 单击“资源”页签。 4. 在“HDFS 存储”表格，指定租户目录的“操作”列，单击“删除”。 创建租户时设置的默认HDFS存储目录不支持删除，仅支持删除新添加的HDFS存储目录。 5. 单击“确认”完成租户目录删除。

本章节主要进行租户简介。 定义 MRS集群拥有的不同资源和服务支持多个组织、部门或应用共享使用。集群提供了一个逻辑实体来统一使用不同资源和服务，这个逻辑实体就是租户。多个不同的租户统称多租户。当前仅分析集群支持租户。 原理 MRS集群提供多租户的功能，支持层级式的租户模型，支持动态添加和删除租户，实现资源的隔离，可以对租户的计算资源和存储资源进行动态配置和管理。 计算资源指租户Yarn任务队列资源，可以修改任务队列的配额，并查看任务队列的使用状态和使用统计。 存储资源目前支持HDFS存储，可以添加删除租户HDFS存储目录，设置目录的文件数量配额和存储空间配额。 租户可以在界面上根据业务需要，在集群中创建租户、管理租户。 创建租户时将自动创建租户对应的角色、计算资源和存储资源。默认情况下，新的计算资源和存储资源的全部权限将分配给租户的角色。 默认情况下，查看当前租户的资源，在当前租户中添加子租户并管理子租户资源的权限将分配给租户的角色。 修改租户的计算资源或存储资源，对应的角色关联权限将自动更新。 MRS中最多支持512个租户。系统默认创建的租户包含“default”。和默认租户同处于最上层的租户，可以统称为一级租户。 资源池 YARN任务队列支持一种调度策略，称为标签调度（Label Based Scheduling）。通过此策略，YARN任务队列可以关联带有特定节点标签（Node Label）的NodeManager，使YARN任务在指定的节点运行，实现任务的调度与使用特定硬件资源的需求。例如，需要使用大量内存的YARN任务，可以通过标签关联具有大量内存的节点上运行，避免性能不足影响业务。 在MRS集群中，租户从逻辑上对YARN集群的节点进行分区，使多个NodeManager形成一个资源池。YARN任务队列通过配置队列容量策略，与指定的资源池进行关联，可以更有效地使用资源池中的资源，且互不影响。 MRS中最多支持50个资源池。系统默认包含一个“default”资源池。

本章节主要介绍如何操作退服和入服角色实例。 操作场景 某个Core或Task节点出现问题时，可能导致整个集群状态显示为“异常”。MRS集群支持将数据存储在不同Core节点，用户可以在MRS指定角色实例退服，使退服的角色实例不再提供服务。在排除故障后，可以将已退服的角色实例入服。 支持退服、入服的角色实例包括： HDFS的DataNode角色实例 Yarn的NodeManager角色实例 HBase的RegionServer角色实例 ClickHouse的ClickHouseServer角色实例 Kafka的Broker角色实例 限制： 当DataNode数量少于或等于HDFS的副本数时，不能执行退服操作。例如HDFS副本数为3时，则系统中少于4个DataNode，将无法执行退服，MRS在执行退服操作时会等待30分钟后报错并退出执行。 Kafka Broker数量少于或等于副本数时，不能执行退服。例如Kafka副本数为2时，则系统中少于3个节点，将无法执行退服，MRS执行退服操作时会失败并退出执行。 已经退服的角色实例，必须执行入服操作启动该实例，才能重新使用。 前提条件 已完成IAM用户同步（在集群详情页的“概览”页签，单击“IAM用户同步”右侧的“同步”进行IAM用户同步）。 操作步骤 1.在集群详情页，单击“组件管理”。 2.单击服务列表中相应服务。 3.单击“实例”页签。 4.勾选指定角色实例名称前的复选框。 5.选择“更多 > 退服”或“入服”执行相应的操作。 说明 实例退服操作未完成时在其他浏览器窗口重启集群中相应服务，可能导致MRS提示停止退服，实例的“操作状态”显示为“已启动”。实际上后台已将该实例退服，请重新执行退服操作同步状态。

参数 参数说明 作业名称 作业名称，只能由字母、数字、中划线和下划线组成，并且长度为1～64个字符。 说明 建议不同的作业设置不同的名称。 SQL类型 SQL查询语句提交类型。 SQL Script SQL语句 “SQL类型”参数为“SQL”时参数有效，请输入待运行的SQL语句，然后单击“检查”来检查SQL语句的正确性，确保输入语句正确。如果同时需要提交多条语句并执行，使用“;”分隔不同语句。 SQL文件 “SQL类型”参数为“Script”时参数有效，待执行SQL文件的路径，需要满足以下要求。 最多为1023字符，不能包含;l&>,<'$特殊字符，且不可为空或全空格。 执行程序路径可存储于HDFS或者OBS中，不同的文件系统对应的路径存在差异。 OBS：以“obs://”开头。示例： obs://wordcount/program/xxx.jar。 HDFS：以“/user”开头。数据导入HDFS请参考 说明 存储在OBS上的文件路径支持以“obs://”开头格式。如需使用该格式提交作业，访问OBS需要配置对应权限。 创建集群时开启“OBS权限控制”功能时，可直接使用“obs://”路径，无需单独配置。 创建集群时未开启或不支持“OBS权限控制”功能时，请参考 运行程序参数 可选参数，为本次执行的作业配置相关优化参数（例如线程、内存、CPU核数等），用于优化资源使用效率，提升作业的执行性能。 常用运行程序参数如下表“运行程序参数”。 服务配置参数 可选参数，用于为本次执行的作业修改服务配置参数。该参数的修改仅适用于本次执行的作业，如需对集群永久生效，请参考 增加，如需删除参数，请单击右侧“删除”。 常用服务配置参数如下表“服务配置参数”。 命令参考 用于展示提交作业时提交到后台执行的命令。

本章节主要介绍如何进行管理服务操作。 用户可以在MRS： 添加和删除服务。添加和删除服务仅在MRS 3.1.2及之后版本的自定义类型集群支持。 启动操作状态为“已停止”、“停止失败”或“启动失败”服务，以使用该服务。 停止不再使用或异常服务。 重启异常或配置过期的服务，以恢复或生效服务功能。 前提条件 已完成IAM用户同步（在集群详情页的“概览”页签，单击“IAM用户同步”右侧的“同步”进行IAM用户同步）。 需要在IAM 用户所属的用户组中，设置用户组的权限。 由于在集群上添加服务和删除服务属于高危操作，因此需要给该用户组绑定MRS FullAccess、MRS Administrator、Server Administrator 、Tenant Guest和MRS Administrator或Tenant Administrator任意一个策略才可以执行。具体权限说明请参见IAM用户同步MRS说明。 已完成IAM用户同步（在集群详情页的“概览”页签，单击“IAM用户同步”右侧的“同步”进行IAM用户同步）。 对系统影响 在Task节点组无法添加stateful的组件。 添加服务 步骤 1 在集群详情页，选择“组件管理 > 添加服务”。 步骤 2 在服务列表中，勾选需要添加的服务，单击“下一步”。 说明 添加服务时，该服务依赖的下层服务也会自动勾选，可以同时添加多个服务。 只能在状态正常的节点上添加服务。 未安装Hadoop的集群，在添加Hadoop后，需要刷新MRS控制台的集群详情页面，并进行IAM用户同步后，才能在作业管理中成功提交作业。 集群不支持添加Hadoop服务的单个组件，只能添加Hadoop服务，Hadoop服务包含MapReduce、Yarn和HDFS。 添加Spark2x组件后，如需在Hue WEBUI操作SparkSQL，请先重启Hue服务。 步骤 3 在“拓扑调整”页面勾选服务部署的节点。 步骤 4 单击“确认”。服务添加完成后，在“组件管理”页面可以查看所添加的服务。

本章节主要介绍如何运行Flink作业。 用户可将自己开发的程序提交到MRS中，执行程序并获取结果。本章节指导用户在MRS集群页面如何提交一个新的Flink作业。Flink作业用于提交jar程序处理流式数据。 前提条件 用户已经将运行作业所需的程序包和数据文件上传至OBS系统或HDFS中。 通过界面提交作业 1.登录MRS管理控制台。 2.选择“集群列表 > 现有集群”，选中一个运行中的集群并单击集群名称，进入集群信息页面。 3.若集群开启Kerberos认证时执行该步骤，若集群未开启Kerberos认证，请无需执行该步骤。 在“概览”页签的基本信息区域，单击“IAM用户同步”右侧的“同步”进行IAM用户同步。 说明 当IAM用户的用户组的所属策略从MRS ReadOnlyAccess向MRS CommonOperations、MRS FullAccess、MRS Administrator变化时，由于集群节点的SSSD（System Security Services Daemon）缓存刷新需要时间，因此同步完成后，请等待5分钟，等待新修改策略生效之后，再进行提交作业。否则，会出现提交作业失败的情况。 当IAM用户的用户组的所属策略从MRS CommonOperations、MRS FullAccess、MRS Administrator向MRS ReadOnlyAccess变化时，由于集群节点的SSSD缓存刷新需要时间，因此同步完成后，请等待5分钟，新修改策略才能生效。 4.单击“作业管理”，进入“作业管理”页签。 5.单击“添加”，进入“添加作业”页面。 6.“作业类型”选择“Flink”，参考下表配置Flink作业信息。 作业配置信息 参数 参数说明 作业名称 作业名称，只能由字母、数字、中划线和下划线组成，并且长度为1～64个字符。 说明 建议不同的作业设置不同的名称。 执行程序路径 待执行程序包地址，需要满足如下要求： 最多为1023字符，不能包含;l&>, <'$特殊字符，可为空。 注意 若输入带有敏感信息（如登录密码）的参数可能在作业详情展示和日志打印中存在暴露的风险，请谨慎操作。 服务配置参数 可选参数，用于为本次执行的作业修改服务配置参数。该参数的修改仅适用于本次执行的作业，如需对集群永久生效，请参考配置服务参数页面进行修改。 如需添加多个参数，请单击右侧增加，如需删除参数，请单击右侧“删除”。 常用服务配置参数如下表“服务配置参数”。 命令参考 用于展示提交作业时提交到后台执行的命令。 运行程序参数 参数 参数说明 取值样例 ytm 设置每个TaskManager容器的内存（单位可选,默认单位：MB）。 1024 yjm 设置JobManager容器内存（单位可选，默认单位：MB）。 1024 yn 设置分配给应用程序的Yarn容器的数量，该值与TaskManager数量相同。 2 ys 设置TaskManager的核数。 2 ynm 自定义Yarn上应用程序名称。 test c 设置程序入口点的类（如“main”或“getPlan(）”方法）。该参数仅在JAR文件未指定其清单的类时需要。 com.bigdata.mrs.test 说明 针对MRS 3.x及之后版本，运行程序参数不支持“yn”。 服务配置参数 参数 参数说明 取值样例 fs.obs.access.key 访问OBS的密钥ID。 fs.obs.secret.key 访问OBS与密钥ID对应的密钥。 7.确认作业配置信息，单击“确定”，完成作业的新增。 作业新增完成后，可对作业进行管理。

本章节主要介绍如何运行Kafka作业。 用户可将自己开发的程序提交到MRS中，执行程序并获取结果。本章节教您在Kafka主题中产生和消费消息。 暂不支持通过界面提交Kafka作业，请通过后台功能来提交作业。 通过后台提交作业 先查询ZooKeeper和Kafka的实例地址，再运行Kafka作业。 查询实例地址（3.x版本） 1.登录MRS管理控制台。 2.选择“集群列表 > 现有集群”，选中一个运行中的集群并单击集群名称，进入集群信息页面。 3.请参考访问FusionInsight Manager（MRS 3.x及之后版本），跳转至FusionInsight Manager页面。然后选择“服务 > ZooKeeper > 实例”，查看ZooKeeper角色实例的IP地址。记录ZooKeeper角色实例中任意一个的IP地址即可。 4.选择“服务 > Kafka > 实例”，查看Kafka角色实例的IP地址。记录Kafka角色实例中任意一个的IP地址即可。 查询实例地址（3.x之前版本） a. 登录MRS管理控制台。 b. 选择“集群列表 > 现有集群”，选中一个运行中的集群并单击集群名称，进入集群信息页面。 c. 在MRS集群详情页面，选择“组件管理 > ZooKeeper > 实例”，查看ZooKeeper角色实例的IP地址。记录ZooKeeper角色实例中任意一个的IP地址即可。 d. 选择“组件管理 > Kafka > 实例”，查看Kafka角色实例的IP地址。记录Kafka角色实例中任意一个的IP地址即可。 运行Kafka作业 MRS 3.x及之后版本客户端默认安装路径为“/opt/Bigdata/client”，MRS 3.x之前版本为“/opt/client”。具体以实际为准。 1.在集群信息页面的“节点管理”页签中单击Master2节点名称，进入弹性云主机管理控制台。 2.单击页面右上角的“远程登录”。 3.根据界面提示，输入Master节点的用户名和密码，用户名、密码分别为root和创建集群时设置的密码。 4.执行如下命令初始化环境变量。 source /opt/Bigdata/client/bigdataenv 5.如果当前集群已开启Kerberos认证，执行以下命令认证当前用户。如果当前集群未开启Kerberos认证，则无需执行该步骤。 kinit MRS集群用户 例如, kinit admin 6.执行如下命令，创建kafka topic。 kafkatopics.sh create zookeeper ZooKeeper角色实例IP:2181/kafkapartitions 2 replicationfactor 2 topic 7.在topic test中产生消息。 首先执行命令kafkaconsoleproducer.sh brokerlist Kafka角色实例IP:9092 topic producer.config /opt/Bigdata/client/Kafka/kafka/config/producer.properties 。 然后输入指定的内容作为生产者产生的消息，输入完成后按回车发送消息。如果需要结束产生消息，使用“Ctrl + C”退出任务。 8.消费topic test中的消息。 kafkaconsoleconsumer.sh topic bootstrapserver Kafka角色实例IP:9092 consumer.config/opt/Bigdata/client/Kafka/kafka/config/consumer.properties 说明 如果集群开启Kerberos认证，则执行如上两个命令时请修改端口号9092为21007，详见

参数 取值 说明 fs.obs.serversideencryptiontype SSEKMS l SSEKMS：表示使用KMS秘钥的加解密方式。 NONE：表示关闭加密功能。 fs.obs.serversideencryptionkey 表示用来加密的KMS密钥ID。该参数可不配置。 当参数“fs.obs.serversideencryptiontype”配置为“SSEKMS”且该参数未配置时，OBS会使用OBS服务的默认KMS密钥完成加密。 fs.obs.connection.ssl.enabled true 标识是否与OBS建立安全连接。 true：开启安全连接，当需要使用OBS加解密功能时该参数必须配置为“true”。 false：关闭安全连接。

本章节主要介绍管理角色实例操作。 操作场景 用户可以在MRS启动操作状态为“停止”、“停止失败”或“启动失败”角色实例，以使用该角色实例，也可以停止不再使用或异常的角色实例，或者重启异常的角色实例，以恢复角色实例功能。 前提条件 已完成IAM用户同步（在集群详情页的“概览”页签，单击“IAM用户同步”右侧的“同步”进行IAM用户同步）。 操作步骤 1.在集群详情页，单击“组件管理”。 2.单击服务列表中指定的服务名称。 3.单击“实例”页签。 4.勾选待操作角色实例前的复选框。 5.选择“更多 > 启动实例”、“停止实例”、“重启实例”或“滚动重启实例”等，执行相应操作。

参数 参数说明 取值样例 fs.obs.access.key 访问OBS的密钥ID。 fs.obs.secret.key 访问OBS与密钥ID对应的密钥。 hive.execution.engine 选择执行作业的引擎。 mr tez

本章节主要介绍如何取消隔离主机。 操作场景 用户已排除主机的异常或故障后，需要将主机隔离状态取消才能正常使用。 该任务指导用户在MRS上取消隔离主机。 前提条件 主机状态为“已隔离”。 主机的异常或故障已确认修复。 已完成IAM用户同步（在集群详情页的“概览”页签，单击“IAM用户同步”右侧的“同步”进行IAM用户同步）。 操作步骤 1.在集群详情页，单击“节点管理”。 2.展开节点组信息，勾选待取消隔离主机前的复选框。 3.选择“节点操作 > 取消隔离主机”。 4.确认待取消隔离主机信息并单击“确定”。 界面提示“操作成功。”，单击“完成”，主机成功取消隔离，“操作状态”显示为“正常”。 5.勾选已取消隔离的主机，选择“节点操作 > 启动所有角色”。

本章节主要介绍如何运行SparkSubmit作业。 用户可将自己开发的程序提交到MRS中，执行程序并获取结果。本章节教您在MRS集群页面如何提交一个新的Spark作业。 前提条件 用户已经将运行作业所需的程序包和数据文件上传至OBS系统或HDFS中。 通过界面提交作业 1.登录MRS管理控制台。 2.选择“集群列表 > 现有集群”，选中一个运行中的集群并单击集群名称，进入集群信息页面。 3.若集群开启Kerberos认证时执行该步骤，若集群未开启Kerberos认证，请无需执行该步骤。 在“概览”页签的基本信息区域，单击“IAM用户同步”右侧的“同步”进行IAM用户同步。 说明 当IAM用户的用户组的所属策略从MRS ReadOnlyAccess向MRS CommonOperations、MRS FullAccess、MRS Administrator变化时，由于集群节点的SSSD（System Security Services Daemon）缓存刷新需要时间，因此同步完成后，请等待5分钟，等待新修改策略生效之后，再进行提交作业。否则，会出现提交作业失败的情况。 当IAM用户的用户组的所属策略从MRS CommonOperations、MRS FullAccess、MRS Administrator向MRS ReadOnlyAccess变化时，由于集群节点的SSSD缓存刷新需要时间，因此同步完成后，请等待5分钟，新修改策略才能生效。 4.单击“作业管理”，进入“作业管理”页签。 5.单击“添加”，进入“添加作业”页面。 6.配置作业信息。“作业类型”选择“SparkSubmit”并参考下表配置SparkSubmit作业其他参数信息。 作业配置信息 参数 参数说明 作业名称 作业名称，只能由字母、数字、中划线和下划线组成，并且长度为1～64个字符。 说明 建议不同的作业设置不同的名称。 执行程序路径 待执行程序包地址，需要满足如下要求： 最多为1023字符，不能包含 ;l&>, <'$特殊字符，可为空。 注意 若输入带有敏感信息（如登录密码）的参数可能在作业详情展示和日志打印中存在暴露的风险，请谨慎操作。 服务配置参数 可选参数，用于为本次执行的作业修改服务配置参数。该参数的修改仅适用于本次执行的作业，如需对集群永久生效，请参考配置服务参数页面进行修改。 如需添加多个参数，请单击右侧增加，如需删除参数，请单击右侧“删除”。 常用服务配置参数如下表“服务配置参数”。 说明 如需运行长时间作业如SparkStreaming等，且需要访问OBS,需要通过“服务配置参数”传入访问OBS的AK/SK。 命令参考 用于展示提交作业时提交到后台执行的命令。 运行程序参数 参数 参数说明 取值样例 conf 添加任务配置项。 spark.executor.memory2G drivermemory 设置driver的运行内存。 2G numexecutors 设置executor启动数量。 5 executorcores 设置executor核数。 2 class 设置任务的主类。 org.apache.spark.examples.SparkPi files 上传文件给任务，可以是自己定义的配置文件或者某些数据文件。来源可以是OBS或者HDFS。 jars 上传任务额外依赖包，用于给任务添加任务的外部依赖包。 executormemory 设置executor内存。 2G conf sparkyarn.maxAppAttempts 控制AM的重试次数。 设置为0时，不允许重试；设置为1时，允许重试一次。 服务配置参数 参数 参数说明 取值样例 fs.obs.access.key 访问OBS的密钥ID。 fs.obs.secret.key 访问OBS与密钥ID对应的密钥。 7.确认作业配置信息，单击“确定”，完成作业的新增。 作业新增完成后，可对作业进行管理。

本章节主要介绍如何管理主机（节点）。 操作场景 当主机（节点）故障异常时，用户可能需要在MRS停止主机（节点）上的所有角色，对主机（节点）进行维护检查。故障清除后，启动主机（节点）上的所有角色恢复主机（节点）业务。 前提条件 已完成IAM用户同步（在集群详情页的“概览”页签，单击“IAM用户同步”右侧的“同步”进行IAM用户同步）。 操作步骤 1.在集群详情页，单击“节点管理”。 2.展开节点组信息，勾选待操作节点前的复选框。 3.选择“节点操作 > 启动所有角色”或“停止所有角色”执行相应操作。

本章节主要介绍如何查看MRS服务操作日志。 “操作日志”页面记录用户对集群和作业的操作信息。日志信息常用于集群运行异常时的问题定位，帮助用户快速定位问题原因，以便及时解决问题。 操作类型 目前MRS记录以下操作类型的日志信息，可在搜索框中筛选查询： 集群操作 −创建集群、删除集群、扩容集群和缩容集群等 −创建目录、删除目录和删除文件 作业操作：创建作业、停止作业和删除作业 数据操作：IAM用户任务、新增用户、新增用户组等操作 日志字段 日志列表默认按时间顺序排列，时间最近的日志显示在最前端。 日志信息中的各字段说明如下表所示。 日志说明 参数 参数说明 操作类型 记录执行的操作类型，包括： 集群操作 作业操作 数据操作 操作IP 记录执行操作的IP地址。 说明 当MRS集群部署失败时，集群会被自动删除，并且自动删除集群的操作日志中不包含用户的“操作IP”信息。 操作内容 记录实际操作内容，不超过2048字符。 时间 记录操作的时间。对于已删除的集群，界面只显示6个月内的日志信息，若需要查看6个月之前的日志信息，请联系支持人员。 按钮说明 按钮 说明 在下拉框中选择操作类型，筛选日志。 全部：表示筛选所有的日志 集群操作：表示筛选“集群操作”的日志 作业操作：表示筛选“作业操作”的日志 数据操作：表示筛选“数据操作”的日志 根据时间筛选日志。 1. 单击输入框。 2. 选择日期和时间。 3. 单击“确认”。 左侧框为需要查询的开始时间，右侧框为需要查询的结束时间。右侧的输入框选择的时间必须大于或等于左侧输入框的时间，否则，无法根据时间筛选日志。 在搜索框中输入“操作内容”中的关键字，单击，搜索日志。 单击，手动刷新日志列表。

状态 描述 良好 表示实例当前运行正常。 故障 表示实例当前无法正常工作。 已退服 表示实例处于退服状态。 未启动 表示实例已停止。 未知 表示实例的初始状态信息无法检测。 正在启动 表示实例正在执行启动过程。 正在停止 表示实例正在执行停止过程。 正在恢复 表示实例可能存在异常正在自动修复。 正在退服 表示实例正在执行退服过程。 正在入服 表示实例正在执行入服过程。 启动失败 表示实例启动操作失败。 停止失败 表示实例停止操作失败。

如何配置网络ACL出规则？ 方案一： 放通网络ACL所有出站流量，此方案能保证集群正常创建与使用，优先建议使用此方案。 方案二： 放通保证集群创建成功的最小出规则，此方案可能在后续使用中因出方向规则遗漏导致集群使用问题，不建议使用方案。若出现集群使用问题请联系运维人员支撑处理。 配置示例：参照方案一中示例，配置策略为“允许”，目的地址为通信安全授权地址、NTP、OBS、Openstack及DNS地址的出方向规则。

缩容校验策略 缩容节点选择完成后，为了避免组件退服失败，不同组件提供了不同的退服约束规则，只有满足了所有安装组件的退服约束规则才允许缩容。缩容校验策略如下表所示。 组件退服约束规则 组件名称 退服约束规则 HDFS/DataNode 规则：缩容后节点数不小于当前HDFS的副本数且HDFS数据总量不超过缩容后HDFS集群总容量的80%，可以执行缩容操作。 原因：确保缩容后剩余空间足够存放现有数据，并预留一部分空间。 说明 为了保证数据的可靠性，HDFS中每保存一个文件则自动生成1个备份文件，即默认共2个副本。 HBase/RegionServer 规则：除缩容节点外，其他节点RegionServer剩余可用内存的总和，大于所选缩容节点RegionServer当前使用内存的1.2倍。 原因：当一个节点退服时，这个节点上的Region会迁移到其他节点，所以其他节点的可用内存必须足够才能负担起退服节点的Region。 Storm/ Supervisor 规则：缩容后集群slot数足够运行当前已提交的任务。 原因：防止缩容后没有充足的资源运行流处理任务。 Flume/FlumeServer 规则：节点安装了FlumeServer，并且已经配置了Flume任务，则该节点不能删除。 原因：防止误删了已部署的业务程序。 指定数量缩容 1.登录MRS管理控制台。 2.选择“集群列表 > 现有集群”，选中一个运行中的集群并单击集群名称，进入集群信息页面。 3.选择“节点管理”页签，在需要缩容的节点组的“操作”列，单击“缩容”，进入缩容集群页面。 只有运行中的集群且集群中的节点都在运行中才能进行该操作。 4.设置“缩容节点数量”，并单击“确定”。 说明 缩容集群前需要检查集群安全组是否配置正确，要确保集群入方向安全组规则中有一条全部协议，全部端口，源地址为可信任的IP访问范围的规则。 若HDFS存在损坏的数据块，则缩容集群可能出现失败，请联系支持人员处理。 5.页面右上角弹出缩容节点提交成功提示框。 集群缩容过程说明如下： 缩容中：集群正在缩容时集群状态为“缩容中”。已提交的作业会继续执行，也可以提交新的作业，但不允许继续缩容和删除集群，也不建议重启集群和修改集群配置。 缩容成功：集群缩容成功后集群状态为“运行中”。 缩容失败：集群缩容失败时集群状态为“运行中”。用户可以执行作业，也可以重新进行缩容操作。 缩容成功后，可以在集群详情的“节点管理”页签查看集群的节点信息。

本章节主要介绍如何进行远程运维。 运维授权 当用户使用集群过程中出现问题需要支持人员协助解决时，用户可先联系支持人员，再通过“运维授权”功能授权支持人员访问用户机器的权限用于定位问题。 操作步骤 1.登录MRS管理控制台。 2.在左侧导航栏中选择“集群列表 > 现有集群”，选中一个运行中的集群并单击集群名称，进入集群信息页面。 3.在页面右上角单击“运维”，选择“运维授权”，选择授权给支持人员访问本机的权限的“截止时间”。在截止时间之前支持人员有临时访问本机的权限。 4.问题解决后，在页面右上角单击“运维”，选择“取消授权”为支持人员取消访问权限。 日志共享 当用户使用集群过程中出现问题需要支持人员协助解决时，用户可先联系支持人员，再通过“日志共享”功能提供特定时间段内的日志给支持人员以便定位问题。 操作步骤 1.登录MRS管理控制台。 2.在左侧导航栏中选择“集群列表 > 现有集群”，选中一个运行中的集群并单击集群名称，进入集群信息页面。 3.在页面右上角单击“运维”，选择“日志共享”，进入“日志共享”界面。 4.在“起止时间”的输入框单击选择日期和时间。 说明 “起止时间”按照支持人员的建议选取。 结束时间的选择的时间必须大于开始时间选择的时间，否则，无法根据时间筛选日志。

本章节主要介绍如何查看历史集群信息。 选择“集群列表 > 历史集群”，选中一集群并单击集群名，进入集群基本信息页面。用户可查看集群的配置信息、部署的节点信息。 参考下列表格查看集群信息参数说明。 集群基本信息 参数 参数说明 集群名称 集群的名称，创建集群时设置。 集群状态 集群状态信息。 集群版本 集群的版本信息。 集群类型 创建集群时的集群类型。 集群ID 集群的唯一标识，创建集群时系统自动赋值，不需要用户设置。 创建时间 显示集群创建的时间。 可用区 集群工作区域下的可用区，创建集群时设置。 默认生效子网 子网信息，创建集群时所选。 通过子网提供与其他网络隔离的、可以独享的网络资源，以提高网络安全。 虚拟私有云 VPC信息，创建集群时所选。 VPC即虚拟私有云，是通过逻辑方式进行网络隔离，提供安全、隔离的网络环境。 OBS权限控制 单击“单击管理”，修改MRS用户与OBS权限的映射关系，具体请参考配置MRS多用户访问OBS细粒度权限。 数据连接 单击“单击管理”，查看集群关联的数据连接类型，具体请参考配置数据连接。 委托 单击“管理委托”，为集群绑定或修改委托。 通过绑定委托，您可以将部分资源共享给ECS或BMS云服务来管理，例如通过配置ECS委托可自动获取AK/SK访问OBS，具体请参见配置存算分离集群（委托方式）。MRSECSDEFAULTAGENCY委托拥有对象存储服务的OBSOperateAccess权限和在集群所在区域拥有CESFullAccess（对开启细粒度策略的用户）、CES Administrator和KMS Administrator权限。 密钥对 密钥对名称，创建集群时设置。 如果创建集群时设置的登录方式为密码，则不显示。 Keberos认证 登录Manager管理页面时是否启用Kerberos认证。 说明 Kerberos认证模式不支持手动修改，集群创建成功后将无法开启和关闭此功能，需要在创建MRS服务集群的时候选择开启或者关闭Kerberos服务，建议重新创建集群。 安全组 集群的安全组名称。 数据盘密钥名称 用于加密数据盘的密钥名称。如需对已使用的密钥进行管理，请登录密钥管理控制台进行操作。 数据盘密钥ID 用于加密数据盘的密钥ID。 组件版本 集群安装各组件的版本信息。 委托 通过绑定委托，ECS或BMS云服务将有权限来管理您的部分资源。 返回到历史集群列表页面，用户可使用如下按钮进行操作，参考下列表格查看按钮说明。 按钮 说明 单击，手动刷新节点信息。 在搜索框中输入集群名称或ID，单击，搜索集群。

本章节主要介绍如何登录集群节点。 本章节介绍如何使用弹性云主机管理控制台上提供的远程登录（VNC方式）和如何使用密钥或密码方式（SSH方式）登录MRS集群中的节点，远程登录主要用于紧急运维场景，远程登录弹性云主机进行相关维护操作。其他场景下，建议用户采用SSH方式登录。 说明 如果需要使用SSH方式登录集群节点，需要在集群的安全组规则中手动添加入方向规则：其中源地址为“客户端IPV4地址/32(或者客户端IPV6地址/128)”，端口为22，具体请参见“虚拟私有云 > 用户指南 > 安全性 > 安全组 > 添加安全组规则”。 登录弹性云主机（VNC方式） 1.登录MapReduce服务管理控制台。 2.选择“集群列表 > 现有集群”，选中一个运行中的集群并单击集群名，进入集群基本信息页面。 3.在“节点管理”页签单击Master节点组中某一Master节点名称，登录到弹性云主机管理控制台。 4.单击右上角的“远程登录”。 5.根据界面提示，输入Master节点的用户名和密码。 创建集群时登录方式选择了“密码”。此时，你需要输入的用户名、密码分别是root和创建集群时设置的密码。 创建集群时登录方式选择了密钥对，则使用如下方式登录： a. 创建集群成功后，参见“虚拟私有云 ​> 用户指南 ​> 虚拟IP”章节中的相关内容，为集群的Master节点绑定一个弹性IP地址。 b. 使用root用户名和密钥文件，SSH方式远程登录Master节点。 c. 执行passwd root命令，设置root用户密码。 d. 设置成功后，返回界面登录方式，输入root用户名和步骤5.2.c设置的密码，登录节点。

本章节主要介绍如何确认Manager的主备管理节点。 背景信息 用户可以在Master节点登录到集群中的其他节点，同时登录Master节点后，可以确认Manager的主备管理节点，并在对应的管理节点中执行命令。 在主备模式下，由于Master1和Master2之间会切换，Master1节点不一定是Manager的主管理节点。 操作步骤 1.确认MRS集群的Master节点。 a.登录MapReduce服务管理控制台，选择“集群列表 > 现有集群”，选中一个运行中的集群并单击集群名，进入集群信息页面。查看指定的集群信息。 b.在“节点管理”中查看节点名称，名称中包含“master1”的节点为Master1节点，名称中包含“master2”的节点为Master2节点。 2.确认Manager的主备管理节点。 a.远程登录Master1节点，请参见登录集群节点。 Master节点支持CloudInit特性，Cloudinit预配置的用户名“root”，密码为创建集群时设置的密码。 b.执行以下命令切换用户。 sudo su root su omm c.执行以下命令确认主备管理节点： MRS 3.x之前版本集群执行命令： sh ${BIGDATAHOME}/om0.0.1/sbin/statusoms.sh MRS3.x及之后版本集群执行命令： sh ${BIGDATAHOME}/omserver/om/sbin/statusoms.sh 回显信息中“HAActive”参数值为“active”的节点为主管理节点（如下例中“mgtomsdatsh3011”为主管理节点），参数值为“standby”的节点为备管理节点（如下例中“mgtomsdatsh3012”为备管理节点）。 Ha mode double NodeName HostName HAVersion StartTime HAActive HAAllResOK HARunPhase 192168030 mgtomsdatsh3011 V100R001C01 20141118 23:43:02 active normal Actived 192168024 mgtomsdatsh3012 V100R001C01 20141121 07:14:02 standby normal Deactived 说明 如果当前登录的Master1节点是备管理节点，且需要登录到主管理节点时，请执行以下命令： ssh Master2节点IP地址

本章节主要介绍如何配置消息通知。 MRS联合消息通知服务(SMN)，采用主题订阅模型，提供一对多的消息订阅以及通知功能，能够实现一站式集成多种推送通知方式（短信和邮件通知）。 操作场景 在MRS管理控制台，按照集群维度，在集群信息页面的告警页签中能够提供选择是否使能通知服务，只有对应集群开关开启以后，才能实现以下场景的功能： 在用户订阅了通知服务之后，当集群出现扩容成功/失败、缩容成功/失败、删除成功/失败、弹性升缩成功/失败的场景下，由MRS管理面通过邮件或短信方式通知对应用户。 管理面检查大数据集群的告警信息，如果大数据集群的告警信息影响到服务的使用，其告警级别达到致命时，则发送信息通知给对应租户。 在用户集群的ECS机器被删除、关机、修改规格、重启、更新OS的行为，会导致大数据集群异常，当检测到用户的虚拟机出现以上状态的时候，发送通知给对应用户。 创建主题 主题是消息发布或客户端订阅通知的特定事件类型。它作为发送消息和订阅通知的信道，为发布者和订阅者提供一个可以相互交流的通道。 1.登录管理控制台。 2.单击“服务列表”选择“管理与监管 > 消息通知服务”。 进入消息通知服务页面。 3.在左侧导航栏，选择“主题管理 > 主题”。 进入主题页面。 4.在主题页面，单击“创建主题”，开始创建主题。 此时将显示“创建主题”对话框。 5.在“主题名称”框中，输入主题名称，在“显示名”框中输入相关描述。 6.在“企业项目”中选择已有的项目，或者单击“新建企业项目”，在“企业项目管理”界面创建好企业项目后再进行添加。 7.在“标签”填写“标签键”和“标签值”，用于标识云资源，可对云资源进行分类和搜索。

按钮 说明 在下拉框中选择企业项目，筛选对应集群。 在下拉框中选择集群状态，筛选现有集群。 现有集群 − 所有状态：表示筛选所有的现有集群 − 启动中：表示筛选“启动中”状态的现有集群 − 运行中：表示筛选“运行中”状态的现有集群 − 扩容中：表示筛选“扩容中”状态的现有集群。 − 缩容中：表示筛选“缩容中”状态的现有集群。 − 异常：表示筛选“异常”状态的现有集群 − 删除中：表示筛选“删除中”状态的现有集群 选择“集群列表>现有集群”，单击 进入“失败任务管理”页面。 Num ：表示“失败”状态的任务数。 在搜索框中输入集群名称或ID，单击 ，搜索集群。 标签搜索 单击“标签搜索”输入待查询集群的标签，然后单击“搜索”搜索对应集群。 标签键或标签值可以通过下拉列表中选择，当标签键或标签值全匹配时，系统可以自动查询到目标集群。当有多个标签条件时，会取各个标签的交集，进行集群查询。 单击 ，手动刷新现有集群列表。

参数 规则 样例 标签键 不能为空。 对于同一个集群，Key值唯一。 长度不超过36个字符。 不能包含“”,“”,“<”,“>”,“”,“,”,“l”,“/”，且首尾字符不能为空格。 Organization 标签值 长度不超过43个字符。 不能包含“”,“”,“<”,“>”,“”,“,”,“l”,“/”，且首尾字符不能为空格。value可以为空。 Apache

参数 说明 类型 选择外部源连接的类型。 RDS服务MySQL数据库，支持Hive或Ranger组件的集群支持连接该类型数据库。 名称 数据连接的名称。 数据库实例 RDS服务数据库实例，该实例需要先在RDS服务创建后在此处引用，且已创建数据库，具体请参考管理数据连接章节 说明 为了保证集群和PostgreSQL数据库的网络访问，建议该实例与MRS集群的虚拟私有云和子网一致。 该实例的安全组入方向规则需要放通3306端口（可通过在RDS控制台单击实例名称进入实例基本信息页面，在“连接信息”区域单击“安全组”右侧的安全组名称进入安全组控制台，在入方向规则页签中添加一个“协议端口”为TCP 3306，“源地址”为Hive的MetaStore实例所在的所有节点IP的规则）。 当前MRS支持的RDS上Postgres数据库版本号为PostgreSQL9.5/PostgreSQL9.6。 当前MRS仅支持RDS上MySQL数据库版本为MySQL 5.7.x。 数据库 待连接的数据库的名称。 用户名 登录待连接的数据库的用户名。 密码 登录待连接的数据库的密码。

状态 说明 启动中 集群正在创建，则其状态为“启动中”。 运行中 集群创建成功且集群中所有组件状态均正常，则其状态为“运行中”。 扩容中 集群Core节点或者Task节点正在扩容，则其状态为“扩容中”。 说明 如果集群扩容失败，用户可重新进行扩容操作。 缩容中 当对集群节点进行关机、删除、变更OS、重装OS和修改规格的操作时，被变更的集群节点正在删除，则其状态为“缩容中”。 异常 集群中部分组件状态异常，导致集群异常，则其状态为“异常”。 删除中 集群节点正在删除中，则其状态为“删除中”。 已删除 集群已经删除，仅“历史集群”会显示此参数。

本章节主要介绍如何通过引导操作安装第三方软件。 该操作适用于MRS 3.x之前版本集群。 MRS 3.x版本暂不支持在创建集群时添加引导操作。 前提条件 已准备好引导操作脚本，详情请参见准备引导操作脚本。 在创建集群时添加引导操作 1.登录MRS管理控制台。 2.单击“创建集群”，进入“创建集群”页面。 3.在创建集群页面，选择“自定义创建”。 4.参考创建自定义集群配置集群软件配置和硬件配置信息。 5.在“高级配置”区域的引导操作栏，单击“添加”。 参数描述 参数 说明 名称 引导操作脚本的名称。 只能由数字、英文字符、空格、中划线和下划线组成，且不能以空格开头。 可输入的字符串长度为1～64个字符。 说明 同一集群内，不允许配置相同的名称。不同集群之间，可以配置相同的名称。 脚本路径 脚本的路径。路径可以是OBS文件系统的路径或虚拟机本地的路径。 OBS文件系统的路径，必须以s3a://开头，以.sh结尾。例如：s3a://mrssamples/xxx.sh l 虚拟机本地的路径，脚本所在的路径必须以‘/’开头，以.sh结尾。 说明 同一集群内，不允许配置相同的路径。不同集群之间，可以配置相同的路径。 参数 引导操作脚本参数。 执行节点 选择引导操作脚本所执行的节点类型。 执行时机 选择引导操作脚本执行的时间。 组件首次启动前 组件首次启动后 失败操作 该脚本执行失败后，是否继续执行后续脚本和创建集群。 说明 建议您设置为“继续”，无论此引导操作是否执行成功，则集群都能继续创建。 6.单击“确定”。 添加成功后，可以通过“操作”列进行编辑、克隆和删除。

常用模板 说明 节点数量范围 管控合设 管理角色和控制角色共同部署在Master节点中，数据实例合设在同一节点组。该部署方式适用于100个以下的节点，可以减少成本。 Master节点数量大于等于3个，小于等于11个。 节点组数量总和小于等于10个，非Master节点组中节点数量总和小于等于10000个。 管控分设 管理角色和控制角色分别部署在不同的Master节点中，数据实例合设在同一节点组。该部署方式适用于100500个节点，在高并发负载情况下表现更好。 Master节点数量大于等于5个，小于等于11个。 节点组数量总和小于等于10个，非Master节点组中节点数量总和小于等于10000个。 数据分设 管理角色和控制角色分别部署在不同的Master节点中，数据实例分设在不同节点组。该部署方式适用于500个以上的节点，可以将各组件进一步分开部署，适用于更大的集群规模。 Master节点数量大于等于9个，小于等于11个。 节点组数量总和小于等于10个，非Master节点组中节点数量总和小于等于10000个。

本章节主要介绍如何查看并删除失败的MRS任务。 背景信息 当集群创建失败、集群删除失败、集群扩容失败和集群缩容失败后，失败任务会转入“失败任务管理”页面，其中仅集群删除失败的任务会同步转入“历史集群”页面。当不需要失败的任务时，可以删除。 操作步骤 1.登录MRS管理控制台。 2.在左侧导航栏中选择“集群列表 > 现有集群”。 3.单击“失败任务管理”右侧的或数字，进入“失败任务管理”页面。 4.在需要删除的任务对应的“操作”列中，单击“删除”。 此处只能删除单个失败的任务。 5.单击任务列表左上方的“删除所有失败任务”可以删除全部任务。

为MRS集群配置数据连接 1.登录MRS控制台。 2.单击集群名称进入集群详情页面。 3.单击“数据连接”右侧的“单击管理”，进入数据连接配置界面。 4.单击“配置数据连接”，并配置相关参数。 组件名称：Ranger l模块类型：Ranger元数据 连接类型：RDS服务MySQL数据库 连接实例：请选择已创建的到RDS服务MySQL数据库的实例，如需创建新的数据连接，请参考 管理数据连接章节配置数据连接 中的 创建数据连接。 5.勾选“我已经阅读上述信息，并了解具体影响。”并单击“测试”。 6.测试成功后，单击“确定”完成数据连接配置。 7.登录FusionInsight Manager页面。 8.选择“集群 > 服务 > Ranger”，进入Ranger服务概览页面。 9.单击“更多 > 重启服务”或“更多 > 滚动重启服务”。 重启服务会造成业务中断，滚动重启可以尽量减少或者不影响业务运行。 重启Ranger组件会影响所有受Ranger控制组件的权限，可能影响业务的正常运行，请在集群空闲或业务量较少时时执行重启。重启Ranger组件前，Ranger中的策略依然生效。 详见下图： 重启服务 10.启用需要鉴权的组件的Ranger鉴权。此处以Hive组件为例。 当前MRS 3.1.x集群支持Ranger鉴权的组件为: HDFS、HBase、Hive、Spark、Impala、Storm、Kafka组件。 a.登录FusionInsight Manager页面，选择“集群 > 服务 > 服务名称 ”。 b.在服务“概览”页面右上角单击“更多 > 启用Ranger鉴权”。 详见下图： 启用Ranger鉴权 11.登录Ranger WebUI界面，单击Hive组件对应行的导入按钮。 12.配置导入参数。 Select file：选择 Ranger元数据外置到Mysql前置操作 中下载的鉴权策略文件。 Merge If Exist Policy：勾选。 详见下图： 导入鉴权策略 13.重启启用Ranger鉴权的组件。 a.登录FusionInsight Manager页面。 b.选择“集群 > 服务 > Hive”，进入Hive服务概览页面。 c.单击“更多 > 重启服务”或“更多 > 滚动重启服务”。 重启服务会造成业务中断，滚动重启可以尽量减少或者不影响业务运行。

本章节主要介绍如何快速创建实时分析集群。 本章节为您介绍如何快速创建一个实时分析集群，实时分析集群使用Hadoop、Kafka、Flink和ClickHouse组件提供一个海量的数据采集、数据的实时分析和查询的系统。 集群包含的组件信息实时分析： MRS 3.1.0版本：Hadoop 3.1.1、Kafka 2.112.4.0、Flink 1.12.0、ClickHouse 21.3.4.25、ZooKeeper 3.5.6、Ranger 2.0.0。 快速创建实时分析集群 1.登录MRS管理控制台。 2.单击“创建集群”，进入“创建集群”页面。 3在创建集群页面，选择“快速创建”页签。 4.参考下列参数说明配置集群基本信息，参数详细信息请参考创建自定义集群。 区域：默认即可。 集群名称：可以设置为系统默认名称，但为了区分和记忆，建议带上项目拼音缩写或者日期等。例如：“mrs20201130”。 版本类型：默认选择普通版（不同版本提供的组件有所不同，请根据需要选择版本类型）。 集群版本：默认选择最新版本即可（不同版本集群提供的组件有所不同，请根据需要选择集群版本）。 组件选择：选择“实时分析集群”。 可用区：默认即可。 虚拟私有云：默认即可。如果没有虚拟私有云，请单击“查看虚拟私有云”进入虚拟私有云，创建一个新的虚拟私有云。 子网：默认即可。 CPU架构：默认即可。 集群节点：请根据自身需要选择集群节点规格数量等。MRS 3.x及之后版本集群Master节点规格不能小于64GB。 用户名：默认为“root/admin”，root用于远程登录ECS机器，admin用于登录集群管理页面。 密码：设置root用户和admin用户密码。 确认密码：再次输入设置的root用户和admin用户密码。 5.勾选“确认授权”开通通信安全授权，通信安全授权详情请参考授权安全通信。 6.单击“立即申请”。 当集群开启Kerberos认证时，需要确认是否需要开启Kerberos认证，若确认开启请单击“继续”，若无需开启Kerberos认证请单击“返回”关闭Kerberos认证后再创建集群。 7.单击“返回集群列表”，可以查看到集群创建的状态。单击“访问集群”，可以查看集群详情。 集群创建的状态过程请参见 集群概览章节查看集群状态 部分 集群列表参数中的“状态”参数说明。 集群创建需要时间，所创集群的初始状态为“启动中”，创建成功后状态更新为“运行中”，请您耐心等待。 MRS系统界面支持同一时间并发创建10个集群，且最多支持管理100个集群。

操作步骤 1.创建用户并授权使用MRS服务，具体请参考创建MRS操作用户。 2.登录MRS控制台并创建集群，具体请参考创建自定义集群。 3.在左侧导航栏中选择“集群列表 > 现有集群”，单击集群名称进入集群详情页面。 4.在“概览”页签的基本信息区域，单击“IAM用户同步”右侧的“单击同步”进行IAM用户同步。 5.同步请求下发后，返回MRS控制台在左侧导航栏中选择“操作日志”页面查看同步是否成功，日志相关说明请参考查看MRS服务操作日志。 6.同步成功后，即可使用IAM同步用户进行后续操作。 说明 l 当IAM用户的用户组的所属策略从MRS ReadOnlyAccess向MRS CommonOperations、MRS FullAccess、MRS Administrator变化时，由于集群节点的SSSD（System Security Services Daemon）缓存刷新需要时间，因此同步完成后，请等待5分钟，等待新修改策略生效之后，再进行提交作业。否则，会出现提交作业失败的情况。 l 当IAM用户的用户组的所属策略从MRS CommonOperations、MRS FullAccess、MRS Administrator向MRS ReadOnlyAccess变化时，由于集群节点的SSSD缓存刷新需要时间，因此同步完成后，请等待5分钟，新修改策略才能生效。 l 单击“IAM用户同步”右侧的“同步”后，集群详情页面会出现短时间空白，这是由于正在进行用户数据同步中，请耐心等待，数据同步完成后，页面将会正常显示。 l 安全集群提交作业：安全集群中用户可通过界面“作业管理”功能提交作业，具体请参考