爆款云主机低至25.83元/年
查看详情

活动

天翼云最新优惠活动,涵盖免费试用,产品折扣等,助您降本增效!
热门活动
  • 云聚517 · 好价翼起拼 NEW 爆款云主机低至25.83元/年,参与拼团享更多优惠,拼成得额外优惠券
  • 安全隔离版OpenClaw NEW OpenClaw云服务器专属“龙虾“套餐低至1.5折起
  • 聚力AI赋能 天翼云大模型专项 大模型特惠专区·Token Plan 轻享包低至9.9元起
  • 青云志云端助力计划 NEW 一站式科研助手,海外资源安全访问平台,助力青年翼展宏图,平步青云
  • 企业出海解决方案 NEW 助力您的业务扬帆出海,通达全球!
  • 天翼云信创专区 NEW “一云多芯、一云多态”,国产化软件全面适配,国产操作系统及硬件芯片支持丰富
  • 中小企业服务商合作专区 国家云助力中小企业腾飞,高额上云补贴重磅上线
  • 云上钜惠 爆款云主机全场特惠,2核4G只要1.8折起!
  • 天翼云奖励推广计划 加入成为云推官,推荐新用户注册下单得现金奖励
免费活动
  • 免费试用中心 HOT 多款云产品免费试用,快来开启云上之旅
  • 天翼云用户体验官 NEW 您的洞察,重塑科技边界

息壤智算

领先开放的智算服务平台,提供算力、平台、数据、模型、应用“五位一体”智算服务体系,构建全流程的AI基础设施能力
AI Store
  • 算力市场
  • 模型市场
  • 应用市场
公共算力服务
  • 裸金属
  • 定制裸金属
训推服务
  • 模型开发
  • 训练任务
  • 服务部署
Token服务
  • 模型广场
  • 体验中心
  • 服务接入
应用托管
  • 应用实例
科研助手
  • 科研智能体
  • 科研服务
  • 开发机
  • 并行计算
大模型
  • DeepSeek-V4-Flash
  • GLM-5.1
  • Qwen3.5-122B-A10B
  • DeepSeek-V3.2(旗舰版)
  • GLM-5(正式版)
智算一体机
  • 智算一体机
智能体引擎
  • 智能体引擎
智算安全专区
  • 大模型安全评测
  • 大模型安全护栏
模型适配专家服务
  • 模型适配专家服务
算力服务商
  • 入驻算力服务商

应用商城

天翼云精选行业优秀合作伙伴及千余款商品,提供一站式云上应用服务
进入甄选商城进入云市场进入AI Store创新解决方案公有云生态专区智云上海应用生态专区
建站工具
  • 新域名服务
  • SSL证书
  • 翼建站
企业办公
  • 安全邮箱
  • WPS 365 天翼云版
  • 天翼企业云盘(标准服务版)
灾备迁移
  • 云管家2.0
  • 翼备份(SaaS版)

定价

协助您快速了解云产品计费模式、价格详情,轻松预估上云成本
价格计算器
  • 动态测算产品价格
定价策略
  • 快速了解计费模式

合作伙伴

天翼云携手合作伙伴,共创云上生态,合作共赢
天翼云生态合作中心
  • 天翼云生态合作中心
天翼云渠道合作伙伴
  • 天翼云代理渠道合作伙伴
天翼云服务合作伙伴
  • 天翼云集成商交付能力认证
天翼云应用合作伙伴
  • 天翼云云市场合作伙伴
  • 天翼云甄选商城合作伙伴
天翼云技术合作伙伴
  • 天翼云OpenAPI中心
天翼云培训认证
  • 天翼云学堂
  • 天翼云市场商学院
天翼云合作计划
  • 云汇计划
天翼信创云专区
  • 信创云专区
  • 适配互认证

开发者

开发者相关功能入口汇聚
技术社区
  • 专栏文章
  • 互动问答
  • 技术视频
资源与工具
  • OpenAPI中心
培训与认证
  • 天翼云学堂
  • 天翼云认证
开源社区
  • 魔乐社区
  • OpenTeleDB

支持与服务

为您提供全方位支持与服务,全流程技术保障,助您轻松上云,安全无忧
文档与工具
  • 文档中心
  • 新手上云
  • 自助服务
  • OpenAPI中心
定价
  • 价格计算器
  • 定价策略
基础服务
  • 售前咨询
  • 在线支持
  • 在线支持
  • 工单服务
  • 服务保障
  • 会员中心
增值服务
  • 红心服务
  • 首保服务
  • 客户支持计划
  • 专家技术服务
  • 备案管家
我要反馈
  • 建议与反馈
  • 用户体验官
信息公告
  • 客户公告

了解天翼云

天翼云秉承央企使命,致力于成为数字经济主力军,投身科技强国伟大事业,为用户提供安全、普惠云服务
品牌介绍
  • 关于天翼云
  • 智算云
  • 天翼云4.0
  • 新闻资讯
  • 天翼云APP
基础设施
  • 全球基础设施
  • 信任中心
最佳实践
  • 精选案例
  • 超级探访
  • 云杂志
  • 分析师和白皮书
  • 天翼云·创新直播间
市场活动
  • 2026智能云生态大会
  • 2025智能云生态大会
  • 2024智算云生态大会
  • 2023云生态大会
  • 2022云生态大会
  • 天翼云中国行
天翼云
  • 活动
  • 息壤智算
  • 产品
  • 解决方案
  • 应用商城
  • 定价
  • 合作伙伴
  • 开发者
  • 支持与服务
  • 了解天翼云
      • 文档
      • 控制中心
      • 备案
      • 管理中心
      分布式消息服务MQTT_相关内容
      • 仪表盘
        指标 指标含义 可消费消息数 队列中已经准备好等待消费者去获取和处理的消息数量。 连接数 当前与 RabbitMQ 服务器建立的 TCP 连接总数。每个生产者或消费者客户端都需要与 RabbitMQ 建立一个 TCP 连接。 信道数 在所有 TCP 连接上打开的 AMQP 信道总数。信道是在 TCP 连接内部建立的虚拟连接,用于多路复用,以减少建立和关闭 TCP 连接的开销。 消费者数 当前所有队列上注册的消费者总数。一个消费者可以监听一个或多个队列。 交换器生产速率 单位时间内发送到某个交换器的消息数量。 交换器消费速率 单位时间内从某个交换器路由到其绑定队列的消息数量。 队列生产速率 单位时间内发送到某个队列的消息数量。 队列消费速率 单位时间内从某个队列成功投递给消费者并收到确认(ACK)的消息数量。 队列可消费消息数 某个队列中当前处于 "Ready" 状态的消息数量。 队列消费者数 当前正在监听某个队列的消费者数量。 VHost连接数 当前连接到某个特定 VHost 的 TCP 连接总数。 VHost信道数 当前在某个特定 VHost 的所有连接上打开的信道总数。 VHost每个连接的信道数 某个 VHost 的信道总数除以其连接总数得到的平均值。
        来自:
        帮助文档
        分布式消息服务RabbitMQ
        用户指南
        仪表盘
      • 操作类
        the consumer message buffer is full, so do flow control 客户端日志出现the consumer message buffer is full, so do flow control 问题原因:push客户端消费过慢,本地缓存队列已满,暂时停止向服务端拉取消息。消费慢的原因可能是网络原因、topic队列数过多、消费者过少,内存过小等。 解决方案: (1)查看网络是否异常,缓慢。 (2)增加消费者实例。 (3)如果消息不重要,又不方便增加消费者实例,可以减少topic队列数量。 system busy, start flow control for a while 客户端日志出现 [REJECTREQUEST]system busy, start flow control for a while 或者 [PCBUSYCLEANQUEUE]broker busy, start flow control for a while, period in queue。 问题原因: 在关闭生产者实例的同时用生产者实例发送消息,连接关闭了netty会拒绝请求。 线程少,处理发送请求过慢。 解决方案: 应用优化使用流程,禁止在close生产者实例后使用生产者。 如果Broker是同步主,那么改成异步主,或者将 sendMessageThreadPoolNums32且waitTimeMillsInSendQueue1000。 消费者消费不到消息如何处理 进入控制台查看订阅管理菜单,检查订阅组是否有消费实例在线,如果不在线检查消费客户端日志是否有连接异常。 检查消费客户端逻辑,是否存在订阅关系不一致的情况。 消费者机器宕机重启是否会造成消息丢失 RocketMQ的消息数据以及订阅信息都是持久化保存的,当消费者下线重新上线后,会Broker持久化的下线前的消费偏移重新开始消费,所以不会发生消息丢失的情况。 订阅消息时是否可以允许消息Tag为空 订阅主题时如果Tag设置为空会导致消费者消费不到消息,如不希望通过Tag进行消息过滤,可以将Tag设置为,示例如下: consumer.subscribe(topic, ""); 客户端连接时出现“signature validate by dauth failed”错误 这种错误的原因一般是由于ACL认证失败,较大的可能是客户端配置的AccessKey和SecretKey出现错误,可以检查下这两项配置是否输入有误。
        来自:
        帮助文档
        分布式消息服务RocketMQ
        常见问题
        操作类
      • 响应消息头
        本章主要介绍响应消息头。 调用API时,API网关增加如下响应消息头。 XApigMode: debug表示响应消息头增加API网关调试信息。 响应消息头 描述 说明 ::: XRequestId 请求ID 所有合法请求,都会返回此参数 XApigLatency 从API网关接收请求到后端返回消息头的用时 仅在请求消息头包含XApigMode: debug时,返回此参数 XApigUpstreamLatency 从API网关请求后端到后端返回消息头的用时 仅在请求消息头包含XApigMode: debug,且后端服务类型不为Mock时,返回此参数 XApigRateLimitapi API流量控制信息 示例:remain:9,limit:10,time:10 second 仅在请求消息头包含XApigMode: debug,且API配置了API流量控制时,返回此参数 XApigRateLimituser 用户流量限制信息 示例:remain:9,limit:10,time:10 second 仅在请求消息头包含XApigMode: debug,且API配置了用户流量限制时,返回此参数 XApigRateLimitapp 应用流量限制信息 示例:remain:9,limit:10,time:10 second 仅在请求消息头包含XApigMode: debug,且API配置了应用流量限制时,返回此参数 XApigRateLimitip 源IP流量限制信息 示例:remain:9,limit:10,time:10 second 仅在请求消息头包含XApigMode: debug,且API配置了源IP流量限制时,返回此参数 XApigRateLimitapiallenv API默认流控信息 示例:remain:199,limit:200,time:1 second 仅在请求消息头包含XApigMode: debug时,返回此参数
        来自:
        帮助文档
        API网关
        调用API网关
        调用已发布的API
        响应消息头
      • API发布
        本章主要介绍API发布常见问题。 对API的修改是否需要重新发布? API发布后,如果再次编辑API参数,需要重新发布才能将修改后的信息同步到环境中。 API发布到RELEASE环境可以正常访问,发布到非RELEASE环境无法访问? API发布到非RELEASE环境,添加xstage请求消息头后即可访问, 例如: r.Header.Add("xstage", "RELEASE") API发布到不同环境后,会调用不同的后端服务吗? 使用环境变量,或者在后端服务定义不同的参数,可以实现API发布到不同环境时,调用不同的后端服务。 API调试的时候,如何指定环境? 不能指定。API控制台提供的调试功能,用的是特定的debug环境,调试完成后需先发布到对应环境,之后可使用代码或者postman等工具,并添加请求消息头XStage,才能访问指定环境。
        来自:
        帮助文档
        API网关
        常见问题
        API发布
      • 回调模板
        本节主要介绍如何在智能视图服务控制台使用回调模板。 智能视图服务平台的回调支持录制、设备状态、流状态、AI告警等事件,当设备有事件发生时,消息会由事件通知服务统一回调给用户配置的服务器地址。 新建回调模板 点击左侧导航栏的【模板管理回调模板】后点击【新建回调模板】进入该页面,参数说明如下: 参数名 说明 录制回调 当有录像文件生成时,会向服务器发送事件状态。 设备状态回调 当设备状态发生改变时,会向服务器发送事件状态。 流状态回调 当流状态发生改变时,会向服务器发送事件状态。 AI事件通知回调 当有AI事件发生时,会向服务器发送事件状态。 绑定回调模板 在设备或业务组管理页面绑定回调模板,当设备上有状态事件发生时,智能视图服务后台就会向用户服务器地址发送事件消息。
        来自:
        帮助文档
        智能视图服务
        用户指南(旧版)
        模板管理
        回调模板
      • 与其它服务的关系
        本节主要介绍与其它服务的关系 应用服务网格与周边服务的依赖关系如下图所示。 应用服务网格与其他云服务关系 云容器引擎 CCE 云容器引擎(Cloud Container Engine)提供高可靠高性能的企业级容器应用管理服务,支持Kubernetes社区原生应用和工具,简化云上自动化容器运行环境搭建。 您可以通过ASM部署运行在云容器引擎上。 弹性负载均衡 ELB 弹性负载均衡( Elastic Load Balance,ELB)将访问流量自动分发到多台云服务器,扩展应用系统对外的服务能力,实现更高水平的应用容错。 您可通过弹性负载均衡从外部访问ASM。 应用运维管理 AOM 应用运维管理AOM为您提供一站式立体运维平台,实时监控应用、资源运行状态,通过数十种指标、告警与日志关联分析,快速锁定问题根源,保障业务顺畅运行。 您可使用应用运维管理,对ASM中的服务和资源进行实时监控,对指标、告警和日志进行关联分析。 应用性能管理 APM(待上线) 应用性能管理服务(Application Performance Management,简称APM)是实时监控并管理云应用性能和故障的云服务,提供专业的分布式应用性能分析能力,可以帮助运维人员快速解决应用在分布式架构下的问题定位和性能瓶颈等难题,为用户体验保驾护航。 您可使用应用性能管理,对ASM中运行的服务进行全链路拓扑管理和分布式调用链追踪,方便您快速进行故障定位和根因分析。
        来自:
        帮助文档
        应用服务网格
        产品简介
        与其它服务的关系
      • 响应结果
        请求发出后,您会收到服务端的响应,其中包含状态码、响应消息头和响应消息体。 状态码 状态码是一组数字代码,其中包含1xx、2xx、3xx、4xx和5xx五种类型,它可以表示请求响应的状态。 1xx(信息性状态码):请求已被接收,继续处理(如100 Continue)。 2xx(成功状态码):请求已成功处理(如200 OK、204 No Content)。 3xx(重定向状态码):需进一步操作以完成请求(如301 永久重定向、302 临时重定向)。 4xx(客户端错误):请求包含错误或无法完成(如400 参数错误、403 无权限)。 5xx(服务器错误):服务器处理请求时失败(如500 服务器内部错误、502 网关错误)。 响应消息头 响应消息头是服务器在返回数据时附加的元信息,用于描述响应的各项属性,ZOS的公共响应头字段如下表所示。 名称 描述 类型 ContentLength 回复中Body的长度,以字节为单位 String Connection 指定服务器连接打开或关闭,有效值keepalive|close Enum Date 响应的时间和日期,格式如:Sun, 05 Sep 2021 23:00:00 GMT String xamzrequestid xamzrequestid是由ZOS创建,并唯一标识一个请求。可用于ZOS快速定位问题 String 响应消息体 响应消息体存储实际返回的数据(如 JSON/XML 格式),其类型由响应头的ContentType定义,用于传递消息头无法容纳的具体内容。
        来自:
        帮助文档
        对象存储 ZOS
        API参考
        API(原生接口)
        如何调用API
        响应结果
      • 管理消息与新建系统公告
        此小节介绍云堡垒机管理消息与新建系统公告。 消息中心是系统内各类消息接收提示管理中心。系统公告是对系统用户广播系统内重大变更的消息提醒。 管理消息列表 消息中心小窗可呈现最新三条未读消息。任务执行完成后,则可在任务中心查看全部任务。 消息类型共有5种,分别包括系统消息、业务消息、任务消息、命令告警、工单消息。 消息级别共有3种,分别包括“高”、“中”、“低”,消息级别越高代表消息重要程度越高。 本小节主要介绍如何在消息中心查看、删除、标记消息。 查看消息提醒 1. 登录云堡垒机系统。 2. 单击右上角,展开消息中心小窗口, 可查看最新三条未读消息。 3. 单击“查看更多”,进入消息中心列表页面。 4. 查询消息,在搜索框中输入关键字,根据消息标题内容快速查询消息。 5. 查看消息列表。消息按发生时间顺序倒序排列,可查看全部已读、未读的消息 。 6. 查看消息详情。单击目标消息名称,进入消息详情页面。 删除消息提醒 1. 登录云堡垒机系统。 2. 单击右上角,展开消息中心小窗口,可查看最新三条未读消息。 3. 单击“查看更多”,进入消息中心列表页面。 4. 勾选一条或多条消息,单击左下角“删除”,弹出删除消息确认窗口。 5. 单击“确定”,即可立即删除选中消息。消息删除后不可找回,请谨慎操作。
        来自:
        帮助文档
        运维安全中心(云堡垒机)
        用户指南
        系统桌面
        管理消息与新建系统公告
      • 业务消息设计:Topic与Tag
        Topic与Tag释义 1)Topic:消息主题,通过Topic对不同的业务消息进行分类。 2)Tag:消息标签,用来进一步区分某个Topic下的消息分类,消息队列RocketMQ允许消费者按照Tag对消息进行过滤,确保消费者最终只消费到他关注的消息类型。 Topic与Tag都是业务上用来归类的标识,区分在于Topic是一级分类,而Tag可以说是二级分类。 适用场景 什么时候该用Topic,什么时候该用Tag,可以参考下面的一些考虑进行权衡: 考虑消息类型:如普通消息、顺序消息,事务消息、定时(延时)消息,不同消息类型是无法通过Tag区分的,这种情况就需要我们创建不同的Topic。 业务关联性:如果是不同业务之间没有直关联的消息,建议按照Topic进行区分;而同一个业务只是子类型不一样的消息可以用Tag进行区分。 消息优先级:不同的业务场景可能会导致消费端对于消息的优先级需求不同,有的紧急,有的相对来说对于延时的接收程度更大,不同优先级的消息用不同的Topic进行区分。 消息量级:如果量小但延时要求高的消息,跟超大量级(如万亿)的消息使用同一个Topic,则有可能排队时间过长导致延时无法接受,所以不同量级的消息不要使用不同的Tag,需要用不同的Topic。 总结起来就是,在消息分类实践中,有创建多个Topic,以及在同一个Topic下创建多个Tag两种常见做法。一般来说,不同的Topic之间的消息不产生直接业务上的关联,而同一个Topic下相互之间产生联系的消息可以选择用Tag来区分,一般是相同业务下的不同板块不同类型。
        来自:
        帮助文档
        分布式消息服务RocketMQ
        最佳实践
        业务消息设计:Topic与Tag
      • 消息查询
        场景描述 RocketMQ查询消息信息的作用如下: ● 监控消息状态:通过查询消息信息,可以实时监控消息的状态,包括消息是否已被消费、消费进度、重试次数等。这有助于及时发现消息消费异常或延迟等问题,以便进行及时处理和调整。 ● 故障排查与追踪:通过查询消息信息,可以帮助定位消息消费失败的原因,如消费者异常、网络故障等。同时,还可以追踪消息的消费路径,了解消息从生产到消费的流程,方便排查故障和进行问题定位。 ● 统计与分析:通过查询消息信息,可以进行消息的统计和分析,如消息的发送量、消费量、消费延迟等。这有助于了解系统的消息处理情况,评估系统的性能和稳定性,以便进行相应的优化和改进。 ● 数据同步与恢复:通过查询消息信息,可以了解消息的发送时间、内容和关键字等信息,方便进行数据的同步和恢复。当系统发生故障或数据丢失时,可以通过查询消息信息来恢复数据,并确保数据的一致性和完整性。 综上所述,通过查询RocketMQ中的消息信息,可以实现消息的监控、故障排查、统计分析以及数据同步与恢复等功能,为系统的稳定运行和数据管理提供了重要的支持。 操作步骤 1、 进入管理控制台消息查询菜单。 2、 下拉选择集群名称和Broker名称。 3、 提供五种查询消息的方式:按key,按ID,按偏移量,基于Topic查询,死信队列查询。 根据Key查询 根据消息的key查询消息列表,key要求尽可能全局唯一。 点击“查看”,可以查询该消息的包体内容。
        来自:
        帮助文档
        分布式消息服务RocketMQ
        用户指南
        管理消息
        消息查询
      • 实例问题
        Kafka是否支持跨AZ容灾?已经购买的实例在哪里查看是否为跨AZ? Kafka实例支持跨AZ容灾,在购买实例时,选择多个可用区即可实现跨AZ容灾。 已购买的实例,在实例详情页“基本信息”页面的“网络”区域,查看可用区数量。多于一个可用区时,表示已实现跨AZ容灾。 图实例基本信息 Kafka支持磁盘加密吗? Kafka实例不支持磁盘加密。 Kafka实例创建后,能修改VPC和子网吗? 不能修改VPC和子网。 有没有Kafka Stream的案例? Kafka Stream的案例请参见Kafka Stream的官网。 Kafka实例版本可以升级吗? Kafka实例创建成功后,实例版本不支持升级。您可以重新创建Kafka实例,实现升级Kafka实例的版本。 实例版本在控制台和Kafka Manager上显示不一致? Kafka实例的版本以控制台为准。Kafka Manager使用了开源Kafka 2.2.0的公共信息配置,所以显示的版本是2.2.0,和购买的Kafka实例版本没有关系。 怎样重新绑定公网IP? 首先在分布式消息服务Kafka控制台,单击Kafka实例名称,进入实例详情页。在“基本信息”页面的“连接信息”区域,关闭“公网访问”,然后重新打开“公网访问”,并选择需要绑定的公网IP地址。
        来自:
        帮助文档
        分布式消息服务Kafka
        常见问题
        实例问题
      • 消息类问题
        消息超过老化时间,消息仍存在的原因 问题现象: 消息超过设置的老化时间(如果Topic已经设置了老化时间,此时“配置参数”中的log.retention.hours值将不对此Topic生效。仅在Topic中未设置老化时间时,“配置参数”中的log.retention.hours值才会对此Topic生效。),消息仍存在。 可能原因1: Topic的每个分区都是由多个大小相同的segment文件组成,每个segment文件的大小为500MB,当segment文件存储的消息大小到达500MB后,才会新建下一个segment文件。Kafka删除消息是删除segment文件,而不是删除一条消息。Kafka要求至少保留一个segment文件用来存储消息,如果正在使用的segment文件中包含超过老化时间的消息,由于此时segment文件不会被删除,所以超过老化时间的消息也不会被删除。 处理方法: 等待segment文件被使用完,或者删除超过老化时间的消息所在的Topic。 可能原因2: Topic中存在一条create time为未来时间的消息(例如当前时间为1月1日,create time设置成了2月1日),此消息在72小时后,并不会被老化,导致在此消息后创建的其他消息都不会被老化。 处理方法: 删除create time为未来时间的消息所在的Topic。 Kafka实例是否支持延迟消息? 不支持延迟消息。 如何查看堆积消息数? 通过以下任意一种方法,查看堆积消息数。 在Kafka控制台的“消费组管理”页面,单击待查看堆积消息的消费组名称,进入消费组详情页。在“消费进度”页签,查看消费组中每个Topic的总堆积数。具体步骤,请参考查询消费组信息。 在Kafka控制台的“监控”页面的“消费组”页签中,“消费组”选择待查看堆积消息数的消费组名称,“队列”选择“全部队列”,“消费组可消费消息数”表示此消费组中所有Topic的堆积消息数之和。查看监控数据的具体步骤,请参考查看监控数据。 在云监控页面的“消费组”页签中,“消费组”选择待查看堆积消息数的消费组名称,“队列”选择“全部队列”,“消费组可消费消息数”表示此消费组中所有Topic的堆积消息数之和。查看监控数据的具体步骤,请参考查看监控数据。 在Kafka客户端,在“/{命令行工具所在目录}/kafka{version}/bin/”目录下,通过 kafkaconsumergroups.sh bootstrapserver {kafka连接地址} describe group {消费组} 命令查看消费组中每个Topic的堆积消息数。“LAG”表示每个Topic的总堆积数。 图 查看每个Topic的总堆积数 说明 如果Kafka实例开启SASL认证,则以上命令还需要增加SASL认证的“consumer.properties”配置文件参数: commandconfig {SASL认证的consumer.properties配置文件} ,“consumer.properties”配置文件参考开启SASL认证的Kafka命令行连接说明。
        来自:
        帮助文档
        分布式消息服务Kafka
        常见问题
        消息类问题
      • GetSymlink(1)
        功能说明 GetSymlink获取软链接,得到版本号和链接所指向的对象名。如果软链接的当前版本为删除标记,服务端会返回404 Not Found。 请求消息样式 plaintext GET /{Bucket}/{Object}?symlink&versionIdxxx HTTP/1.1 Host: xxx.zos.ctyun.cn xzossymlinktarget: xxx xzosforbidoverwrite:xxx AcceptEncoding: identity XAmzContentSHA256: ContentSHA256 XAmzDate: 20250107T025728Z ContentLength: 0 Authorization: string 请求消息参数 参数名称 参数描述 类型 是否必须 Bucket 参数解释: Bucket的名称。 String 是 Object 参数解释: Object的名称。 String 是 versionId 参数解释: Object的指定版本。 String 否 请求消息头 该请求使用公共的请求消息头,请参见如何调用API构造请求请求消息头。 请求消息元素 请求消息中不带消息元素。 响应消息样式 plaintext HTTP/1.1 Status Code xamzrequestid: tx00000000000000000000400677c98181f09bbdefault ContentLength: 0 Date: Tue, 07 Jan 2025 02:57:28 GMT Connection: KeepAlive xzossymlinktarget: xxx 响应消息头 参数描述 参数描述 类型 xzossymlinktarget 参数解释: 软链接指向的目标文件。 String xamzversionid 参数解释: 指定对象的版本id。 String 响应消息元素 该请求的响应中不带有响应元素。
        来自:
      • 为什么发送给Topic的消息在分区中分布不均衡?
        本节介绍Kafka 发送给Topic的消息在分区中分布不均衡原因 问题现象 发送消息到某个Topic后,该Topic下部分分区消息比较多,部分分区消息少,甚至没有。 可能原因 发送消息时指定了分区,导致未指定的分区没有消息。 发送消息时指定了消息Key,按照对应的Key发送消息至对应的分区,导致分区消息不均衡。 通过代码重新实现了分区分配策略,但策略逻辑有问题,导致分区消息不均衡。
        来自:
        帮助文档
        分布式消息服务Kafka
        常见问题
        操作类
        为什么发送给Topic的消息在分区中分布不均衡?
      • 连接未开启SASL的Kafka专享实例
        目前提供Kafka专享版实例的服务,Kafka专享版实例采用物理隔离的方式部署,租户独占Kafka实例。创建Kafka专享版实例之后,使用开源Kafka客户端向Kafka专享版实例生产消息和消费消息。 本章节介绍如何使用开源的Kafka客户端访问未开启SASL的Kafka专享实例方法。 多语言客户端使用请参考Kafka官网: 说明:Kafka服务器允许客户端单IP连接的个数为200个,如果超过了,会出现连接失败问题。 前提条件 已配置正确的安全组。 访问未开启SASL的Kafka专享实例时,支持VPC内访问。实例需要配置正确的安全组规则,具体安全组配置要求,请参考下表。 已获取连接Kafka专享版实例的地址。 使用VPC内访问,实例端口为9092,实例连接地址获取如下图。 获取VPC内访问Kafka专享实例的连接地址(实例未开启SASL) Kafka专享实例已创建Topic,否则请提前创建Topic。 已下载Kafka命令行工具1.1.0版本或者Kafka命令行工具2.3.0版本,确保Kafka实例版本与命令行工具版本相同。 已在Kafka命令行工具的使用环境中安装Java Development Kit 1.8.111或以上版本,并完成环境变量配置。 命令行模式连接实例 以下操作命令以Linux系统为例进行说明: 解压Kafka命令行工具。 进入文件压缩包所在目录,然后执行以下命令解压文件。 tar zxf [kafkatar] 其中,[kafkatar]表示命令行工具的压缩包名称。 例如: tar zxf kafka2.111.1.0.tgz 进入Kafka命令行工具的“/bin”目录下。 注意,Windows系统下需要进入“/bin/windows”目录下。 执行如下命令进行生产消息。 ./kafkaconsoleproducer.sh brokerlist ${连接地址} topic ${Topic名称} 参数说明如下: 连接地址:从前提条件中获取的连接地址。 Topic名称:Kafka实例下创建的Topic名称。 以获取的Kafka实例连接地址为“10.3.196.45:9092,10.78.42.127:9092,10.4.49.103:9092”为例。执行完命令后输入内容,按“Enter”发送消息到Kafka实例,输入的每一行内容都将作为一条消息发送到Kafka实例。 [root@ecskafka bin]
        来自:
        帮助文档
        专属云分布式消息服务Kafka
        用户指南
        连接未开启SASL的Kafka专享实例
      • 安全认证原理和认证机制
        本章节主要介绍安全认证原理和认证机制。 功能 开启了 Kerberos认证的安全模式集群,进行应用开发时需要进行安全认证。 Kerberos这一名词来源于希腊神话“三个头的狗——地狱之门守护者”,后来沿用作为安全认证的概念,使用Kerberos的系统在设计上采用“客户端/服务器”结构与AES等加密技术,并且能够进行相互认证(即客户端和服务器端均可对对方进行身份认证)。可以用于防止窃听、防止replay攻击、保护数据完整性等场合,是一种应用对称密钥体制进行密钥管理的系统。 原理 Kerberos的原理架构和各模块的说明如下图所示: 原理架构 模块说明 App Client:应用客户端,通常是需要提交任务(或者作业)的应用程序。 App Server:应用服务端,通常是应用客户端需要访问的应用程序。 Key Distribution Center(KDC):提供安全认证的服务。 Database:存储Principal数据。 Authentication Server(AS):认证服务器,认证客户端身份,发放客户访问TGS的票据授权票据(TGT)。 Ticket Granting Server(TGS):票据授予服务器,发放应用客户端访问应用服务端所需的服务票据(ST)。 步骤原理说明 应用客户端(App Client)可以是集群内某个服务,也可以是客户二次开发的一个应用程序,应用程序可以向应用服务提交任务或者作业。 1. ASREQ:App Client在提交任务或者作业前,需要向AS申请TGT,用于建立和TGS的安全会话。 2. ASREP:AS在收到TGT请求后,会解析其中的参数来生成对应的TGT,使用App Client指定的用户名的密钥进行加密响应消息。 3. TGSREQ:App Client收到TGT响应消息后,解析获取TGT,此时,再由App Client(通常是RPC底层)向TGS获取应用服务端的ST。 4. TGSREP:TGS在收到ST请求后,校验其中的TGT合法后,生成对应的App Server的ST,再使用App Server密钥将响应消息进行加密处理。 5. APREQ:App Client收到ST响应消息后,将ST打包到发给App Server的消息里面传输给对应的App Server。 6. APREP:App Server端收到请求后,使用App Server对应的密钥解析其中的ST,并校验成功后,本次请求合法通过。 说明 1. Kerberos认证时需要配置Kerberos认证所需要的文件参数,主要包含keytab路径,Kerberos认证的principal,Kerberos认证所需要的客户端配置krb5.conf文件。 2. 方法login()为调用的UserGroupInformation的方法执行Kerberos认证,生成TGT票据。 3. 方法doSth()调用hadoop的接口访问文件系统,此时底层RPC会自动携带TGT去Kerberos认证,生成ST票据。
        来自:
        帮助文档
        翼MapReduce
        用户指南
        安全性说明
        安全认证原理和认证机制
      • 自建Apache Kafka事件目标
        您可以通过事件规则过滤事件,将事件路由到自建Apache Kafka服务。本文以自定义事件为例介绍将事件路由到自建Apache Kafka的前提条件、操作步骤和结果验证。 前提条件 开通事件总线EventBridge并委托授权 创建自定义总线服务 操作步骤 1. 登录事件总线EventBridge控制台,在左侧导航栏,单击事件总线。 2. 选择目标总线,在左侧导航栏,单击事件规则,然后单击添加事件规则。 3. 在添加事件规则页面,完成以下操作。 1. 在配置基本信息配置向导,在名称文本框输入规则名称,在描述文本框输入规则的描述,然后单击下一步。 2. 在配置事件模式配置向导,选择匹配全部事件,然后单击下一步。 3. 在配置事件目标 配置向导,配置事件目标,事件目标服务类型选择自建Apache Kafka,目标参数描述如下,然后单击创建。 参数说明 参数 说明 示例 接入点 Apache Kafka集群broker接入点,由IP与端口号拼接而成,以逗号分隔。 172.17.0.25:9092,192.17.0.26:9092,172.17.0.27:9092 Topic topic名称。 topic1 网络配置 根据业务场景选择对应配置。 专有网络 公网网络 专有网络 VPC 网络配置选择专有网络时必填,选择集群所在的VPC。 vpc 子网 网络配置选择专有网络时必填,选择集群所在的子网。 subnet 认证模式 选择认证模式。 PLAINTEXT SASLPLAINTEXT 用户名:填写SASL用户名 密码:填写SASL密码 SASL鉴权方式:可选PLAIN和SCRAMSHA512 PLAINTEXT 消息体 选择消息体(Body)的内容,更多信息请参考事件内容转换。 完整事件 消息键值 选择消息键值(Key)的内容,更多信息请参考事件内容转换。 空
        来自:
        帮助文档
        事件总线
        用户指南
        事件总线
        事件规则
        事件目标
        目标服务类型
        自建Apache Kafka事件目标
      • 按需转包周期
        本节适用于南京3、重庆2、晋中、上海7、北京5、内蒙6、石家庄20节点。 场景描述 RocketMQ的按需转包周期的场景描述如下: 在使用RocketMQ时,可能会遇到需要设置按需转包周期的场景,例如: 消息积压处理:当RocketMQ中的消息积压较多时,可能会导致消息的消费速度跟不上消息的生产速度,进而影响系统的性能和稳定性。为了解决这个问题,可以设置按需转包周期,即将一定数量的消息打包成一个批次进行消费,以提高消费的效率和吞吐量。 业务流量波动:在某些业务场景下,业务流量可能会出现波动,即某个时间段内的消息产生速度较快,而另一个时间段内的消息产生速度较慢。为了更好地适应业务流量的波动,可以设置按需转包周期,以根据实际的消息产生情况进行灵活的批量消费。 系统资源优化:当RocketMQ的消费者资源有限时,可以通过设置按需转包周期来优化系统的资源利用。通过将一定数量的消息打包成一个批次进行消费,可以减少消费者的竞争和上下文切换,提高系统的并发处理能力。 消息处理延迟优化:在某些场景下,对消息的实时性要求较低,可以通过设置按需转包周期来优化消息的处理延迟。将一定数量的消息打包成一个批次进行消费,可以减少消息的处理次数,从而降低消息的处理延迟。 需要注意的是,在设置按需转包周期时,应根据实际业务需求和系统情况进行调整。同时,应考虑消息的重要性、消费者的处理能力、系统的资源限制等因素,以确保系统的稳定性和性能。
        来自:
        帮助文档
        分布式消息服务RocketMQ
        用户指南
        实例管理
        按需转包周期
      • 默认插件
        本文介绍天翼云云搜索服务OpenSearch实例系统默认插件支持情况。 系统默认插件为天翼云云搜索服务预置的插件,不支持卸载。 默认预设的插件列表功能版本如下: OpenSearch 2.19.1 插件名 描述 版本 analysishanlp 优化过的HanLP中文分词插件 2.19.1.0 flowcontrol 自研流量控制插件,可进行流控管控、限流等 2.19.1.0 opensearchanalisyspinyin 拼音分词插件 2.19.1.0 opensearchanalisysstconvert STConvert插件,支持中文简体和中文繁体相互转换 2.19.1.0 opensearchanalysisik ik中文分词插件,支持自定义词典 2.19.1.0 opensearchasynchronoussearch 异步搜索插件 2.19.1.0 opensearchcrossclusterreplication 跨集群复制插件 2.19.1.0 opensearchgeospatial geospatial插件 2.19.1.0 opensearchindexmanagement 索引管理插件 2.19.1.0 opensearchjobscheduler 任务调度插件 2.19.1.0 opensearchknn 向量检索引擎插件,可支撑图像搜索、语音识别和商品推荐等向量检索场景的需求 2.19.1.0 opensearchnotifications 消息通知插件 2.19.1.0 opensearchnotificationscore 消息通知core插件 2.19.1.0 opensearchsecurity 安全插件 2.19.1.0 opensearchsql sql查询插件 2.19.1.0 prometheusexporter Opensearch的prometheus exporter插件 2.19.1.0 repositoryhdfs Hadoop分布式文件系统HDFS(Hadoop Distributed File System)存储库插件,提供了对HDFS存储库的支持 2.19.1.0 repositorys3 支持将数据存入天翼云对象存储ZOS的插件 2.19.1.0 ingestattachement 支持多格式文件的全文检索插件 2.19.1.0 opensearchreportsscheduler 报告生成插件 2.19.1.0 opensearchalerting 告警管理插件 2.19.1.0 opensearchanomalydetection 基于机器学习的时序数据异常模式识别插件 2.19.1.0 opensearchcustomcodecs 自定义编码器插件,支持zstd压缩算法 2.19.1.0 opensearchflowframework 可视化数据管道编排插件 2.19.1.0 opensearchltr 基于机器学习的搜索相关度排序插件 2.19.1.0 opensearchml 机器学习插件 2.19.1.0 opensearchneuralsearch 基于神经网络的语义检索插件 2.19.1.0 opensearchobservability 全栈监控工具插件 2.19.1.0 opensearchperformanceanalyzer 性能分析插件 2.19.1.0 opensearchskills 提供机器学习agent框架工具 2.19.1.0 opensearchsystemtemplates 系统模板仓库插件 2.19.1.0 analysisicu 提供 ICU(International Components for Unicode) 支持的分词和字符归一化功能,尤其适合多语言处理 2.19.1.0 analysiskuromoji 日语分词器插件 2.19.1.0 analysisnori 韩语分词器插件 2.19.1.0 OpenSearch 3.5.0 插件名 描述 版本 analysisicu 提供ICU(International Components for Unicode)支持的分词和字符归一化功能,尤其适合多语言处理 3.5.0 analysisik ik中文分词插件,支持自定义词典 3.5.0 analysispinyin 拼音分词插件 3.5.0 opensearchalerting 告警管理插件 3.5.0.0 opensearchanomalydetection 基于机器学习的时序数据异常模式识别插件 3.5.0.0 opensearchasynchronoussearch 异步搜索插件 3.5.0.0 opensearchcrossclusterreplication 跨集群复制插件 3.5.0.0 opensearchcustomcodecs 自定义编码器插件,支持zstd压缩算法 3.5.0.0 opensearchflowframework 可视化数据管道编排插件 3.5.0.0 opensearchgeospatial geospatial插件 3.5.0.0 opensearchindexmanagement 索引管理插件 3.5.0.0 opensearchjobscheduler 任务调度插件 3.5.0.0 opensearchknn 向量检索引擎插件,可支撑图像搜索、语音识别和商品推荐等向量检索场景的需求 3.5.0.0 opensearchltr 基于机器学习的搜索相关度排序插件 3.5.0.0 opensearchml 机器学习插件 3.5.0.0 opensearchneuralsearch 基于神经网络的语义检索插件 3.5.0.0 opensearchnotifications 消息通知插件 3.5.0.0 opensearchnotificationscore 消息通知core插件 3.5.0.0 opensearchobservability 全栈监控工具插件 3.5.0.0 opensearchperformanceanalyzer 性能分析插件 3.5.0.0 opensearchreportsscheduler 报告生成插件 3.5.0.0 opensearchsearchrelevance 评估、比对和微调搜索结果的准确度插件 3.5.0.0 opensearchsecurity 安全插件 3.5.0.0 opensearchsecurityanalytics 安全分析/SIEM插件 3.5.0.0 opensearchskills 提供机器学习agent框架工具插件 3.5.0.0 opensearchsql sql查询插件 3.5.0.0 opensearchsystemtemplates 系统模板仓库插件 3.5.0.0 opensearchubi 收集和存储用户在客户端的真实搜索行为插件 3.5.0.0 prometheusexporter Opensearch的prometheus exporter插件 3.5.0.0 queryinsights 查询洞察插件 3.5.0.0 repositorys3 支持将数据存入天翼云对象存储ZOS的插件 3.5.0
        来自:
        帮助文档
        云搜索服务
        用户指南
        OpenSearch实例创建及使用
        插件管理
        默认插件
      • 批量修改Topic配置
        参数名称 说明 分区数 Topic的分区数。 老化时间 消息的最长保留时间。 副本数 Topic每个分区的副本数量。 同步复制 后端收到生产消息请求并复制给所有副本后,才返回客户端。 同步落盘 开启:生产的每条消息都会立即写入磁盘,可靠性更高。 关闭:生产的消息存在内存中,不会立即写入磁盘。 消息时间戳类型 定义消息中的时间戳类型,取值如下: CreateTime:生产者创建消息的时间。 LogAppendTime:broker将消息写入日志的时间。 批处理消息最大值 Kafka允许的最大批处理大小,如果启用消息压缩,则表示压缩后的最大批处理大小。 如果增加“批处理消息最大值”的值,且存在消费者版本早于0.10.2,此时消费者的“fetch size”值也必须增加,以便消费者可以获取增加后的批处理大小。 描述 Topic的描述信息。
        来自:
        帮助文档
        分布式消息服务Kafka
        用户指南
        Topic管理
        批量修改Topic配置
      • 创建应用用户
        本节主要介绍分布式消息服务Kafka如何创建应用用户 场景描述 用户:主要用于规定生产消费指定加密主题的策略而需要,例如规定用户A可生产消费加密Topic1,用户B可生产消费加密Topic2,用户C可生产消费加密Topic1、Topic2,则需要为这三个用户创建用户,并分配加密主题权限。 操作步骤 (1)登录管理控制台。 (2)进入Kafka管理控制台。 (3)在实例列表页在操作列,目标实例行点击“管理”。 (4)点击“用户管理”后进入用户管理页面,点击新建用户。 (5)在 新建用户的窗口中填入集群名、用户、密码、描述,然后保存。 批量创建用户 (1)登录管理控制台。 (2)进入Kafka管理控制台。 (3)在实例列表页在操作列,目标实例行点击“管理”。 (4)点击“用户管理”后进入应用用户管理页面。 (5)点击“批量创建用户”后,出现如下上传文件界面,文件格式件批量下载说明。 (6)点击“上传”完成批量创建。 下载批量创建用户模板 (1)登录管理控制台。 (2)进入Kafka管理控制台。 (3)在实例列表页在操作列,目标实例行点击“管理”。 (4)点击“用户管理”后进入用户管理页面。 (5)点击“下载模板”右侧下拉倒三角“下载模板”,内容如下图。 (6)参数说明。 参数 说明 username 用户名 password 密码 description 备注或描述
        来自:
        帮助文档
        分布式消息服务Kafka
        用户指南
        用户管理
        创建应用用户
      • 产品类
        顺序消息和普通消息的区别是什么 最大的区别在于是否能保证消息生产和消费的顺序一致。 对于顺序消息,消息均根据ShardingKey进行区块分区,同一分区内的消息消费满足先进先出,保证分区有序,不同分区的消息消费顺序不做要求。 普通消息则没有该项保证,消息消费的顺序跟生产的顺序不一定保证一致性。 RocketMQ集群消费和广播消费区别是什么 使用集群消费模式时,MQ内任意一条消息只需被订阅组集群内的任意一个消费者消费即可。 使用广播消费模式时,MQ内每条消息都会投递到订阅组集群的所有消费者,每条消息至少被每个消费者消费一次。 多个订阅组订阅同一个主题时消息如何被消费 RocketMQ中订阅关系并非是一对一的,一个主题可以被一个或多个订阅组订阅,但不同订阅组之间的消费是互不影响的,它们各自维护自己在当前主题的消费偏移信息,每一条消息都会被订阅该主题的订阅组接收到。 消息消费失败是否会有重试机制 在push消费模式下,RocketMQ在消费者消费消息失败后会通过将消息重新投递到该订阅组的重试队列在一定时间后会被消费者重新消费到,如果多次失败则会多次重复上述的重试过程,超过最大次数之后(创建订阅组时可配置)会将消息投递到死信队列。
        来自:
        帮助文档
        分布式消息服务RocketMQ
        常见问题
        产品类
      • 可观测性
        本文介绍可观测性相关操作。 容器引擎服务目前提供了总体资源的基础监控能力。用户可通过点击控制导航栏处的【总览】,进入总览界面,查看汇总的资源信息。也可单独查看各个应用、容器的相关信息。 操作步骤 总览界面查看使用CCE的相关信息,需首先选择当前集群,将展现选择集群的以下信息: 节点、应用、容器组、服务、ingress的数量统计数量; 监控管理:提供集群监控信息,包括网络速率,及磁盘、cpu、内存类型的资源利用率; 组件状态监控:提供API server、Controller Managers、Scheduler组件状态监控; 用户也可以通过点击【资源管理】>【集群管理】等入口,获得各应用状态及监控信息,同时可查看集群及容器日志: 监控:无状态应用及容器组运行情况,包括正常与异常两种状态; 应用资源使用量监控:记录当前的资源使用量,包括CPU使用量、内存使用量; 应用事件:记录应用事件,包括发生次数、事件、类型、消息内容等; 容器组日志:提供容器内部的日志信息; 容器事件:记录容器事件,包括发生次数、事件、类型、消息内容等; 集群日志:提供集群创建过程中的日志信息; 集群监控:提供cpu、内存、磁盘使用率指标及网络上下行速率监控指标查看; 节点监控:提供cpu、内存、磁盘使用率指标及网络上下行速率监控指标查看; 节点事件:记录容器事件,包括发生次数、事件、类型、消息内容等。
        来自:
        帮助文档
        云容器引擎(旧版)
        用户指南
        可观测性
      • DMS for RocketMQ自定义策略
        本章节介绍了如何创建自定义的授权策略。 如果系统预置的DMS for RocketMQ权限,不满足您的授权要求,可以创建自定义策略。自定义策略中可以添加的授权项(Action)请参考细粒度策略支持的授权项。 目前天翼云支持以下两种方式创建自定义策略: 可视化视图创建自定义策略:无需了解策略语法,按可视化视图导航栏选择云服务、操作、资源、条件等策略内容,可自动生成策略。 JSON视图创建自定义策略:可以在选择策略模板后,根据具体需求编辑策略内容;也可以直接在编辑框内编写JSON格式的策略内容。 具体创建步骤请参见:创建自定义策略。本章为您介绍常用的DMS for RocketMQ自定义策略样例。 说明:DMS for RocketMQ的权限与策略基于分布式消息服务DMS,因此在IAM服务中为DMS for RocketMQ分配用户与权限时,请选择并使用“DMS”的权限与策略。 DMS for RocketMQ自定义策略样例 示例1:授权用户删除实例和重启实例 { "Version": "1.1", "Statement": [ { "Effect": "Allow", "Action": [ " dms:instance:delete dms:instance:modifyStatus " ] } ] } 示例2:拒绝用户删除实例 拒绝策略需要同时配合其他策略使用,否则没有实际作用。用户被授予的策略中,一个授权项的作用如果同时存在Allow和Deny,则遵循Deny优先。 如果您给用户授予DMS FullAccess的系统策略,但不希望用户拥有DMS FullAccess中定义的删除实例权限,您可以创建一条拒绝删除实例的自定义策略,然后同时将DMS FullAccess和拒绝策略授予用户,根据Deny优先原则,则用户可以对DMS for RocketMQ执行除了删除实例外的所有操作。拒绝策略示例如下: { "Version": "1.1", "Statement": [ { "Effect": "Deny", "Action": [ "dms:instance:delete" ] } ] }
        来自:
        帮助文档
        分布式消息服务RocketMQ
        用户指南
        权限管理
        DMS for RocketMQ自定义策略
      • GetSymlink
        功能说明 GetSymlink获取软链接,得到版本号和链接所指向的对象名。如果软链接的当前版本为删除标记,服务端会返回404 Not Found。 请求消息样式 plaintext GET /{Bucket}/{Object}?symlink&versionIdxxx HTTP/1.1 Host: xxx.zos.ctyun.cn xzossymlinktarget: xxx xzosforbidoverwrite:xxx AcceptEncoding: identity xamzcontentsha256: ContentSHA256 xamzdate: 20250107T025728Z ContentLength: 0 Authorization: string 请求消息参数 参数名称 参数描述 类型 是否必须 Bucket 参数解释: Bucket的名称。 String 是 Object 参数解释: Object的名称。 String 是 versionId 参数解释: Object的指定版本。 String 否 请求消息头 该请求使用公共的请求消息头,请参见如何调用API构造请求请求消息头。 请求消息元素 请求消息中不带消息元素。 响应消息样式 plaintext HTTP/1.1 Status Code xamzrequestid: tx00000000000000000000400677c98181f09bbdefault ContentLength: 0 Date: Tue, 07 Jan 2025 02:57:28 GMT Connection: KeepAlive xzossymlinktarget: xxx 响应消息头 参数描述 参数描述 类型 xzossymlinktarget 参数解释: 软链接指向的目标文件。 String xamzversionid 参数解释: 指定对象的版本id。 String 响应消息元素 该请求的响应中不带有响应元素。
        来自:
        帮助文档
        对象存储 ZOS
        API参考
        API(原生接口)
        Object操作
        GetSymlink
      • 云监控服务相关概念
        云监控服务相关概念 使用云监控服务之前,请先了解一下相关概念,从而可以更好的使用云监控服务。 监控指标 监控指标是云监控服务的核心概念,通常是指云平台上某个资源的某个维度状态的量化值,如云主机的CPU使用率、内存使用率等。监控指标是与时间有关的变量值,会随着时间的变化产生一系列监控数据,帮助用户了解特定时间内该监控指标的变化。 聚合 聚合是云监控服务在特定周期内对各服务上报的原始采样数据采取平均值、最大值、最小值、求和值、方差值计算的过程。这个计算的周期又叫做聚合周期,目前云监控服务支持5分钟、20分钟、1小时、4小时、24小时共五种聚合周期。 监控面板 监控面板为用户提供自定义查看监控数据的功能,支持在一个监控面板跨服务、跨维度查看监控数据,将您关注的重点服务监控指标集中呈现,既能满足总览服务运行概况,又能满足排查故障时快速查看监控详情的需求。 主题 主题是设置告警通知是客户端订阅通知的特定事件类型,为用户提供一对多的发布订阅以及消息通知功能,支持用户实现一站式多种消息通知方式。云监控服务在监控到云服务资源发生变化时,可通过多种方式通知用户,让用户实时掌握云服务的运行状况。
        来自:
        帮助文档
        云监控服务
        产品简介
        云监控服务相关概念
      • RocketMqConsumer监控
        指标类别 指标 指标名称 指标说明 单位 数据类型 默认聚合方式 异常(exception,RocketMqConsumer调用的异常信息统计。) exceptionType 异常类型 异常类型 ENUM LAST 异常(exception,RocketMqConsumer调用的异常信息统计。) causeType 异常类 发生异常的类 ENUM LAST 异常(exception,RocketMqConsumer调用的异常信息统计。) count 次数 该异常的发生次数 INT SUM 异常(exception,RocketMqConsumer调用的异常信息统计。) message 异常消息 该异常产生的异常消息 STRING LAST 异常(exception,RocketMqConsumer调用的异常信息统计。) stackTrace 异常堆栈 该异常产生的堆栈信息 CLOB LAST 消费池监控(consumeServicePool ,消费池监控采集器。) clientId clientId 客户端实例标识 ENUM LAST 消费池监控(consumeServicePool ,消费池监控采集器。) group consumerGroup 消费者组 ENUM LAST 消费池监控(consumeServicePool ,消费池监控采集器。) pid pid pid STRING LAST 消费池监控(consumeServicePool ,消费池监控采集器。) currentConsumeRequestQueueSize 当前消费请求队列长度 当前消费请求队列长度 INT AVG 消费池监控(consumeServicePool ,消费池监控采集器。) maxConsumeRequestQueueSize 最大消费请求队列长度 最大消费请求队列长度 INT MAX 消费池监控(consumeServicePool ,消费池监控采集器。) currentConsumingThreadCount 当前消费线程数 当前消费线程数 INT AVG 消费池监控(consumeServicePool ,消费池监控采集器。) maxConsumingPoolSize 最大消费线程数 最大消费线程数 INT MAX MessageListener监控(consumeListener,以MessageListener为维度统计消息消费详情。) consumeListener MessageListener 注册的MessageListener,为消费消息的回调函数 ENUM LAST MessageListener监控(consumeListener,以MessageListener为维度统计消息消费详情。) concurrentMax 最大并发 消费消息最大并发 INT MAX MessageListener监控(consumeListener,以MessageListener为维度统计消息消费详情。) errorCount 错误次数 消费消息的错误次数 INT SUM MessageListener监控(consumeListener,以MessageListener为维度统计消息消费详情。) errorTraceId 错误traceId 采集周期内发生错误的调用链对应的traceid STRING LAST MessageListener监控(consumeListener,以MessageListener为维度统计消息消费详情。) invokeCount invokeCount Consume调用次数 INT SUM MessageListener监控(consumeListener,以MessageListener为维度统计消息消费详情。) consumedMsgCount 消费消息数 消费消息数 INT SUM MessageListener监控(consumeListener,以MessageListener为维度统计消息消费详情。) consumedBytes 消费字节数 消费字节数 INT SUM MessageListener监控(consumeListener,以MessageListener为维度统计消息消费详情。) reconsumeTimes 消息重投次数 消息重投次数 INT SUM MessageListener监控(consumeListener,以MessageListener为维度统计消息消费详情。) lastError 错误信息 消费消息发生错误产生的错误信息 STRING LAST MessageListener监控(consumeListener,以MessageListener为维度统计消息消费详情。) maxTime 最大响应时间 消费消息的最大响应时间 INT MAX MessageListener监控(consumeListener,以MessageListener为维度统计消息消费详情。) runningCount 正在执行数 采集时间点正在执行的消费消息数量 INT SUM MessageListener监控(consumeListener,以MessageListener为维度统计消息消费详情。) slowTraceId 慢traceId 采集周期内最慢的调用链对应的traceid STRING LAST MessageListener监控(consumeListener,以MessageListener为维度统计消息消费详情。) totalTime 总响应时间 消费消息的总响应时间 INT SUM MessageListener监控(consumeListener,以MessageListener为维度统计消息消费详情。) range1 010ms 响应时间在010ms范围请求数 INT SUM MessageListener监控(consumeListener,以MessageListener为维度统计消息消费详情。) range2 10100ms 响应时间在10100ms范围请求数 INT SUM MessageListener监控(consumeListener,以MessageListener为维度统计消息消费详情。) range3 100200ms 响应时间在100200ms范围请求数 INT SUM MessageListener监控(consumeListener,以MessageListener为维度统计消息消费详情。) range4 2001000ms 响应时间在2001000ms范围请求数 INT SUM MessageListener监控(consumeListener,以MessageListener为维度统计消息消费详情。) range5 110s 响应时间在110s范围请求数 INT SUM MessageListener监控(consumeListener,以MessageListener为维度统计消息消费详情。) range6 10s以上 响应时间在10s以上请求数 INT SUM clientId监控(clientIdConsume,以clientId为维度统计消息消费详情。) clientId clientId 客户端实例标识 ENUM LAST clientId监控(clientIdConsume,以clientId为维度统计消息消费详情。) group 消费者组 消费者组 ENUM LAST clientId监控(clientIdConsume,以clientId为维度统计消息消费详情。) pid pid pid STRING LAST clientId监控(clientIdConsume,以clientId为维度统计消息消费详情。) concurrentMax 最大并发 消费消息最大并发 INT MAX clientId监控(clientIdConsume,以clientId为维度统计消息消费详情。) errorCount 错误次数 消费消息的错误次数 INT SUM clientId监控(clientIdConsume,以clientId为维度统计消息消费详情。) errorTraceId 错误traceId 采集周期内发生错误的调用链对应的traceid STRING LAST clientId监控(clientIdConsume,以clientId为维度统计消息消费详情。) invokeCount invokeCount Consume调用次数 INT SUM clientId监控(clientIdConsume,以clientId为维度统计消息消费详情。) consumedMsgCount 消费消息数 消费消息数 INT SUM clientId监控(clientIdConsume,以clientId为维度统计消息消费详情。) consumedBytes 消费字节数 消费字节数 INT SUM clientId监控(clientIdConsume,以clientId为维度统计消息消费详情。) reconsumeTimes 消息重投次数 消息重投次数 INT SUM clientId监控(clientIdConsume,以clientId为维度统计消息消费详情。) lastError 错误信息 消费消息发生错误产生的错误信息 STRING LAST clientId监控(clientIdConsume,以clientId为维度统计消息消费详情。) maxTime 最大响应时间 消费消息的最大响应时间 INT MAX clientId监控(clientIdConsume,以clientId为维度统计消息消费详情。) runningCount 正在执行数 采集时间点正在执行的消费消息数量 INT SUM clientId监控(clientIdConsume,以clientId为维度统计消息消费详情。) slowTraceId 慢traceId 采集周期内最慢的调用链对应的traceid STRING LAST clientId监控(clientIdConsume,以clientId为维度统计消息消费详情。) totalTime 总响应时间 消费消息的总响应时间 INT SUM clientId监控(clientIdConsume,以clientId为维度统计消息消费详情。) range1 010ms 响应时间在010ms范围请求数 INT SUM clientId监控(clientIdConsume,以clientId为维度统计消息消费详情。) range2 10100ms 响应时间在10100ms范围请求数 INT SUM clientId监控(clientIdConsume,以clientId为维度统计消息消费详情。) range3 100200ms 响应时间在100200ms范围请求数 INT SUM clientId监控(clientIdConsume,以clientId为维度统计消息消费详情。) range4 2001000ms 响应时间在2001000ms范围请求数 INT SUM clientId监控(clientIdConsume,以clientId为维度统计消息消费详情。) range5 110s 响应时间在110s范围请求数 INT SUM clientId监控(clientIdConsume,以clientId为维度统计消息消费详情。) range6 10s以上 响应时间在10s以上请求数 INT SUM topic监控(topicConsume,以topic为维度统计消息消费详情。) clientId clientId 客户端实例标识 ENUM LAST topic监控(topicConsume,以topic为维度统计消息消费详情。) group 消费者组 消费者组 ENUM LAST topic监控(topicConsume,以topic为维度统计消息消费详情。) pid pid pid STRING LAST topic监控(topicConsume,以topic为维度统计消息消费详情。) topic 主题 消息消费的主题 ENUM LAST topic监控(topicConsume,以topic为维度统计消息消费详情。) concurrentMax 最大并发 消费消息最大并发 INT MAX topic监控(topicConsume,以topic为维度统计消息消费详情。) errorCount 错误次数 消费消息的错误次数 INT SUM topic监控(topicConsume,以topic为维度统计消息消费详情。) errorTraceId 错误traceId 采集周期内发生错误的调用链对应的traceid STRING LAST topic监控(topicConsume,以topic为维度统计消息消费详情。) invokeCount invokeCount Consume调用次数 INT SUM topic监控(topicConsume,以topic为维度统计消息消费详情。) consumedMsgCount 消费消息数 消费消息数 INT SUM topic监控(topicConsume,以topic为维度统计消息消费详情。) consumedBytes 消费字节数 消费字节数 INT SUM topic监控(topicConsume,以topic为维度统计消息消费详情。) reconsumeTimes 消息重投次数 消息重投次数 INT SUM topic监控(topicConsume,以topic为维度统计消息消费详情。) lastError 错误信息 消费消息发生错误产生的错误信息 STRING LAST topic监控(topicConsume,以topic为维度统计消息消费详情。) maxTime 最大响应时间 消费消息的最大响应时间 INT MAX topic监控(topicConsume,以topic为维度统计消息消费详情。) runningCount 正在执行数 采集时间点正在执行的消费消息数量 INT SUM topic监控(topicConsume,以topic为维度统计消息消费详情。) slowTraceId 慢traceId 采集周期内最慢的调用链对应的traceid STRING LAST topic监控(topicConsume,以topic为维度统计消息消费详情。) totalTime 总响应时间 消费消息的总响应时间 INT SUM topic监控(topicConsume,以topic为维度统计消息消费详情。) range1 010ms 响应时间在010ms范围请求数 INT SUM topic监控(topicConsume,以topic为维度统计消息消费详情。) range2 10100ms 响应时间在10100ms范围请求数 INT SUM topic监控(topicConsume,以topic为维度统计消息消费详情。) range3 100200ms 响应时间在100200ms范围请求数 INT SUM topic监控(topicConsume,以topic为维度统计消息消费详情。) range4 2001000ms 响应时间在2001000ms范围请求数 INT SUM topic监控(topicConsume,以topic为维度统计消息消费详情。) range5 110s 响应时间在110s范围请求数 INT SUM topic监控(topicConsume,以topic为维度统计消息消费详情。) range6 10s以上 响应时间在10s以上请求数 INT SUM queue监控(queueConsume,以queue为维度统计消息消费详情。) clientId clientId 客户端实例标识 ENUM LAST queue监控(queueConsume,以queue为维度统计消息消费详情。) group 消费者组 消费者组 ENUM LAST queue监控(queueConsume,以queue为维度统计消息消费详情。) queue 消息队列 消息队列标识 ENUM LAST queue监控(queueConsume,以queue为维度统计消息消费详情。) pid pid pid STRING LAST queue监控(queueConsume,以queue为维度统计消息消费详情。) concurrentMax 最大并发 消费消息最大并发 INT MAX queue监控(queueConsume,以queue为维度统计消息消费详情。) errorCount 错误次数 消费消息的错误次数 INT SUM queue监控(queueConsume,以queue为维度统计消息消费详情。) errorTraceId 错误traceId 采集周期内发生错误的调用链对应的traceid STRING LAST queue监控(queueConsume,以queue为维度统计消息消费详情。) invokeCount invokeCount Consume调用次数 INT SUM queue监控(queueConsume,以queue为维度统计消息消费详情。) consumedMsgCount 消费消息数 消费消息数 INT SUM queue监控(queueConsume,以queue为维度统计消息消费详情。) consumedBytes 消费字节数 消费字节数 INT SUM queue监控(queueConsume,以queue为维度统计消息消费详情。) reconsumeTimes 消息重投次数 消息重投次数 INT SUM queue监控(queueConsume,以queue为维度统计消息消费详情。) lastError 错误信息 消费消息发生错误产生的错误信息 STRING LAST queue监控(queueConsume,以queue为维度统计消息消费详情。) maxTime 最大响应时间 消费消息的最大响应时间 INT MAX queue监控(queueConsume,以queue为维度统计消息消费详情。) runningCount 正在执行数 采集时间点正在执行的拉取消息数量 INT SUM queue监控(queueConsume,以queue为维度统计消息消费详情。) slowTraceId 慢traceId 采集周期内最慢的调用链对应的traceid STRING LAST queue监控(queueConsume,以queue为维度统计消息消费详情。) totalTime 总响应时间 拉取消息的总响应时间 INT SUM queue监控(queueConsume,以queue为维度统计消息消费详情。) range1 010ms 响应时间在010ms范围请求数 INT SUM queue监控(queueConsume,以queue为维度统计消息消费详情。) range2 10100ms 响应时间在10100ms范围请求数 INT SUM queue监控(queueConsume,以queue为维度统计消息消费详情。) range3 100200ms 响应时间在100200ms范围请求数 INT SUM queue监控(queueConsume,以queue为维度统计消息消费详情。) range4 2001000ms 响应时间在2001000ms范围请求数 INT SUM queue监控(queueConsume,以queue为维度统计消息消费详情。) range5 110s 响应时间在110s范围请求数 INT SUM queue监控(queueConsume,以queue为维度统计消息消费详情。) range6 10s以上 响应时间在10s以上请求数 INT SUM clientId监控(clientIdPull,以clientId为维度统计消息拉取详情。) clientId clientId 客户端实例标识 ENUM LAST clientId监控(clientIdPull,以clientId为维度统计消息拉取详情。) group 消费者组 消费者组 ENUM LAST clientId监控(clientIdPull,以clientId为维度统计消息拉取详情。) pid pid pid STRING LAST clientId监控(clientIdPull,以clientId为维度统计消息拉取详情。) concurrentMax 最大并发 拉取消息最大并发 INT MAX clientId监控(clientIdPull,以clientId为维度统计消息拉取详情。) errorCount 错误次数 拉取消息的错误次数 INT SUM clientId监控(clientIdPull,以clientId为维度统计消息拉取详情。) errorTraceId 错误traceId 采集周期内发生错误的调用链对应的traceid STRING LAST clientId监控(clientIdPull,以clientId为维度统计消息拉取详情。) invokeCount invokeCount Pull调用次数 INT SUM clientId监控(clientIdPull,以clientId为维度统计消息拉取详情。) pulledMsgCount 拉取消息数 拉取消息数 INT SUM clientId监控(clientIdPull,以clientId为维度统计消息拉取详情。) pulledBytes 拉取字节数 拉取字节数 INT SUM clientId监控(clientIdPull,以clientId为维度统计消息拉取详情。) lastError 错误信息 拉取消息发生错误产生的错误信息 STRING LAST clientId监控(clientIdPull,以clientId为维度统计消息拉取详情。) maxTime 最大响应时间 拉取消息的最大响应时间 INT MAX clientId监控(clientIdPull,以clientId为维度统计消息拉取详情。) runningCount 正在执行数 采集时间点正在执行的拉取消息数量 INT SUM clientId监控(clientIdPull,以clientId为维度统计消息拉取详情。) slowTraceId 慢traceId 采集周期内最慢的调用链对应的traceid STRING LAST clientId监控(clientIdPull,以clientId为维度统计消息拉取详情。) totalTime 总响应时间 拉取消息的总响应时间 INT SUM clientId监控(clientIdPull,以clientId为维度统计消息拉取详情。) range1 010ms 响应时间在010ms范围请求数 INT SUM clientId监控(clientIdPull,以clientId为维度统计消息拉取详情。) range2 10100ms 响应时间在10100ms范围请求数 INT SUM clientId监控(clientIdPull,以clientId为维度统计消息拉取详情。) range3 100200ms 响应时间在100200ms范围请求数 INT SUM clientId监控(clientIdPull,以clientId为维度统计消息拉取详情。) range4 2001000ms 响应时间在2001000ms范围请求数 INT SUM clientId监控(clientIdPull,以clientId为维度统计消息拉取详情。) range5 110s 响应时间在110s范围请求数 INT SUM clientId监控(clientIdPull,以clientId为维度统计消息拉取详情。) range6 10s以上 响应时间在10s以上请求数 INT SUM clientId监控(clientIdPull,以clientId为维度统计消息拉取详情。) range5 110s 响应时间在110s范围请求数 INT SUM clientId监控(clientIdPull,以clientId为维度统计消息拉取详情。) range6 10s以上 响应时间在10s以上请求数 INT SUM topic监控(topicPull,以topic为维度统计消息拉取详情。) clientId clientId 客户端实例标识 ENUM LAST topic监控(topicPull,以topic为维度统计消息拉取详情。) group 消费者组 消费者组 ENUM LAST topic监控(topicPull,以topic为维度统计消息拉取详情。) topic 主题 消息拉取的主题 ENUM LAST topic监控(topicPull,以topic为维度统计消息拉取详情。) pid pid pid STRING LAST topic监控(topicPull,以topic为维度统计消息拉取详情。) concurrentMax 最大并发 拉取消息最大并发 INT MAX topic监控(topicPull,以topic为维度统计消息拉取详情。) errorCount 错误次数 拉取消息的错误次数 INT SUM topic监控(topicPull,以topic为维度统计消息拉取详情。) errorTraceId 错误traceId 采集周期内发生错误的调用链对应的traceid STRING LAST topic监控(topicPull,以topic为维度统计消息拉取详情。) invokeCount invokeCount Pull调用次数 INT SUM topic监控(topicPull,以topic为维度统计消息拉取详情。) pulledMsgCount 拉取消息数 拉取消息数 INT SUM topic监控(topicPull,以topic为维度统计消息拉取详情。) pulledBytes 拉取字节数 拉取字节数 INT SUM topic监控(topicPull,以topic为维度统计消息拉取详情。) lastError 错误信息 拉取消息发生错误产生的错误信息 STRING LAST topic监控(topicPull,以topic为维度统计消息拉取详情。) maxTime 最大响应时间 拉取消息的最大响应时间 INT MAX topic监控(topicPull,以topic为维度统计消息拉取详情。) runningCount 正在执行数 采集时间点正在执行的拉取消息数量 INT SUM topic监控(topicPull,以topic为维度统计消息拉取详情。) slowTraceId 慢traceId 采集周期内最慢的调用链对应的traceid STRING LAST topic监控(topicPull,以topic为维度统计消息拉取详情。) totalTime 总响应时间 拉取消息的总响应时间 INT SUM topic监控(topicPull,以topic为维度统计消息拉取详情。) range1 010ms 响应时间在010ms范围请求数 INT SUM topic监控(topicPull,以topic为维度统计消息拉取详情。) range2 10100ms 响应时间在10100ms范围请求数 INT SUM topic监控(topicPull,以topic为维度统计消息拉取详情。) range3 100200ms 响应时间在100200ms范围请求数 INT SUM topic监控(topicPull,以topic为维度统计消息拉取详情。) range4 2001000ms 响应时间在2001000ms范围请求数 INT SUM topic监控(topicPull,以topic为维度统计消息拉取详情。) range5 110s 响应时间在110s范围请求数 INT SUM topic监控(topicPull,以topic为维度统计消息拉取详情。) range6 10s以上 响应时间在10s以上请求数 INT SUM queue监控(queuePull,以queue为维度统计消息拉取详情。) clientId clientId 客户端实例标识 ENUM LAST queue监控(queuePull,以queue为维度统计消息拉取详情。) group 消费者组 消费者组 ENUM LAST queue监控(queuePull,以queue为维度统计消息拉取详情。) queue 消息队列 消息队列标识 ENUM LAST queue监控(queuePull,以queue为维度统计消息拉取详情。) pid pid pid STRING LAST queue监控(queuePull,以queue为维度统计消息拉取详情。) concurrentMax 最大并发 拉取消息最大并发 INT MAX queue监控(queuePull,以queue为维度统计消息拉取详情。) errorCount 错误次数 拉取消息的错误次数 INT SUM queue监控(queuePull,以queue为维度统计消息拉取详情。) errorTraceId 错误traceId 采集周期内发生错误的调用链对应的traceid STRING LAST queue监控(queuePull,以queue为维度统计消息拉取详情。) invokeCount invokeCount Pull调用次数 INT SUM queue监控(queuePull,以queue为维度统计消息拉取详情。) pulledMsgCount 拉取消息数 拉取消息数 INT SUM queue监控(queuePull,以queue为维度统计消息拉取详情。) pulledBytes 拉取字节数 拉取字节数 INT SUM queue监控(queuePull,以queue为维度统计消息拉取详情。) lastError 错误信息 拉取消息发生错误产生的错误信息 STRING LAST queue监控(queuePull,以queue为维度统计消息拉取详情。) maxTime 最大响应时间 拉取消息的最大响应时间 INT MAX queue监控(queuePull,以queue为维度统计消息拉取详情。) runningCount 正在执行数 采集时间点正在执行的拉取消息数量 INT SUM queue监控(queuePull,以queue为维度统计消息拉取详情。) slowTraceId 慢traceId 采集周期内最慢的调用链对应的traceid STRING LAST queue监控(queuePull,以queue为维度统计消息拉取详情。) totalTime 总响应时间 拉取消息的总响应时间 INT SUM queue监控(queuePull,以queue为维度统计消息拉取详情。) range1 010ms 响应时间在010ms范围请求数 INT SUM queue监控(queuePull,以queue为维度统计消息拉取详情。) range2 10100ms 响应时间在10100ms范围请求数 INT SUM queue监控(queuePull,以queue为维度统计消息拉取详情。) range3 100200ms 响应时间在100200ms范围请求数 INT SUM queue监控(queuePull,以queue为维度统计消息拉取详情。) range4 2001000ms 响应时间在2001000ms范围请求数 INT SUM queue监控(queuePull,以queue为维度统计消息拉取详情。) range5 110s 响应时间在110s范围请求数 INT SUM queue监控(queuePull,以queue为维度统计消息拉取详情。) range6 10s以上 响应时间在10s以上请求数 INT SUM total监控(total以客户端为维度统计消息消费详情。) consumeErrorCount 消费错误次数 消费消息的错误次数 INT SUM total监控(total以客户端为维度统计消息消费详情。) consumeInvokeCount consumeInvokeCount Consume调用次数 INT SUM total监控(total以客户端为维度统计消息消费详情。) consumedMsgCount consumedMsgCount 消费消息数 INT SUM total监控(total以客户端为维度统计消息消费详情。) consumedBytes 消费字节数 消费字节数 INT SUM total监控(total以客户端为维度统计消息消费详情。) consumeTotalTime 消费总响应时间 消费消息的总响应时间 INT SUM total监控(total以客户端为维度统计消息消费详情。) reconsumeTimes 消息重投次数 消息重投次数 INT SUM total监控(total以客户端为维度统计消息消费详情。) pullErrorCount 拉取错误次数 拉取消息的错误次数 INT SUM total监控(total以客户端为维度统计消息消费详情。) pullInvokeCount pullInvokeCount Pull调用次数 INT SUM total监控(total以客户端为维度统计消息消费详情。) pulledMsgCount pulledMsgCount 拉取消息数 INT SUM total监控(total以客户端为维度统计消息消费详情。) pulledBytes 拉取字节数 拉取字节数 INT SUM total监控(total以客户端为维度统计消息消费详情。) pullTotalTime 拉取总响应时间 拉取消息的总响应时间 INT SUM
        来自:
      • 消费端挂载NFS是否会影响消费速度?
        本节介绍消费端挂载NFS是否会影响消费速度 消费端在消费消息的主线程里同步将拉取的消息存储在NFS,导致消费端处理消息的速度变慢,阻塞消息处理。 可能原因 NFS本身速度就不太理想。 NFS是网络共享存储,虽然有多机器共享访问的能力优势,但多台机器访问是争抢的,消费者个数增多,性能反而下降。 解决方案 建议将消费端拉取消息和存储消息分别放在两个独立且不同的线程里操作。拉取消息的线程只管消费消息,把消息转给缓存处理线程后就继续消费消息,这样可以保证消费速度的稳定。 也可以考虑采用云盘,给每台消费端处理机挂载自己的云盘,各自独立存储,这样消费端不会再因为争抢NFS而降低性能。如果需要把最终的处理结果集中到同一个NFS上保存,仍然可以通过一个异步的工具或者线程,把云盘上的结果再转发到NFS上,而不要让同步存储NFS阻塞消息处理。总之,对于资源访问造成的处理低效,总是可以用异步处理的方式解决。
        来自:
        帮助文档
        分布式消息服务Kafka
        常见问题
        操作类
        消费端挂载NFS是否会影响消费速度?
      • RocketMqProducer监控
        本文主要介绍RocketMqProducer监控 介绍APM采集的RocketMqProducer监控指标的类别、名称、含义等信息。 表 RocketMqProducer监控指标说明 指标类别 指标 指标名称 指标说明 单位 数据类型 默认聚合方式 ::::::: 异常(exception,RabbitMqProducer调用的异常信息统计。) exceptionType 异常类型 异常类型 ENUM LAST 异常(exception,RabbitMqProducer调用的异常信息统计。) causeType 异常类 发生异常的类 ENUM LAST 异常(exception,RabbitMqProducer调用的异常信息统计。) count 次数 该异常的发生次数 INT SUM 异常(exception,RabbitMqProducer调用的异常信息统计。) message 异常消息 该异常产生的异常消息 STRING LAST 异常(exception,RabbitMqProducer调用的异常信息统计。) stackTrace 异常堆栈 该异常产生的堆栈信息 CLOB LAST clientId监控(clientIdPublish,以clientId为维度统计消息推送详情) clientId clientId 客户端实例标识 ENUM LAST clientId监控(clientIdPublish,以clientId为维度统计消息推送详情) group 生产者组 生产者组 ENUM LAST clientId监控(clientIdPublish,以clientId为维度统计消息推送详情) pid pid pid STRING LAST clientId监控(clientIdPublish,以clientId为维度统计消息推送详情) concurrentMax 最大并发 推送消息最大并发 INT MAX clientId监控(clientIdPublish,以clientId为维度统计消息推送详情) errorCount 错误次数 推送消息的错误次数 INT SUM clientId监控(clientIdPublish,以clientId为维度统计消息推送详情) errorTraceId 错误traceId 采集周期内发生错误的调用链对应的traceid STRING LAST clientId监控(clientIdPublish,以clientId为维度统计消息推送详情) invokeCount invokeCount Publish调用次数 INT SUM clientId监控(clientIdPublish,以clientId为维度统计消息推送详情) publishedMsgCount publishedMsgCount 推送消息数 INT SUM clientId监控(clientIdPublish,以clientId为维度统计消息推送详情) publishedBytes 推送字节数 推送字节数 INT SUM clientId监控(clientIdPublish,以clientId为维度统计消息推送详情) lastError 错误信息 推送消息发生错误产生的错误信息 STRING LAST clientId监控(clientIdPublish,以clientId为维度统计消息推送详情) maxTime 最大响应时间 推送消息的最大响应时间 INT MAX clientId监控(clientIdPublish,以clientId为维度统计消息推送详情) runningCount 正在执行数 采集时间点正在执行的推送消息数量 INT SUM clientId监控(clientIdPublish,以clientId为维度统计消息推送详情) slowTraceId 慢traceId 采集周期内最慢的调用链对应的traceid STRING LAST clientId监控(clientIdPublish,以clientId为维度统计消息推送详情) totalTime 总响应时间 推送消息的总响应时间 INT SUM clientId监控(clientIdPublish,以clientId为维度统计消息推送详情) range1 010ms 响应时间在010ms范围请求数 INT SUM clientId监控(clientIdPublish,以clientId为维度统计消息推送详情) range2 10100ms 响应时间在10100ms范围请求数 INT SUM clientId监控(clientIdPublish,以clientId为维度统计消息推送详情) range3 100200ms 响应时间在100200ms范围请求数 INT SUM clientId监控(clientIdPublish,以clientId为维度统计消息推送详情) range4 2001000ms 响应时间在2001000ms范围请求数 INT SUM clientId监控(clientIdPublish,以clientId为维度统计消息推送详情) range5 110s 响应时间在110s范围请求数 INT SUM clientId监控(clientIdPublish,以clientId为维度统计消息推送详情) range6 10s以上 响应时间在10s以上请求数 INT SUM topic监控(topicPublish,以以topic为维度统计消息推送详情。) clientId clientId 客户端实例标识 ENUM LAST topic监控(topicPublish,以以topic为维度统计消息推送详情。) group 生产者组 生产者组 ENUM LAST topic监控(topicPublish,以以topic为维度统计消息推送详情。) topic 主题 消息推送的主题 ENUM LAST topic监控(topicPublish,以以topic为维度统计消息推送详情。) pid pid pid STRING LAST topic监控(topicPublish,以以topic为维度统计消息推送详情。) concurrentMax 最大并发 推送消息最大并发 INT MAX topic监控(topicPublish,以以topic为维度统计消息推送详情。) errorCount 错误次数 推送消息的错误次数 INT SUM topic监控(topicPublish,以以topic为维度统计消息推送详情。) errorTraceId 错误traceId 采集周期内发生错误的调用链对应的traceid STRING LAST topic监控(topicPublish,以以topic为维度统计消息推送详情。) invokeCount invokeCount Publish调用次数 INT SUM topic监控(topicPublish,以以topic为维度统计消息推送详情。) publishedMsgCount publishedMsgCount 推送消息数 INT SUM topic监控(topicPublish,以以topic为维度统计消息推送详情。) publishedBytes 推送字节数 推送字节数 INT SUM topic监控(topicPublish,以以topic为维度统计消息推送详情。) lastError 错误信息 推送消息发生错误产生的错误信息 STRING LAST topic监控(topicPublish,以以topic为维度统计消息推送详情。) maxTime 最大响应时间 推送消息的最大响应时间 INT MAX topic监控(topicPublish,以以topic为维度统计消息推送详情。) runningCount 正在执行数 采集时间点正在执行的推送消息数量 INT SUM topic监控(topicPublish,以以topic为维度统计消息推送详情。) slowTraceId 慢traceId 采集周期内最慢的调用链对应的traceid STRING LAST topic监控(topicPublish,以以topic为维度统计消息推送详情。) totalTime 总响应时间 推送消息的总响应时间 INT SUM topic监控(topicPublish,以以topic为维度统计消息推送详情。) range1 010ms 响应时间在010ms范围请求数 INT SUM topic监控(topicPublish,以以topic为维度统计消息推送详情。) range2 10100ms 响应时间在10100ms范围请求数 INT SUM topic监控(topicPublish,以以topic为维度统计消息推送详情。) range3 100200ms 响应时间在100200ms范围请求数 INT SUM topic监控(topicPublish,以以topic为维度统计消息推送详情。) range4 2001000ms 响应时间在2001000ms范围请求数 INT SUM topic监控(topicPublish,以以topic为维度统计消息推送详情。) range5 110s 响应时间在110s范围请求数 INT SUM topic监控(topicPublish,以以topic为维度统计消息推送详情。) range6 10s以上 响应时间在10s以上请求数 INT SUM queue监控(queuePublish,以queue为维度统计消息推送详情。) clientId clientId 客户端实例标识 ENUM LAST queue监控(queuePublish,以queue为维度统计消息推送详情。) group 生产者组 生产者组 ENUM LAST queue监控(queuePublish,以queue为维度统计消息推送详情。) queue 消息队列 消息队列标识 ENUM LAST queue监控(queuePublish,以queue为维度统计消息推送详情。) pid pid pid STRING LAST queue监控(queuePublish,以queue为维度统计消息推送详情。) concurrentMax 最大并发 推送消息最大并发 INT MAX queue监控(queuePublish,以queue为维度统计消息推送详情。) errorCount 错误次数 推送消息的错误次数 INT SUM queue监控(queuePublish,以queue为维度统计消息推送详情。) errorTraceId 错误traceId 采集周期内发生错误的调用链对应的traceid STRING LAST queue监控(queuePublish,以queue为维度统计消息推送详情。) invokeCount invokeCount Publish调用次数 INT SUM queue监控(queuePublish,以queue为维度统计消息推送详情。) publishedMsgCount publishedMsgCount 推送消息数 INT SUM queue监控(queuePublish,以queue为维度统计消息推送详情。) publishedBytes 推送字节数 推送字节数 INT SUM queue监控(queuePublish,以queue为维度统计消息推送详情。) lastError 错误信息 推送消息发生错误产生的错误信息 STRING LAST queue监控(queuePublish,以queue为维度统计消息推送详情。) maxTime 最大响应时间 推送消息的最大响应时间 INT MAX queue监控(queuePublish,以queue为维度统计消息推送详情。) runningCount 正在执行数 采集时间点正在执行的推送消息数量 INT SUM queue监控(queuePublish,以queue为维度统计消息推送详情。) slowTraceId 慢traceId 采集周期内最慢的调用链对应的traceid STRING LAST queue监控(queuePublish,以queue为维度统计消息推送详情。) totalTime 总响应时间 推送消息的总响应时间 INT SUM queue监控(queuePublish,以queue为维度统计消息推送详情。) range1 010ms 响应时间在010ms范围请求数 INT SUM queue监控(queuePublish,以queue为维度统计消息推送详情。) range2 10100ms 响应时间在10100ms范围请求数 INT SUM queue监控(queuePublish,以queue为维度统计消息推送详情。) range3 100200ms 响应时间在100200ms范围请求数 INT SUM queue监控(queuePublish,以queue为维度统计消息推送详情。) range4 2001000ms 响应时间在2001000ms范围请求数 INT SUM queue监控(queuePublish,以queue为维度统计消息推送详情。) range5 110s 响应时间在110s范围请求数 INT SUM queue监控(queuePublish,以queue为维度统计消息推送详情。) range6 10s以上 响应时间在10s以上请求数 INT SUM broker监控(brokerPublish,以broker为维度统计消息推送详情。) clientId clientId 客户端实例标识 ENUM LAST broker监控(brokerPublish,以broker为维度统计消息推送详情。) group 生产者组 生产者组 ENUM LAST broker监控(brokerPublish,以broker为维度统计消息推送详情。) broker broker broker地址 ENUM LAST broker监控(brokerPublish,以broker为维度统计消息推送详情。) pid pid pid STRING LAST broker监控(brokerPublish,以broker为维度统计消息推送详情。) concurrentMax 最大并发 推送消息最大并发 INT MAX broker监控(brokerPublish,以broker为维度统计消息推送详情。) errorCount 错误次数 推送消息的错误次数 INT SUM broker监控(brokerPublish,以broker为维度统计消息推送详情。) errorTraceId 错误traceId 采集周期内发生错误的调用链对应的traceid STRING LAST broker监控(brokerPublish,以broker为维度统计消息推送详情。) invokeCount invokeCount Publish调用次数 INT SUM broker监控(brokerPublish,以broker为维度统计消息推送详情。) publishedMsgCount publishedMsgCount 推送消息数 INT SUM broker监控(brokerPublish,以broker为维度统计消息推送详情。) publishedBytes 推送字节数 推送字节数 INT SUM broker监控(brokerPublish,以broker为维度统计消息推送详情。) lastError 错误信息 推送消息发生错误产生的错误信息 STRING LAST broker监控(brokerPublish,以broker为维度统计消息推送详情。) maxTime 最大响应时间 推送消息的最大响应时间 INT MAX broker监控(brokerPublish,以broker为维度统计消息推送详情。) runningCount 正在执行数 采集时间点正在执行的推送消息数量 INT SUM broker监控(brokerPublish,以broker为维度统计消息推送详情。) slowTraceId 慢traceId 采集周期内最慢的调用链对应的traceid STRING LAST broker监控(brokerPublish,以broker为维度统计消息推送详情。) totalTime 总响应时间 推送消息的总响应时间 INT SUM broker监控(brokerPublish,以broker为维度统计消息推送详情。) range1 010ms 响应时间在010ms范围请求数 INT SUM broker监控(brokerPublish,以broker为维度统计消息推送详情。) range2 10100ms 响应时间在10100ms范围请求数 INT SUM broker监控(brokerPublish,以broker为维度统计消息推送详情。) range3 100200ms 响应时间在100200ms范围请求数 INT SUM broker监控(brokerPublish,以broker为维度统计消息推送详情。) range4 2001000ms 响应时间在2001000ms范围请求数 INT SUM broker监控(brokerPublish,以broker为维度统计消息推送详情。) range5 110s 响应时间在110s范围请求数 INT SUM broker监控(brokerPublish,以broker为维度统计消息推送详情。) range6 10s以上 响应时间在10s以上请求数 INT SUM 事务监控(transactionPublish,以client为维度统计事务消息推送详情。) clientId clientId 客户端实例标识 ENUM LAST 事务监控(transactionPublish,以client为维度统计事务消息推送详情。) group 生产者组 生产者组 ENUM LAST 事务监控(transactionPublish,以client为维度统计事务消息推送详情。) pid pid pid STRING LAST 事务监控(transactionPublish,以client为维度统计事务消息推送详情。) concurrentMax 最大并发 推送事务消息最大并发 INT MAX 事务监控(transactionPublish,以client为维度统计事务消息推送详情。) errorCount 错误次数 推送事务消息的错误次数 INT SUM 事务监控(transactionPublish,以client为维度统计事务消息推送详情。) errorTraceId 错误traceId 采集周期内发生错误的调用链对应的traceid STRING LAST 事务监控(transactionPublish,以client为维度统计事务消息推送详情。) invokeCount invokeCount 推送事务消息调用次数 INT SUM 事务监控(transactionPublish,以client为维度统计事务消息推送详情。) lastError 错误信息 推送事务消息发生错误产生的错误信息 STRING LAST 事务监控(transactionPublish,以client为维度统计事务消息推送详情。) maxTime 最大响应时间 推送事务消息的最大响应时间 INT MAX 事务监控(transactionPublish,以client为维度统计事务消息推送详情。) runningCount 正在执行数 采集时间点正在执行的推送事务消息数量 INT SUM 事务监控(transactionPublish,以client为维度统计事务消息推送详情。) slowTraceId 慢traceId 采集周期内最慢的调用链对应的traceid STRING LAST 事务监控(transactionPublish,以client为维度统计事务消息推送详情。) totalTime 总响应时间 推送事务消息的总响应时间 INT SUM 事务监控(transactionPublish,以client为维度统计事务消息推送详情。) range1 010ms 响应时间在010ms范围请求数 INT SUM 事务监控(transactionPublish,以client为维度统计事务消息推送详情。) range2 10100ms 响应时间在10100ms范围请求数 INT SUM 事务监控(transactionPublish,以client为维度统计事务消息推送详情。) range3 100200ms 响应时间在100200ms范围请求数 INT SUM 事务监控(transactionPublish,以client为维度统计事务消息推送详情。) range4 2001000ms 响应时间在2001000ms范围请求数 INT SUM 事务监控(transactionPublish,以client为维度统计事务消息推送详情。) range5 110s 响应时间在110s范围请求数 INT SUM 事务监控(transactionPublish,以client为维度统计事务消息推送详情。) range6 10s以上 响应时间在10s以上请求数 INT SUM total监控(total,以客户端为维度统计消息推送详情) errorCount 错误次数 推送消息的错误次数 INT SUM total监控(total,以客户端为维度统计消息推送详情) invokeCount invokeCount Publish调用次数 INT SUM total监控(total,以客户端为维度统计消息推送详情) publishedMsgCount publishedMsgCount 推送消息数 INT SUM total监控(total,以客户端为维度统计消息推送详情) publishedBytes 推送字节数 推送字节数 INT SUM total监控(total,以客户端为维度统计消息推送详情) totalTime 总响应时间 推送消息的总响应时间 INT SUM
        来自:
      • 术语解释
        本节介绍云等保专区产品的专用术语。 术语 说明 :: cURL cURL是一个利用URL语法在命令行下工作的文件传输工具,可用于检测系统是否可以访问目标站点。 Dig Dig是一个在类Unix命令行模式下查询DNS信息(包括NS记录、A记录、MX记录等)的工具。 基线核查 基线核查是指对主机操作系统、数据库、软件和容器的配置进行安全检测,并提供检测结果说明和加固建议。 基线核查可以帮您进行系统安全加固,降低入侵风险并满足安全合规要求。 漏洞扫描 漏洞扫描是指基于漏洞数据库,通过扫描等手段对指定的远程或者本地计算机系统的安全脆弱性进行检测,发现可利用漏洞的一种安全检测(渗透攻击)行为。 引擎 本文的“引擎”为扫描核心技术,即最终进行漏洞扫描工作的服务。 资产 即扫描器所扫描的主机、数据库、网站等。 DDoS 分布式拒绝服务攻击(Distributed Denial of Service Attack,DDoS)是指处于不同位置的多个攻击者同时向一个或数个目标发动攻击,或者一个攻击者控制了位于不同位置的多台机器并利用这些机器对受害者同时实施攻击。由于攻击的发出点是分布在不同地方的,这类攻击称为分布式拒绝服务攻击,其中的攻击者可以有多个。 EDR 端点检测与响应(Endpoint Detection & Response,EDR)是一种主动的安全方法,可以实时监控端点,并搜索渗透到防御系统中的威胁。EDR是一种新兴的技术,可以更好地了解端点上发生的事情,提供关于攻击的上下文和详细信息。 认证 是一种信用保证形式。按照国际标准化组织(ISO)和国际电工委员会(IEC)的定义,由国家认可的认证机构证明一个组织的产品、服务、管理体系符合相关标准、技术规范(TS)或其强制性要求的合格评定活动。 虚拟机 虚拟机(Virtual Machine)指通过软件模拟的具有完整硬件系统功能的、运行在一个完全隔离环境中的完整计算机系统。 在实体计算机中能够完成的工作在虚拟机中都能够实现。 在计算机中创建虚拟机时,需要将实体机的部分硬盘和内存容量作为虚拟机的硬盘和内存容量。每个虚拟机都有独立的CMOS、硬盘和操作系统,可以像使用实体机一样对虚拟机进行操作。 AES 密码学中的高级加密标准(Advanced Encryption Standard,AES),又称Rijndael加密法,是美国联邦政府采用的一种区块加密标准。这个标准用来替代原先的DES(Data Encryption Standard),已经被多方分析且广为全世界所使用。 Apache Apache是一款Web服务器软件。它可以运行在几乎所有广泛使用的计算机上,由于其跨平台和安全性被广泛使用,是最流行的Web服务器端软件之一。 CC攻击 CC攻击(Challenge Collapsar Attack,挑战黑洞攻击)是DDoS攻击的一种类型,使用代理服务器向受害服务器发送大量假冒合法的请求,造成被攻击服务器资源耗尽,一直到宕机崩溃。 DES DES(Data Encryption Standard,数据加密标准)是一种使用密钥加密的块算法,1977年被美国联邦政府的国家标准局确定为联邦资料处理标准(FIPS),并授权在非密级政府通信中使用,随后该算法在国际上广泛流传开来。 HA 高可靠性(High Availability,简称HA)能够在通信线路或设备发生故障时提供备用方案,防止由于单个产品故障或链路故障导致网络中断,保证网络服务的连续性。 LACP LACP(Link Aggregation Control Protocol,链路聚合控制协议)是一种基于IEEE802.3ad标准的协议。 LACP协议通过LACPDU(Link Aggregation Control Protocol Data Unit,链路聚合控制协议数据单元)与对端交互信息。链路聚合往往用在两个重要节点或繁忙节点之间,既能增加互联带宽,又提供了连接的可靠性。 LDAP LDAP(Lightweight Directory Access Protocol,是轻量目录访问协议)是互联网上目录服务的通用访问协议。 LDAP服务可以有效解决众多网络服务的用户账户问题,LDAP服务器是用于查询和更新LDAP目录的服务器,包括用户账号目录。 MTU 最大传输单元(Maximum Transmission Unit,MTU)用来通知对方所能接受服务单元的最大尺寸,说明发送方能够接受的有效荷载大小。 SSL SSL(Secure Sockets Layer,安全套接字协议)及TLS(Transport Layer Security,继任者传输层安全)是为网络通信提供安全及数据完整性的一种安全协议。TLS与SSL在传输层与应用层之间对网络连接进行加密。 VRRP 虚拟路由冗余协议(Virtual Router Redundancy Protocol,简称VRRP)是由IETF提出的解决局域网中配置静态网关出现单点失效现象的路由协议,它是一种路由容错协议,也可以叫做备份路由协议。 WebShell Webshell就是以asp、php、jsp或者cgi等网页文件形式存在的一种命令执行环境,也可以将其称为一种网页后门。 黑客在入侵了一个网站后,通常会将asp或php后门文件与网站服务器Web目录下正常的网页文件混在一起,然后就可以使用浏览器来访问asp或者php后门,得到一个命令执行环境,以达到控制网站服务器的目的。 Kafka Kafka是一种高吞吐量的分布式发布订阅消息系统,可以处理消费者规模的网站中所有动作流数据。这些数据通常由于吞吐量要求而通过处理日志和日志聚合来解决。 SNMP SNMP(Simple Network Management Protocol,简单网络管理协议)是标准IP网络管理协议,支持目前主流的网络管理系统。 SQL SQL(Structured Query Language,结构化查询语言)是一种数据库查询和程序设计语言,用于存取数据以及查询、更新和管理关系数据库系统;同时也是数据库脚本文件的扩展名。 Syslog Syslog是一种行业标准的协议,可用来记录设备的日志。 Syslog日志消息既可以记录在本地文件中,也可以通过网络发送到接收Syslog的服务器。服务器可以对多个设备的Syslog消息进行统一的存储,或者解析其中的内容做相应的处理。常见的应用场景是网络管理工具、安全管理系统、日志审计系统。
        来自:
        帮助文档
        云等保专区
        产品介绍
        术语解释
      • 批量修改Topic配置(1)
        本节介绍批量修改Topic配置 本章节指导您在控制台修改如表1所示Kafka Topic的配置。 Kafka控制台支持修改单个Topic的配置,也支持批量修改Topic配置。批量修改Topic配置时,无法修改Topic描述信息。 表1 Kafka Topic的配置参数 参数名称 说明 分区数 Topic的分区数。 老化时间 消息的最长保留时间。 副本数 Topic每个分区的副本数量。 同步复制 后端收到生产消息请求并复制给所有副本后,才返回客户端。 同步落盘 开启:生产的每条消息都会立即写入磁盘,可靠性更高。 关闭:生产的消息存在内存中,不会立即写入磁盘。 消息时间戳类型 定义消息中的时间戳类型,取值如下: CreateTime:生产者创建消息的时间。 LogAppendTime:broker将消息写入日志的时间。 批处理消息最大值 Kafka允许的最大批处理大小,如果启用消息压缩,则表示压缩后的最大批处理大小。 如果增加“批处理消息最大值”的值,且存在消费者版本早于0.10.2,此时消费者的“fetch size”值也必须增加,以便消费者可以获取增加后的批处理大小。 描述 Topic的描述信息。 约束与限制 当副本数为1时,不能开启同步复制功能。 开启同步复制后,需要在客户端配置acksall或者1,否则无效。 批量修改Topic配置时,每次最多修改100个Topic的配置。 修改同步复制、同步落盘、消息时间戳类型、批处理消息最大值和描述,不会重启实例。
        来自:
      • 配置Kafka之间的数据复制
        本节介绍如何配置Kafka之间的数据复制。 本章节介绍如何创建Kafka数据复制的Smart Connect任务,通过Smart Connect任务可以在两个Kafka实例之间,实现数据的单向或双向复制。 源Kafka实例中的数据会实时同步到目标Kafka实例中。 约束与限制 一个实例最多创建18个Smart Connect任务。 使用Kafka数据复制时,两个Kafka实例间只能通过内网连接。如果两个Kafka实例处于不同的VPC中,请先打通网络。 Smart Connect任务创建成功后,不支持修改任务参数。 确保目标Kafka实例Topic的“批处理消息最大值”大于等于524288字节,否则会导致数据无法同步。如果目标Kafka实例没有创建Topic,在数据同步时会自动创建Topic,此Topic的“批处理消息最大值”和源Kafka实例Topic相同,此时需要确保源Kafka实例Topic的“批处理消息最大值”大于等于524288字节。修改“批处理消息最大值”的方法请参考修改Kafka Topic配置。 前提条件 已开启Smart Connect。 已创建Kafka实例,且实例状态为“运行中”。 配置Kafka间的数据复制 1、登录管理控制台。 2、在管理控制台左上角单击,选择Kafka实例所在的区域。 3、在管理控制台左上角单击,选择“应用服务 > 分布式消息服务 Kafka”,进入分布式消息服务Kafka专享版页面。 4、单击Kafka实例名称,进入实例详情页面。 5、在左侧导航栏单击“Smart Connect”,进入Smart Connect任务列表页面。 6、单击“创建Smart Connect任务”,进入“创建smart connect”页面。 7、在“connect任务名称”中,输入Smart Connect任务的名称,用于区分不同的Smart Connect任务。任务名称需要符合命名规则:长度为4~64个字符,只能由英文字母、数字、中划线、下划线组成。 8、在“预置类型”中,选择“Kafka数据复制”。 9、在“当前kafka”区域,设置实例别名。实例别名需要符合命名规则:长度为1~20个字符,只能由英文字母、数字、中划线、下划线组成。 实例别名用于以下两个场景中: 开启“重命名Topic”,且“同步方式”为“推送”/“双向”时,当前Kafka实例的别名作为前缀添加到对端Kafka实例的Topic名称前,形成Topic新的名称。例如当前Kafka实例别名为A,对端Kafka实例的Topic名称为test,重命名后的Topic为A.test。 Kafka数据复制的Smart Connect任务创建成功后,当前Kafka实例会自动创建“mm2offsetsyncs. 对端Kafka实例别名 .internal”的Topic。如果Smart Connect任务开启了“同步消费进度”功能,且“同步方式”为“拉取”/“双向”时,当前Kafka实例还会自动创建“ 对端Kafka实例别名 .checkpoints.internal”的Topic。这两个Topic用于存储内部数据,如果删除,会导致同步数据失败。 10、在“对端kafka”区域,设置以下参数。 表11 对端Kafka实例参数说明 参数 参数说明 实例别名 设置实例别名,实例别名需要符合命名规则:长度为1~20个字符,只能由英文字母、数字、中划线、下划线组成。 实例别名用于以下两个场景中: 开启“重命名Topic”,且“同步方式”为“拉取”/“双向”时,对端Kafka实例的别名作为前缀添加到当前Kafka实例的Topic名称前,形成Topic新的名称。例如对端Kafka实例别名为B,当前Kafka实例的Topic名称为test01,重命名后的Topic为B.test01。 Kafka数据复制的Smart Connect任务创建成功后,如果Smart Connect任务开启了“同步消费进度”功能,且“同步方式”为“推送”/“双向”时,对端Kafka实例会自动创建“当前Kafka实例别名 .checkpoints.internal”的Topic。此Topic用于存储内部数据,如果删除,会导致同步数据失败。 配置类型 支持以下两种配置类型: Kafka地址:输入Kafka实例的连接信息。对端Kafka实例和当前Kafka实例处于不同的VPC下时,请选择此配置类型。 实例名称:选择已创建的Kafka实例。对端Kafka实例和当前Kafka实例处于相同的VPC下时,建议选择此配置类型。 实例名称 “配置类型”为“实例名称”,且对端Kafka实例和当前Kafka实例处于相同的VPC下时,需要设置。 在下拉列表中,选择已创建的Kafka实例。 Kafka地址 “配置类型”为“Kafka地址”时,需要设置。 输入Kafka实例的连接地址和端口号。 使用Kafka数据复制时,两个Kafka实例间只能通过内网连接。如果两个Kafka实例处于不同的VPC中,请先打通网络。 认证方式 支持以下认证方式: SASLSSL:表示实例已开启SASLSSL认证,客户端连接Kafka实例时采用SASL认证,数据通过SSL证书进行加密传输。 SASLPLAINTEXT:表示实例开启SASLPLAINTEXT认证,客户端连接Kafka实例时采用SASL认证,数据通过明文传输。 PLAINTEXT:表示实例未开启认证。 认证机制 “认证方式”为“SASLSSL”/“SASLPLAINTEXT”时,需要设置。 SCRAMSHA512:采用哈希算法对用户名与密码生成凭证,进行身份校验的安全认证机制,比PLAIN机制安全性更高。 PLAIN:一种简单的用户名密码校验机制。 用户名 “认证方式”为“SASLSSL”/“SASLPLAINTEXT”时,需要设置。 首次开启密文接入时设置的用户名,或者创建用户时设置的用户名。 密码 “认证方式”为“SASLSSL”/“SASLPLAINTEXT”时,需要设置。 首次开启密文接入时设置的密码,或者创建用户时设置的密码。 Smart Connect任务创建成功后,如果您修改了对端实例的认证方式、认证机制或者密码,会导致同步任务失败。 您需要删除当前Smart Connect任务,然后重新创建新的Smart Connect任务。 11、在“规则配置”区域,设置以下参数。 表12 复制数据规则参数说明 参数 参数说明 同步方式 支持以下三种同步方式: 拉取:把对端Kafka实例数据复制到当前Kafka实例中。 推送:把当前Kafka实例数据复制到对端Kafka实例中。 双向:两端Kafka实例数据进行双向复制。 Topics 设置需要进行数据复制的Topic。 正则表达式:通过正则表达式匹配Topic。 输入/选择:输入Topic名称,如果需要输入多个Topic名称,先输入一个Topic名称,按“Enter”,然后再输入下一个,按“Enter”,依次输入。或者在下拉列表中,选择Topic。最多输入/选择20个Topic。 Topic名称以internal结尾时(例如:topic.internal),此Topic的数据不会被同步。 任务数 数据复制的任务数。默认值为2,建议保持默认值。 如果“同步方式”为“双向”,实际任务数设置的任务数2。 重命名 Topic 在目标Topic名称前添加源端Kafka实例的别名,形成目标Topic新的名称。例如源端实例别名为A,目标Topic名称为test,重命名后的目标Topic为A.test。 两端实例数据双向复制时,开启“重命名Topic”,防止循环复制。 添加来源header 目标Topic接收复制的消息,此消息header中包含消息来源。 两端实例数据双向复制时,默认开启“添加来源header”,防止循环复制。 同步消费进度 开启“同步消费进度”后,将消费者消费进度同步到目标Kafka实例。 开启“同步消费进度”后,您需要注意以下几点: 源端Kafka实例和目标端Kafka实例不能同时消费,否则会导致同步的消费进度异常。 同步消费进度的频率为每分钟一次,因此会导致目标端的消费进度可能会略小于源端,造成部分消息被重复消费,所以需要消费者客户端业务逻辑兼容重复消费的场景。 从源端同步的offset与目标端的offset并非一致关系,而是映射关系,如果消费进度由消费者客户端自行维护,消费者客户端从消费源端Kafka实例变为消费目标端Kafka实例后,不向目标端Kafka实例获取消费进度,可能会导致offset错误或消费进度重置。 副本数 在对端实例中自动创建Topic时,指定Topic的副本数,此参数值不能超过对端实例的代理数。 如果对端实例中设置了“default.replication.factor”,此参数的优先级高于“default.replication.factor”。 启动偏移量 支持两种偏移量: 最早:最小偏移量,即获取最早的数据。 最新:最大偏移量,即获取最新的数据。 压缩算法 复制消息所使用的压缩算法。 topic映射 通过Topic映射,您可以自定义目标端Topic名称。 最多新增20个Topic映射。不能同时设置“重命名Topic”和“topic映射”。 配置复制数据规则时需要注意以下几点: 创建双向数据复制任务时,为了防止循环复制,控制台限定必须开启“重命名Topic”或者“添加来源header”。如果您在两个实例间,对同一个Topic分别创建拉取和推送的任务,即形成双向数据复制,且两个任务都未开启“重命名Topic”和“添加来源header”,此时会导致数据循环复制。 如果创建两个或以上配置完全相同的任务,即重复创建任务,且任务已开启“同步消费进度”,此时会导致数据重复复制,且目标Topic消费进度异常。 12、(可选)在页面右下角单击“开始检测”,测试两端Kafka实例的连通性。 显示“连通性检测成功”时,表示两端Kafka实例可以正常连接。 13、单击“立即创建”,跳转到Smart Connect任务列表页面,页面右上角显示“创建xxx任务成功”。 Kafka数据复制的Smart Connect任务创建成功后,Kafka会自动创建以下Topic。 当前Kafka实例会自动创建“mm2offsetsyncs. 对端Kafka实例别名 .internal”的Topic。如果Smart Connect任务开启了“同步消费进度”功能,且“同步方式”为“拉取”/“双向”时,当前Kafka实例还会自动创建“ 对端Kafka实例别名 .checkpoints.internal”的Topic。这两个Topic用于存储内部数据,如果删除,会导致同步数据失败。 如果Smart Connect任务开启了“同步消费进度”功能,“同步方式”为“推送”/“双向”时,对端Kafka实例会自动创建“ 当前Kafka实例别名 .checkpoints.internal”的Topic。此Topic用于存储内部数据,如果删除,会导致同步数据失败。 结束
        来自:
        帮助文档
        分布式消息服务Kafka
        用户指南
        Kafka数据迁移
        使用Smart Connect迁移Kafka数据
        配置Kafka之间的数据复制
      • 1
      • ...
      • 20
      • 21
      • 22
      • 23
      • 24
      • ...
      • 572
      跳转至
      推荐热词
      天翼云运维管理审计系统天翼云云服务平台云服务备份云日志服务应用运维管理云手机云电脑天翼云云hbase数据库电信云大数据saas服务电信云大数据paas服务轻量型云主机天翼云客户服务电话应用编排服务天翼云云安全解决方案云服务总线CSB天翼云服务器配置天翼云联邦学习产品天翼云云安全天翼云企业上云解决方案天翼云产品天翼云视频云存储

      天翼云最新活动

      云聚517 · 好价翼起拼

      爆款云主机低至25.83元/年,参与拼团享更多优惠,拼成得额外优惠券

      安全隔离版OpenClaw

      OpenClaw云服务器专属“龙虾“套餐低至1.5折起

      聚力AI赋能 天翼云大模型专项

      大模型特惠专区·Token Plan 轻享包低至9.9元起

      青云志云端助力计划

      一站式科研助手,海外资源安全访问平台,助力青年翼展宏图,平步青云

      企业出海解决方案

      助力您的业务扬帆出海,通达全球!

      天翼云信创专区

      “一云多芯、一云多态”,国产化软件全面适配,国产操作系统及硬件芯片支持丰富

      中小企业服务商合作专区

      国家云助力中小企业腾飞,高额上云补贴重磅上线

      云上钜惠

      爆款云主机全场特惠,2核4G只要1.8折起!

      产品推荐

      弹性云主机 ECS

      物理机 DPS

      GPU云主机

      镜像服务 IMS

      弹性伸缩服务 AS

      天翼云CTyunOS系统

      训推服务

      AI Store

      公共算力服务

      推荐文档

      购买指南

      启动会议

      android端

      报账单据

      • 7*24小时售后
      • 无忧退款
      • 免费备案
      • 专家服务
      售前咨询热线
      400-810-9889转1
      关注天翼云
      • 旗舰店
      • 天翼云APP
      • 天翼云微信公众号
      服务与支持
      • 备案中心
      • 售前咨询
      • 智能客服
      • 自助服务
      • 工单管理
      • 客户公告
      • 涉诈举报
      账户管理
      • 管理中心
      • 订单管理
      • 余额管理
      • 发票管理
      • 充值汇款
      • 续费管理
      快速入口
      • 天翼云旗舰店
      • 文档中心
      • 最新活动
      • 免费试用
      • 信任中心
      • 天翼云学堂
      云网生态
      • 甄选商城
      • 渠道合作
      • 云市场合作
      了解天翼云
      • 关于天翼云
      • 天翼云APP
      • 服务案例
      • 新闻资讯
      • 联系我们
      热门产品
      • 云电脑
      • 弹性云主机
      • 云电脑政企版
      • 天翼云手机
      • 云数据库
      • 对象存储
      • 云硬盘
      • Web应用防火墙
      • 息壤智算平台
      • CDN加速
      热门推荐
      • 云服务备份
      • 边缘安全加速平台
      • 全站加速
      • 安全加速
      • 云服务器
      • 云主机
      • 智能边缘云
      • 应用编排服务
      • 微服务引擎
      • 共享流量包
      更多推荐
      • web应用防火墙
      • 密钥管理
      • 等保咨询
      • 安全专区
      • 应用运维管理
      • 云日志服务
      • 文档数据库服务
      • 云搜索服务
      • 数据湖探索
      • 数据仓库服务
      友情链接
      • 中国电信集团
      • 天翼云国际站
      • 189邮箱
      • 天翼企业云盘
      • 天翼云盘
      ©2026 天翼云科技有限公司版权所有 增值电信业务经营许可证A2.B1.B2-20090001
      公司地址:北京市东城区青龙胡同甲1号、3号2幢2层205-32室
      • 用户协议
      • 隐私政策
      • 个人信息保护
      • 法律声明
      备案 京公网安备11010802043424号 京ICP备 2021034386号