活动

天翼云最新优惠活动,涵盖免费试用,产品折扣等,助您降本增效!
热门活动
  • 618智算钜惠季 爆款云主机2核4G限时秒杀,88元/年起!
  • 免费体验DeepSeek,上天翼云息壤 NEW 新老用户均可免费体验2500万Tokens,限时两周
  • 云上钜惠 HOT 爆款云主机全场特惠,更有万元锦鲤券等你来领!
  • 算力套餐 HOT 让算力触手可及
  • 天翼云脑AOne NEW 连接、保护、办公,All-in-One!
  • 中小企业应用上云专场 产品组合下单即享折上9折起,助力企业快速上云
  • 息壤高校钜惠活动 NEW 天翼云息壤杯高校AI大赛,数款产品享受线上订购超值特惠
  • 天翼云电脑专场 HOT 移动办公新选择,爆款4核8G畅享1年3.5折起,快来抢购!
  • 天翼云奖励推广计划 加入成为云推官,推荐新用户注册下单得现金奖励
免费活动
  • 免费试用中心 HOT 多款云产品免费试用,快来开启云上之旅
  • 天翼云用户体验官 NEW 您的洞察,重塑科技边界

智算服务

打造统一的产品能力,实现算网调度、训练推理、技术架构、资源管理一体化智算服务
智算云(DeepSeek专区)
科研助手
  • 算力商城
  • 应用商城
  • 开发机
  • 并行计算
算力互联调度平台
  • 应用市场
  • 算力市场
  • 算力调度推荐
一站式智算服务平台
  • 模型广场
  • 体验中心
  • 服务接入
智算一体机
  • 智算一体机
大模型
  • DeepSeek-R1-昇腾版(671B)
  • DeepSeek-R1-英伟达版(671B)
  • DeepSeek-V3-昇腾版(671B)
  • DeepSeek-R1-Distill-Llama-70B
  • DeepSeek-R1-Distill-Qwen-32B
  • Qwen2-72B-Instruct
  • StableDiffusion-V2.1
  • TeleChat-12B

应用商城

天翼云精选行业优秀合作伙伴及千余款商品,提供一站式云上应用服务
进入甄选商城进入云市场创新解决方案
办公协同
  • WPS云文档
  • 安全邮箱
  • EMM手机管家
  • 智能商业平台
财务管理
  • 工资条
  • 税务风控云
企业应用
  • 翼信息化运维服务
  • 翼视频云归档解决方案
工业能源
  • 智慧工厂_生产流程管理解决方案
  • 智慧工地
建站工具
  • SSL证书
  • 新域名服务
网络工具
  • 翼云加速
灾备迁移
  • 云管家2.0
  • 翼备份
资源管理
  • 全栈混合云敏捷版(软件)
  • 全栈混合云敏捷版(一体机)
行业应用
  • 翼电子教室
  • 翼智慧显示一体化解决方案

合作伙伴

天翼云携手合作伙伴,共创云上生态,合作共赢
天翼云生态合作中心
  • 天翼云生态合作中心
天翼云渠道合作伙伴
  • 天翼云代理渠道合作伙伴
天翼云服务合作伙伴
  • 天翼云集成商交付能力认证
天翼云应用合作伙伴
  • 天翼云云市场合作伙伴
  • 天翼云甄选商城合作伙伴
天翼云技术合作伙伴
  • 天翼云OpenAPI中心
  • 天翼云EasyCoding平台
天翼云培训认证
  • 天翼云学堂
  • 天翼云市场商学院
天翼云合作计划
  • 云汇计划
天翼云东升计划
  • 适配中心
  • 东升计划
  • 适配互认证

开发者

开发者相关功能入口汇聚
技术社区
  • 专栏文章
  • 互动问答
  • 技术视频
资源与工具
  • OpenAPI中心
开放能力
  • EasyCoding敏捷开发平台
培训与认证
  • 天翼云学堂
  • 天翼云认证
魔乐社区
  • 魔乐社区

支持与服务

为您提供全方位支持与服务,全流程技术保障,助您轻松上云,安全无忧
文档与工具
  • 文档中心
  • 新手上云
  • 自助服务
  • OpenAPI中心
定价
  • 价格计算器
  • 定价策略
基础服务
  • 售前咨询
  • 在线支持
  • 在线支持
  • 工单服务
  • 建议与反馈
  • 用户体验官
  • 服务保障
  • 客户公告
  • 会员中心
增值服务
  • 红心服务
  • 首保服务
  • 客户支持计划
  • 专家技术服务
  • 备案管家

了解天翼云

天翼云秉承央企使命,致力于成为数字经济主力军,投身科技强国伟大事业,为用户提供安全、普惠云服务
品牌介绍
  • 关于天翼云
  • 智算云
  • 天翼云4.0
  • 新闻资讯
  • 天翼云APP
基础设施
  • 全球基础设施
  • 信任中心
最佳实践
  • 精选案例
  • 超级探访
  • 云杂志
  • 分析师和白皮书
  • 天翼云·创新直播间
市场活动
  • 2025智能云生态大会
  • 2024智算云生态大会
  • 2023云生态大会
  • 2022云生态大会
  • 天翼云中国行
天翼云
  • 活动
  • 智算服务
  • 产品
  • 解决方案
  • 应用商城
  • 合作伙伴
  • 开发者
  • 支持与服务
  • 了解天翼云
      • 文档
      • 控制中心
      • 备案
      • 管理中心
      文档中心

      分布式消息服务Kafka

      分布式消息服务Kafka

        • 产品动态
        • 产品简介
        • 产品定义
        • 产品优势
        • 应用场景
        • 产品规格
        • 与RabbitMQ、RocketMQ的差异
        • 与开源Kafka的差异
        • 约束与限制
        • 与其他云服务的关系
        • Kafka相关概念
        • 权限管理
        • 计费说明
        • 计费项
        • 计费模式
        • 产品价格
        • 快速入门
        • 入门指引
        • 步骤一:准备环境
        • 步骤二:创建Kafka实例
        • (可选)步骤三:创建Topic
        • 步骤四:连接实例生产消费消息
        • 不使用SASL证书连接
        • 使用SASL证书连接
        • 步骤五:配置必须的监控告警
        • 用户指南
        • 权限管理
        • 创建用户并授权使用DMS for Kafka
        • DMS for Kafka自定义策略
        • DMS for Kafka资源
        • DMS for Kafka请求条件
        • 准备实例依赖资源
        • 购买实例
        • 连接Kafka实例
        • 配置Kafka实例的公网访问
        • 连接未开启SASL的Kafka实例
        • 连接已开启SASL的Kafka实例
        • 连接和查看Kafka Manager
        • 使用DNAT访问Kafka实例
        • 制作并替换证书
        • 实例管理
        • 变更实例规格
        • 查看实例
        • 重启实例
        • 删除实例
        • 修改实例信息
        • 设置实例公网访问
        • 按需转包周期
        • 重置Kafka密码
        • 重置Kafka Manager密码
        • 重启Kafka Manager
        • 管理实例标签
        • 查看实例后台任务
        • 查看磁盘使用量
        • Topic管理
        • 创建Topic
        • 删除Topic
        • 修改Topic老化时间
        • 修改Topic分区数
        • 修改同步复制和同步落盘
        • 修改分区平衡
        • 查看示例代码
        • 导出Topic
        • 设置Topic权限
        • 查看Topic日志
        • 消息管理
        • 查询消息
        • 删除消息
        • SASL_SSL用户管理
        • 创建SASL_SSL用户
        • 重置SASL_SSL密码
        • 删除SASL_SSL用户
        • 消费组管理
        • 创建消费组
        • 查询消费组信息
        • 删除消费组
        • 重置消费进度
        • 查看消费者连接地址
        • 流控管理
        • 创建流控
        • 编辑流控
        • 删除流控
        • 查看流控监控
        • 修改配置参数
        • 调整资源配额
        • 监控
        • 查看监控数据
        • 支持的监控指标
        • 必须配置的监控告警
        • Kafka数据迁移
        • Kafka数据迁移概述
        • 使用Smart Connect迁移Kafka数据
        • 开启Smart Connect
        • 配置Kafka之间的数据复制
        • 配置Kafka数据转储至OBS
        • 管理Smart Connect任务
        • 关闭Smart Connect
        • 云审计服务支持的关键操作
        • 云审计服务支持的DMS for Kafka操作列表
        • 查看云审计日志
        • 最佳实践
        • DMS for Kafka 消费者poll的优化
        • 如何提高消息处理效率
        • Kafka业务迁移
        • 使用MirrorMaker跨集群数据同步
        • 日志收集系统Flume接入Kafka
        • Kafka客户端使用规范
        • 流数据实时处理框架Flink接入Kafka
        • 日志处理工具Logstash接入Kafka
        • 如何设置消息堆积数超过阈值时,发送告警短信/邮件
        • Kafka Connect接入Kafka
        • Kafka客户端参数配置建议
        • 网络带宽利用率监控告警配置指导
        • 常见问题
        • 实例问题
        • 实例规格变更问题
        • 连接问题
        • Topic和分区问题
        • 消费组问题
        • 消息类问题
        • Kafka Manager问题
        • 监控告警问题
        • 视频专区
        • 文档下载
        • 相关协议
        • 分布式消息服务Kafka服务等级协议(新)
        • 分布式消息服务Kafka服务协议
          无相关产品

          本页目录

          帮助中心分布式消息服务Kafka常见问题Topic和分区问题
          Topic和分区问题
          更新时间 2023-12-22 15:08:04
          • 新浪微博
          • 微信
            扫码分享
          • 复制链接
          最近更新时间: 2023-12-22 15:08:04
          分享文章
          • 新浪微博
          • 微信
            扫码分享
          • 复制链接
          本文主要介绍 Topic和分区问题。

          Kafka实例的Topic数量是否有限制?

          Topic数量和Topic总分区数、每个Topic的分区数有关,Kafka实例对Topic总分区数设置了上限,当达到上限后,会导致用户无法继续创建Topic。

          不同规格配置的Topic总分区数不同,如下表所示。

          表 Kafka实例规格

          实例规格 代理个数范围 单个代理TPS 单个代理分区上限 单个代理Consumer Group上限 单个代理客户端总连接数上限 存储空间范围
          kafka.2u4g.cluster 3~30 30000 250 20 2000 300GB~300000GB
          kafka.4u8g.cluster 3~30 100000 500 100 4000 300GB~600000GB
          kafka.8u16g.cluster 3~30 150000 1000 150 4000 300GB~900000GB
          kafka.12u24g.cluster 3~30 200000 1500 200 4000 300GB~900000GB
          kafka.16u32g.cluster 3~30 250000 2000 200 4000 300GB~900000GB

          为什么限制Topic的总分区数?

          Kafka以分区为粒度管理消息,分区多导致生产、存储、消费都碎片化,影响性能稳定性。在使用过程中,当Topic的总分区数达到上限后,用户就无法继续创建Topic。

          不同规格配置的Topic总分区数不同,如下表所示。

          表 Kafka实例规格

          实例规格 代理个数范围 单个代理TPS 单个代理分区上限 单个代理Consumer Group上限 单个代理客户端总连接数上限 存储空间范围
          kafka.2u4g.cluster 3~30 30000 250 20 2000 300GB~300000GB
          kafka.4u8g.cluster 3~30 100000 500 100 4000 300GB~600000GB
          kafka.8u16g.cluster 3~30 150000 1000 150 4000 300GB~900000GB
          kafka.12u24g.cluster 3~30 200000 1500 200 4000 300GB~900000GB
          kafka.16u32g.cluster 3~30 250000 2000 200 4000 300GB~900000GB

          Kafka支持减少分区数吗?

          Kafka不支持减少分区数,您可以通过删除原先的Topic,然后创建新Topic,重新设置分区数。

          Kafka实例创建Topic失败

          可能原因:已创建的Topic,分区数之和达到实例规格的分区数上限。不同规格实例配置的分区数上限不同,具体请参考产品规格。

          解决方案:对Kafka实例扩容,或者删除不需要的Topic。

          Kafka实例支持批量导入Topic功能么?或者是自动生成Topic功能?

          支持自动生成Topic功能,但不支持Topic批量导入功能,仅支持批量导出Topic功能。

          通过以下任意一种方法,开启自动生成Topic功能:

          • 创建实例时,开启Kafka自动创建Topic。
          • 创建实例后,在实例详情页开启Kafka自动创建Topic。

          为什么删除Topic不生效?删除后该Topic仍然存在

          可能原因:您开启了自动创建Topic功能,且有消费者正在连接该Topic。所以,如果没有停止您的业务,删除了Topic后,还会有消息生产行为,并自动创建Topic。

          解决办法:需要关闭自动创建Topic功能,才可以正常删除Topic。

          Kafka实例是否支持查看单个Topic占用磁盘空间?

          支持。通过以下任意一种方法,查看单个Topic占用磁盘空间大小。

          • 在Kafka实例名称后,单击图片10.png,跳转到云监控页面。在“队列”页签中,“队列”选择待查看磁盘空间大小的Topic名称,“监控类型”选择“基本监控”,查看“队列数据容量”,该指标表示该队列当前的消息数据大小。
          • 单击Kafka实例名称,进入实例详情页。在左侧导航栏单击“监控”,进入监控页面。在“主题”页签中,“主题”选择待查看磁盘空间大小的Topic名称,“监控类型”选择“基本监控”,查看“队列数据容量”,该指标表示该队列当前的消息数据大小。

          Topic是否支持ACL权限配置?

          Kafka实例已开启Kafka SASL_SSL功能,此时Topic支持配置ACL权限。在Kafka控制台的“Topic管理”页面,在需要设置用户权限的Topic所在行,单击“设置用户权限”,为用户设置不同的权限。

          具体操作请参考设置Topic权限。

          消息被消费后,没有删除,导致Kafka存储空间占满?

          消息被消费后,并不会被删除,只有超过老化时间,才会被删除。

          您可以通过减小老化时间或者扩容存储空间,解决此问题。

          如何扩总分区?

          增加基准带宽/代理数量,可以扩大总分区数。

          在Kafka控制台的实例所在行,单击“更多 > 变更规格”,进入变更规格页面,根据实际情况扩容基准带宽/代理数量。具体操作请参考变更实例规格。

          修改自动创建Topic的配置,会触发重启吗?

          开启或者关闭“Kafka自动创建Topic”,会导致Kafka重启。

          如何关闭自动创建Topic功能?

          1. 在Kafka控制台,单击实例名称,进入实例详情页面。
          2. 在“基本信息”页面的“实例信息”区域,单击“Kafka自动创建Topic”后的,关闭自动创建Topic功能。

          您可以在“后台任务管理”页签,查看关闭任务执行状态。

          Kafka可以删除消费组下不用的Topic吗?

          可以删除。在Kafka客户端取消订阅该Topic,即可达到在消费组下删除该Topic的效果。

          消费者消费Topic失败,提示没有权限?

          问题现象: 同一个消费组内有多个消费者,为每个消费者授权不同的Topic访问权限,某一消费者消费其中一个Topic时,提示消费失败,报错信息如下:Not authorized to access topics。

          图片15.png

          问题原因: 消费组的leader在进行分区分配时,不会考虑某一个消费者的授权和订阅信息,只会根据消费组整体的订阅情况进行分区分配,此种情况下可能会给消费者分配到未授权的Topic,从而导致了上述问题的出现。

          例如:消费组中有消费者A、B、C,A订阅并授权Topic 0、Topic 1、Topic 2,B订阅并授权Topic 3、Topic 4、Topic 5,C订阅并授权Topic 6、Topic 7、Topic 8,假设以上Topic都只有一个分区,消费组的leader会根据策略进行分区分配,分配的结果可能变成:A消费Topic 0、Topic 3、Topic 6,B消费Topic 1、Topic 4、Topic 7,C消费Topic 2、Topic 5、Topic 8。此时A对Topic 3和Topic 6是没有授权的,因此会出现“Not authorized to access topics”的报错。

          图消费者访问权限

          图片16.png

          处理方法:

          • 如果业务要求所有消费者在同一个消费组内,即group.id相同,解决方法:为所有消费者授权相同的Topic访问权限。
          • 如果消费者不需要在同一个消费组内,解决方法:修改group.id,让每个消费者单独在一个消费组内。

          为什么实例中存在默认名为__trace和__consumer_offsets的Topic?

          问题现象: Kafka Manager中存在默认名为__trace和__consumer_offsets的Topic。

          图片17.png

          处理方法: __trace和__consumer_offsets是Kafka实例内部预留的Topic,不建议删除这两个Topic,删除后可能导致实例无法使用。

          文档反馈

          建议您登录后反馈,可在建议与反馈里查看问题处理进度

          鼠标选中文档,精准反馈问题

          选中存在疑惑的内容,即可快速反馈问题,我们会跟进处理

          知道了

          上一篇 :  连接问题
          下一篇 :  消费组问题
          搜索 关闭
          ©2025 天翼云科技有限公司版权所有 增值电信业务经营许可证A2.B1.B2-20090001
          公司地址:北京市东城区青龙胡同甲1号、3号2幢2层205-32室
          备案 京公网安备11010802043424号 京ICP备 2021034386号
          ©2025天翼云科技有限公司版权所有
          京ICP备 2021034386号
          备案 京公网安备11010802043424号
          增值电信业务经营许可证A2.B1.B2-20090001
          用户协议 隐私政策 法律声明