爆款云主机2核4G限时秒杀,88元/年起!
查看详情

活动

天翼云最新优惠活动,涵盖免费试用,产品折扣等,助您降本增效!
热门活动
  • 618智算钜惠季 爆款云主机2核4G限时秒杀,88元/年起!
  • 免费体验DeepSeek,上天翼云息壤 NEW 新老用户均可免费体验2500万Tokens,限时两周
  • 云上钜惠 HOT 爆款云主机全场特惠,更有万元锦鲤券等你来领!
  • 算力套餐 HOT 让算力触手可及
  • 天翼云脑AOne NEW 连接、保护、办公,All-in-One!
  • 中小企业应用上云专场 产品组合下单即享折上9折起,助力企业快速上云
  • 息壤高校钜惠活动 NEW 天翼云息壤杯高校AI大赛,数款产品享受线上订购超值特惠
  • 天翼云电脑专场 HOT 移动办公新选择,爆款4核8G畅享1年3.5折起,快来抢购!
  • 天翼云奖励推广计划 加入成为云推官,推荐新用户注册下单得现金奖励
免费活动
  • 免费试用中心 HOT 多款云产品免费试用,快来开启云上之旅
  • 天翼云用户体验官 NEW 您的洞察,重塑科技边界

智算服务

打造统一的产品能力,实现算网调度、训练推理、技术架构、资源管理一体化智算服务
智算云(DeepSeek专区)
科研助手
  • 算力商城
  • 应用商城
  • 开发机
  • 并行计算
算力互联调度平台
  • 应用市场
  • 算力市场
  • 算力调度推荐
一站式智算服务平台
  • 模型广场
  • 体验中心
  • 服务接入
智算一体机
  • 智算一体机
大模型
  • DeepSeek-R1-昇腾版(671B)
  • DeepSeek-R1-英伟达版(671B)
  • DeepSeek-V3-昇腾版(671B)
  • DeepSeek-R1-Distill-Llama-70B
  • DeepSeek-R1-Distill-Qwen-32B
  • Qwen2-72B-Instruct
  • StableDiffusion-V2.1
  • TeleChat-12B

应用商城

天翼云精选行业优秀合作伙伴及千余款商品,提供一站式云上应用服务
进入甄选商城进入云市场创新解决方案
办公协同
  • WPS云文档
  • 安全邮箱
  • EMM手机管家
  • 智能商业平台
财务管理
  • 工资条
  • 税务风控云
企业应用
  • 翼信息化运维服务
  • 翼视频云归档解决方案
工业能源
  • 智慧工厂_生产流程管理解决方案
  • 智慧工地
建站工具
  • SSL证书
  • 新域名服务
网络工具
  • 翼云加速
灾备迁移
  • 云管家2.0
  • 翼备份
资源管理
  • 全栈混合云敏捷版(软件)
  • 全栈混合云敏捷版(一体机)
行业应用
  • 翼电子教室
  • 翼智慧显示一体化解决方案

合作伙伴

天翼云携手合作伙伴,共创云上生态,合作共赢
天翼云生态合作中心
  • 天翼云生态合作中心
天翼云渠道合作伙伴
  • 天翼云代理渠道合作伙伴
天翼云服务合作伙伴
  • 天翼云集成商交付能力认证
天翼云应用合作伙伴
  • 天翼云云市场合作伙伴
  • 天翼云甄选商城合作伙伴
天翼云技术合作伙伴
  • 天翼云OpenAPI中心
  • 天翼云EasyCoding平台
天翼云培训认证
  • 天翼云学堂
  • 天翼云市场商学院
天翼云合作计划
  • 云汇计划
天翼云东升计划
  • 适配中心
  • 东升计划
  • 适配互认证

开发者

开发者相关功能入口汇聚
技术社区
  • 专栏文章
  • 互动问答
  • 技术视频
资源与工具
  • OpenAPI中心
开放能力
  • EasyCoding敏捷开发平台
培训与认证
  • 天翼云学堂
  • 天翼云认证
魔乐社区
  • 魔乐社区

支持与服务

为您提供全方位支持与服务,全流程技术保障,助您轻松上云,安全无忧
文档与工具
  • 文档中心
  • 新手上云
  • 自助服务
  • OpenAPI中心
定价
  • 价格计算器
  • 定价策略
基础服务
  • 售前咨询
  • 在线支持
  • 在线支持
  • 工单服务
  • 建议与反馈
  • 用户体验官
  • 服务保障
  • 客户公告
  • 会员中心
增值服务
  • 红心服务
  • 首保服务
  • 客户支持计划
  • 专家技术服务
  • 备案管家

了解天翼云

天翼云秉承央企使命,致力于成为数字经济主力军,投身科技强国伟大事业,为用户提供安全、普惠云服务
品牌介绍
  • 关于天翼云
  • 智算云
  • 天翼云4.0
  • 新闻资讯
  • 天翼云APP
基础设施
  • 全球基础设施
  • 信任中心
最佳实践
  • 精选案例
  • 超级探访
  • 云杂志
  • 分析师和白皮书
  • 天翼云·创新直播间
市场活动
  • 2025智能云生态大会
  • 2024智算云生态大会
  • 2023云生态大会
  • 2022云生态大会
  • 天翼云中国行
天翼云
  • 活动
  • 智算服务
  • 产品
  • 解决方案
  • 应用商城
  • 合作伙伴
  • 开发者
  • 支持与服务
  • 了解天翼云
      • 文档
      • 控制中心
      • 备案
      • 管理中心

      【快速搭建】kafka基础(2):kafka quickstart

      首页 知识中心 其他 文章详情页

      【快速搭建】kafka基础(2):kafka quickstart

      2025-03-11 09:36:54 阅读次数:8

      kafka,server,Step,topic

      官网提供的quickstart可以让读者快速入门kafka:启动server、创建topic、生产数据到topic、本地启动一个multi-broker 集群,导入导出数据等功能

      Step 1: Download the code

      $ tar -xzf kafka_2.13-3.2.1.tgz
      $ cd kafka_2.13-3.2.1
      

      Step 2: Start the server

      kafka依赖zk,所以需要你启动一个zk server;可以通过运行一个kafka脚本来获取一个单节点的zk实例

      bin/zookeeper-server-start.sh config/zookeeper.properties
      
      INFO Reading configuration from: config/zookeeper.properties (org.apache.zookeeper.server.quorum.QuorumPeerConfig)
      ...
      

      现在可以启动kafka server了

      bin/kafka-server-start.sh config/server.properties
      
      INFO Verifying properties (kafka.utils.VerifiableProperties)
      INFO Property socket.send.buffer.bytes is overridden to 1048576 (kafka.utils.VerifiableProperties)
      ..
      

      Step 3: Create a topic

      创建一个分区和副本都=1的topic:“test”
      > bin/kafka-topics.sh --create --bootstrap-server localhost:9092 --replication-factor 1 --partitions 1 --topic test
      
      查看topic的列表
      > bin/kafka-topics.sh --list --bootstrap-server localhost:9092
      test
      

      除了手动创建之外,还可以配置broker自动创建主题。 when a non-existent topic is published to.

      Step 4: WRITE SOME EVENTS INTO THE TOPIC

      kafka命令行的客户端,可以从文件或标准输入中获取输入,并将其作为消息发送到kafka集群中。
      默认的,每一行作为单独的消息进行发送。

      运行producer,然后键入一些信息到控制台发送到server中。

      > bin/kafka-console-producer.sh --broker-list localhost:9092 --topic test
      This is a message
      This is another message
      

      Step 5: Start a consumer

      命令行下的kafka消费者可以将message输出到标准输出。

      > bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic test --from-beginning
      This is a message
      This is another message
      

      Step 6: Setting up a multi-broker cluster

      在本地机器上:拓展集群到3个节点
      1、在每一个broker中创建一个配置文件

      > cp config/server.properties config/server-1.properties
      > cp config/server.properties config/server-2.properties
      

      2、编辑这些配置文件

      config/server-1.properties:
          broker.id=1
          listeners=PLAINTEXT://:9093
          log.dirs=/tmp/kafka-logs-1
      
      config/server-2.properties:
          broker.id=2
          listeners=PLAINTEXT://:9094
          log.dirs=/tmp/kafka-logs-2
      
      broker.id:是唯一的,并且是集群中每个节点的永久名字
      需要重写端口和日志目录。因为我们是在一台机器上运行,并且保证brokers之间不会注册到相同的端口,或覆盖其它broker的数据。
      

      因为已经有了zk和一个开启的node。所以只需要开启两个新的node。

      > bin/kafka-server-start.sh config/server-1.properties &
      ...
      > bin/kafka-server-start.sh config/server-2.properties &
      ...
      

      现在创建一个复制因子为3的topic

      > bin/kafka-topics.sh --create --bootstrap-server localhost:9092 --replication-factor 3 --partitions 1 --topic my-replicated-topic
      

      查看

      > bin/kafka-topics.sh --describe --bootstrap-server localhost:9092 --topic my-replicated-topic
      Topic:my-replicated-topic	PartitionCount:1	ReplicationFactor:3	Configs:
      	Topic: my-replicated-topic	Partition: 0	Leader: 1	Replicas: 1,2,0	Isr: 1,2,0
      
      第一行概要了所有的分区,每一个分区都会有一行描述的信息。这里只有一个分区所以只有一行。
      leader节点:负责所有给定分区的读写,每一个节点都可能以随机的方式当选为分区的leader
      replicas:复制该分区日志的节点列表。
      isr:一组同步副本。是副本列表的子集:哪些处于活动状态的节点,用于选取leader。
      

      Step 7: Use Kafka Connect to import/export data ing

      IMPORT/EXPORT YOUR DATA AS STREAMS OF EVENTS WITH KAFKA CONNECT

      Kafka Connect是kafka数据导入导出的工具。它是一个可拓展工具,可以自定义逻辑去和外部系统进行交互。

      我们看一个Kafka Connect从一个文件导入到kafka topic,并从kafka topic中导出数据到一个文件:
       

      1.准备测试文件

      > echo -e "foo\nbar" > test.txt
      

       
      2. 启动两个以独立模式运行的连接器。

      > bin/connect-standalone.sh config/connect-standalone.properties config/connect-file-source.properties config/connect-file-sink.properties
      
      
      我们提供三个配置文件作为参数。
      第一个配置文件总是Kafka连接过程的配置,包含常见的配置,如Kafka要连接的broker和数据的序列化格式。
      其余的配置文件每个都指定要创建的连接器。这些文件包括唯一的连接器名称、要实例化的连接器类和连接器所需的任何其他配置。
      
      版权声明:本文内容来自第三方投稿或授权转载,原文地址:https://blog.csdn.net/hiliang521/article/details/126591419,作者:roman_日积跬步-终至千里,版权归原作者所有。本网站转在其作品的目的在于传递更多信息,不拥有版权,亦不承担相应法律责任。如因作品内容、版权等问题需要同本网站联系,请发邮件至ctyunbbs@chinatelecom.cn沟通。

      上一篇:【算子1】spark(三):spark core:trans算子中value类型的算子使用说明

      下一篇:openresty 之resty.limit.req模块介绍

      相关文章

      2025-04-22 09:28:31

      Tcp的三次握手及netty和实际开发如何设置全连接队列参数

      Tcp的三次握手及netty和实际开发如何设置全连接队列参数

      2025-04-22 09:28:31
      queue , server , 队列
      2025-04-15 09:25:57

      监控kafka和zookeeper的jvm

      监控kafka和zookeeper的jvm

      2025-04-15 09:25:57
      console , kafka , topic
      2025-04-09 09:16:07

      RabbitMQ python演示 topic

      RabbitMQ python演示 topic

      2025-04-09 09:16:07
      key , topic , 单词 , 示例
      2025-04-09 09:16:00

      kafka自定义partition分发策略实例(含生java生产者实例代码和消费者实例代码)

      kafka自定义partition分发策略实例(含生java生产者实例代码和消费者实例代码)

      2025-04-09 09:16:00
      jar , kafka , 版本 , 自定义
      2025-04-09 09:15:47

      nginx负载均衡 多服务器代码同步更新(envoy)

      nginx负载均衡 多服务器代码同步更新(envoy)

      2025-04-09 09:15:47
      composer , server , task , 样例
      2025-04-09 09:11:38

      redis配置参数详细说明

      redis配置参数详细说明

      2025-04-09 09:11:38
      conf , redis , server , 默认
      2025-03-31 08:57:38

      laravel5.5 邮箱重置源码解析

      laravel5.5 邮箱重置源码解析

      2025-03-31 08:57:38
      39 , gt
      2025-03-26 08:43:34

      从零开始掌握Kafka Rebalance和分区分配

      从零开始掌握Kafka Rebalance和分区分配

      2025-03-26 08:43:34
      Kafka , topic , 分区 , 分配 , 消费者
      2025-03-17 07:50:08

      clickhourse-001单机安装部署

      clickhourse-001单机安装部署

      2025-03-17 07:50:08
      clickhouse , server , 安装 , 配置文件
      2025-03-14 09:05:42

      【RDMA】rdma-core驱动源码包|ibverbs|rdmacm

      【RDMA】rdma-core驱动源码包|ibverbs|rdmacm

      2025-03-14 09:05:42
      RDMA , server , 客户端
      查看更多
      推荐标签

      作者介绍

      天翼云小翼
      天翼云用户

      文章

      33561

      阅读量

      5244322

      查看更多

      最新文章

      监控kafka和zookeeper的jvm

      2025-04-15 09:25:57

      RabbitMQ python演示 topic

      2025-04-09 09:16:07

      从零开始掌握Kafka Rebalance和分区分配

      2025-03-26 08:43:34

      kafka集群重启方法

      2025-01-08 08:39:56

      kafka ksql && docker 安装试用

      2024-11-20 09:46:57

      React学习笔记(4.0)-json-server实现数据Mock

      2024-11-18 09:54:27

      查看更多

      热门文章

      postgres pg_cron 扩展连接远程pg server

      2023-04-07 06:40:15

      SQL SERVER 2005 DBCC IND命令说明

      2023-04-23 09:32:49

      Kafka Partition分发策略

      2023-05-30 08:06:30

      Kafka-Kraft 模式(不依赖Zookeeper)

      2023-08-02 07:07:45

      内网流量抓取

      2023-06-26 08:24:25

      flink获取kafka的key value timestamp header

      2023-08-03 06:46:20

      查看更多

      热门标签

      linux java python javascript 数组 前端 docker Linux vue 函数 shell git 节点 容器 示例
      查看更多

      相关产品

      弹性云主机

      随时自助获取、弹性伸缩的云服务器资源

      天翼云电脑(公众版)

      便捷、安全、高效的云电脑服务

      对象存储

      高品质、低成本的云上存储服务

      云硬盘

      为云上计算资源提供持久性块存储

      查看更多

      随机文章

      Kafka-Kraft 模式(不依赖Zookeeper)

      Kafka

      kafka ksql && docker 安装试用

      React学习笔记(4.0)-json-server实现数据Mock

      Docker Kafka Linux安装教程

      Zygote启动流程

      • 7*24小时售后
      • 无忧退款
      • 免费备案
      • 专家服务
      售前咨询热线
      400-810-9889转1
      关注天翼云
      • 旗舰店
      • 天翼云APP
      • 天翼云微信公众号
      服务与支持
      • 备案中心
      • 售前咨询
      • 智能客服
      • 自助服务
      • 工单管理
      • 客户公告
      • 涉诈举报
      账户管理
      • 管理中心
      • 订单管理
      • 余额管理
      • 发票管理
      • 充值汇款
      • 续费管理
      快速入口
      • 天翼云旗舰店
      • 文档中心
      • 最新活动
      • 免费试用
      • 信任中心
      • 天翼云学堂
      云网生态
      • 甄选商城
      • 渠道合作
      • 云市场合作
      了解天翼云
      • 关于天翼云
      • 天翼云APP
      • 服务案例
      • 新闻资讯
      • 联系我们
      热门产品
      • 云电脑
      • 弹性云主机
      • 云电脑政企版
      • 天翼云手机
      • 云数据库
      • 对象存储
      • 云硬盘
      • Web应用防火墙
      • 服务器安全卫士
      • CDN加速
      热门推荐
      • 云服务备份
      • 边缘安全加速平台
      • 全站加速
      • 安全加速
      • 云服务器
      • 云主机
      • 智能边缘云
      • 应用编排服务
      • 微服务引擎
      • 共享流量包
      更多推荐
      • web应用防火墙
      • 密钥管理
      • 等保咨询
      • 安全专区
      • 应用运维管理
      • 云日志服务
      • 文档数据库服务
      • 云搜索服务
      • 数据湖探索
      • 数据仓库服务
      友情链接
      • 中国电信集团
      • 189邮箱
      • 天翼企业云盘
      • 天翼云盘
      ©2025 天翼云科技有限公司版权所有 增值电信业务经营许可证A2.B1.B2-20090001
      公司地址:北京市东城区青龙胡同甲1号、3号2幢2层205-32室
      • 用户协议
      • 隐私政策
      • 个人信息保护
      • 法律声明
      备案 京公网安备11010802043424号 京ICP备 2021034386号