爆款云主机2核4G限时秒杀,88元/年起!
查看详情

活动

天翼云最新优惠活动,涵盖免费试用,产品折扣等,助您降本增效!
热门活动
  • 618智算钜惠季 爆款云主机2核4G限时秒杀,88元/年起!
  • 免费体验DeepSeek,上天翼云息壤 NEW 新老用户均可免费体验2500万Tokens,限时两周
  • 云上钜惠 HOT 爆款云主机全场特惠,更有万元锦鲤券等你来领!
  • 算力套餐 HOT 让算力触手可及
  • 天翼云脑AOne NEW 连接、保护、办公,All-in-One!
  • 中小企业应用上云专场 产品组合下单即享折上9折起,助力企业快速上云
  • 息壤高校钜惠活动 NEW 天翼云息壤杯高校AI大赛,数款产品享受线上订购超值特惠
  • 天翼云电脑专场 HOT 移动办公新选择,爆款4核8G畅享1年3.5折起,快来抢购!
  • 天翼云奖励推广计划 加入成为云推官,推荐新用户注册下单得现金奖励
免费活动
  • 免费试用中心 HOT 多款云产品免费试用,快来开启云上之旅
  • 天翼云用户体验官 NEW 您的洞察,重塑科技边界

智算服务

打造统一的产品能力,实现算网调度、训练推理、技术架构、资源管理一体化智算服务
智算云(DeepSeek专区)
科研助手
  • 算力商城
  • 应用商城
  • 开发机
  • 并行计算
算力互联调度平台
  • 应用市场
  • 算力市场
  • 算力调度推荐
一站式智算服务平台
  • 模型广场
  • 体验中心
  • 服务接入
智算一体机
  • 智算一体机
大模型
  • DeepSeek-R1-昇腾版(671B)
  • DeepSeek-R1-英伟达版(671B)
  • DeepSeek-V3-昇腾版(671B)
  • DeepSeek-R1-Distill-Llama-70B
  • DeepSeek-R1-Distill-Qwen-32B
  • Qwen2-72B-Instruct
  • StableDiffusion-V2.1
  • TeleChat-12B

应用商城

天翼云精选行业优秀合作伙伴及千余款商品,提供一站式云上应用服务
进入甄选商城进入云市场创新解决方案
办公协同
  • WPS云文档
  • 安全邮箱
  • EMM手机管家
  • 智能商业平台
财务管理
  • 工资条
  • 税务风控云
企业应用
  • 翼信息化运维服务
  • 翼视频云归档解决方案
工业能源
  • 智慧工厂_生产流程管理解决方案
  • 智慧工地
建站工具
  • SSL证书
  • 新域名服务
网络工具
  • 翼云加速
灾备迁移
  • 云管家2.0
  • 翼备份
资源管理
  • 全栈混合云敏捷版(软件)
  • 全栈混合云敏捷版(一体机)
行业应用
  • 翼电子教室
  • 翼智慧显示一体化解决方案

合作伙伴

天翼云携手合作伙伴,共创云上生态,合作共赢
天翼云生态合作中心
  • 天翼云生态合作中心
天翼云渠道合作伙伴
  • 天翼云代理渠道合作伙伴
天翼云服务合作伙伴
  • 天翼云集成商交付能力认证
天翼云应用合作伙伴
  • 天翼云云市场合作伙伴
  • 天翼云甄选商城合作伙伴
天翼云技术合作伙伴
  • 天翼云OpenAPI中心
  • 天翼云EasyCoding平台
天翼云培训认证
  • 天翼云学堂
  • 天翼云市场商学院
天翼云合作计划
  • 云汇计划
天翼云东升计划
  • 适配中心
  • 东升计划
  • 适配互认证

开发者

开发者相关功能入口汇聚
技术社区
  • 专栏文章
  • 互动问答
  • 技术视频
资源与工具
  • OpenAPI中心
开放能力
  • EasyCoding敏捷开发平台
培训与认证
  • 天翼云学堂
  • 天翼云认证
魔乐社区
  • 魔乐社区

支持与服务

为您提供全方位支持与服务,全流程技术保障,助您轻松上云,安全无忧
文档与工具
  • 文档中心
  • 新手上云
  • 自助服务
  • OpenAPI中心
定价
  • 价格计算器
  • 定价策略
基础服务
  • 售前咨询
  • 在线支持
  • 在线支持
  • 工单服务
  • 建议与反馈
  • 用户体验官
  • 服务保障
  • 客户公告
  • 会员中心
增值服务
  • 红心服务
  • 首保服务
  • 客户支持计划
  • 专家技术服务
  • 备案管家

了解天翼云

天翼云秉承央企使命,致力于成为数字经济主力军,投身科技强国伟大事业,为用户提供安全、普惠云服务
品牌介绍
  • 关于天翼云
  • 智算云
  • 天翼云4.0
  • 新闻资讯
  • 天翼云APP
基础设施
  • 全球基础设施
  • 信任中心
最佳实践
  • 精选案例
  • 超级探访
  • 云杂志
  • 分析师和白皮书
  • 天翼云·创新直播间
市场活动
  • 2025智能云生态大会
  • 2024智算云生态大会
  • 2023云生态大会
  • 2022云生态大会
  • 天翼云中国行
天翼云
  • 活动
  • 智算服务
  • 产品
  • 解决方案
  • 应用商城
  • 合作伙伴
  • 开发者
  • 支持与服务
  • 了解天翼云
      • 文档
      • 控制中心
      • 备案
      • 管理中心

      Storm入门之第三章拓扑

      首页 知识中心 其他 文章详情页

      Storm入门之第三章拓扑

      2023-02-24 10:11:48 阅读次数:175

      String

      设计一个拓扑时,你要做的最重要的事情之一就是定义如何在各组件之间交换数据(数据流是如何被bolts消费的)。一个数据流组指定了每个bolt会消费哪些数据流,以及如何消费它们。

      NOTE :一个节点能够发布一个以上的数据流,一个数据流组允许我们选择接收哪个。

      数据流组在定义拓扑时设置,就像我们在看到的:

      ···
          builder.setBolt("word-normalizer", new WordNormalizer())
                 .shuffleGrouping("word-reader");
      ···
      

      在前面的代码块里,一个bolt由TopologyBuilder对象设定, 然后使用随机数据流组指定数据源。数据流组通常将数据源组件的ID作为参数,取决于数据流组的类型不同还有其它可选参数。

      NOTE: 每个InputDeclarer可以有一个以上的数据源,而且每个数据源可以分到不同的组。

      随机数据流组

      随机流组是最常用的数据流组。它只有一个参数(数据源组件),并且数据源会向随机选择的bolt发送元组,保证每个消费者收到近似数量的元组。

      随机数据流组用于数学计算这样的原子操作。然而,如果操作不能被随机分配,就像单词计数的例子,你就要考虑其它分组方式了。

      域数据流组

      域数据流组允许你基于元组的一个或多个域控制如何把元组发送给 bolts 。它保证拥有相同域组合的值集发送给同一个 bolt 。回到单词计数器的例子,如果你用word域为数据流分组,word-normalizer bolt将只会把相同单词的元组发送给同一个word-counterbolt实例。

      ···
          builder.setBolt("word-counter", new WordCounter(),2)
                 .fieldsGrouping("word-normalizer", new Fields("word"));
      ···
      

      NOTE: 在域数据流组中的所有域集合必须存在于数据源的域声明中。

      全部数据流组

      全部数据流组,为每个接收数据的实例复制一份元组副本。这种分组方式用于向bolts发送信号。比如,你要刷新缓存,你可以向所有的bolts发送一个 刷新缓存信号 。在单词计数器的例子里,你可以使用一个全部数据流组,添加清除计数器缓存的功能(见拓扑示例)

          public void execute(Tuple input) {
              String str = null;
              try{
                  if(input.getSourceStreamId().equals("signals")){
                      str = input.getStringByField("action");
                      if("refreshCache".equals(str))
                          counters.clear();
                  }
              }catch (IllegalArgumentException e){
                  //什么也不做
              }
              ···
          }
      

      我们添加了一个if分支,用来检查源数据流。Storm允许我们声明具名数据流(如果你不把元组发送到一个具名数据流,默认发送到名为” default “的数据流)。这是一个识别元组的极好的方式,就像这个例子中,我们想识别signals一样。 在拓扑定义中,你要向word-counter bolt添加第二个数据流,用来接收从signals-spout数据流发送到所有bolt实例的每一个元组。

          builder.setBolt("word-counter", new WordCounter(),2)
                 .fieldsGroupint("word-normalizer",new Fields("word"))
                 .allGrouping("signals-spout","signals");
      

      signals-spout的实现请参考

      自定义数据流组

      你可以通过实现backtype.storm.grouping.CustormStreamGrouping接口创建自定义数据流组,让你自己决定哪些bolt接收哪些元组。

      让我们修改单词计数器示例,使首字母相同的单词由同一个bolt接收。

          public class ModuleGrouping mplents CustormStreamGrouping, Serializable{
              int numTasks = 0;
      
              @Override
              public List<Integer> chooseTasks(List<Object> values) {
                  List<Integer> boltIds = new ArrayList<Integer>();
                  if(values.size()>0){
                      String str = values.get(0).toString();
                      if(str.isEmpty()){
                          boltIds.add(0);
                      }else{
                          boltIds.add(str.charAt(0) % numTasks);
                      }
                  }
                  return boltIds;
              }
      
              @Override
              public void prepare(TopologyContext context, Fields outFields, List<Integer> targetTasks) {
                  numTasks = targetTasks.size();
              }
          }
      

      这是一个CustomStreamGrouping的简单实现,在这里我们采用单词首字母字符的整数值与任务数的余数,决定接收元组的 bolt 。

      按下述方式word-normalizer修改即可使用这个自定义数据流组。

          builder.setBolt("word-normalizer", new WordNormalizer())
                 .customGrouping("word-reader", new ModuleGrouping());
      

      直接数据流组

      这是一个特殊的数据流组,数据源可以用它决定哪个组件接收元组。与前面的例子类似,数据源将根据单词首字母决定由哪个bolt接收元组。要使用直接数据流组,在WordNormalizer bolt中,使用emitDirect方法代替 emit 。

          public void execute(Tuple input) {
              ...
              for(String word : words){
                  if(!word.isEmpty()){
                      ...
                      collector.emitDirect(getWordCountIndex(word),new Values(word));
                  }
              }
              //对元组做出应答
              collector.ack(input);
          }
      
          public Integer getWordCountIndex(String word) {
              word = word.trim().toUpperCase();
              if(word.isEmpty()){
                  return 0;
              }else{
                  return word.charAt(0) % numCounterTasks;
              }
          }
      

      在prepare方法中计算任务数

          public void prepare(Map stormConf, TopologyContext context, 
                      OutputCollector collector) {
              this.collector = collector;
              this.numCounterTasks = context.getComponentTasks("word-counter");
          }
      

      在拓扑定义中指定数据流将被直接分组:

          builder.setBolt("word-counter", new WordCounter(),2)
                 .directGrouping("word-normalizer");
      

      全局数据流组

      全局数据流组把所有数据源创建的元组发送给单一目标实例(即拥有最低ID的任务)。

      不分组

      写作本书时(Stom0.7.1版),这个数据流组相当于随机数据流组。也就是说,使用这个数据流组时,并不关心数据流是如何分组的。

      LocalCluster VS StormSubmitter

      到目前为止,你已经用一个叫做LocalCluster的工具在你的本地机器上运行了一个拓扑。Storm的基础工具,使你能够在自己的计算机上方便的运行和调试不同的拓扑。但是你怎么把自己的拓扑提交给运行中的Storm集群呢?Storm有一个有趣的功能,在一个真实的集群上运行自己的拓扑是很容易的事情。要实现这一点,你需要把LocalCluster换成StormSubmitter并实现submitTopology方法, 它负责把拓扑发送给集群。

      下面是修改后的代码:

          //LocalCluster cluster = new LocalCluster();
          //cluster.submitTopology("Count-Word-Topology-With-Refresh-Cache", conf, 
          //builder.createTopology());
          StormSubmitter.submitTopology("Count-Word-Topology-With_Refresh-Cache", conf,
                  builder.createTopology());
          //Thread.sleep(1000);
          //cluster.shutdown();
      

      NOTE: 当你使用StormSubmitter时,你就不能像使用LocalCluster时一样通过代码控制集群了。

      接下来,把源码压缩成一个jar包,运行Storm客户端命令,把拓扑提交给集群。如果你已经使用了Maven, 你只需要在命令行进入源码目录运行: mvn package 。

      现在你生成了一个jar包,使用storm jar命令提交拓扑(关于如何安装Storm客户端请参考。命令格式: storm jar allmycode.jar org.me.MyTopology arg1 arg2 arg3 。

      对于这个例子,在拓扑工程目录下面运行:

      storm jar target/Topologies-0.0.1-SNAPSHOT.jar countword.TopologyMain src/main/resources/words.txt
      

      通过这些命令,你就把拓扑发布集群上了。

      如果想停止或杀死它,运行:

      storm kill Count-Word-Topology-With-Refresh-Cache
      

      NOTE: 拓扑名称必须保证惟一性。

      NOTE: 如何安装Storm客户端,

      DRPC拓扑

      有一种特殊的拓扑类型叫做分布式远程过程调用(DRPC),它利用Storm的分布式特性执行远程过程调用(RPC)(见下图)。Storm提供了一些用来实现DRPC的工具。第一个是DRPC服务器,它就像是客户端和Storm拓扑之间的连接器,作为拓扑的spout的数据源。它接收一个待执行的函数和函数参数,然后对于函数操作的每一个数据块,这个服务器都会通过拓扑分配一个请求ID用来识别RPC请求。拓扑执行最后的bolt时,它必须分配RPC请求ID和结果,使DRPC服务器把结果返回正确的客户端。

      Storm入门之第三章拓扑

      NOTE: 单实例DRPC服务器能够执行许多函数。每个函数由一个惟一的名称标识。

      Storm提供的第二个工具(已在例子中用过)是 LineDRPCTopologyBuilder ,一个辅助构建DRPC拓扑的抽象概念。生成的拓扑创建 DRPCSpouts ——它连接到DRPC服务器并向拓扑的其它部分分发数据——并包装 bolts ,使结果从最后一个bolt返回。依次执行所有添加到LinearDRPCTopologyBuilder对象的 bolts 。

      作为这种类型的拓扑的一个例子,我们创建了一个执行加法运算的进程。虽然这是一个简单的例子,但是这个概念可以扩展到复杂的分布式计算。

      bolt按下面的方式声明输出:

          public void declareOutputFields(OutputFieldsDeclarer declarer) {
              declarer.declare(new Fields("id","result"));
          }
      

      因为这是拓扑中惟一的 bolt ,它必须发布RPC ID和结果。execute方法负责执行加法运算。

          public void execute(Tuple input) {
              String[] numbers = input.getString(1).split("\\+");
              Integer added = 0;
              if(numbers.length<2){
                  throw new InvalidParameterException("Should be at least 2 numbers");
              }
              for(String num : numbers){
                  added += Integer.parseInt(num);
              }
              collector.emit(new Values(input.getValue(0),added));
          }
      

      包含加法bolt的拓扑定义如下:

          public static void main(String[] args) {
              LocalDRPC drpc = new LocalDRPC();
      
              LinearDRPCTopologyBuilder builder = new LinearDRPCTopologyBuilder("add");
              builder.addBolt(AdderBolt(),2);
      
              Config conf = new Config();
              conf.setDebug(true);
      
              LocalCluster cluster = new LocalCluster();
              cluster.submitTopology("drpcder-topology", conf,
                  builder.createLocalTopology(drpc));
              String result = drpc.execute("add", "1+-1");
              checkResult(result,0);
              result = drpc.execute("add", "1+1+5+10");
              checkResult(result,17);
      
              cluster.shutdown();
              drpc.shutdown();
          }
      

      创建一个LocalDRPC对象在本地运行DRPC服务器。接下来,创建一个拓扑构建器(译者注:LineDRpctopologyBuilder对象),把bolt添加到拓扑。运行DRPC对象(LocalDRPC对象)的execute方法测试拓扑。

      NOTE: 使用DRPCClient类连接远程DRPC服务器。DRPC服务器,因此可以跨语言编程;并且不论是在本地还是在远程运行DRPC服务器,它们的API都是相同的。 对于采用Storm配置的DRPC配置参数的Storm集群,调用构建器对象的createRemoteTopology向Storm集群提交一个拓扑,而不是调用 createLocalTopology 。

      版权声明:本文内容来自第三方投稿或授权转载,原文地址:http://ifeve.com/getting-started-with-storm-3/,作者:并发编程网,版权归原作者所有。本网站转在其作品的目的在于传递更多信息,不拥有版权,亦不承担相应法律责任。如因作品内容、版权等问题需要同本网站联系,请发邮件至ctyunbbs@chinatelecom.cn沟通。

      上一篇:诡异的类型转换

      下一篇:高性能:BPF performance Tools 学习笔记-1

      相关文章

      2025-05-14 10:33:16

      30天拿下Rust之字符串

      在Rust中,字符串是一种非常重要的数据类型,用于处理文本数据。Rust的字符串是以UTF-8编码的字节序列,主要有两种类型:&str和String。其中,&str是一个对字符数据的不可变引用,更像是对现有字符串数据的“视图”,而String则是一个独立、可变更的字符串实体。

      2025-05-14 10:33:16
      amp , Rust , str , String , 使用 , 字符串 , 方法
      2025-05-13 09:53:23

      java中判断String类型为空和null的方法

      在Java中,判断一个String类型的变量是否为空(即长度为0)或者为null,通常需要使用两个条件语句来进行检查。这是因为null表示变量没有引用任何对象,而空字符串("")表示变量引用了一个没有内容的字符串对象。

      2025-05-13 09:53:23
      null , String , 为空 , 字符串 , 方法 , 示例 , 默认值
      2025-04-22 09:44:09

      【Java】引用传递的实例分析

      【Java】引用传递的实例分析

      2025-04-22 09:44:09
      String , 传递 , 内存 , 引用
      2025-04-15 09:20:22

      初学Java,泛型类型通配符(三十七)

      初学Java,泛型类型通配符(三十七)

      2025-04-15 09:20:22
      List , String , 泛型 , 父类 , 类型 , 编译 , 通配符
      2025-04-11 07:15:54

      java中final的用法

      final从字面翻译来看,有最后的,最终的; 决定性的; 不可更改的等含义,在java里面主要还是“不可改变的”这层意思,不可改变或者不想改变的final主要用在类、方法、数据这三个方面。

      2025-04-11 07:15:54
      final , java , String , 声明 , 子类 , 对象 , 方法
      2025-04-11 07:12:29

      Java前后端交互Long类型精度丢失(数字转字符串)

      Java前后端交互Long类型精度丢失(数字转字符串)

      2025-04-11 07:12:29
      Java , String , 属性 , 类型 , 转换 , 返回
      2025-04-11 07:08:42

      使用javap分析Java的字符串操作

      使用javap分析Java的字符串操作

      2025-04-11 07:08:42
      Java , String , 常量
      2025-04-11 07:08:26

      JavaI/O编程---File文件操作

      JavaI/O编程---File文件操作

      2025-04-11 07:08:26
      data , File , new , public , String , 字节 , 读取
      2025-04-09 09:16:42

      security antMatchers(HttpMethod method, String... antPatterns)实现特定注解无需登录认证功能

      security antMatchers(HttpMethod method, String... antPatterns)实现特定注解无需登录认证功能

      2025-04-09 09:16:42
      method , String
      2025-04-09 09:13:27

      S2-007 远程代码执行漏洞检测与利用

      S2-007 远程代码执行漏洞检测与利用

      2025-04-09 09:13:27
      java , lang , new , response , String
      查看更多
      推荐标签

      作者介绍

      筱筱听云
      天翼云用户

      文章

      19

      阅读量

      6253

      查看更多

      最新文章

      java中final的用法

      2025-04-11 07:15:54

      security antMatchers(HttpMethod method, String... antPatterns)实现特定注解无需登录认证功能

      2025-04-09 09:16:42

      java保留2位小数点

      2025-03-28 06:50:00

      java知识点总结(二)

      2025-03-27 10:12:02

      String index out of range错误与解决方法

      2024-12-02 08:39:14

      引用传递的实例分析

      2024-09-24 06:30:37

      查看更多

      热门文章

      Map or switch

      2023-02-24 10:12:47

      谈谈架构和微服务

      2024-06-27 09:20:52

      引用传递的实例分析

      2024-09-24 06:30:37

      灵魂拷问:java的String到底可不可变?

      2023-04-28 06:45:00

      前端项目实战49-map类中的<String,String>泛型的意思

      2023-05-12 06:47:16

      String、StringBuffer和StringBuilder类的区别以及StringBuffer的常用方法 StringBuffer的capacity容量扩容机制

      2023-05-31 08:45:09

      查看更多

      热门标签

      linux java python javascript 数组 前端 docker Linux vue 函数 shell git 节点 容器 示例
      查看更多

      相关产品

      弹性云主机

      随时自助获取、弹性伸缩的云服务器资源

      天翼云电脑(公众版)

      便捷、安全、高效的云电脑服务

      对象存储

      高品质、低成本的云上存储服务

      云硬盘

      为云上计算资源提供持久性块存储

      查看更多

      随机文章

      String index out of range错误与解决方法

      libcurl第十三课 httpheader要求中文必须为iso8859-1编码解读

      java中final的用法

      引用传递的实例分析

      用户手册(GB8567——88)基于协同的在线表格forture-sheet

      分析substring(),charAt()等常见java.lang.StringIndexOutOfBoundsException: String index out of range: -1的问题

      • 7*24小时售后
      • 无忧退款
      • 免费备案
      • 专家服务
      售前咨询热线
      400-810-9889转1
      关注天翼云
      • 旗舰店
      • 天翼云APP
      • 天翼云微信公众号
      服务与支持
      • 备案中心
      • 售前咨询
      • 智能客服
      • 自助服务
      • 工单管理
      • 客户公告
      • 涉诈举报
      账户管理
      • 管理中心
      • 订单管理
      • 余额管理
      • 发票管理
      • 充值汇款
      • 续费管理
      快速入口
      • 天翼云旗舰店
      • 文档中心
      • 最新活动
      • 免费试用
      • 信任中心
      • 天翼云学堂
      云网生态
      • 甄选商城
      • 渠道合作
      • 云市场合作
      了解天翼云
      • 关于天翼云
      • 天翼云APP
      • 服务案例
      • 新闻资讯
      • 联系我们
      热门产品
      • 云电脑
      • 弹性云主机
      • 云电脑政企版
      • 天翼云手机
      • 云数据库
      • 对象存储
      • 云硬盘
      • Web应用防火墙
      • 服务器安全卫士
      • CDN加速
      热门推荐
      • 云服务备份
      • 边缘安全加速平台
      • 全站加速
      • 安全加速
      • 云服务器
      • 云主机
      • 智能边缘云
      • 应用编排服务
      • 微服务引擎
      • 共享流量包
      更多推荐
      • web应用防火墙
      • 密钥管理
      • 等保咨询
      • 安全专区
      • 应用运维管理
      • 云日志服务
      • 文档数据库服务
      • 云搜索服务
      • 数据湖探索
      • 数据仓库服务
      友情链接
      • 中国电信集团
      • 189邮箱
      • 天翼企业云盘
      • 天翼云盘
      ©2025 天翼云科技有限公司版权所有 增值电信业务经营许可证A2.B1.B2-20090001
      公司地址:北京市东城区青龙胡同甲1号、3号2幢2层205-32室
      • 用户协议
      • 隐私政策
      • 个人信息保护
      • 法律声明
      备案 京公网安备11010802043424号 京ICP备 2021034386号