爆款云主机2核4G限时秒杀,88元/年起!
查看详情

活动

天翼云最新优惠活动,涵盖免费试用,产品折扣等,助您降本增效!
热门活动
  • 618智算钜惠季 爆款云主机2核4G限时秒杀,88元/年起!
  • 免费体验DeepSeek,上天翼云息壤 NEW 新老用户均可免费体验2500万Tokens,限时两周
  • 云上钜惠 HOT 爆款云主机全场特惠,更有万元锦鲤券等你来领!
  • 算力套餐 HOT 让算力触手可及
  • 天翼云脑AOne NEW 连接、保护、办公,All-in-One!
  • 中小企业应用上云专场 产品组合下单即享折上9折起,助力企业快速上云
  • 息壤高校钜惠活动 NEW 天翼云息壤杯高校AI大赛,数款产品享受线上订购超值特惠
  • 天翼云电脑专场 HOT 移动办公新选择,爆款4核8G畅享1年3.5折起,快来抢购!
  • 天翼云奖励推广计划 加入成为云推官,推荐新用户注册下单得现金奖励
免费活动
  • 免费试用中心 HOT 多款云产品免费试用,快来开启云上之旅
  • 天翼云用户体验官 NEW 您的洞察,重塑科技边界

智算服务

打造统一的产品能力,实现算网调度、训练推理、技术架构、资源管理一体化智算服务
智算云(DeepSeek专区)
科研助手
  • 算力商城
  • 应用商城
  • 开发机
  • 并行计算
算力互联调度平台
  • 应用市场
  • 算力市场
  • 算力调度推荐
一站式智算服务平台
  • 模型广场
  • 体验中心
  • 服务接入
智算一体机
  • 智算一体机
大模型
  • DeepSeek-R1-昇腾版(671B)
  • DeepSeek-R1-英伟达版(671B)
  • DeepSeek-V3-昇腾版(671B)
  • DeepSeek-R1-Distill-Llama-70B
  • DeepSeek-R1-Distill-Qwen-32B
  • Qwen2-72B-Instruct
  • StableDiffusion-V2.1
  • TeleChat-12B

应用商城

天翼云精选行业优秀合作伙伴及千余款商品,提供一站式云上应用服务
进入甄选商城进入云市场创新解决方案
办公协同
  • WPS云文档
  • 安全邮箱
  • EMM手机管家
  • 智能商业平台
财务管理
  • 工资条
  • 税务风控云
企业应用
  • 翼信息化运维服务
  • 翼视频云归档解决方案
工业能源
  • 智慧工厂_生产流程管理解决方案
  • 智慧工地
建站工具
  • SSL证书
  • 新域名服务
网络工具
  • 翼云加速
灾备迁移
  • 云管家2.0
  • 翼备份
资源管理
  • 全栈混合云敏捷版(软件)
  • 全栈混合云敏捷版(一体机)
行业应用
  • 翼电子教室
  • 翼智慧显示一体化解决方案

合作伙伴

天翼云携手合作伙伴,共创云上生态,合作共赢
天翼云生态合作中心
  • 天翼云生态合作中心
天翼云渠道合作伙伴
  • 天翼云代理渠道合作伙伴
天翼云服务合作伙伴
  • 天翼云集成商交付能力认证
天翼云应用合作伙伴
  • 天翼云云市场合作伙伴
  • 天翼云甄选商城合作伙伴
天翼云技术合作伙伴
  • 天翼云OpenAPI中心
  • 天翼云EasyCoding平台
天翼云培训认证
  • 天翼云学堂
  • 天翼云市场商学院
天翼云合作计划
  • 云汇计划
天翼云东升计划
  • 适配中心
  • 东升计划
  • 适配互认证

开发者

开发者相关功能入口汇聚
技术社区
  • 专栏文章
  • 互动问答
  • 技术视频
资源与工具
  • OpenAPI中心
开放能力
  • EasyCoding敏捷开发平台
培训与认证
  • 天翼云学堂
  • 天翼云认证
魔乐社区
  • 魔乐社区

支持与服务

为您提供全方位支持与服务,全流程技术保障,助您轻松上云,安全无忧
文档与工具
  • 文档中心
  • 新手上云
  • 自助服务
  • OpenAPI中心
定价
  • 价格计算器
  • 定价策略
基础服务
  • 售前咨询
  • 在线支持
  • 在线支持
  • 工单服务
  • 建议与反馈
  • 用户体验官
  • 服务保障
  • 客户公告
  • 会员中心
增值服务
  • 红心服务
  • 首保服务
  • 客户支持计划
  • 专家技术服务
  • 备案管家

了解天翼云

天翼云秉承央企使命,致力于成为数字经济主力军,投身科技强国伟大事业,为用户提供安全、普惠云服务
品牌介绍
  • 关于天翼云
  • 智算云
  • 天翼云4.0
  • 新闻资讯
  • 天翼云APP
基础设施
  • 全球基础设施
  • 信任中心
最佳实践
  • 精选案例
  • 超级探访
  • 云杂志
  • 分析师和白皮书
  • 天翼云·创新直播间
市场活动
  • 2025智能云生态大会
  • 2024智算云生态大会
  • 2023云生态大会
  • 2022云生态大会
  • 天翼云中国行
天翼云
  • 活动
  • 智算服务
  • 产品
  • 解决方案
  • 应用商城
  • 合作伙伴
  • 开发者
  • 支持与服务
  • 了解天翼云
      • 文档
      • 控制中心
      • 备案
      • 管理中心

      flink窗口函数之reduceFuction学习

      首页 知识中心 大数据 文章详情页

      flink窗口函数之reduceFuction学习

      2023-08-04 08:44:20 阅读次数:428

      flink,java,大数据

      public interface ReduceFunction<T> extends Function, Serializable {
      
          /**
           * The core method of ReduceFunction, combining two values into one value of the same type. The
           * reduce function is consecutively applied to all values of a group until only a single value
           * remains.
           *
           * @param value1 The first value to combine.
           * @param value2 The second value to combine.
           * @return The combined value of both input values.
           * @throws Exception This method may throw exceptions. Throwing an exception will cause the
           *     operation to fail and may trigger recovery.
           */
          T reduce(T value1, T value2) throws Exception;
      }

      注意源码注意,reduce就是combine两个value成为一个value,注意类型是一样的,

      特性是 流式函数中数据是连绵不绝的 value1 value2 。。。value999

      reduce函数是将 value1 value2两个值合并为一个new value

      然后拿着new value 和value3 再进行合并,得到一个new new value

      然后拿着new new value 和value4进行合并,得到new new new value...

      一直到value9999 最后生成的结果还是value 。不会说是一个tuple 一个list set map 

       简单案例,统计每个用户窗口时间内的访问量 (也可以是每个url被访问的量)

      注意这个量肯定是逐渐增加的

      //自定义source 
      public class ClickSource implements SourceFunction<Event> {
          // 声明一个布尔变量,作为控制数据生成的标识位
          private Boolean running = true;
          @Override
          public void run(SourceContext<Event> ctx) throws Exception {
              Random random = new Random();    // 在指定的数据集中随机选取数据
              String[] users = {"Mary", "Alice", "Bob", "Cary"};
              String[] urls = {"./home", "./cart", "./fav", "./prod?id=1", "./prod?id=2"};
      
              while (running) {
                  ctx.collect(new Event(
                          users[random.nextInt(users.length)],
                          urls[random.nextInt(urls.length)],
                          Calendar.getInstance().getTimeInMillis()
                  ));
                  //这里也可以发送水位线
       //           ctx.collectWithTimestamp();
      //            ctx.emitWatermark(new Watermark(1));
                  // 隔1秒生成一个点击事件,方便观测
                  Thread.sleep(1000);
              }
          }
          @Override
          public void cancel() {
              running = false;
          }
      
      }
      
      import org.apache.flink.api.common.eventtime.SerializableTimestampAssigner;
      import org.apache.flink.api.common.eventtime.WatermarkStrategy;
      import org.apache.flink.api.common.functions.MapFunction;
      import org.apache.flink.api.common.functions.ReduceFunction;
      import org.apache.flink.api.java.tuple.Tuple2;
      import org.apache.flink.streaming.api.datastream.SingleOutputStreamOperator;
      import org.apache.flink.streaming.api.environment.StreamExecutionEnvironment;
      import org.apache.flink.streaming.api.windowing.assigners.TumblingEventTimeWindows;
      import org.apache.flink.streaming.api.windowing.assigners.TumblingProcessingTimeWindows;
      import org.apache.flink.streaming.api.windowing.time.Time;
      
      import java.time.Duration;
      
      public class WindowReduceTest {
          public static void main(String[] args) throws Exception {
              StreamExecutionEnvironment env = StreamExecutionEnvironment.getExecutionEnvironment();
              env.setParallelism(1);
      
              //这个有点类似预聚合,比如月活,之前的批处理是一个月的数据最后一天处理
              //目前是每一个窗口的数据都聚合 这个是流处理处理批处理数据,
              // processfunction就是批处理,窗口内所有的数据都来了再一起处理
              // 从自定义数据源读取数据,并提取时间戳、生成水位线
              SingleOutputStreamOperator<Event> stream = env.addSource(new ClickSource())
                      .assignTimestampsAndWatermarks(WatermarkStrategy.<Event>forBoundedOutOfOrderness(Duration.ZERO)
                              .withTimestampAssigner(new SerializableTimestampAssigner<Event>() {
                                  @Override
                                  public long extractTimestamp(Event element, long recordTimestamp) {//提取时间戳作为水位线
                                      return element.timestamp;
                                  }
                              }));
              stream.map(new MapFunction<Event, Tuple2<String, Long>>() {
                          @Override
                          public Tuple2<String, Long> map(Event value) throws Exception {
                              // 将数据转换成二元组,方便计算
                              return Tuple2.of(value.user, 1L);
                          }
                      })
                      .keyBy(r -> r.f0)// 根据用户名分组统计各用户的点击次数
                      // 设置滚动事件时间窗口
                      .window(TumblingEventTimeWindows.of(Time.seconds(10))) // 每5s统计一次
                      .reduce(new ReduceFunction<Tuple2<String, Long>>() {
                          @Override
                          public Tuple2<String, Long> reduce(Tuple2<String, Long> value1, Tuple2<String, Long> value2) throws Exception {
                              // 定义累加规则,窗口闭合时,向下游发送累加结果 上次的点击总数+1
                              return Tuple2.of(value1.f0, value1.f1 + value2.f1);
                          }
                      })
                      .print();
      
              env.execute();
          }
      }
      
      

       注意

      1.这里没有设置allowedLateness  因为没有必要,测试的是reduce。

      2.这里用的是boundoutorderness 但是注意乱序=0 也就是=递增数据

      3.自定义的source 是1s发一条数据,

      flink窗口函数之reduceFuction学习

      注意这个打印的结果 为什么第一条里只有6条数据呢? 按道理都是10条数据的。很简单是因为只有6条数据在开启的窗口里。

      版权声明:本文内容来自第三方投稿或授权转载,原文地址:https://blog.csdn.net/cclovezbf/article/details/127010028,作者:cclovezbf,版权归原作者所有。本网站转在其作品的目的在于传递更多信息,不拥有版权,亦不承担相应法律责任。如因作品内容、版权等问题需要同本网站联系,请发邮件至ctyunbbs@chinatelecom.cn沟通。

      上一篇:[回溯算法]leetcode216. 组合总和 III(c实现)

      下一篇:flink之延迟数据处理watermark allowedLateness() sideOutputLateData()

      相关文章

      2025-05-14 10:02:58

      java项目多端数据同步解决方案

      多端数据同步是指在多个设备(例如桌面应用、移动应用、Web应用)之间保持数据的一致性。

      2025-05-14 10:02:58
      java , Spring , WebSocket , 同步 , 数据 , 版本号
      2025-05-14 10:02:58

      java休眠到指定时间怎么写

      java休眠到指定时间怎么写

      2025-05-14 10:02:58
      java , sleep , Thread , util , 方法
      2025-05-13 09:49:12

      Java学习(动态代理的思想详细分析与案例准备)(1)

      Java学习(动态代理的思想详细分析与案例准备)(1)

      2025-05-13 09:49:12
      java , 代理 , 代码 , 对象 , 接口 , 方法 , 需要
      2025-05-09 08:20:32

      基于IDEA的Maven简单工程创建及结构分析

      通过一个 mvn 命令直接让我们创建一个 Maven 的脚手架。

      2025-05-09 08:20:32
      java , Maven , xml , 创建 , 文件 , 文件夹 , 项目
      2025-05-08 09:03:57

      前K个高频元素java

      给定一个非空的整数数组,返回其中出现频率前 前K个高频元素java 高的元素。

      2025-05-08 09:03:57
      java , 元素 , 样例 , 给定
      2025-05-08 09:03:21

      基于java Swing开发的学生成绩管理系统【项目源码+数据库脚本】

      基于java Swing开发的学生成绩管理系统【项目源码+数据库脚本】

      2025-05-08 09:03:21
      java , Swing , 学生 , 源码
      2025-05-08 09:03:21

      java Swing学生成绩管理系统【项目源码+数据库脚本】

      本项目是一套基于java Swing开发的学生成绩管理系统,主要针对计算机相关专业的正在做bishe的学生和需要项目实战练习的Java学习者。

      2025-05-08 09:03:21
      java , 学生 , 成绩 , 数据库 , 源码
      2025-05-07 09:08:08

      java Swing学生选课管理系统【源码+数据库+报告】

      本项目是一套基于java Swing学生选课管理系统,主要针对计算机相关专业的正在做毕设的学生与需要项目实战练习的Java学习者。

      2025-05-07 09:08:08
      java , 学生 , 截图 , 源码
      2025-05-07 09:08:08

      java swing人机对战五子棋(含背景音乐)

      本项目是一套基于java swing的人机对战五子棋系统,主要针对计算机相关专业的正在做毕设的学生与需要项目实战练习的Java学习者。

      2025-05-07 09:08:08
      java , 源码
      2025-04-22 09:40:08

      【ETL工具】kettle 程序报错 Javascript error: TypeError: Cannot call method “trim“ of null

      【ETL工具】kettle 程序报错 Javascript error: TypeError: Cannot call method “trim“ of null

      2025-04-22 09:40:08
      java , javascript , org
      查看更多
      推荐标签

      作者介绍

      天翼云小翼
      天翼云用户

      文章

      33561

      阅读量

      5220589

      查看更多

      最新文章

      线性查找

      2025-02-11 09:37:33

      课程表 III。 这里有 n 门不同的在线课程,按从 1 到 n 编号。

      2025-01-17 09:14:02

      手写归并排序

      2025-01-17 09:14:02

      罗马数字转整数。

      2025-01-17 09:13:53

      1到100万以内,如何打印99万个不重复的随机数?

      2025-01-17 09:06:45

      JAVA math包

      2024-10-18 09:52:50

      查看更多

      热门文章

      Lc70_爬楼梯

      2024-06-27 09:20:52

      算法-实现 出入栈,寻找最小值

      2022-12-26 09:32:17

      冒泡排序法解析

      2024-07-01 01:30:59

      从一个URL下载原始数据,基于byte字节

      2023-04-19 09:23:13

      58如何调出eclipse左边文件栏

      2023-03-13 09:32:12

      java163-同步方法锁

      2023-03-07 10:04:03

      查看更多

      热门标签

      算法 leetcode python 数据 java 数组 节点 大数据 i++ 链表 golang c++ 排序 django 数据类型
      查看更多

      相关产品

      弹性云主机

      随时自助获取、弹性伸缩的云服务器资源

      天翼云电脑(公众版)

      便捷、安全、高效的云电脑服务

      对象存储

      高品质、低成本的云上存储服务

      云硬盘

      为云上计算资源提供持久性块存储

      查看更多

      随机文章

      Lc94_二叉树的中序遍历

      Lc145_二叉树的后序遍历

      mybatis添加数据时报出的错误: java.lang.IllegalArgumentException java.lang.ClassCastException

      1到100万以内,如何打印99万个不重复的随机数?

      java常用数据类型转换

      假设有一个源源吐出不同球的机器,只有装下10个球的袋子,每一个吐出的球,要么放入袋子,要么永远扔掉。

      • 7*24小时售后
      • 无忧退款
      • 免费备案
      • 专家服务
      售前咨询热线
      400-810-9889转1
      关注天翼云
      • 旗舰店
      • 天翼云APP
      • 天翼云微信公众号
      服务与支持
      • 备案中心
      • 售前咨询
      • 智能客服
      • 自助服务
      • 工单管理
      • 客户公告
      • 涉诈举报
      账户管理
      • 管理中心
      • 订单管理
      • 余额管理
      • 发票管理
      • 充值汇款
      • 续费管理
      快速入口
      • 天翼云旗舰店
      • 文档中心
      • 最新活动
      • 免费试用
      • 信任中心
      • 天翼云学堂
      云网生态
      • 甄选商城
      • 渠道合作
      • 云市场合作
      了解天翼云
      • 关于天翼云
      • 天翼云APP
      • 服务案例
      • 新闻资讯
      • 联系我们
      热门产品
      • 云电脑
      • 弹性云主机
      • 云电脑政企版
      • 天翼云手机
      • 云数据库
      • 对象存储
      • 云硬盘
      • Web应用防火墙
      • 服务器安全卫士
      • CDN加速
      热门推荐
      • 云服务备份
      • 边缘安全加速平台
      • 全站加速
      • 安全加速
      • 云服务器
      • 云主机
      • 智能边缘云
      • 应用编排服务
      • 微服务引擎
      • 共享流量包
      更多推荐
      • web应用防火墙
      • 密钥管理
      • 等保咨询
      • 安全专区
      • 应用运维管理
      • 云日志服务
      • 文档数据库服务
      • 云搜索服务
      • 数据湖探索
      • 数据仓库服务
      友情链接
      • 中国电信集团
      • 189邮箱
      • 天翼企业云盘
      • 天翼云盘
      ©2025 天翼云科技有限公司版权所有 增值电信业务经营许可证A2.B1.B2-20090001
      公司地址:北京市东城区青龙胡同甲1号、3号2幢2层205-32室
      • 用户协议
      • 隐私政策
      • 个人信息保护
      • 法律声明
      备案 京公网安备11010802043424号 京ICP备 2021034386号