爆款云主机2核4G限时秒杀,88元/年起!
查看详情

活动

天翼云最新优惠活动,涵盖免费试用,产品折扣等,助您降本增效!
热门活动
  • 618智算钜惠季 爆款云主机2核4G限时秒杀,88元/年起!
  • 免费体验DeepSeek,上天翼云息壤 NEW 新老用户均可免费体验2500万Tokens,限时两周
  • 云上钜惠 HOT 爆款云主机全场特惠,更有万元锦鲤券等你来领!
  • 算力套餐 HOT 让算力触手可及
  • 天翼云脑AOne NEW 连接、保护、办公,All-in-One!
  • 中小企业应用上云专场 产品组合下单即享折上9折起,助力企业快速上云
  • 息壤高校钜惠活动 NEW 天翼云息壤杯高校AI大赛,数款产品享受线上订购超值特惠
  • 天翼云电脑专场 HOT 移动办公新选择,爆款4核8G畅享1年3.5折起,快来抢购!
  • 天翼云奖励推广计划 加入成为云推官,推荐新用户注册下单得现金奖励
免费活动
  • 免费试用中心 HOT 多款云产品免费试用,快来开启云上之旅
  • 天翼云用户体验官 NEW 您的洞察,重塑科技边界

智算服务

打造统一的产品能力,实现算网调度、训练推理、技术架构、资源管理一体化智算服务
智算云(DeepSeek专区)
科研助手
  • 算力商城
  • 应用商城
  • 开发机
  • 并行计算
算力互联调度平台
  • 应用市场
  • 算力市场
  • 算力调度推荐
一站式智算服务平台
  • 模型广场
  • 体验中心
  • 服务接入
智算一体机
  • 智算一体机
大模型
  • DeepSeek-R1-昇腾版(671B)
  • DeepSeek-R1-英伟达版(671B)
  • DeepSeek-V3-昇腾版(671B)
  • DeepSeek-R1-Distill-Llama-70B
  • DeepSeek-R1-Distill-Qwen-32B
  • Qwen2-72B-Instruct
  • StableDiffusion-V2.1
  • TeleChat-12B

应用商城

天翼云精选行业优秀合作伙伴及千余款商品,提供一站式云上应用服务
进入甄选商城进入云市场创新解决方案
办公协同
  • WPS云文档
  • 安全邮箱
  • EMM手机管家
  • 智能商业平台
财务管理
  • 工资条
  • 税务风控云
企业应用
  • 翼信息化运维服务
  • 翼视频云归档解决方案
工业能源
  • 智慧工厂_生产流程管理解决方案
  • 智慧工地
建站工具
  • SSL证书
  • 新域名服务
网络工具
  • 翼云加速
灾备迁移
  • 云管家2.0
  • 翼备份
资源管理
  • 全栈混合云敏捷版(软件)
  • 全栈混合云敏捷版(一体机)
行业应用
  • 翼电子教室
  • 翼智慧显示一体化解决方案

合作伙伴

天翼云携手合作伙伴,共创云上生态,合作共赢
天翼云生态合作中心
  • 天翼云生态合作中心
天翼云渠道合作伙伴
  • 天翼云代理渠道合作伙伴
天翼云服务合作伙伴
  • 天翼云集成商交付能力认证
天翼云应用合作伙伴
  • 天翼云云市场合作伙伴
  • 天翼云甄选商城合作伙伴
天翼云技术合作伙伴
  • 天翼云OpenAPI中心
  • 天翼云EasyCoding平台
天翼云培训认证
  • 天翼云学堂
  • 天翼云市场商学院
天翼云合作计划
  • 云汇计划
天翼云东升计划
  • 适配中心
  • 东升计划
  • 适配互认证

开发者

开发者相关功能入口汇聚
技术社区
  • 专栏文章
  • 互动问答
  • 技术视频
资源与工具
  • OpenAPI中心
开放能力
  • EasyCoding敏捷开发平台
培训与认证
  • 天翼云学堂
  • 天翼云认证
魔乐社区
  • 魔乐社区

支持与服务

为您提供全方位支持与服务,全流程技术保障,助您轻松上云,安全无忧
文档与工具
  • 文档中心
  • 新手上云
  • 自助服务
  • OpenAPI中心
定价
  • 价格计算器
  • 定价策略
基础服务
  • 售前咨询
  • 在线支持
  • 在线支持
  • 工单服务
  • 建议与反馈
  • 用户体验官
  • 服务保障
  • 客户公告
  • 会员中心
增值服务
  • 红心服务
  • 首保服务
  • 客户支持计划
  • 专家技术服务
  • 备案管家

了解天翼云

天翼云秉承央企使命,致力于成为数字经济主力军,投身科技强国伟大事业,为用户提供安全、普惠云服务
品牌介绍
  • 关于天翼云
  • 智算云
  • 天翼云4.0
  • 新闻资讯
  • 天翼云APP
基础设施
  • 全球基础设施
  • 信任中心
最佳实践
  • 精选案例
  • 超级探访
  • 云杂志
  • 分析师和白皮书
  • 天翼云·创新直播间
市场活动
  • 2025智能云生态大会
  • 2024智算云生态大会
  • 2023云生态大会
  • 2022云生态大会
  • 天翼云中国行
天翼云
  • 活动
  • 智算服务
  • 产品
  • 解决方案
  • 应用商城
  • 合作伙伴
  • 开发者
  • 支持与服务
  • 了解天翼云
      • 文档
      • 控制中心
      • 备案
      • 管理中心

      【flink 零】flink技术概览:flink各项技术一览

      首页 知识中心 软件开发 文章详情页

      【flink 零】flink技术概览:flink各项技术一览

      2025-03-11 09:36:17 阅读次数:10

      flink,Flink,内存,源码,调优

      整理了在学习flink的过程中的各项知识的入口,以便查阅、回顾以及一些查漏补缺。持续更新。

      一. flink概述:

      我们首先从flink的特点、使用场景、作用、架构、运行模型等方面先有一个整体的认识。即它是什么、能做哪些事,怎么做的。

      【概述|基础】flink系列01:flink概述:flink能做些什么、flink的特点有那些、适合哪些场景、flink的技术的基石是来自哪篇论文

      【原理|架构】Flink系列02:Flink整体架构-成员之间的协调

      【运维/安装】Flink + MinIO:实现light-weighting思路下的集群(集群、高可用&&POC、快速搭建)

      二. flink部署模式与集群搭建

      集群模式有哪些、集群搭建的细节、flink高可用原理等

      【部署模式】Flink系列03-部署模式+集群资源提供者

      三. flink的编程模型、相关原理

      flink的编程模型:编程接口、程序结构、数据类型:类型支持与typeinformation获取。

      【内存模型】Flink内存模型:从宏观(Flink内存模型)、微观(Flink内存结构)、数据传输等角度分析Flink的内存管理

      【原理|数据传输】Flink系列之数据传输原理
      ing

      四. flink dataStream

      • 编程模型、时间概念与水印、窗口计算、作业链和资源组、异步操作。
      • api中主要有输入源、转换算子、数据输出等api的操作。

      【架构|概念|性能调优】slot相关概念:Flink的job的并行度是怎么计算的。算子链与slot共享是如何优化flink资源与计算的

      五. flink sql和table api的操作

      • sql与table api
      • 常见场景下的sql使用等
      • 自定义函数
      • connector

      【flink SQL基础|概念】flink sql之时态表:join时要使用proctime作为时态表的time

      【双流(1)|原理】flink 双流join原理(1)Interval Join:state过大? 回撤现象出现时,sink如何处理,还有如何优化回撤?数据出现shuffle时join是如何处理的?

      ing

      六. flink的状态管理

      对于一些任务,比如join、聚合或者是去重等操作需要flink保存状态来实现相关语义。对于flink的状态管理有如下几个方面:
      有状态计算的原理是什么
      checkpoint和savepoint
      状态管理区
      querable state

      【状态管理|概述】Flink的状态管理:为什么需要state、怎么保存state、对于state过大怎么处理

      ing

      七. flink监控与性能优化

      监控指标
      反压的监控与优化
      checkpoint的监控与优化
      Flink内存优化:flink内存配置、Network Buffers的配置

      【监控|性能调优】Flink 性能调优1之 反压

      【内存模型】Flink内存模型:从宏观(Flink内存模型)、微观(Flink内存结构)、数据传输等角度分析Flink的内存管理

      【性能调优1】(重点)Flink常见内存问题及调优指南(一)

      【性能|调优】Flink on yarn双流join问题分析+性能调优思路

      八. 其他经验

      1. 源码改造

      【源码|编译】flink 12 源码编译及使用idea运行、debug

      【源码改造|性能】Flink jdbc connector 源码改造sink之 clickhouse多节点轮询写与性能分析

      【源码改造】Flink-jdbc-connector源码简析+改造支持谓词下推

      【源码改造】flink JDBC connector 源码改造之 类型转换 java.time.LocalDateTime cannot be cast to java.sql.Timestamp

      2. 排错经验

      【排错】记一次(flink on yarn) 提交任务的排错之旅(yarn队列、namenode、resourcemanager、flink job全崩盘)

      【性能|调优】Flink on yarn双流join问题分析+性能调优思路

      【job排错】记一次flink on hadoop with per-job 报错排查

      3. 面试问答 ing

      怎么做压力测试和监控?

      产生的数据流的速度如果过快,而下游的算子消费不过来的话,会产生背压。背压的监控可以使用Flink Web UI来可视化监控Metrics。
       
      反压的场景:

      • 因为watermark设置过大导致某一时刻数据量激增导致下游数据出现反压:可以将设置watermark设置的小一点,然后把迟到的元素发送到测输出流中,晚一点更新结果。
      • sink消费慢出现反压:横向拓展,增加并行度,让不同slot执行,分散那一点的压力。

      flink的相关优化

      • 集群角色的内存配置方面
      • 合理利用资源:slot和并行度、slot共享
      • 数据倾斜:null过多,加盐打散。
      • 广播变量:小数据集与大数据进行join:将小数据集广播,避免代价高的冲分区。
      • 源码改造:谓词下推、轮询写入

      海量key怎么去重?

      因为可能有上亿个key,内存放不下,可以考虑使用布隆过滤器(Bloom Filter)来去重。

       
      Flink中的exactly-once语义如何实现的,状态如何存储的?

      Flink依靠checkpoint机制来实现exactly-once语义,如果要实现端到端的exactly-once,还需要外部source和sink满足一定的条件。

       
      Flink程序在面对数据高峰期时如何处理?

      使用大容量的Kafka把数据先放到消息队列里面作为数据源,再使用Flink进行消费,不过这样会影响一点实时性。

       
      Flink的checkpoint机制对比spark有什么不同和优势?

      spark streaming的checkpoint仅仅是针对driver的故障恢复做了数据和元数据的checkpoint。
      flink的checkpoint机制采用的是轻量级的分布式快照,实现了每个算子的快照,及流动中的数据的快照。

      版权声明:本文内容来自第三方投稿或授权转载,原文地址:https://blog.csdn.net/hiliang521/article/details/127326001,作者:roman_日积跬步-终至千里,版权归原作者所有。本网站转在其作品的目的在于传递更多信息,不拥有版权,亦不承担相应法律责任。如因作品内容、版权等问题需要同本网站联系,请发邮件至ctyunbbs@chinatelecom.cn沟通。

      上一篇:shell基础(3)之数组的基础操作:定义、取值(某个值、截取)、数组属性(数组长度、元素长度)、操作(连接数组、替换、取消)

      下一篇:java.lang.OutOfMemoryError: Java heap space 解决方案

      相关文章

      2025-05-16 09:15:24

      模拟实现strlen

      模拟实现strlen

      2025-05-16 09:15:24
      strlen , 实现 , 模拟 , 源码
      2025-05-14 10:33:31

      计算机小白的成长历程——数组(1)

      计算机小白的成长历程——数组(1)

      2025-05-14 10:33:31
      strlen , 个数 , 元素 , 内存 , 十六进制 , 地址 , 数组
      2025-05-14 10:33:25

      超级好用的C++实用库之环形内存池

      环形内存池是一种高效的内存管理技术,特别适合于高并发、实时性要求高的系统中,比如:网络服务器、游戏引擎、实时音视频等领域。

      2025-05-14 10:33:25
      buffer , CHP , 内存 , 分配 , 加锁
      2025-05-14 10:07:38

      30天拿下Rust之所有权

      在编程语言的世界中,Rust凭借其独特的所有权机制脱颖而出,为开发者提供了一种新颖而强大的工具来防止内存错误。这一特性不仅确保了代码的安全性,还极大地提升了程序的性能。

      2025-05-14 10:07:38
      data , Rust , 内存 , 函数 , 变量 , 数据
      2025-05-14 10:02:58

      Linux top 命令使用教程

      Linux top 是一个在Linux和其他类Unix 系统上常用的实时系统监控工具。它提供了一个动态的、交互式的实时视图,显示系统的整体性能信息以及正在运行的进程的相关信息。

      2025-05-14 10:02:58
      CPU , 信息 , 内存 , 占用 , 备注 , 进程
      2025-05-14 10:02:48

      使用JavaScript打印网页占用内存:详细指南

      在前端开发中,了解网页的内存占用情况对于优化性能和提高用户体验至关重要。

      2025-05-14 10:02:48
      JavaScript , 内存 , 占用 , 泄漏 , 浏览器 , 监听器 , 示例
      2025-05-14 09:51:15

      java循环创建对象内存溢出怎么解决

      在Java中,如果在循环中不当地创建大量对象而不及时释放内存,很容易导致内存溢出(OutOfMemoryError)。

      2025-05-14 09:51:15
      内存 , 占用 , 对象 , 引用 , 循环 , 次数 , 溢出
      2025-05-13 09:53:13

      计算机萌新的成长历程18——指针

      计算机要存储数据的话有以下几种途径,按访问速度由快到慢来排列分别是:寄存器>高速缓存>内存>硬盘。它们的存储空间大小是依次增大的,寄存器的存储空间大小最小,硬盘存储空间大小最大。

      2025-05-13 09:53:13
      内存 , 变量 , 地址 , 寄存器 , 指针
      2025-05-13 09:49:12

      laravel门面实现原理之源码分析

      laravel门面实现原理之源码分析

      2025-05-13 09:49:12
      router , 场景 , 实例 , 总结 , 方法 , 源码
      2025-05-13 09:49:12

      优先级算法

      优先级算法

      2025-05-13 09:49:12
      优先 , 优先级 , 实现 , 源码 , 顶点
      查看更多
      推荐标签

      作者介绍

      天翼云小翼
      天翼云用户

      文章

      33561

      阅读量

      5246394

      查看更多

      最新文章

      模拟实现strlen

      2025-05-16 09:15:24

      超级好用的C++实用库之环形内存池

      2025-05-14 10:33:25

      使用JavaScript打印网页占用内存:详细指南

      2025-05-14 10:02:48

      laravel门面实现原理之源码分析

      2025-05-13 09:49:12

      优先级算法

      2025-05-13 09:49:12

      C#目录文件监控

      2025-05-12 08:40:18

      查看更多

      热门文章

      游戏编程之十一 图像页CPICPAGE介绍

      2022-11-28 01:25:04

      C/C++ 动态解密释放ShellCode

      2023-06-19 06:57:29

      Python中查看变量的类型,内存地址,所占字节的大小

      2023-04-25 10:22:01

      游戏编程之十二 资源管理

      2023-02-15 08:38:56

      Linux Command apt 软件包管理

      2023-05-05 09:57:52

      Java学习之方法调用过程图解(理解)

      2023-04-06 06:35:24

      查看更多

      热门标签

      java Java python 编程开发 代码 开发语言 算法 线程 Python html 数组 C++ 元素 javascript c++
      查看更多

      相关产品

      弹性云主机

      随时自助获取、弹性伸缩的云服务器资源

      天翼云电脑(公众版)

      便捷、安全、高效的云电脑服务

      对象存储

      高品质、低成本的云上存储服务

      云硬盘

      为云上计算资源提供持久性块存储

      查看更多

      随机文章

      Java堆栈详解:内存管理与优化

      laravel App\\Http\\Controllers\\Auth\\RegisterController 注册用户时候触发了一个没有Listener的是事件

      springboot酒店管理系统分前后端【源码+数据库】

      【C语言】动态内存管理大总结

      JVM: 内存、类与垃圾

      数据结构之ArrayList与顺序表(上)

      • 7*24小时售后
      • 无忧退款
      • 免费备案
      • 专家服务
      售前咨询热线
      400-810-9889转1
      关注天翼云
      • 旗舰店
      • 天翼云APP
      • 天翼云微信公众号
      服务与支持
      • 备案中心
      • 售前咨询
      • 智能客服
      • 自助服务
      • 工单管理
      • 客户公告
      • 涉诈举报
      账户管理
      • 管理中心
      • 订单管理
      • 余额管理
      • 发票管理
      • 充值汇款
      • 续费管理
      快速入口
      • 天翼云旗舰店
      • 文档中心
      • 最新活动
      • 免费试用
      • 信任中心
      • 天翼云学堂
      云网生态
      • 甄选商城
      • 渠道合作
      • 云市场合作
      了解天翼云
      • 关于天翼云
      • 天翼云APP
      • 服务案例
      • 新闻资讯
      • 联系我们
      热门产品
      • 云电脑
      • 弹性云主机
      • 云电脑政企版
      • 天翼云手机
      • 云数据库
      • 对象存储
      • 云硬盘
      • Web应用防火墙
      • 服务器安全卫士
      • CDN加速
      热门推荐
      • 云服务备份
      • 边缘安全加速平台
      • 全站加速
      • 安全加速
      • 云服务器
      • 云主机
      • 智能边缘云
      • 应用编排服务
      • 微服务引擎
      • 共享流量包
      更多推荐
      • web应用防火墙
      • 密钥管理
      • 等保咨询
      • 安全专区
      • 应用运维管理
      • 云日志服务
      • 文档数据库服务
      • 云搜索服务
      • 数据湖探索
      • 数据仓库服务
      友情链接
      • 中国电信集团
      • 189邮箱
      • 天翼企业云盘
      • 天翼云盘
      ©2025 天翼云科技有限公司版权所有 增值电信业务经营许可证A2.B1.B2-20090001
      公司地址:北京市东城区青龙胡同甲1号、3号2幢2层205-32室
      • 用户协议
      • 隐私政策
      • 个人信息保护
      • 法律声明
      备案 京公网安备11010802043424号 京ICP备 2021034386号