开发者
天翼云开发者社区
关键词:

Flink架构介绍

Flink 是一个分布式系统,需要有效分配和管理计算资源才能执行流应用程序。它集成了所有常见的集群资源管理器,例如Hadoop YARN和Kubernetes,但也可以设置作为独立集群甚至以库的形式运行

Spark K8S Operator的设计简介

Apache Spark的Kubernetes Operator遵循了最近的趋势,即利用Operator模式来管理Kubernetes集群上Spark应用程序的生命周期。Operator允许以声明的方式(例如,在YAML文件中)指定Spark应用程序,并在不需要处理Spark提交过程的情况下运行。它还使Spark应用程序的状态能够像Kubernetes上的其他类型的工作负载一样被跟踪和惯用地呈现

Flink Operator控制流

核心Operator控制流(在FlinkDeploymentController和FlinkSessionJobController中实现的) 包含了以下逻辑阶段:1)观察当前部署资源的状态;2)校验新资源的规格;3)按照新规格和观察到的状态来协调任何所需的变化;4)按顺序重复以上操作。

K8S网络策略简介

NetworkPolicy 是一种以应用为中心的结构,允许你设置如何允许Pod与网络上的各类网络实体通信,适用于与 Pod的一端或两端的连接,与其他连接无关

K8S Operator简介

Operator是K8S的扩展软件,它利用自定义资源(CustomResource)来管理应用及其组件

Flink 时间相关的流式处理

时序相关的流式处理过程是有状态流式处理过程的一个扩展。其中,时间扮演了其计算过程的重要角色。此外,其案例包括:时序分析,在特定时间周期内聚合(窗口)计算,或事件发生时间十分重要的事件处理过程

Logstash实现关系型数据库增量同步到ES

相比通过binlog实现增量同步,使用Logstash同步更简单、灵活,且能同时实现全量、增量同步

面向大规模可观测性数据管理

在当今的大规模软件系统和服务中,可观测性作为一项关键能力已显得越来越重要。以Slack为代表的行业经验为启发,且作为对数据库研究的号召,本文概述了设计和构建大规模可观测性数据管理系统(Observability Data Management Systems,下文简称ODMS)以处理这种新兴工作负载所面临的挑战与机遇。

VictoriaMetrics常见性能问题排查

VM作为开源时序数据库,可用于Prometheus远端存储,在集群使用过程中,很容易碰到性能问题。本文也提供了常见问题的排查路径

Clickhouse协调系统的一致性

在Clickhouse早期的版本里面,Zookeeper作为其协调系统,其协调算法ZAB (ZooKeeper Atomic Broadcast) 不能提供linearizable读取的保证。但CH Keeper使用RAFT算法的一种开源实现,允许linearizable读写

共 10 条
  • 1
前往
没有更多了

暂未填写公司和职称

暂未填写个人简介

暂未填写技能专长

暂未填写毕业院校和专业

共发表过 10 篇文章

文章获得 1 次赞同

文章被浏览 509 次

获得 0 人关注

初出茅庐
共发表过 10 篇文章
文章获得 1 次赞同
获得 0 人关注
文章被浏览 509 次
获得“初出茅庐”荣誉
全部文章(0)
关键词:

Flink架构介绍

Flink 是一个分布式系统,需要有效分配和管理计算资源才能执行流应用程序。它集成了所有常见的集群资源管理器,例如Hadoop YARN和Kubernetes,但也可以设置作为独立集群甚至以库的形式运行

Spark K8S Operator的设计简介

Apache Spark的Kubernetes Operator遵循了最近的趋势,即利用Operator模式来管理Kubernetes集群上Spark应用程序的生命周期。Operator允许以声明的方式(例如,在YAML文件中)指定Spark应用程序,并在不需要处理Spark提交过程的情况下运行。它还使Spark应用程序的状态能够像Kubernetes上的其他类型的工作负载一样被跟踪和惯用地呈现

Flink Operator控制流

核心Operator控制流(在FlinkDeploymentController和FlinkSessionJobController中实现的) 包含了以下逻辑阶段:1)观察当前部署资源的状态;2)校验新资源的规格;3)按照新规格和观察到的状态来协调任何所需的变化;4)按顺序重复以上操作。

K8S网络策略简介

NetworkPolicy 是一种以应用为中心的结构,允许你设置如何允许Pod与网络上的各类网络实体通信,适用于与 Pod的一端或两端的连接,与其他连接无关

K8S Operator简介

Operator是K8S的扩展软件,它利用自定义资源(CustomResource)来管理应用及其组件

Flink 时间相关的流式处理

时序相关的流式处理过程是有状态流式处理过程的一个扩展。其中,时间扮演了其计算过程的重要角色。此外,其案例包括:时序分析,在特定时间周期内聚合(窗口)计算,或事件发生时间十分重要的事件处理过程

Logstash实现关系型数据库增量同步到ES

相比通过binlog实现增量同步,使用Logstash同步更简单、灵活,且能同时实现全量、增量同步

面向大规模可观测性数据管理

在当今的大规模软件系统和服务中,可观测性作为一项关键能力已显得越来越重要。以Slack为代表的行业经验为启发,且作为对数据库研究的号召,本文概述了设计和构建大规模可观测性数据管理系统(Observability Data Management Systems,下文简称ODMS)以处理这种新兴工作负载所面临的挑战与机遇。

VictoriaMetrics常见性能问题排查

VM作为开源时序数据库,可用于Prometheus远端存储,在集群使用过程中,很容易碰到性能问题。本文也提供了常见问题的排查路径

Clickhouse协调系统的一致性

在Clickhouse早期的版本里面,Zookeeper作为其协调系统,其协调算法ZAB (ZooKeeper Atomic Broadcast) 不能提供linearizable读取的保证。但CH Keeper使用RAFT算法的一种开源实现,允许linearizable读写

共 10 条
  • 1
前往
没有更多了