爆款云主机2核4G限时秒杀,88元/年起!
查看详情

活动

天翼云最新优惠活动,涵盖免费试用,产品折扣等,助您降本增效!
热门活动
  • 618智算钜惠季 爆款云主机2核4G限时秒杀,88元/年起!
  • 免费体验DeepSeek,上天翼云息壤 NEW 新老用户均可免费体验2500万Tokens,限时两周
  • 云上钜惠 HOT 爆款云主机全场特惠,更有万元锦鲤券等你来领!
  • 算力套餐 HOT 让算力触手可及
  • 天翼云脑AOne NEW 连接、保护、办公,All-in-One!
  • 中小企业应用上云专场 产品组合下单即享折上9折起,助力企业快速上云
  • 息壤高校钜惠活动 NEW 天翼云息壤杯高校AI大赛,数款产品享受线上订购超值特惠
  • 天翼云电脑专场 HOT 移动办公新选择,爆款4核8G畅享1年3.5折起,快来抢购!
  • 天翼云奖励推广计划 加入成为云推官,推荐新用户注册下单得现金奖励
免费活动
  • 免费试用中心 HOT 多款云产品免费试用,快来开启云上之旅
  • 天翼云用户体验官 NEW 您的洞察,重塑科技边界

智算服务

打造统一的产品能力,实现算网调度、训练推理、技术架构、资源管理一体化智算服务
智算云(DeepSeek专区)
科研助手
  • 算力商城
  • 应用商城
  • 开发机
  • 并行计算
算力互联调度平台
  • 应用市场
  • 算力市场
  • 算力调度推荐
一站式智算服务平台
  • 模型广场
  • 体验中心
  • 服务接入
智算一体机
  • 智算一体机
大模型
  • DeepSeek-R1-昇腾版(671B)
  • DeepSeek-R1-英伟达版(671B)
  • DeepSeek-V3-昇腾版(671B)
  • DeepSeek-R1-Distill-Llama-70B
  • DeepSeek-R1-Distill-Qwen-32B
  • Qwen2-72B-Instruct
  • StableDiffusion-V2.1
  • TeleChat-12B

应用商城

天翼云精选行业优秀合作伙伴及千余款商品,提供一站式云上应用服务
进入甄选商城进入云市场创新解决方案
办公协同
  • WPS云文档
  • 安全邮箱
  • EMM手机管家
  • 智能商业平台
财务管理
  • 工资条
  • 税务风控云
企业应用
  • 翼信息化运维服务
  • 翼视频云归档解决方案
工业能源
  • 智慧工厂_生产流程管理解决方案
  • 智慧工地
建站工具
  • SSL证书
  • 新域名服务
网络工具
  • 翼云加速
灾备迁移
  • 云管家2.0
  • 翼备份
资源管理
  • 全栈混合云敏捷版(软件)
  • 全栈混合云敏捷版(一体机)
行业应用
  • 翼电子教室
  • 翼智慧显示一体化解决方案

合作伙伴

天翼云携手合作伙伴,共创云上生态,合作共赢
天翼云生态合作中心
  • 天翼云生态合作中心
天翼云渠道合作伙伴
  • 天翼云代理渠道合作伙伴
天翼云服务合作伙伴
  • 天翼云集成商交付能力认证
天翼云应用合作伙伴
  • 天翼云云市场合作伙伴
  • 天翼云甄选商城合作伙伴
天翼云技术合作伙伴
  • 天翼云OpenAPI中心
  • 天翼云EasyCoding平台
天翼云培训认证
  • 天翼云学堂
  • 天翼云市场商学院
天翼云合作计划
  • 云汇计划
天翼云东升计划
  • 适配中心
  • 东升计划
  • 适配互认证

开发者

开发者相关功能入口汇聚
技术社区
  • 专栏文章
  • 互动问答
  • 技术视频
资源与工具
  • OpenAPI中心
开放能力
  • EasyCoding敏捷开发平台
培训与认证
  • 天翼云学堂
  • 天翼云认证
魔乐社区
  • 魔乐社区

支持与服务

为您提供全方位支持与服务,全流程技术保障,助您轻松上云,安全无忧
文档与工具
  • 文档中心
  • 新手上云
  • 自助服务
  • OpenAPI中心
定价
  • 价格计算器
  • 定价策略
基础服务
  • 售前咨询
  • 在线支持
  • 在线支持
  • 工单服务
  • 建议与反馈
  • 用户体验官
  • 服务保障
  • 客户公告
  • 会员中心
增值服务
  • 红心服务
  • 首保服务
  • 客户支持计划
  • 专家技术服务
  • 备案管家

了解天翼云

天翼云秉承央企使命,致力于成为数字经济主力军,投身科技强国伟大事业,为用户提供安全、普惠云服务
品牌介绍
  • 关于天翼云
  • 智算云
  • 天翼云4.0
  • 新闻资讯
  • 天翼云APP
基础设施
  • 全球基础设施
  • 信任中心
最佳实践
  • 精选案例
  • 超级探访
  • 云杂志
  • 分析师和白皮书
  • 天翼云·创新直播间
市场活动
  • 2025智能云生态大会
  • 2024智算云生态大会
  • 2023云生态大会
  • 2022云生态大会
  • 天翼云中国行
天翼云
  • 活动
  • 智算服务
  • 产品
  • 解决方案
  • 应用商城
  • 合作伙伴
  • 开发者
  • 支持与服务
  • 了解天翼云
      • 文档
      • 控制中心
      • 备案
      • 管理中心

      【大数据生态】Oozie 入门学习

      首页 知识中心 大数据 文章详情页

      【大数据生态】Oozie 入门学习

      2025-04-23 08:18:21 阅读次数:4

      job,xml,定时,调度

      一、Oozie是什么


      Oozie 是一个用来管理 Hadoop 生态圈 job 的工作流调度系统。由 Cloudera 公司贡献给 Apache。Oozie 是运行于 Java servlet 容器上的一个 java web 应 用。Oozie 的目的是按照 DAG(有向无环图)调度一系列的 Map/Reduce 或者 Hive 等任务。

      二、Oozie 的架构

      【大数据生态】Oozie 入门学习

      Oozie Client:提供命令行、java api、rest 等方式,对 Oozie 的工作流 流程的提交、启动、运行等操作;

      Oozie WebApp:即 Oozie Server,本质是一个 java 应用。可以使用内置的 web 容器,也可以使用外置的 web 容器;

      Hadoop Cluster:底层执行 Oozie 编排流程的各个 hadoop 生态圈组件;

      三、Oozie 基本原理


      Oozie 对工作流的编排,是基于 workflow.xml 文件来完成的。用户预先将工 作流执行规则定制于 workflow.xml 文件中,并在 job.properties 配置相关的参数, 然后由 Oozie Server 向 MR 提交 job 来启动工作流。

      四、概括的知识框架


      【大数据生态】Oozie 入门学习

      五、 Oozie 调度 shell 脚本


      准备待调度的 shell 脚本文件(输出 hello world 如下文件中)

      #!/bin/bash
      echo "hello world" >> /export/servers/hello_oozie.txt

       修改配置模板

      这里 使用Oozie 自带的模板 examples ,  里面会有 job.properties 和 workflow.xml 两个文件的模板,修改即可

      【大数据生态】Oozie 入门学习

       修改 job.properties

      ​
      // core-site.xml  中  HDFS 的默认访问 地址 hadoop 2.x 默认9000
      nameNode=hdfs://node01:8020
      // hadoop 1.x 时的 在 hadoop2 当中只有resourceManager,这里给定 resourceManager的IP及端口 
      jobTracker=node01:8032
      // 提交 mr 任务的队列名
      queueName=default
      // 指定 oozie 的工作目录;  /user/root/oozie_works    存放调度任务的文件夹
      examplesRoot=oozie_works
      // 指定 oozie 调度资源存储于 hdfs 的工作路径;
      oozie.wf.application.path=${nameNode}/user/${}/${examplesRoot}/shell
      EXEC=hello.sh
      
      ​

       修改workflow.xml

      <workflow-app xmlns="uri:oozie:workflow:0.4" name="shell-wf">
          <start to="shell-node"/>
          <action name="shell-node">
              <shell xmlns="uri:oozie:shell-action:0.2">
                  <job-tracker>${jobTracker}</job-tracker>
                  <name-node>${nameNode}</name-node>
                  <configuration>
                      <property>
                          <name></name>
                          <value>${queueName}</value>
                      </property>
                  </configuration>
                      // 重点 就是这里了 执行的 Job 在这个路径下,再根据 job.properties 读取配置信
                      // 息,执行具体的 任务
                      <exec>${EXEC}</exec>
                     <file>/user/root/oozie_works/shell/${EXEC}#${EXEC}</file>
                  <capture-output/>
              </shell>
              <ok to="end"/>
              <error to="fail"/>
          </action>
          <decision name="check-output">
              <switch>
                  <case to="end">
                      ${wf:actionData('shell-node')['my_output'] eq 'Hello Oozie'}
                  </case>
                  <default to="fail-output"/>
              </switch>
          </decision>
          <kill name="fail">
              <message>Shell action failed, error message[${wf:errorMessage(wf:lastErrorNode())}]</message>
          </kill>
          <kill name="fail-output">
              <message>Incorrect output, expected [Hello Oozie] but was [${wf:actionData('shell-node')['my_output']}]</message>
          </kill>
          <end name="end"/>
      </workflow-app>

       上传调度任务到  HDFS中

      hdfs dfs -put oozie_works/ /user/root

       执行调度任务

      oozie job -oozie http://node-1:11000/oozie -config oozie_works/shell/job.properties -run

      终于 找到了执行后输出的文件()

      【大数据生态】Oozie 入门学习  

      六、Oozie 定时调度


      在 oozie 当中,主要是通过 Coordinator 来实现任务的定时调度,Coordinator 模块主要通过 xml 来进行配置即可。

      Coordinator 的调度主要可以有两种实现方式

      第一种:基于时间的定时任务调度: oozie 基于时间的调度主要需要指定三个参数,第一个起始时间,第二个结 束时间,第三个调度频率;

      第二种:基于数据的任务调度, 这种是基于数据的调度,只要在有了数据 才会触发调度任务。

      修改配置模板

      job.properties

      nameNode=hdfs://node01:8020
      jobTracker=node01:8032
      queueName=default
      examplesRoot=oozie_works
      
      oozie.coord.application.path=${nameNode}/user/${}/${examplesRoot}/cron-job/coordinator.xml
      start=2019-10-31T14:30+0800
      end=2019-10-31T14:40+0800
      EXEC=hello.sh
      workflowAppUri=${nameNode}/user/${}/${examplesRoot}/cron-job/workflow.xml

       coordinator.xml

      // 这里主要是 时间 设置 我这里 是每隔  3 分钟执行一次
      <coordinator-app name="cron-job" frequency="${coord:minutes(3)}" start="${start}" end="${end}" timezone="GMT+0800"
                       xmlns="uri:oozie:coordinator:0.4">
              <action>
              <workflow>
                  <app-path>${workflowAppUri}</app-path>
                  <configuration>
                      <property>
                          <name>jobTracker</name>
                          <value>${jobTracker}</value>
                      </property>
                      <property>
                          <name>nameNode</name>
                          <value>${nameNode}</value>
                      </property>
                      <property>
                          <name>queueName</name>
                          <value>${queueName}</value>
                      </property>
                  </configuration>
              </workflow>
          </action>
      </coordinator-app>

      修改 workflow.xml

      <workflow-app xmlns="uri:oozie:workflow:0.5" name="one-op-wf">
          <start to="action1"/>
          <action name="action1">
             <shell xmlns="uri:oozie:shell-action:0.2">
                 <job-tracker>${jobTracker}</job-tracker>
                 <name-node>${nameNode}</name-node>
                 <configuration>
                       <property>
                           <name></name>
                           <value>${queueName}</value>
                       </property>
                 </configuration>
                 <exec>${EXEC}</exec>
                 <!-- <argument>my_output=Hello Oozie</argument> -->
                 <file>/user/root/oozie_works/cron-job/${EXEC}#${EXEC}</file>
                 <capture-output/>
              </shell>
              // 串联 任务时  当前任务 执行 OK 后, 可以执行 下一个任务
          <ok to="end"/>
          <error to="end"/>
          </action>
          <end name="end"/>
      </workflow-app>

      上传任务到HDFS中,执行 调度

      使用http://node01:8088/cluster/apps 观察 Job

      【大数据生态】Oozie 入门学习

      使用 Hue 观察Oozied 的 定时任务 执行 http://node01:8888/hue

      【大数据生态】Oozie 入门学习

      我现在点进去 ,进来后就可以看见我们定时任务的执行情况

      【大数据生态】Oozie 入门学习

      使用  Oozie自带的 Web 再 看看,这里要选择 Coordinator Jobs  因为我执行的定时 任务  http://node01:11000/oozie/

      【大数据生态】Oozie 入门学习

      【大数据生态】Oozie 入门学习

       【大数据生态】Oozie 入门学习

       到这里感觉 hue 使用的感觉还是不错的,整合 许多 Hadoop  生态圈的 客户端

      版权声明:本文内容来自第三方投稿或授权转载,原文地址:https://kangll.blog.csdn.net/article/details/102822245,作者:阿龙先生啊,版权归原作者所有。本网站转在其作品的目的在于传递更多信息,不拥有版权,亦不承担相应法律责任。如因作品内容、版权等问题需要同本网站联系,请发邮件至ctyunbbs@chinatelecom.cn沟通。

      上一篇:【Linux】使用 iptables 验证访问HDFS 所使用到的端口

      下一篇:【 数据建模与预测】数据建模的基本方法与预测技术

      相关文章

      2025-05-09 08:20:32

      基于IDEA的Maven简单工程创建及结构分析

      通过一个 mvn 命令直接让我们创建一个 Maven 的脚手架。

      2025-05-09 08:20:32
      java , Maven , xml , 创建 , 文件 , 文件夹 , 项目
      2025-05-06 09:19:51

      【Linux 从基础到进阶】CPU性能调优与监控

      在计算机系统中,CPU是核心组件之一,其性能直接影响系统的整体表现和响应速度。无论是在企业服务器环境、虚拟化环境,还是大数据计算场景,优化和监控CPU性能都至关重要。通过合理的调优策略和监控工具,管理员可以提升系统效率,减少资源浪费,确保业务系统的稳定运行。

      2025-05-06 09:19:51
      CPU , 性能 , 监控 , 调优 , 调度
      2025-05-06 09:19:30

      第十八节 JDBC流ASCII和二进制数据

      PreparedStatement对象可以使用输入和输出流来提供参数数据。能够将整个文件放入可以容纳大值的数据库列,例如CLOB和BLOB数据类型。

      2025-05-06 09:19:30
      data , xml , XML , 数据库 , 示例
      2025-04-22 09:44:09

      【ETL工具】Sqoop job(80张表的增量同步方案,Sqoop Job 使用 )

      【ETL工具】Sqoop job(80张表的增量同步方案,Sqoop Job 使用 )

      2025-04-22 09:44:09
      job , Sqoop , 增量 , 导入
      2025-04-18 07:10:30

      Quartz 任务调度器核心概念解析

      Quartz是一个强大的Java实现的任务调度器框架,应用场景广泛。使用Quartz,可以实现任务的调度,如定时运行任务,周期重复执行任务,以及突发任务等。

      2025-04-18 07:10:30
      Quartz , 任务 , 任务调度 , 调度
      2025-04-15 09:25:57

      软件设计师教程(第5版)第4章 操作系统知识(更新中)

      计算机软件通常分为【系统】软件和【应用】软件两大类。

      2025-04-15 09:25:57
      操作系统 , 文件 , 算法 , 调度 , 进程
      2025-04-09 09:17:07

      laravel 使用redis list做队列是怎么保证消息不丢失的(php artisan queue:work源码解析)

      laravel 使用redis list做队列是怎么保证消息不丢失的(php artisan queue:work源码解析)

      2025-04-09 09:17:07
      job , queue , 源码
      2025-04-09 09:16:42

      [快学Python3]XML解析处理 - Element Tree

      [快学Python3]XML解析处理 - Element Tree

      2025-04-09 09:16:42
      xml , 实例 , 演示 , 解析
      2025-03-27 09:34:39

      时光机启动:Spring中如何巧妙实现定时任务?

      Spring框架通过@Scheduled注解和TaskScheduler接口为我们提供了定时任务的实现方式。

      2025-03-27 09:34:39
      Spring , 任务 , 定时 , 注解
      2025-03-12 09:34:29

      【问题已解决】Caused by: java.lang.IllegalStateException

      【问题已解决】Caused by: java.lang.IllegalStateException

      2025-03-12 09:34:29
      application , config , mybatis , xml
      查看更多
      推荐标签

      作者介绍

      天翼云小翼
      天翼云用户

      文章

      33561

      阅读量

      5250236

      查看更多

      最新文章

      LVS 调度算法详解

      2024-10-24 08:32:05

      【Android】-- 向上个和下个Activity页面发送数据

      2024-08-02 09:08:33

      jenkins+ rclone定时同步sftp数据到s3

      2024-05-14 09:35:35

      YOLO格式数据集和VOC格式数据集互转(txt&xml)

      2024-04-26 08:39:47

      90 网站点击流数据分析案例(工作流调度)

      2024-04-25 09:39:52

      【同步任务】

      2024-04-17 08:51:50

      查看更多

      热门文章

      数据湖的环境共享datalake元数据共享方案

      2023-08-09 07:17:26

      工具栏,底部导航栏,可扩展列表视图

      2022-11-14 02:56:39

      建造者模式实例数据拼接 java生成真实XML文件

      2024-03-28 08:10:08

      jenkins+ rclone定时同步sftp数据到s3

      2024-05-14 09:35:35

      【同步任务】

      2024-04-17 08:51:50

      90 网站点击流数据分析案例(工作流调度)

      2024-04-25 09:39:52

      查看更多

      热门标签

      算法 leetcode python 数据 java 数组 节点 大数据 i++ 链表 golang c++ 排序 django 数据类型
      查看更多

      相关产品

      弹性云主机

      随时自助获取、弹性伸缩的云服务器资源

      天翼云电脑(公众版)

      便捷、安全、高效的云电脑服务

      对象存储

      高品质、低成本的云上存储服务

      云硬盘

      为云上计算资源提供持久性块存储

      查看更多

      随机文章

      90 网站点击流数据分析案例(工作流调度)

      jenkins+ rclone定时同步sftp数据到s3

      YOLO格式数据集和VOC格式数据集互转(txt&xml)

      工具栏,底部导航栏,可扩展列表视图

      【同步任务】

      【Android】-- 向上个和下个Activity页面发送数据

      • 7*24小时售后
      • 无忧退款
      • 免费备案
      • 专家服务
      售前咨询热线
      400-810-9889转1
      关注天翼云
      • 旗舰店
      • 天翼云APP
      • 天翼云微信公众号
      服务与支持
      • 备案中心
      • 售前咨询
      • 智能客服
      • 自助服务
      • 工单管理
      • 客户公告
      • 涉诈举报
      账户管理
      • 管理中心
      • 订单管理
      • 余额管理
      • 发票管理
      • 充值汇款
      • 续费管理
      快速入口
      • 天翼云旗舰店
      • 文档中心
      • 最新活动
      • 免费试用
      • 信任中心
      • 天翼云学堂
      云网生态
      • 甄选商城
      • 渠道合作
      • 云市场合作
      了解天翼云
      • 关于天翼云
      • 天翼云APP
      • 服务案例
      • 新闻资讯
      • 联系我们
      热门产品
      • 云电脑
      • 弹性云主机
      • 云电脑政企版
      • 天翼云手机
      • 云数据库
      • 对象存储
      • 云硬盘
      • Web应用防火墙
      • 服务器安全卫士
      • CDN加速
      热门推荐
      • 云服务备份
      • 边缘安全加速平台
      • 全站加速
      • 安全加速
      • 云服务器
      • 云主机
      • 智能边缘云
      • 应用编排服务
      • 微服务引擎
      • 共享流量包
      更多推荐
      • web应用防火墙
      • 密钥管理
      • 等保咨询
      • 安全专区
      • 应用运维管理
      • 云日志服务
      • 文档数据库服务
      • 云搜索服务
      • 数据湖探索
      • 数据仓库服务
      友情链接
      • 中国电信集团
      • 189邮箱
      • 天翼企业云盘
      • 天翼云盘
      ©2025 天翼云科技有限公司版权所有 增值电信业务经营许可证A2.B1.B2-20090001
      公司地址:北京市东城区青龙胡同甲1号、3号2幢2层205-32室
      • 用户协议
      • 隐私政策
      • 个人信息保护
      • 法律声明
      备案 京公网安备11010802043424号 京ICP备 2021034386号