活动

天翼云最新优惠活动,涵盖免费试用,产品折扣等,助您降本增效!
热门活动
  • 618智算钜惠季 爆款云主机2核4G限时秒杀,88元/年起!
  • 免费体验DeepSeek,上天翼云息壤 NEW 新老用户均可免费体验2500万Tokens,限时两周
  • 云上钜惠 HOT 爆款云主机全场特惠,更有万元锦鲤券等你来领!
  • 算力套餐 HOT 让算力触手可及
  • 天翼云脑AOne NEW 连接、保护、办公,All-in-One!
  • 中小企业应用上云专场 产品组合下单即享折上9折起,助力企业快速上云
  • 息壤高校钜惠活动 NEW 天翼云息壤杯高校AI大赛,数款产品享受线上订购超值特惠
  • 天翼云电脑专场 HOT 移动办公新选择,爆款4核8G畅享1年3.5折起,快来抢购!
  • 天翼云奖励推广计划 加入成为云推官,推荐新用户注册下单得现金奖励
免费活动
  • 免费试用中心 HOT 多款云产品免费试用,快来开启云上之旅
  • 天翼云用户体验官 NEW 您的洞察,重塑科技边界

智算服务

打造统一的产品能力,实现算网调度、训练推理、技术架构、资源管理一体化智算服务
智算云(DeepSeek专区)
科研助手
  • 算力商城
  • 应用商城
  • 开发机
  • 并行计算
算力互联调度平台
  • 应用市场
  • 算力市场
  • 算力调度推荐
一站式智算服务平台
  • 模型广场
  • 体验中心
  • 服务接入
智算一体机
  • 智算一体机
大模型
  • DeepSeek-R1-昇腾版(671B)
  • DeepSeek-R1-英伟达版(671B)
  • DeepSeek-V3-昇腾版(671B)
  • DeepSeek-R1-Distill-Llama-70B
  • DeepSeek-R1-Distill-Qwen-32B
  • Qwen2-72B-Instruct
  • StableDiffusion-V2.1
  • TeleChat-12B

应用商城

天翼云精选行业优秀合作伙伴及千余款商品,提供一站式云上应用服务
进入甄选商城进入云市场创新解决方案
办公协同
  • WPS云文档
  • 安全邮箱
  • EMM手机管家
  • 智能商业平台
财务管理
  • 工资条
  • 税务风控云
企业应用
  • 翼信息化运维服务
  • 翼视频云归档解决方案
工业能源
  • 智慧工厂_生产流程管理解决方案
  • 智慧工地
建站工具
  • SSL证书
  • 新域名服务
网络工具
  • 翼云加速
灾备迁移
  • 云管家2.0
  • 翼备份
资源管理
  • 全栈混合云敏捷版(软件)
  • 全栈混合云敏捷版(一体机)
行业应用
  • 翼电子教室
  • 翼智慧显示一体化解决方案

合作伙伴

天翼云携手合作伙伴,共创云上生态,合作共赢
天翼云生态合作中心
  • 天翼云生态合作中心
天翼云渠道合作伙伴
  • 天翼云代理渠道合作伙伴
天翼云服务合作伙伴
  • 天翼云集成商交付能力认证
天翼云应用合作伙伴
  • 天翼云云市场合作伙伴
  • 天翼云甄选商城合作伙伴
天翼云技术合作伙伴
  • 天翼云OpenAPI中心
  • 天翼云EasyCoding平台
天翼云培训认证
  • 天翼云学堂
  • 天翼云市场商学院
天翼云合作计划
  • 云汇计划
天翼云东升计划
  • 适配中心
  • 东升计划
  • 适配互认证

开发者

开发者相关功能入口汇聚
技术社区
  • 专栏文章
  • 互动问答
  • 技术视频
资源与工具
  • OpenAPI中心
开放能力
  • EasyCoding敏捷开发平台
培训与认证
  • 天翼云学堂
  • 天翼云认证
魔乐社区
  • 魔乐社区

支持与服务

为您提供全方位支持与服务,全流程技术保障,助您轻松上云,安全无忧
文档与工具
  • 文档中心
  • 新手上云
  • 自助服务
  • OpenAPI中心
定价
  • 价格计算器
  • 定价策略
基础服务
  • 售前咨询
  • 在线支持
  • 在线支持
  • 工单服务
  • 建议与反馈
  • 用户体验官
  • 服务保障
  • 客户公告
  • 会员中心
增值服务
  • 红心服务
  • 首保服务
  • 客户支持计划
  • 专家技术服务
  • 备案管家

了解天翼云

天翼云秉承央企使命,致力于成为数字经济主力军,投身科技强国伟大事业,为用户提供安全、普惠云服务
品牌介绍
  • 关于天翼云
  • 智算云
  • 天翼云4.0
  • 新闻资讯
  • 天翼云APP
基础设施
  • 全球基础设施
  • 信任中心
最佳实践
  • 精选案例
  • 超级探访
  • 云杂志
  • 分析师和白皮书
  • 天翼云·创新直播间
市场活动
  • 2025智能云生态大会
  • 2024智算云生态大会
  • 2023云生态大会
  • 2022云生态大会
  • 天翼云中国行
天翼云
  • 活动
  • 智算服务
  • 产品
  • 解决方案
  • 应用商城
  • 合作伙伴
  • 开发者
  • 支持与服务
  • 了解天翼云
      • 文档
      • 控制中心
      • 备案
      • 管理中心
      文档中心

      数据湖探索

      数据湖探索

        • 产品动态
        • 产品简介
        • 产品定义
        • 产品优势
        • 功能特性
        • 应用场景
        • 与其他产品的关系
        • 术语解释
        • 计费说明
        • 资源节点
        • 产品规格
        • 产品价格
        • 计费模式
        • 购买
        • 续订
        • 退订
        • 快速入门
        • 注册天翼云账号
        • 创建并提交Spark SQL作业
        • 使用TPC-H样例模板开发并提交Spark SQL作业
        • 创建并提交Spark Jar作业
        • 用户指南
        • 概述
        • DLI控制台总览
        • SQL编辑器
        • 作业管理
        • SQL作业管理
        • Flink作业管理
        • Flink作业管理概述
        • Flink作业权限管理
        • 准备Flink作业数据
        • 创建Flink SQL作业
        • 创建Flink Jar作业
        • 调试Flink作业
        • 操作Flink作业
        • Flink作业详情
        • 开启Flink作业动态扩缩容
        • Spark作业管理
        • Spark作业管理概述
        • 创建Spark作业
        • 设置作业优先级
        • 队列管理
        • 队列管理概述
        • 队列权限管理
        • 创建队列
        • 删除队列
        • 修改队列网段
        • 队列弹性扩缩容
        • 弹性扩缩容定时任务
        • 测试地址联通性
        • 创建消息通知主题
        • 弹性资源池
        • 使用前必读
        • 弹性资源池概述
        • 使用场景一:创建弹性资源池并运行作业
        • 使用场景二:配置弹性资源池队列扩缩容策略
        • 弹性资源池基本操作
        • 创建弹性资源池
        • 弹性资源池权限管理
        • 弹性资源池添加队列
        • 弹性资源池关联队列
        • 弹性资源池队列管理
        • 弹性资源池CU设置
        • 弹性资源池规格变更
        • 查看弹性资源池扩缩容历史
        • 数据管理
        • 库表管理
        • 库表管理概述
        • 数据库权限管理
        • 表权限管理
        • 创建数据库和表
        • 删除数据库和表
        • 修改数据库和表所有者
        • 导入数据
        • 将DLI数据导出至OBS
        • 查看元数据
        • 预览数据
        • 程序包管理
        • 程序包管理概述
        • 程序包组和程序包权限管理
        • 创建程序包
        • 删除程序包
        • 修改所有者
        • 内置依赖包
        • 作业模板
        • SQL模板管理
        • Flink模板管理
        • Spark模板管理
        • 附录
        • SQL模板下TPC-H样例数据说明
        • 增强型跨源连接
        • 增强型跨源连接概述
        • 跨源分析开发方式
        • 创建增强型跨源连接
        • 删除增强型跨源连接
        • 修改主机信息
        • 绑定/解绑队列
        • 添加路由
        • 删除路由
        • 增强型跨源连接权限管理
        • 跨源认证
        • 跨源认证概述
        • 创建CSS类型跨源认证
        • 创建Kerberos跨源认证
        • 创建Kafka_SSL类型跨源认证
        • 创建Password类型跨源认证
        • 跨源认证权限管理
        • 全局配置
        • 全局变量
        • 全局变量权限管理
        • 服务授权
        • 权限管理
        • 权限管理概述
        • 创建IAM用户并授权使用DLI
        • DLI自定义策略
        • DLI资源
        • DLI请求条件
        • 常用操作与系统权限关系
        • 其他常用操作
        • 导入数据至DLI表的方式
        • 数据湖探索监控指标说明及查看指导
        • 云审计服务支持的DLI操作列表说明
        • 配额管理
        • 常见问题
        • 计费类
        • 购买类
        • 使用咨询
        • 作业管理
        • 隐私安全
        • 操作类
        • Flink作业相关问题
        • 使用咨询
        • Flink SQL作业相关问题
        • Flink Jar作业相关问题
        • 性能调优
        • 运维指导
        • SQL作业相关问题
        • 使用咨询
        • 作业开发
        • 作业运维报错
        • 运维指导
        • Spark作业相关问题
        • 使用咨询
        • 作业开发
        • 作业运维报错
        • 运维指导
        • 配额相关问题
        • 授权相关问题
        • 使用咨询
        • 运维指导
        • 队列相关问题
        • 使用咨询
        • 运维指导
        • 跨源连接相关问题
        • 跨源连接问题
        • 跨源分析问题
        • 跨源连接运维报错
        • 相关协议
        • 数据湖探索产品服务协议
        • 文档下载
        • 数据湖探索服务用户操作手册
        • 数据湖探索SQL语法参考
        • 数据湖探索开发指南
        • 数据湖探索故障排除
          无相关产品

          本页目录

          帮助中心数据湖探索用户指南作业管理Flink作业管理创建Flink Jar作业
          创建Flink Jar作业
          更新时间 2024-04-26 10:44:56
          • 新浪微博
          • 微信
            扫码分享
          • 复制链接
          最近更新时间: 2024-04-26 10:44:56
          分享文章
          • 新浪微博
          • 微信
            扫码分享
          • 复制链接
          本章节介绍如何新建FlinkJar作业。

          用户可以基于Flink的API进行二次开发,构建自己的应用Jar包并提交到DLI的队列运行,DLI完全兼容开源社区接口。此功能需要用户自己编写并构建应用Jar包,适合对Flink二次开发有一定了解,并对流计算处理复杂度要求较高的用户。

          前提条件

          • 确保已创建独享队列。创建DLI独享队列,在购买队列时,勾选“专属资源模式”即可。
          • 创建Flink Jar作业,访问其他外部数据源时,如访问OpenTSDB、HBase、Kafka、DWS、RDS、CSS、CloudTable、DCS Redis、DDS Mongo等,需要先创建跨源连接,打通作业运行队列到外部数据源之间的网络。

          当前Flink作业支持访问的外部数据源详情请参考跨源连接和跨源分析概述。

          创建跨源连接操作请参见增强型跨源连接。

          创建完跨源连接后,可以通过“队列管理”页面,单击“操作”列“更多”中的“测试地址连通性”,验证队列到外部数据源之间的网络连通是否正常。详细操作可以参考 测试地址连通性。

          • 用户运行Flink Jar作业时,需要将二次开发的应用代码构建为Jar包,上传到已经创建的OBS桶中。并在DLI“数据管理”>“程序包管理”页面创建程序包,具体请参考 创建程序包。
          说明

          DLI不支持下载功能,如果需要更新已上传的数据文件,可以将本地文件更新后重新上传。

          • 由于DLI服务端已经内置了Flink的依赖包,并且基于开源社区版本做了安全加固。为了避免依赖包兼容性问题或日志输出及转储问题,打包时请注意排除以下文件:

          a.系统内置的依赖包,或者在Maven或者Sbt构建工具中将scope设为provided

          b.日志配置文件(例如:“log4j.properties”或者“logback.xml”等)

          c.日志输出实现类JAR包(例如:log4j等)

          创建Flink Jar作业

          1.在DLI管理控制台的左侧导航栏中,单击“作业管理”>“Flink作业”,进入“Flink作业”页面。

          2.在“Flink作业”页面右上角单击“新建作业”,弹出“新建作业”对话框。

          3.配置作业信息。

          详见下表:作业配置信息

          参数 参数说明
          类型 选择Flink Jar。
          名称 作业名称,只能由英文、中文、数字、中划线和下划线组成,并且长度为1~57字节。
          说明
          作业名称必须是唯一的。
          描述 作业的相关描述,且长度为0~512字节。

          4.单击“确定”,进入“编辑”页面。

          5.选择队列。Flink Jar作业只能运行在独享队列上。

          说明
          • Flink Jar作业只能运行在预先创建的独享队列上。

          • 如果“所属队列”下拉框中无可用的独享队列,请先创建一个独享队列并将该队列绑定到当前用户


          6.配置Flink Jar作业参数。

          详见下表:参数说明

          名称 描述
          所属队列 默认选择“共享队列”,可以按需选择自定义的队列。
          应用程序 用户自定义的程序包。在选择程序包之前需要将对应的Jar包上传至OBS桶中,并在“数据管理>程序包管理”中创建程序包,具体操作请参考创建程序包。内置依赖包请参考数据管理-程序包管理-内置依赖包中的Flink 1.7.2依赖包和Flink 1.10依赖包。
          主类 指定加载的Jar包类名,如KafkaMessageStreaming。
          默认:根据Jar包文件的Manifest文件指定。
          指定:必须输入“类名”并确定类参数列表(参数间用空格分隔)。
          说明
          当类属于某个包时,主类路径需要包含完整包路径,例如:packagePath.KafkaMessageStreaming
          参数 指定类的参数列表,参数之间使用空格分隔。
          Flink参数支持全局变量替换。例如,在“全局配置”>“全局变量”中新增全局变量windowsize,Flink Jar作业就可以添加参数-windowsSize {{windowsize}}。
          依赖jar包 用户自定义的依赖程序包。依赖的相关程序包将会被放置到集群classpath下。
          在选择程序包之前需要将对应的Jar包上传至OBS桶中,并在“数据管理>程序包管理”中创建程序包,包类型选择“jar”。具体操作请参考创建程序包。
          内置依赖包请参考数据管理-程序包管理-内置依赖包中的Flink 1.7.2依赖包和Flink 1.10依赖包。
          其他依赖文件 用户自定义的依赖文件。其他依赖文件需要自行在代码中引用。
          在选择依赖文件之前需要将对应的文件上传至OBS桶中,并在“数据管理>程序包管理”中创建程序包,包类型没有限制。具体操作请参考创建程序包。
          通过在应用程序中添加以下内容可访问对应的依赖文件。其中,“fileName”为需要访问的文件名,“ClassName”为需要访问该文件的类名。 ClassName.class.getClassLoader().getResource("userData/fileName")
          Flink版本 选择Flink版本前,需要先选择所属的队列。
          优化参数 用户自定义的优化参数。参数格式为key=value。
          Flink优化参数支持全局变量替换。例如,在“全局配置”>“全局变量”中新增全局变量phase,Flink Jar作业就可以添加优化参数table.optimizer.agg-phase.strategy={{phase}}。

          7.配置作业参数。

          详见下表:参数说明

          名称 描述
          CU数量 一个CU为1核4G的资源量。CU数量范围为2~400个。
          管理单元 设置管理单元的CU数,支持设置1~4个CU,默认值为1个CU。
          并行数 作业中每个算子的最大并行数。
          说明
          并行数不能大于计算单元(CU数量-管理单元CU数量)的4倍。
          并行数最好大于用户作业里设置的并发数,否则有可能提交失败。
          TaskManager配置 用于设置TaskManager资源参数。
          勾选后需配置下列参数:
          “单TM所占CU数”:每个TaskManager占用的资源数量。
          “单TM Slot”:每个TaskManager包含的Slot数量。
          保存作业日志 设置是否将作业运行时的日志信息保存到OBS桶。
          注意
          该参数建议勾选,否则作业运行完成后不会生成运行日志,后续如果作业运行异常则无法获取运行日志进行定位。
          勾选后需配置下列参数:
          “OBS 桶” :选择OBS桶用于保存用户作业日志信息。如果选择的OBS桶是未授权状态,需要单击“OBS授权”。
          作业异常告警 设置是否将作业异常告警信息,如作业出现运行异常或者欠费情况,以SMN的方式通知用户。
          勾选后需配置下列参数:
          “SMN主题”:
          异常自动重启 设置是否启动异常自动重启功能,当作业异常时将自动重启并恢复作业。
          勾选后需配置下列参数:
          “异常重试最大次数”:配置异常重试最大次数。单位为“次/小时”。
          − 无限:无限次重试。
          − 有限:自定义重试次数。
          “从Checkpoint恢复”:从保存的checkpoint恢复作业。
          勾选该参数后,还需要选择“Checkpoint路径”。
          “Checkpoint路径”:选择checkpoint保存路径。必须和应用程序中配置的Checkpoint地址相对应。且不同作业的路径不可一致,否则无法获取准确的Checkpoint。

          8.单击右上角“保存”,保存作业和相关参数。

          9.单击右上角“启动”,进入“启动Flink作业”页面,确认作业规格,单击“立即启动”,启动作业。

          启动作业后,系统将自动跳转到Flink作业管理页面,新创建的作业将显示在作业列表中,在“状态”列中可以查看作业状态。作业提交成功后,状态将由“提交中”变为“运行中”。运行完成后显示“已完成”。

          如果作业状态为“提交失败”或“运行异常”,表示作业提交或运行失败。用户可以在作业列表中的“状态”列中,将鼠标移动到状态图标上查看错误信息,单击可以复制错误信息。根据错误信息解决故障后,重新提交。

          说明

          其他功能按钮说明如下:

          另存为:将新建作业另存为一个新作业。


          文档反馈

          建议您登录后反馈,可在建议与反馈里查看问题处理进度

          鼠标选中文档,精准反馈问题

          选中存在疑惑的内容,即可快速反馈问题,我们会跟进处理

          知道了

          上一篇 :  创建Flink SQL作业
          下一篇 :  调试Flink作业
          搜索 关闭
          ©2025 天翼云科技有限公司版权所有 增值电信业务经营许可证A2.B1.B2-20090001
          公司地址:北京市东城区青龙胡同甲1号、3号2幢2层205-32室
          备案 京公网安备11010802043424号 京ICP备 2021034386号
          ©2025天翼云科技有限公司版权所有
          京ICP备 2021034386号
          备案 京公网安备11010802043424号
          增值电信业务经营许可证A2.B1.B2-20090001
          用户协议 隐私政策 法律声明