爆款云主机2核4G限时秒杀,88元/年起!
查看详情

活动

天翼云最新优惠活动,涵盖免费试用,产品折扣等,助您降本增效!
热门活动
  • 618智算钜惠季 爆款云主机2核4G限时秒杀,88元/年起!
  • 免费体验DeepSeek,上天翼云息壤 NEW 新老用户均可免费体验2500万Tokens,限时两周
  • 云上钜惠 HOT 爆款云主机全场特惠,更有万元锦鲤券等你来领!
  • 算力套餐 HOT 让算力触手可及
  • 天翼云脑AOne NEW 连接、保护、办公,All-in-One!
  • 中小企业应用上云专场 产品组合下单即享折上9折起,助力企业快速上云
  • 息壤高校钜惠活动 NEW 天翼云息壤杯高校AI大赛,数款产品享受线上订购超值特惠
  • 天翼云电脑专场 HOT 移动办公新选择,爆款4核8G畅享1年3.5折起,快来抢购!
  • 天翼云奖励推广计划 加入成为云推官,推荐新用户注册下单得现金奖励
免费活动
  • 免费试用中心 HOT 多款云产品免费试用,快来开启云上之旅
  • 天翼云用户体验官 NEW 您的洞察,重塑科技边界

智算服务

打造统一的产品能力,实现算网调度、训练推理、技术架构、资源管理一体化智算服务
智算云(DeepSeek专区)
科研助手
  • 算力商城
  • 应用商城
  • 开发机
  • 并行计算
算力互联调度平台
  • 应用市场
  • 算力市场
  • 算力调度推荐
一站式智算服务平台
  • 模型广场
  • 体验中心
  • 服务接入
智算一体机
  • 智算一体机
大模型
  • DeepSeek-R1-昇腾版(671B)
  • DeepSeek-R1-英伟达版(671B)
  • DeepSeek-V3-昇腾版(671B)
  • DeepSeek-R1-Distill-Llama-70B
  • DeepSeek-R1-Distill-Qwen-32B
  • Qwen2-72B-Instruct
  • StableDiffusion-V2.1
  • TeleChat-12B

应用商城

天翼云精选行业优秀合作伙伴及千余款商品,提供一站式云上应用服务
进入甄选商城进入云市场创新解决方案
办公协同
  • WPS云文档
  • 安全邮箱
  • EMM手机管家
  • 智能商业平台
财务管理
  • 工资条
  • 税务风控云
企业应用
  • 翼信息化运维服务
  • 翼视频云归档解决方案
工业能源
  • 智慧工厂_生产流程管理解决方案
  • 智慧工地
建站工具
  • SSL证书
  • 新域名服务
网络工具
  • 翼云加速
灾备迁移
  • 云管家2.0
  • 翼备份
资源管理
  • 全栈混合云敏捷版(软件)
  • 全栈混合云敏捷版(一体机)
行业应用
  • 翼电子教室
  • 翼智慧显示一体化解决方案

合作伙伴

天翼云携手合作伙伴,共创云上生态,合作共赢
天翼云生态合作中心
  • 天翼云生态合作中心
天翼云渠道合作伙伴
  • 天翼云代理渠道合作伙伴
天翼云服务合作伙伴
  • 天翼云集成商交付能力认证
天翼云应用合作伙伴
  • 天翼云云市场合作伙伴
  • 天翼云甄选商城合作伙伴
天翼云技术合作伙伴
  • 天翼云OpenAPI中心
  • 天翼云EasyCoding平台
天翼云培训认证
  • 天翼云学堂
  • 天翼云市场商学院
天翼云合作计划
  • 云汇计划
天翼云东升计划
  • 适配中心
  • 东升计划
  • 适配互认证

开发者

开发者相关功能入口汇聚
技术社区
  • 专栏文章
  • 互动问答
  • 技术视频
资源与工具
  • OpenAPI中心
开放能力
  • EasyCoding敏捷开发平台
培训与认证
  • 天翼云学堂
  • 天翼云认证
魔乐社区
  • 魔乐社区

支持与服务

为您提供全方位支持与服务,全流程技术保障,助您轻松上云,安全无忧
文档与工具
  • 文档中心
  • 新手上云
  • 自助服务
  • OpenAPI中心
定价
  • 价格计算器
  • 定价策略
基础服务
  • 售前咨询
  • 在线支持
  • 在线支持
  • 工单服务
  • 建议与反馈
  • 用户体验官
  • 服务保障
  • 客户公告
  • 会员中心
增值服务
  • 红心服务
  • 首保服务
  • 客户支持计划
  • 专家技术服务
  • 备案管家

了解天翼云

天翼云秉承央企使命,致力于成为数字经济主力军,投身科技强国伟大事业,为用户提供安全、普惠云服务
品牌介绍
  • 关于天翼云
  • 智算云
  • 天翼云4.0
  • 新闻资讯
  • 天翼云APP
基础设施
  • 全球基础设施
  • 信任中心
最佳实践
  • 精选案例
  • 超级探访
  • 云杂志
  • 分析师和白皮书
  • 天翼云·创新直播间
市场活动
  • 2025智能云生态大会
  • 2024智算云生态大会
  • 2023云生态大会
  • 2022云生态大会
  • 天翼云中国行
天翼云
  • 活动
  • 智算服务
  • 产品
  • 解决方案
  • 应用商城
  • 合作伙伴
  • 开发者
  • 支持与服务
  • 了解天翼云
      • 文档
      • 控制中心
      • 备案
      • 管理中心

      Sqoop job

      首页 知识中心 数据库 文章详情页

      Sqoop job

      2023-06-30 08:28:07 阅读次数:77

      数据库

      sqoop job可以将执行的语句(导入导出工作)变成一个job,在需要的时候执行。一般而言,在非单独使用sqoop的时候,使用调度器进行管理。job可以创建、执行、删除以及查看等。
      本文是按照job的基本用法顺序列出7个部分的目录。比较简单,不再详细赘述。

      一、job 语法

      $ sqoop job (generic-args) (job-args)	   [-- [subtool-name] (subtool-args)]	
      $ sqoop-job (generic-args) (job-args)	   [-- [subtool-name] (subtool-args)]

      二、创建job

      创建一个名为testsqoopjob,这可以从RDBMS表的数据导入到HDFS作业。
      下面的命令用于创建一个从DB数据库的person表导入到HDFS文件的作业。

      sqoop job --create testsqoopjob \
      -- import --connect "jdbc:mysql://192.168.10.44:3306/test?useUnicode=true&characterEncoding=utf-8" --username root --password 888888 \
      --target-dir /sqoop/testsqoopjob \
      --table person --m 1
      # 注意import前要有空格

      三、查看job列表

      ‘–list’ 参数是用来验证保存的作业。下面的命令用来验证保存Sqoop作业的列表。

      sqoop job --list
      
      [root@server7 lib]# sqoop job --list
      Warning: /opt/cloudera/parcels/CDH-6.2.1-1.cdh6.2.1.p0.1425774/bin/../lib/sqoop/../accumulo does not exist! Accumulo imports will fail.
      Please set $ACCUMULO_HOME to the root of your Accumulo installation.
      22/11/09 10:58:02 INFO sqoop.Sqoop: Running Sqoop version: 1.4.7-cdh6.2.1
      22/11/09 10:58:03 INFO manager.SqlManager: Using default fetchSize of 1000
      Available jobs:
        testsqoopjob

      4、Sqoop job

      四、查看job详细信息

      ‘–show’ 参数用于检查或验证特定的工作,及其详细信息。以下命令和样本输出用来验证一个名为testsqoopjob的作业。

      sqoop job --show testsqoopjob
      
      [root@server7 lib]# sqoop job --show testsqoopjob
      Warning: /opt/cloudera/parcels/CDH-6.2.1-1.cdh6.2.1.p0.1425774/bin/../lib/sqoop/../accumulo does not exist! Accumulo imports will fail.
      Please set $ACCUMULO_HOME to the root of your Accumulo installation.
      22/11/09 10:59:26 INFO sqoop.Sqoop: Running Sqoop version: 1.4.7-cdh6.2.1
      22/11/09 10:59:27 INFO manager.SqlManager: Using default fetchSize of 1000
      Enter password: 
      Job: testsqoopjob
      Tool: import
      Options:
      ----------------------------
      reset.onemapper = false
      codegen.output.delimiters.enclose = 0
      sqlconnection.metadata.transaction.isolation.level = 2
      codegen.input.delimiters.escape = 0
      parquet.configurator.implementation = HADOOP
      codegen.auto.compile.dir = true
      accumulo.batch.size = 10240000
      codegen.input.delimiters.field = 0
      accumulo.create.table = false
      mainframe.ftp.buffersize = 32760
      mainframe.input.dataset.type = p
      enable.compression = false
      skip.dist.cache = false
      accumulo.max.latency = 5000
      db.username = root
      sqoop.throwOnError = false
      db.clear.staging.table = false
      codegen.input.delimiters.enclose = 0
      hdfs.append.dir = false
      import.direct.split.size = 0
      hcatalog.drop.and.create.table = false
      codegen.output.delimiters.record = 10
      codegen.output.delimiters.field = 44
      hdfs.target.dir = /sqoop/testsqoopjob
      hbase.bulk.load.enabled = false
      mapreduce.num.mappers = 1
      export.new.update = UpdateOnly
      db.require.password = true
      hive.import = false
      customtool.options.jsonmap = {}
      hdfs.delete-target.dir = false
      codegen.output.delimiters.enclose.required = false
      direct.import = false
      codegen.output.dir = .
      hdfs.file.format = TextFile
      hive.drop.delims = false
      codegen.input.delimiters.record = 0
      db.batch = false
      codegen.delete.compile.dir = false
      split.limit = null
      hcatalog.create.table = false
      hive.fail.table.exists = false
      hive.overwrite.table = false
      incremental.mode = None
      temporary.dirRoot = _sqoop
      verbose = false
      hbase.null.incremental.mode = Ignore
      mainframe.ftp.transfermode = ascii
      import.max.inline.lob.size = 16777216
      import.fetch.size = null
      codegen.input.delimiters.enclose.required = false
      relaxed.isolation = false
      sqoop.oracle.escaping.disabled = true
      db.table = person
      hbase.create.table = false
      codegen.compile.dir = /tmp/sqoop-root/compile/00b80a02ee498278d7f361500aba22ed
      codegen.output.delimiters.escape = 0
      db.connect.string = jdbc:mysql://192.168.10.44:3306/test?useUnicode=true&characterEncoding=utf-8

      五、执行job

      ‘–exec’ 选项用于执行保存的作业。下面的命令用于执行保存的作业称为testsqoopjob。

      sqoop job --exec testsqoopjob

      六、免密执行job

      sqoop在创建job时,使用–password-file参数,可以避免输入mysql密码,如果使用–password将出现警告,并且每次都要手动输入密码才能执行job,sqoop规定密码文件必须存放在HDFS上,并且权限必须是400。并且检查sqoop的sqoop-site.xml是否存在如下配置:

      <property>
          <name>sqoop.metastore.client.record.password</name>
          <value>true</value>
          <description>If true, allow saved passwords in the metastore.
          </description>
      </property>
      ----------创建job
      sqoop job --create testsqoopjob2 \
      -- import --connect jdbc:mysql://192.168.10.44:3306/test --username root \
      --password-file /sqoop/password/10_44_mysqlpwd.txt \
      --target-dir /sqoop/testsqoopjob2 \
      --table person --m 1
      
      --------------mysql数据库密码存放位置:/sqoop/password/10_44_mysqlpwd.txt  
      [root@server7 sqoop]# hadoop fs -cat /sqoop/password/10_44_mysqlpwd.txt
      888888
      
      -----------执行job
      sqoop job --exec testsqoopjob2

      七、删除job

      sqoop job --delete testsqoopjob
      sqoop job --delete testsqoopjob2

      以上,简单的介绍了sqoop的作业使用。

      版权声明:本文内容来自第三方投稿或授权转载,原文地址:https://blog.51cto.com/alanchan2win/6280287,作者:一瓢一瓢的饮,版权归原作者所有。本网站转在其作品的目的在于传递更多信息,不拥有版权,亦不承担相应法律责任。如因作品内容、版权等问题需要同本网站联系,请发邮件至ctyunbbs@chinatelecom.cn沟通。

      上一篇:6、NIFI综合应用场景-离线同步Mysql数据到HDFS中

      下一篇:如何输出格式化的字符串(学习笔记四)

      相关文章

      2025-05-19 09:05:01

      项目更新到公网服务器的操作步骤

      项目更新到公网服务器的操作步骤

      2025-05-19 09:05:01
      公网 , 数据库 , 文件 , 更新 , 服务器
      2025-05-19 09:04:53

      Django rest froamwork-ModelSerializer

      Django rest froamwork-ModelSerializer

      2025-05-19 09:04:53
      django , sqlite , 数据库
      2025-05-19 09:04:38

      mysql只有在任务处于完成状态才能运行

      mysql只有在任务处于完成状态才能运行

      2025-05-19 09:04:38
      MySQL , 任务 , 数据库 , 查询 , 状态
      2025-05-19 09:04:30

      设置28401事件后启动数据库时报错ORA-49100

      设置28401事件后启动数据库时报错ORA-49100

      2025-05-19 09:04:30
      ORA , 数据库 , 时报
      2025-05-14 10:03:13

      MySQL 索引优化以及慢查询优化

      MySQL 是一种广泛使用的关系型数据库管理系统,因其性能优异和使用便捷而备受欢迎。然而,随着数据量的增长和查询复杂度的增加,性能瓶颈也变得越来越明显。

      2025-05-14 10:03:13
      MySQL , 优化 , 使用 , 性能 , 数据库 , 查询 , 索引
      2025-05-14 10:03:05

      Oracle数据库用户权限分析

      Oracle数据库用户权限分析

      2025-05-14 10:03:05
      Oracle , 分析 , 数据库 , 权限 , 用户
      2025-05-14 10:02:48

      互斥锁解决redis缓存击穿

      在高并发系统中,Redis 缓存是一种常见的性能优化方式。然而,缓存击穿问题也伴随着高并发访问而来。

      2025-05-14 10:02:48
      Redis , 互斥 , 数据库 , 线程 , 缓存 , 请求
      2025-05-14 10:02:48

      SQL Server 账号管理1

      SQL Server 账号管理主要包含登录名、用户、架构、角色等管理。通过对账号的管理可以有效的提高数据库系统的安全性,规范运维及使用。

      2025-05-14 10:02:48
      Server , SQL , 对象 , 数据库 , 权限 , 用户
      2025-05-14 10:02:48

      SQL Server 事务日志体系结构1--基本术语

      事务包括对数据库的一次更改或一系列更改。它有一个明确开始和明确结束。开始时使用BEGIN TRANSACTION语句,或者SQL Server会自动为您开始一个事务。

      2025-05-14 10:02:48
      Server , SQL , 事务 , 数据库 , 日志 , 磁盘
      2025-05-13 09:51:17

      dblogin登陆数据库时报错ORA-04060

      dblogin登陆数据库时报错ORA-04060

      2025-05-13 09:51:17
      ORA , 数据库 , 时报
      查看更多
      推荐标签

      作者介绍

      天翼云小翼
      天翼云用户

      文章

      33561

      阅读量

      5245302

      查看更多

      最新文章

      Django rest froamwork-ModelSerializer

      2025-05-19 09:04:53

      mysql只有在任务处于完成状态才能运行

      2025-05-19 09:04:38

      设置28401事件后启动数据库时报错ORA-49100

      2025-05-19 09:04:30

      MySQL 索引优化以及慢查询优化

      2025-05-14 10:03:13

      Oracle数据库用户权限分析

      2025-05-14 10:03:05

      SQL Server 账号管理1

      2025-05-14 10:02:48

      查看更多

      热门文章

      Nacos数据持久化到MySQL

      2023-05-12 07:20:56

      MySQL的间隙锁

      2023-05-12 07:20:56

      ​云原生微服务K8s容器编排第七章之ETCD的使用及备份

      2023-03-16 07:45:55

      oracle 数据库 中 如何将不带汉字的日期格式转换成带“年月日时分秒”格式的日期

      2023-04-06 06:11:29

      【Error】kettle连接MySQL

      2023-05-17 06:58:39

      JSP之 MySQL 插入数据时,中文乱码问题的解决

      2022-11-14 02:56:39

      查看更多

      热门标签

      数据库 mysql 字符串 数据结构 MySQL 算法 redis oracle java sql python 数据 索引 SQL 查询
      查看更多

      相关产品

      弹性云主机

      随时自助获取、弹性伸缩的云服务器资源

      天翼云电脑(公众版)

      便捷、安全、高效的云电脑服务

      对象存储

      高品质、低成本的云上存储服务

      云硬盘

      为云上计算资源提供持久性块存储

      查看更多

      随机文章

      postgresql |数据库 |postgresql数据库的短命令详细介绍

      通过Navicat for MySQL排查sql语句错误

      【Android入门到项目实战--4.7】—— 怎么使用LitePal来操作数据库?

      常用数据库复习资料

      一文带你精通MongDB

      Mysql注入 -- 布尔注入

      • 7*24小时售后
      • 无忧退款
      • 免费备案
      • 专家服务
      售前咨询热线
      400-810-9889转1
      关注天翼云
      • 旗舰店
      • 天翼云APP
      • 天翼云微信公众号
      服务与支持
      • 备案中心
      • 售前咨询
      • 智能客服
      • 自助服务
      • 工单管理
      • 客户公告
      • 涉诈举报
      账户管理
      • 管理中心
      • 订单管理
      • 余额管理
      • 发票管理
      • 充值汇款
      • 续费管理
      快速入口
      • 天翼云旗舰店
      • 文档中心
      • 最新活动
      • 免费试用
      • 信任中心
      • 天翼云学堂
      云网生态
      • 甄选商城
      • 渠道合作
      • 云市场合作
      了解天翼云
      • 关于天翼云
      • 天翼云APP
      • 服务案例
      • 新闻资讯
      • 联系我们
      热门产品
      • 云电脑
      • 弹性云主机
      • 云电脑政企版
      • 天翼云手机
      • 云数据库
      • 对象存储
      • 云硬盘
      • Web应用防火墙
      • 服务器安全卫士
      • CDN加速
      热门推荐
      • 云服务备份
      • 边缘安全加速平台
      • 全站加速
      • 安全加速
      • 云服务器
      • 云主机
      • 智能边缘云
      • 应用编排服务
      • 微服务引擎
      • 共享流量包
      更多推荐
      • web应用防火墙
      • 密钥管理
      • 等保咨询
      • 安全专区
      • 应用运维管理
      • 云日志服务
      • 文档数据库服务
      • 云搜索服务
      • 数据湖探索
      • 数据仓库服务
      友情链接
      • 中国电信集团
      • 189邮箱
      • 天翼企业云盘
      • 天翼云盘
      ©2025 天翼云科技有限公司版权所有 增值电信业务经营许可证A2.B1.B2-20090001
      公司地址:北京市东城区青龙胡同甲1号、3号2幢2层205-32室
      • 用户协议
      • 隐私政策
      • 个人信息保护
      • 法律声明
      备案 京公网安备11010802043424号 京ICP备 2021034386号