爆款云主机2核4G限时秒杀,88元/年起!
查看详情

活动

天翼云最新优惠活动,涵盖免费试用,产品折扣等,助您降本增效!
热门活动
  • 618智算钜惠季 爆款云主机2核4G限时秒杀,88元/年起!
  • 免费体验DeepSeek,上天翼云息壤 NEW 新老用户均可免费体验2500万Tokens,限时两周
  • 云上钜惠 HOT 爆款云主机全场特惠,更有万元锦鲤券等你来领!
  • 算力套餐 HOT 让算力触手可及
  • 天翼云脑AOne NEW 连接、保护、办公,All-in-One!
  • 中小企业应用上云专场 产品组合下单即享折上9折起,助力企业快速上云
  • 息壤高校钜惠活动 NEW 天翼云息壤杯高校AI大赛,数款产品享受线上订购超值特惠
  • 天翼云电脑专场 HOT 移动办公新选择,爆款4核8G畅享1年3.5折起,快来抢购!
  • 天翼云奖励推广计划 加入成为云推官,推荐新用户注册下单得现金奖励
免费活动
  • 免费试用中心 HOT 多款云产品免费试用,快来开启云上之旅
  • 天翼云用户体验官 NEW 您的洞察,重塑科技边界

智算服务

打造统一的产品能力,实现算网调度、训练推理、技术架构、资源管理一体化智算服务
智算云(DeepSeek专区)
科研助手
  • 算力商城
  • 应用商城
  • 开发机
  • 并行计算
算力互联调度平台
  • 应用市场
  • 算力市场
  • 算力调度推荐
一站式智算服务平台
  • 模型广场
  • 体验中心
  • 服务接入
智算一体机
  • 智算一体机
大模型
  • DeepSeek-R1-昇腾版(671B)
  • DeepSeek-R1-英伟达版(671B)
  • DeepSeek-V3-昇腾版(671B)
  • DeepSeek-R1-Distill-Llama-70B
  • DeepSeek-R1-Distill-Qwen-32B
  • Qwen2-72B-Instruct
  • StableDiffusion-V2.1
  • TeleChat-12B

应用商城

天翼云精选行业优秀合作伙伴及千余款商品,提供一站式云上应用服务
进入甄选商城进入云市场创新解决方案
办公协同
  • WPS云文档
  • 安全邮箱
  • EMM手机管家
  • 智能商业平台
财务管理
  • 工资条
  • 税务风控云
企业应用
  • 翼信息化运维服务
  • 翼视频云归档解决方案
工业能源
  • 智慧工厂_生产流程管理解决方案
  • 智慧工地
建站工具
  • SSL证书
  • 新域名服务
网络工具
  • 翼云加速
灾备迁移
  • 云管家2.0
  • 翼备份
资源管理
  • 全栈混合云敏捷版(软件)
  • 全栈混合云敏捷版(一体机)
行业应用
  • 翼电子教室
  • 翼智慧显示一体化解决方案

合作伙伴

天翼云携手合作伙伴,共创云上生态,合作共赢
天翼云生态合作中心
  • 天翼云生态合作中心
天翼云渠道合作伙伴
  • 天翼云代理渠道合作伙伴
天翼云服务合作伙伴
  • 天翼云集成商交付能力认证
天翼云应用合作伙伴
  • 天翼云云市场合作伙伴
  • 天翼云甄选商城合作伙伴
天翼云技术合作伙伴
  • 天翼云OpenAPI中心
  • 天翼云EasyCoding平台
天翼云培训认证
  • 天翼云学堂
  • 天翼云市场商学院
天翼云合作计划
  • 云汇计划
天翼云东升计划
  • 适配中心
  • 东升计划
  • 适配互认证

开发者

开发者相关功能入口汇聚
技术社区
  • 专栏文章
  • 互动问答
  • 技术视频
资源与工具
  • OpenAPI中心
开放能力
  • EasyCoding敏捷开发平台
培训与认证
  • 天翼云学堂
  • 天翼云认证
魔乐社区
  • 魔乐社区

支持与服务

为您提供全方位支持与服务,全流程技术保障,助您轻松上云,安全无忧
文档与工具
  • 文档中心
  • 新手上云
  • 自助服务
  • OpenAPI中心
定价
  • 价格计算器
  • 定价策略
基础服务
  • 售前咨询
  • 在线支持
  • 在线支持
  • 工单服务
  • 建议与反馈
  • 用户体验官
  • 服务保障
  • 客户公告
  • 会员中心
增值服务
  • 红心服务
  • 首保服务
  • 客户支持计划
  • 专家技术服务
  • 备案管家

了解天翼云

天翼云秉承央企使命,致力于成为数字经济主力军,投身科技强国伟大事业,为用户提供安全、普惠云服务
品牌介绍
  • 关于天翼云
  • 智算云
  • 天翼云4.0
  • 新闻资讯
  • 天翼云APP
基础设施
  • 全球基础设施
  • 信任中心
最佳实践
  • 精选案例
  • 超级探访
  • 云杂志
  • 分析师和白皮书
  • 天翼云·创新直播间
市场活动
  • 2025智能云生态大会
  • 2024智算云生态大会
  • 2023云生态大会
  • 2022云生态大会
  • 天翼云中国行
天翼云
  • 活动
  • 智算服务
  • 产品
  • 解决方案
  • 应用商城
  • 合作伙伴
  • 开发者
  • 支持与服务
  • 了解天翼云
      • 文档
      • 控制中心
      • 备案
      • 管理中心

      202_Spark编程工具:使用IDEA

      首页 知识中心 软件开发 文章详情页

      202_Spark编程工具:使用IDEA

      2024-06-05 08:24:41 阅读次数:43

      idea,scala,spark

      1、实验描述

      • 准备Spark编程所需的环境及安装集成开发环境IDEA,及为它安装scala插件,配置maven相关属性
      • 实验时长:
        • 45分钟
      • 主要步骤:
        • 解压安装IDEA
        • 配置IDEA scala 插件
        • 重启IDEA

      2、实验环境

      • 虚拟机数量:1
      • 系统版本:Centos 7.5
      • JDK 版本: 1.8.0_131
      • Scala版本: scala2.11.11
      • Scala IDEA版本:ideaIC-2017.2.7

      3、相关技能

      • Spark集成开发环境IDEA的安装配置

      4、知识点

      • 常见linux命令的使用
      • 通过修改.bash_profile文件配置环境变量
      • 安装jdk
      • 安装scala
      • IDEA中安装scala插件

      5、实现效果

      idea添加scala插件支持操作最终效果如下图:

      202_Spark编程工具:使用IDEA

      6、实验步骤

      6.1本实验要在master节点安装IDEA,首先确保安装了java 1.8

      6.1.1查看master是否安装java 1.8

      [zkpk@master ~]$ java -version
      

      如果没有出现下图显示以安装jdk 1.8的结果,则需要安装jdk
      1.8(如果已安装,则直接进入6-2;若没有安装,则按照6-1.2及剩下的部分操作)

      202_Spark编程工具:使用IDEA

      6.1.2删除系统自带的jdk

      6.1.2.1查看系统自带jdk

      [zkpk@master ~]$ rpm -qa | grep java
      

      202_Spark编程工具:使用IDEA

      6.1.2.2切换root用户,密码:zkpk

      [zkpk@master ~]$ su root
      

      6.1.2.3移除系统自带的jdk

      [root@master zkpk]# yum remove java-1.*
      

      202_Spark编程工具:使用IDEA

      6.1.2.4创建存放jdk文件目录

      [root@master zkpk]# mkdir /usr/java
      

      6.1.3将/home/zkpk/tgz下的JDK压缩包解压到/usr/java目录下

      [root@master zkpk]# tar -xzvf /home/zkpk/tgz/jdk-8u131-linux-x64.tar.gz -C /usr/java
      

      6.1.3.1退出root用户

      [root@master zkpk]# exit
      

      6.1.4配置zkpk用户环境变量

      [zkpk@master ~]$ vim .bash_profile
      

      6.1.4.1修改“.bash_profile”文件,将以下内容添加到文件末尾,并保存退出

      export JAVA_HOME=/usr/java/jdk1.8.0_131/
      export PATH=$JAVA_HOME/bin:$PATH
      

      202_Spark编程工具:使用IDEA

      6.1.5使环境变量生效:

      [zkpk@master ~]$ source /home/zkpk/.bash_profile
      

      6.1.6查看java是否配置成功:

      [zkpk@master ~]$ java -version
      

      如出现下图,说明jdk 1.8安装成功

      202_Spark编程工具:使用IDEA

      6.2安装scala

      6.2.1确定节点上是否安装scala

      6.2.1.1在命令行中运行scala命令

      若显示scala相关界面则直接进入步骤5-3;若出现下图效果,说明本机没有安装scala,需要按照5-2.2及以后的步骤安装scala

      202_Spark编程工具:使用IDEA

      6.2.2将scala压缩包从/home/zkpk/tgz/spark目录中解压到用户的根目录

      [zkpk@master ~]$ tar -xzvf ./tgz/spark/scala-2.11.11.tgz -C /home/zkpk
      

      202_Spark编程工具:使用IDEA

      6.2.3查看解压出来的scala文件夹

      [zkpk@master ~]$ ll scala-2.11.11/
      

      202_Spark编程工具:使用IDEA

      6.2.4配置scala环境变量

      6.2.4.1将以下内容添加到/home/zkpk/.bash_profile文件末尾

      vim .bash_profile
      #scala
      export SCALA_HOME=/home/zkpk/scala-2.11.11
      export PATH=$SCALA_HOME/bin:$PATH
      

      202_Spark编程工具:使用IDEA

      6.2.5使用修改生效

      [zkpk@master ~]$ cd[zkpk@master ~]$ source .bash_profile
      

      6.2.6确认scala已经成功安装

      [zkpk@master ~]$ scala
      

      如出现下图,则说明已成功安装scala 2.11.11

      202_Spark编程工具:使用IDEA

      6.2.7输入:quit退出scala cli

      scala> :quit
      

      6.3安装IDEA集成开发环境

      6.3.1将IDEA压缩包解压到用户的根目录

      [zkpk@master ~]$ tar xvzf /home/zkpk/tgz/spark/ideaIC-2017.2.7.tar.gz -C /home/zkpk/
      

      6.3.2进入IDEA目录,并查看内容

      [zkpk@master ~]$ cd idea-IC-172.4574.19/ 
      [zkpk@master idea-IC-172.4574.19]$
      

      202_Spark编程工具:使用IDEA

      202_Spark编程工具:使用IDEA

      6.3.3进入bin目录,并启动idea

      [zkpk@master idea-IC-172.4574.19]$cd bin 
      [zkpk@master bin]$ nohup ./idea.sh &    #后台启动idea
      

      202_Spark编程工具:使用IDEA

      6.3.4弹出如下窗口,正在启动IDEA

      202_Spark编程工具:使用IDEA

      6.3.5继续弹出如下窗口,配置scala plugin

      6.3.5.1拷贝scala-pluin到idea的安装目录指定位置

      [zkpk@master ~]$ cd[zkpk@master ~]$ cp /home/zkpk/tgz/spark/scala-intellij-bin-2017.2.7.zip  /home/zkpk/idea-IC-172.4574.19/plugins/
      

      202_Spark编程工具:使用IDEA

      6.3.5.2点击图18中的”Configure”按钮,并选择下图中的”Plugins”选项

      202_Spark编程工具:使用IDEA

      6.3.5.3弹出如下窗口,并点击”Install plugin from disk…”按钮

      202_Spark编程工具:使用IDEA
      6.3.5.4弹出如下窗口,并在本地磁盘文件中找到scala插件文件,然后点击”OK”按钮

      202_Spark编程工具:使用IDEA

      6.3.5.5回退到如下窗口,并点击”Restart Intellij IDEA”按钮,重启IDEA

      202_Spark编程工具:使用IDEA

      6.3.5.6至此,spark的编程环境IDEA就配置好了,可以开始利用IDEA开发spark代码。

      202_Spark编程工具:使用IDEA

      7、总结

      在给IDEA安装Scala插件时,要注意IDEA的版本与scala插件的版本兼容性,具体对应关系可以参拷IDEA官网的相关知识

      版权声明:本文内容来自第三方投稿或授权转载,原文地址:https://liush.blog.csdn.net/article/details/127237615,作者:书启秋枫,版权归原作者所有。本网站转在其作品的目的在于传递更多信息,不拥有版权,亦不承担相应法律责任。如因作品内容、版权等问题需要同本网站联系,请发邮件至ctyunbbs@chinatelecom.cn沟通。

      上一篇:C#创建Windows窗体应用程序实例10【目录管理】

      下一篇:解决spacedesk卸载/重装软件时显示 指定的账户已存在

      相关文章

      2025-05-07 09:07:56

      idea中springboot项目热部署最完整有效的详细配置

      idea中springboot项目热部署最完整有效的详细配置

      2025-05-07 09:07:56
      ctrl , idea , 快捷键 , 部署 , 配置
      2025-04-14 09:24:23

      Spark Streaming中checkpoint内幕实现彻底解密(源代码提问:checkpoint源代码修改,适用场景:spark的版本升级,数据恢复。。)

      Spark Streaming中checkpoint内幕实现彻底解密(源代码提问:checkpoint源代码修改,适用场景:spark的版本升级,数据恢复。。)

      2025-04-14 09:24:23
      spark , 容错 , 源代码
      2025-03-31 08:49:38

      scala面向接口编程彻底实战和spark源码鉴赏

      scala面向接口编程彻底实战和spark源码鉴赏

      2025-03-31 08:49:38
      scala , spark , 接口 , 源码
      2025-02-28 09:27:35

      漫谈大数据 - Spark on Hive & Hive on Spark

      漫谈大数据 - Spark on Hive & Hive on Spark

      2025-02-28 09:27:35
      hive , Hive , spark , Spark , 数据库
      2024-11-25 09:13:09

      idea没有maven工具栏解决方法

      idea没有maven工具栏解决方法

      2024-11-25 09:13:09
      idea , maven , pom
      2024-11-20 09:46:40

      idea 2017.3 版本激活

      idea 2017.3 版本激活

      2024-11-20 09:46:40
      idea , JavaSE
      2024-10-21 09:43:21

      Idea快速入门指南

      Idea快速入门指南

      2024-10-21 09:43:21
      idea , maven
      2024-10-18 09:52:34

      字节缓冲流

      字节缓冲流

      2024-10-18 09:52:34
      idea , java
      2024-09-25 10:13:57

      apache kyuubi + dremio 集成试用

      主要是一个玩法的集成,使用apache kyuubi 简化spark 的使用,而且如果我们集成数据库存储格式也是很方便的

      2024-09-25 10:13:57
      apache , hadoop , spark
      2024-09-24 06:29:30

      在idea中创建一个SpringBoot模块

      在idea中创建一个SpringBoot模块

      2024-09-24 06:29:30
      idea , java , springboot
      查看更多
      推荐标签

      作者介绍

      天翼云小翼
      天翼云用户

      文章

      33561

      阅读量

      5222517

      查看更多

      最新文章

      Spark Streaming中checkpoint内幕实现彻底解密(源代码提问:checkpoint源代码修改,适用场景:spark的版本升级,数据恢复。。)

      2025-04-14 09:24:23

      scala面向接口编程彻底实战和spark源码鉴赏

      2025-03-31 08:49:38

      idea 2017.3 版本激活

      2024-11-20 09:46:40

      在idea中创建一个SpringBoot模块

      2024-09-24 06:29:30

      coding上创建项目、创建代码仓库、将IDEA中的代码提交到coding上的代码仓库、Git的下载、IDEA上配置git

      2024-06-25 08:05:37

      如何在IDEA中自定义模板、快速生成完整的代码?

      2024-06-18 07:17:34

      查看更多

      热门文章

      大数据spark 蘑菇云行动前传 第1课:大数据时代的黄金语言scala

      2023-04-23 09:44:23

      使用Java进行文件压缩解压(idea+maven环境下)

      2023-06-21 06:57:45

      IntelliJ IDEA的代码搁置功能

      2023-07-26 07:59:14

      在Idea编辑中,解决Spring Boot之.yaml或.properties配置文件不能自动提示的问题,或者配置Spring Boot的.yaml或.properties文件的自动提示

      2023-07-11 08:54:56

      Intellij IDEA基于Springboot的远程调试

      2023-06-25 07:05:31

      IDEA报错java: Compilation failed: internal java compiler error

      2023-07-03 08:06:07

      查看更多

      热门标签

      java Java python 编程开发 代码 开发语言 算法 线程 Python html 数组 C++ 元素 javascript c++
      查看更多

      相关产品

      弹性云主机

      随时自助获取、弹性伸缩的云服务器资源

      天翼云电脑(公众版)

      便捷、安全、高效的云电脑服务

      对象存储

      高品质、低成本的云上存储服务

      云硬盘

      为云上计算资源提供持久性块存储

      查看更多

      随机文章

      IntelliJ IDEA Ultimate 配置 PHP 拦截器中 Xdebug 扩展应该怎么填

      【Java】Idea控制台中文乱码问题完全解决方案

      Spark-Scala

      webstorm,idea,goland :格式化代码的快捷键【全网详细】;webstorm,idea,goland :常用的快捷键【全网详细】

      使用Java进行文件压缩解压(idea+maven环境下)

      idea 2017.3 版本激活

      • 7*24小时售后
      • 无忧退款
      • 免费备案
      • 专家服务
      售前咨询热线
      400-810-9889转1
      关注天翼云
      • 旗舰店
      • 天翼云APP
      • 天翼云微信公众号
      服务与支持
      • 备案中心
      • 售前咨询
      • 智能客服
      • 自助服务
      • 工单管理
      • 客户公告
      • 涉诈举报
      账户管理
      • 管理中心
      • 订单管理
      • 余额管理
      • 发票管理
      • 充值汇款
      • 续费管理
      快速入口
      • 天翼云旗舰店
      • 文档中心
      • 最新活动
      • 免费试用
      • 信任中心
      • 天翼云学堂
      云网生态
      • 甄选商城
      • 渠道合作
      • 云市场合作
      了解天翼云
      • 关于天翼云
      • 天翼云APP
      • 服务案例
      • 新闻资讯
      • 联系我们
      热门产品
      • 云电脑
      • 弹性云主机
      • 云电脑政企版
      • 天翼云手机
      • 云数据库
      • 对象存储
      • 云硬盘
      • Web应用防火墙
      • 服务器安全卫士
      • CDN加速
      热门推荐
      • 云服务备份
      • 边缘安全加速平台
      • 全站加速
      • 安全加速
      • 云服务器
      • 云主机
      • 智能边缘云
      • 应用编排服务
      • 微服务引擎
      • 共享流量包
      更多推荐
      • web应用防火墙
      • 密钥管理
      • 等保咨询
      • 安全专区
      • 应用运维管理
      • 云日志服务
      • 文档数据库服务
      • 云搜索服务
      • 数据湖探索
      • 数据仓库服务
      友情链接
      • 中国电信集团
      • 189邮箱
      • 天翼企业云盘
      • 天翼云盘
      ©2025 天翼云科技有限公司版权所有 增值电信业务经营许可证A2.B1.B2-20090001
      公司地址:北京市东城区青龙胡同甲1号、3号2幢2层205-32室
      • 用户协议
      • 隐私政策
      • 个人信息保护
      • 法律声明
      备案 京公网安备11010802043424号 京ICP备 2021034386号