百度360必应搜狗淘宝本站头条
当前位置:网站首页 > IT知识 > 正文

IntelliJ IDEA:Scala、sbt、maven配置教程

liuian 2025-04-07 15:53 24 浏览

IDEA相信是很多小伙伴经常使用的一个代码编写工具,其功能十分强大。

Spark是一个大数据计算组件,它与Hadoop最大的区别就是将数据放在内存,实现极高的计算效率。Spark是由Scala语言编写,所以,学习Spark之前,先掌握Scala是由必要的。

那这篇文章,就先讲解一下Scala如何在IDEA中进行配置使用。

IDEA配置scala插件

进入File——Settings——Plugins,在搜索框搜索scala,然后点击安装,等安装完毕,需要重启IDEA。

或者也可以手动安装,先去IDEA官网,选择Tools,接着可以看到PLUGIN MARKETPLACE里面的Scala,或者跳转到All Plugins页面。

下载你IDEA版本对应的scala插件。接着,还是上面同个地方,点击Install Plugin from Disk...,然后选择你刚才下载的zip文件。

需要注意,这里安装的只是IDEA的scala插件 接着,我们新建一个scala项目,File——New——Scala——IDEA,然后这里,如果你没有安装scala的话,需要点击Creat....——Download....

安装Scala

其实通过上一步直接下载scala的话就可以了。

如果你想要自己安装scala的话也很容易,直接百度Scala进入官网,找到scala-2.13.0.msi(这是windows系统的),然后像其他程序一样安装就可以了。最后你可以把安装后的路径加到环境变量。这样你也可以在scala shell中编写代码。

IDEA配置maven

IDEA是自带maven的,选择菜单栏File——Other Settings——Settings for New Projects,然后搜索maven,接着选择User settings file,这是你maven配置信息文件的路径,如果你想修改的话,记得要点击Override。Local repository选项的话,是你依赖包下载的位置。

比较关键的配置,其实就是依赖包下载的源,这里是得在settings.xml进行修改, 默认路径下,是没有这个文件,我们可以自己创建,然后加入以下内容:


``
      
          
            alimaven  
            aliyun maven  
            http://maven.aliyun.com/nexus/content/groups/public/  
            central          
          
      

我这里是换成了阿里云的源,默认的源是国外,下载依赖包速度会比较慢,如果在公司的话,一般需要改成你们公司的仓库地址。

添加Maven依赖

如果你创建的maven工程,那么你项目中会有这么一个pom.xml,这个文件就是来管理你的版本和依赖包的。maven添加依赖包的格式一般是如下:


    ai.h2o
    sparkling-water-core_2.10
    1.3.10

sbt安装

除了可以通过maven工程对项目的依赖、编译、打包等进行管理以外,scala还可以通过sbt来管理。 首先,第一步仍然需要上面scala一样安装sbt插件,跟上面的方法一样,直接搜索自动安装或者手动安装都可以。

然后,当然是需要安装sbt。

百度Sbt进入官网,下载安装。

接着,进入安装目录E:\Program Files (x86)\sbt\conf,配置sbtconfig.txt,写入以下内容:

# Set the java args to high

-Xmx512M

-XX:MaxPermSize=256m

-XX:ReservedCodeCacheSize=128m

# Set the extra SBT options

-Dsbt.log.format=true
-Dsbt.override.build.repos=true 
-Dsbt.ivy.home=E:\sbt\.ivy2
-Dsbt.global.base=E:\sbt\.sbt
-Dsbt.repository.config=E:\sbt\conf\repo.properties

说明一下参数的意义:Dsbt.ivy.home是你依赖包下载到本地的位置,``Dsbt.repository.config是你sbt配置文件的位置(包括你依赖包仓库的源url等) 这里要特别注意一下:路径名称不要带有空格,因为这些配置参数是需要加到VM parameters的,出现空格会识别错误!!!

IDEA配置sbt

进入IDEA,还是跟maven一样的步骤,搜索sbt,在VM parameters中填入跟上一步配置文件一样的参数;在下面选择Custom,然后选择你安装目录bin下的sbt-launch.jar。 这样你的sbt就配置完成,你可以在新建scala项目的选择sbt来进行管理了。

修改sbt的仓库源

上面已经提到了,在配置sbtconfig.txt的时候,就已经设定了你sbt配置文件的路径,如上面我的路径是E:\sbt\conf\repo.properties,但默认情况下,你是没有这个文件的,你需要自己创建这个文件,然后填入以下内容:

[repositories]
local
aliyun: http://maven.aliyun.com/nexus/content/groups/public/
typesafe: http://repo.typesafe.com/typesafe/ivy-releases/, [organization]/[module]/(scala_[scalaVersion]/)(sbt_[sbtVersion]/)[revision]/[type]s/[artifact](-[classifier]).[ext], bootOnly
sonatype-oss-releases
maven-central
sonatype-oss-snapshots

我这里是换成了阿里云的源,默认的源是国外,下载依赖包速度会比较慢,如果在公司的话,一般需要改成你们公司的仓库地址。

Sbt添加依赖

sbt项目管理依赖的文件是build.sbt,添加依赖的格式如下:

libraryDependencies += "org.apache.spark" % "spark-core_2.11" % "2.0.2"

上面是指添加单独一个依赖的写法,如果是多个的话是这样的:

libraryDependencies ++= Seq(
  groupID % artifactID % revision,
  groupID % otherID % otherRevision
)




相关推荐

深入解析 MySQL 8.0 JSON 相关函数:解锁数据存储的无限可能

引言在现代应用程序中,数据的存储和处理变得愈发复杂多样。MySQL8.0引入了丰富的JSON相关函数,为我们提供了更灵活的数据存储和检索方式。本文将深入探讨MySQL8.0中的JSON...

MySQL的Json类型个人用法详解(mysql json类型对应java什么类型)

前言虽然MySQL很早就添加了Json类型,但是在业务开发过程中还是很少设计带这种类型的表。少不代表没有,当真正要对Json类型进行特定查询,修改,插入和优化等操作时,却感觉一下子想不起那些函数怎么使...

MySQL的json查询之json_array(mysql json_search)

json_array顾名思义就是创建一个数组,实际的用法,我目前没有想到很好的使用场景。使用官方的例子说明一下吧。例一selectjson_array(1,2,3,4);json_array虽然单独...

头条创作挑战赛#一、LSTM 原理 长短期记忆网络

#头条创作挑战赛#一、LSTM原理长短期记忆网络(LongShort-TermMemory,LSTM)是一种特殊类型的循环神经网络(RNN),旨在解决传统RNN在处理长序列数据时面临的梯度...

TensorBoard最全使用教程:看这篇就够了

机器学习通常涉及在训练期间可视化和度量模型的性能。有许多工具可用于此任务。在本文中,我们将重点介绍TensorFlow的开源工具套件,称为TensorBoard,虽然他是TensorFlow...

图神经网络版本的Kolmogorov Arnold(KAN)代码实现和效果对比

本文约4600字,建议阅读10分钟本文介绍了图神经网络版本的对比。KolmogorovArnoldNetworks(KAN)最近作为MLP的替代而流行起来,KANs使用Kolmogorov-Ar...

kornia,一个实用的 Python 库!(python kkb_tools)

大家好,今天为大家分享一个实用的Python库-kornia。Github地址:https://github.com/kornia/kornia/Kornia是一个基于PyTorch的开源计算...

图像分割掩码标注转YOLO多边形标注

Ultralytics团队付出了巨大的努力,使创建自定义YOLO模型变得非常容易。但是,处理大型数据集仍然很痛苦。训练yolo分割模型需要数据集具有其特定格式,这可能与你从大型数据集中获得的...

[python] 向量检索库Faiss使用指北

Faiss是一个由facebook开发以用于高效相似性搜索和密集向量聚类的库。它能够在任意大小的向量集中进行搜索。它还包含用于评估和参数调整的支持代码。Faiss是用C++编写的,带有Python的完...

如何把未量化的 70B 大模型加载到笔记本电脑上运行?

并行运行70B大模型我们已经看到,量化已经成为在低端GPU(比如Colab、Kaggle等)上加载大型语言模型(LLMs)的最常见方法了,但这会降低准确性并增加幻觉现象。那如果你和你的朋友们...

ncnn+PPYOLOv2首次结合!全网最详细代码解读来了

编辑:好困LRS【新智元导读】今天给大家安利一个宝藏仓库miemiedetection,该仓库集合了PPYOLO、PPYOLOv2、PPYOLOE三个算法pytorch实现三合一,其中的PPYOL...

人工智能——图像识别(人工智能图像识别流程)

概述图像识别(ImageRecognition)是计算机视觉的核心任务之一,旨在通过算法让计算机理解图像内容,包括分类(识别物体类别)、检测(定位并识别多个物体)、分割(像素级识别)等,常见的应用场...

PyTorch 深度学习实战(15):Twin Delayed DDPG (TD3) 算法

在上一篇文章中,我们介绍了DeepDeterministicPolicyGradient(DDPG)算法,并使用它解决了Pendulum问题。本文将深入探讨TwinDelayed...

大模型中常用的注意力机制GQA详解以及Pytorch代码实现

分组查询注意力(GroupedQueryAttention)是一种在大型语言模型中的多查询注意力(MQA)和多头注意力(MHA)之间进行插值的方法,它的目标是在保持MQA速度的同时...

pytorch如何快速创建具有特殊意思的tensor张量?

专栏推荐正文我们通过值可以看到torch.empty并没有进行初始化创建tensor并进行随机初始化操作,常用rand/rand_like,randint正态分布(0,1)指定正态分布的均值还有方差i...