如何在Ubuntu上安装spark
时间: 2024-05-08 18:15:49 浏览: 159
1. 安装Java
首先需要安装Java,Spark需要Java 8或更高版本。可以使用以下命令安装OpenJDK 8:
```
sudo apt update
sudo apt install openjdk-8-jdk
```
2. 下载Spark
从Spark官方网站 https://spark.apache.org/downloads.html 下载最新版本的Spark。
在终端中进入下载目录,使用以下命令解压Spark:
```
tar -xvf spark-<version>.tgz
```
3. 配置环境变量
将Spark的bin目录添加到系统环境变量中:
```
export SPARK_HOME=/path/to/spark
export PATH=$PATH:$SPARK_HOME/bin:$SPARK_HOME/sbin
```
将以上两行代码添加到~/.bashrc文件末尾中,以便永久生效:
```
echo "export SPARK_HOME=/path/to/spark" >> ~/.bashrc
echo "export PATH=$PATH:$SPARK_HOME/bin:$SPARK_HOME/sbin" >> ~/.bashrc
source ~/.bashrc
```
4. 启动Spark
可以使用以下命令启动Spark:
```
spark-shell
```
或者使用以下命令启动Spark应用程序:
```
spark-submit --class <main-class> --master local <application-jar> <application-arguments>
```
注意:在上述命令中,`<main-class>`是Spark应用程序的主类,`<application-jar>`是Spark应用程序的jar包路径,`<application-arguments>`是应用程序的参数。
阅读全文