ubtuntu安装spark
时间: 2023-09-21 08:12:10 浏览: 103
以下是在 Ubuntu 上安装 Apache Spark 的步骤:
1. 首先,确保您已经安装了 Java 8 或 Java 11。可以通过运行以下命令来检查 Java 是否已安装:
```
java -version
```
2. 下载 Spark 压缩包。您可以在官方网站上找到最新版本的 Spark:https://spark.apache.org/downloads.html
3. 解压缩 Spark 压缩包。在终端中导航到 Spark 压缩包所在的目录,并运行以下命令:
```
tar -xzf spark-3.1.1-bin-hadoop2.7.tgz
```
4. 将 Spark 配置文件复制到 Spark 目录。在终端中导航到 Spark 目录,并运行以下命令:
```
cp spark-env.sh.template spark-env.sh
```
5. 打开 spark-env.sh 文件,并添加以下行:
```
export JAVA_HOME=/usr/lib/jvm/java-11-openjdk-amd64
```
6. 启动 Spark。在 Spark 目录中,运行以下命令:
```
./bin/spark-shell
```
7. 您现在可以在 Spark shell 中运行 Spark 代码了。例如,您可以尝试以下代码:
```
val data = Array(1, 2, 3, 4, 5)
val distData = sc.parallelize(data)
distData.reduce((a, b) => a + b)
```
这些步骤将帮助您在 Ubuntu 上安装和启动 Apache Spark。
阅读全文