ubuntu安装hadoop教程
时间: 2023-09-03 07:07:58 浏览: 124
Ubuntu下的Hadoop安装教程
3星 · 编辑精心推荐
好的,下面是 Ubuntu 安装 Hadoop 的教程:
1. 安装 Java
首先,确保已经安装了 Java。可以在命令行中输入 `java -version` 检查。如果提示找不到命令,可以使用以下命令来安装 Java:
```
sudo apt update
sudo apt install openjdk-8-jdk
```
2. 下载和解压 Hadoop
从 Hadoop 官网(https://hadoop.apache.org/)下载最新版本的 Hadoop。下载完成后,解压缩到某个目录(例如 `/opt/hadoop`):
```
sudo tar -zxvf hadoop-X.Y.Z.tar.gz -C /opt/
```
3. 配置环境变量
编辑 `/etc/environment` 文件,添加以下内容:
```
HADOOP_HOME=/opt/hadoop
PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
```
然后运行以下命令使环境变量生效:
```
source /etc/environment
```
4. 修改配置文件
进入 Hadoop 的安装目录,修改以下文件:
- `etc/hadoop/hadoop-env.sh`
在文件末尾添加以下内容:
```
export JAVA_HOME=/usr/lib/jvm/java-8-openjdk-amd64
```
- `etc/hadoop/core-site.xml`
添加以下内容:
```
<configuration>
<property>
<name>fs.defaultFS</name>
<value>hdfs://localhost:9000</value>
</property>
</configuration>
```
- `etc/hadoop/hdfs-site.xml`
添加以下内容:
```
<configuration>
<property>
<name>dfs.replication</name>
<value>1</value>
</property>
<property>
<name>dfs.name.dir</name>
<value>/hadoop-data/hdfs/namenode</value>
</property>
<property>
<name>dfs.data.dir</name>
<value>/hadoop-data/hdfs/datanode</value>
</property>
</configuration>
```
- `etc/hadoop/mapred-site.xml`
将 `etc/hadoop/mapred-site.xml.template` 文件复制为 `etc/hadoop/mapred-site.xml` 文件,然后添加以下内容:
```
<configuration>
<property>
<name>mapreduce.framework.name</name>
<value>yarn</value>
</property>
</configuration>
```
- `etc/hadoop/yarn-site.xml`
添加以下内容:
```
<configuration>
<property>
<name>yarn.nodemanager.aux-services</name>
<value>mapreduce_shuffle</value>
</property>
<property>
<name>yarn.nodemanager.aux-services.mapreduce.shuffle.class</name>
<value>org.apache.hadoop.mapred.ShuffleHandler</value>
</property>
<property>
<name>yarn.resourcemanager.hostname</name>
<value>localhost</value>
</property>
</configuration>
```
5. 格式化 HDFS
运行以下命令,格式化 HDFS:
```
hdfs namenode -format
```
6. 启动 Hadoop
运行以下命令启动 Hadoop:
```
start-all.sh
```
7. 检查 Hadoop 是否正常运行
在浏览器中访问 `http://localhost:50070/`,应该能看到 Hadoop 的 Web UI。
至此,Hadoop 已经安装完成。
阅读全文