centos9 hadoop伪分布搭建
时间: 2023-11-14 22:07:04 浏览: 49
CentOS 9 目前还没有正式发布,因此无法在 CentOS 9 上安装 Hadoop,不过你可以在 CentOS 7 上进行安装。以下是安装步骤:
1. 安装 Java
首先需要安装 Java,可以使用以下命令安装 OpenJDK:
```
sudo yum install java-1.8.0-openjdk-devel
```
2. 下载 Hadoop
可以前往 Hadoop 官网 http://hadoop.apache.org/releases.html 下载最新版本的 Hadoop。选择稳定版本,下载后解压到指定目录。例如:
```
cd /opt
sudo wget https://mirrors.tuna.tsinghua.edu.cn/apache/hadoop/common/hadoop-3.3.1/hadoop-3.3.1.tar.gz
sudo tar -xvzf hadoop-3.3.1.tar.gz
```
3. 配置环境变量
为了方便使用,可以将 Hadoop 的 bin 目录添加到系统环境变量中。可以在 /etc/profile 文件中添加以下内容:
```
export HADOOP_HOME=/opt/hadoop-3.3.1
export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
```
然后执行以下命令使配置生效:
```
source /etc/profile
```
4. 配置 Hadoop
进入 Hadoop 的配置目录,编辑 core-site.xml 文件,添加以下内容:
```
<configuration>
<property>
<name>fs.defaultFS</name>
<value>hdfs://localhost:9000</value>
</property>
</configuration>
```
编辑 hdfs-site.xml 文件,添加以下内容:
```
<configuration>
<property>
<name>dfs.replication</name>
<value>1</value>
</property>
<property>
<name>dfs.namenode.name.dir</name>
<value>/opt/hadoop-3.3.1/hdfs/namenode</value>
</property>
<property>
<name>dfs.datanode.data.dir</name>
<value>/opt/hadoop-3.3.1/hdfs/datanode</value>
</property>
</configuration>
```
编辑 yarn-site.xml 文件,添加以下内容:
```
<configuration>
<property>
<name>yarn.nodemanager.aux-services</name>
<value>mapreduce_shuffle</value>
</property>
</configuration>
```
5. 格式化 Hadoop 文件系统
执行以下命令格式化 Hadoop 文件系统:
```
hdfs namenode -format
```
6. 启动 Hadoop
执行以下命令启动 Hadoop:
```
cd $HADOOP_HOME
sbin/start-all.sh
```
以上步骤基本完成了在 CentOS 7 上安装和启动 Hadoop 的过程。