hadoop分布式模式配置

Hadoop是一个分布式的计算框架，它的分布式模式需要在多个节点上进行配置和安装。以下是Hadoop分布式模式的配置步骤：

1. 在每个节点上安装JDK，并配置环境变量。
2. 在每个节点上下载Hadoop的二进制安装包，并将其解压到一个目录下。
3. 配置Hadoop的环境变量：

在每个节点的`~/.bashrc`文件中添加以下内容：

   export HADOOP_HOME=/path/to/hadoop
   export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin

然后运行`source ~/.bashrc`命令，使配置生效。

4. 配置Hadoop的核心文件`core-site.xml`：

在每个节点的`$HADOOP_HOME/etc/hadoop/core-site.xml`文件中添加以下内容：

   <configuration>
       <property>
           <name>fs.defaultFS</name>
           <value>hdfs://master:9000</value>
       </property>
   </configuration>

其中，`master`是Hadoop集群中的主节点的主机名或IP地址，`9000`是Hadoop的默认端口号。

5. 配置Hadoop的HDFS文件系统`hdfs-site.xml`：

在每个节点的`$HADOOP_HOME/etc/hadoop/hdfs-site.xml`文件中添加以下内容：

   <configuration>
       <property>
           <name>dfs.replication</name>
           <value>3</value>
       </property>
       <property>
           <name>dfs.namenode.name.dir</name>
           <value>/data/hadoop/dfs/name</value>
       </property>
       <property>
           <name>dfs.datanode.data.dir</name>
           <value>/data/hadoop/dfs/data</value>
       </property>
   </configuration>

其中，`dfs.replication`指定了数据块的副本数量，`dfs.namenode.name.dir`指定了主节点存储元数据的目录，`dfs.datanode.data.dir`指定了数据节点存储数据块的目录。

6. 配置Hadoop的YARN资源管理器`yarn-site.xml`：

在每个节点的`$HADOOP_HOME/etc/hadoop/yarn-site.xml`文件中添加以下内容：

   <configuration>
       <property>
           <name>yarn.resourcemanager.hostname</name>
           <value>master</value>
       </property>
       <property>
           <name>yarn.nodemanager.aux-services</name>
           <value>mapreduce_shuffle</value>
       </property>
   </configuration>

其中，`yarn.resourcemanager.hostname`指定了资源管理器运行的主机名或IP地址，`yarn.nodemanager.aux-services`指定了运行在节点上的附属服务。

7. 配置Hadoop的MapReduce框架`mapred-site.xml`：

在每个节点的`$HADOOP_HOME/etc/hadoop/mapred-site.xml`文件中添加以下内容：

   <configuration>
       <property>
           <name>mapreduce.framework.name</name>
           <value>yarn</value>
       </property>
   </configuration>

其中，`mapreduce.framework.name`指定了MapReduce框架运行的模式。

8. 启动Hadoop集群：

在主节点上执行以下命令启动Hadoop集群：

   $HADOOP_HOME/sbin/start-dfs.sh
   $HADOOP_HOME/sbin/start-yarn.sh

然后在任意一个节点上执行以下命令验证Hadoop集群是否正常工作：

   hadoop jar $HADOOP_HOME/share/hadoop/mapreduce/hadoop-mapreduce-examples-*.jar pi 10 1000

该命令将会启动一个计算圆周率的MapReduce作业。如果作业能够成功运行并输出正确的结果，则说明Hadoop集群已经正常工作。