教我在MacBook上安装Hadoop
时间: 2024-05-25 18:19:27 浏览: 149
MAC hadoop安装
以下是在MacBook上安装Hadoop的步骤:
步骤1:安装Java
Hadoop是用Java编写的,因此要在MacBook上安装Java。您可以通过以下命令检查是否已安装Java:
java -version
如果Java未安装,则可以从Oracle官方网站下载并安装Java。
步骤2:下载Hadoop
您可以从Apache Hadoop官方网站下载Hadoop的最新版本。或者,您可以使用以下命令从终端下载Hadoop:
curl -O http://apache.mirrors.lucidnetworks.net/hadoop/common/hadoop-3.3.0/hadoop-3.3.0.tar.gz
步骤3:解压Hadoop
使用以下命令解压Hadoop:
tar -zxvf hadoop-3.3.0.tar.gz
步骤4:配置Hadoop
在解压缩的Hadoop目录中,找到conf文件夹。在此文件夹中,找到以下文件:
- core-site.xml
- hdfs-site.xml
- mapred-site.xml
- yarn-site.xml
在这些文件中,按照以下方式进行配置:
core-site.xml:
<configuration>
<property>
<name>fs.defaultFS</name>
<value>hdfs://localhost:9000</value>
</property>
</configuration>
hdfs-site.xml:
<configuration>
<property>
<name>dfs.replication</name>
<value>1</value>
</property>
<property>
<name>dfs.namenode.name.dir</name>
<value>/Users/<your-username>/hadoop/hdfs/namenode</value>
</property>
<property>
<name>dfs.datanode.data.dir</name>
<value>/Users/<your-username>/hadoop/hdfs/datanode</value>
</property>
</configuration>
mapred-site.xml:
<configuration>
<property>
<name>mapreduce.framework.name</name>
<value>yarn</value>
</property>
</configuration>
yarn-site.xml:
<configuration>
<property>
<name>yarn.nodemanager.aux-services</name>
<value>mapreduce_shuffle</value>
</property>
</configuration>
步骤5:启动Hadoop
使用以下命令启动Hadoop:
./sbin/start-all.sh
您可以使用以下命令检查Hadoop是否正在运行:
jps
步骤6:测试Hadoop
在终端中,使用以下命令创建一个名为input的文件夹:
hadoop fs -mkdir /input
在input文件夹中,创建一个名为input.txt的文件,并将以下内容复制到文件中:
Hello Hadoop
Hello Big Data
使用以下命令将input.txt文件上传到Hadoop:
hadoop fs -put input.txt /input
使用以下命令运行Hadoop的WordCount示例:
hadoop jar share/hadoop/mapreduce/hadoop-mapreduce-examples-3.3.0.jar wordcount /input /output
使用以下命令从Hadoop中检索输出:
hadoop fs -cat /output/part-r-00000
您应该看到以下输出:
Big 1
Data 1
Hadoop 1
Hello 2
恭喜您已成功在MacBook上安装和运行Hadoop!
阅读全文