本文将详细介绍在Windows 10操作系统中安装Hadoop 2.8.3的步骤,包括配置环境变量、修改配置文件以及运行示例程序CountWord。 1. 下载与解压Hadoop 首先,下载Hadoop 2.8.3的tar.gz压缩包,例如:hadoop-2.8.3.tar.gz。将其解压到指定目录,如D:\tools\hadoop-2.8.3。同时,为了在Windows环境下运行Hadoop,还需要下载一个适配Windows的批处理脚本,可以从链接https://download.csdn.net/download/qq_35789315/102956333下载hadooponwindows-master.zip,并同样解压到hadoop目录下的etc/bin文件夹。 2. 配置环境变量 确保系统环境变量已经设置正确。新建或编辑以下环境变量: - HADOOP_HOME 指向Hadoop的安装路径,例如:D:\tools\hadoop-2.8.3\bin - JAVA_HOME 指向Java JDK的安装路径,例如:/home/hadoopusr/tools/jdk1.8.0_121 - PATH 添加Hadoop bin目录,JAVA_HOME的bin目录和jre/bin目录,如:D:\tools\hadoop-2.8.3\bin;%JAVA_HOME%\bin;%JAVA_HOME%\jre\bin 3. 修改配置文件 进入Hadoop的配置目录D:\tools\hadoop-2.8.3\etc\hadoop,对以下两个配置文件进行编辑: - core-site.xml:定义HDFS的默认文件系统和临时目录 ```xml <configuration> <property> <name>fs.default.name</name> <value>hdfs://localhost:8188</value> </property> <property> <name>hadoop.tmp.dir</name> <value>file:/tools/hadoop-2.8.3/tmp</value> <description>A base for other temporary directories.</description> </property> </configuration> ``` - mapred-site.xml:设置MapReduce运行在YARN框架上 ```xml <configuration> <property> <name>mapreduce.framework.name</name> <value>yarn</value> </property> </configuration> ``` 4. 配置主机名 由于Windows的localhost解析默认为127.0.0.1,但Hadoop需要将其解析为实际的IP地址(如192.168.146.1),因此需要在hosts文件中添加映射关系。 5. 初始化HDFS并启动服务 运行Hadoop的初始化命令,创建HDFS的名称节点和数据节点,然后启动所有Hadoop服务。 6. 运行示例程序CountWord 安装完成后,可以尝试运行Hadoop自带的示例程序CountWord,检查安装是否成功。 通过以上步骤,你已经在Windows 10环境下成功安装了Hadoop 2.8.3,并进行了基本的配置,现在可以进行分布式计算和数据处理操作了。请确保每个步骤都按照说明正确执行,以保证Hadoop的正常运行。
1、下载Hadoop安装包
下载hadoop的.tar.gz的安装包,例如:hadoop-2.8.3.tar.gz
本例子安装到目录D:\tools\hadoop-2.8.3\
2、改造.sh命令为.cmd或者下载插件包
插件包名称为:hadooponwindows-master.zip
下载地址:https://download.csdn.net/download/qq_35789315/10295633
3、解压.tar.gz然后替换.sh文件
解压hadoop-2.8.3.tar.gz 到 D:\tools\hadoop-2.8.3
解压hadooponwindows-master.zip用里面的etc和bin文件夹替换hadoop的文件夹
4、配置JAVA_HOME和HADOOP_HOME
控制面板\系统和安全\系统--->高级环境设置
HADOOP_HOME=D:\tools\hadoop-2.8.3\bin
JAVA_HOME=/home/hadoopusr/tools/jdk1.8.0_121
PATH 里追加 D:\tools\hadoop-2.8.3\bin 和 %JAVA_HOME%\bin 和 %JAVA_HOME%\jre\bin (记得用;分隔)
CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar
5、修改配置文件
cd d:
cd D:\tools\hadoop-2.8.3\etc\hadoop
a、修改core-site.xml
<configuration>
下载后可阅读完整内容,剩余3页未读,立即下载
- 粉丝: 0
- 资源: 4
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
最新资源
- C++标准程序库:权威指南
- Java解惑:奇数判断误区与改进方法
- C++编程必读:20种设计模式详解与实战
- LM3S8962微控制器数据手册
- 51单片机C语言实战教程:从入门到精通
- Spring3.0权威指南:JavaEE6实战
- Win32多线程程序设计详解
- Lucene2.9.1开发全攻略:从环境配置到索引创建
- 内存虚拟硬盘技术:提升电脑速度的秘密武器
- Java操作数据库:保存与显示图片到数据库及页面
- ISO14001:2004环境管理体系要求详解
- ShopExV4.8二次开发详解
- 企业形象与产品推广一站式网站建设技术方案揭秘
- Shopex二次开发:触发器与控制器重定向技术详解
- FPGA开发实战指南:创新设计与进阶技巧
- ShopExV4.8二次开发入门:解决升级问题与功能扩展