单机环境配置Hadoop指南

需积分: 5 0 下载量 24 浏览量 更新于2024-08-26 收藏 342KB DOCX 举报
"这是关于在单台机器上安装Hadoop的步骤文档。" 在单机模式下安装Hadoop是一个基础的学习过程,适用于初学者理解Hadoop的基本工作原理。在这个过程中,我们首先看到的是SSH配置,这对于远程无密码登录是必要的。在第二张图所示的命令中: 1. `cat id_rsa.pub >> authorized_keys`:这个命令是将公钥追加到`authorized_keys`文件中,以允许无密码SSH登录。 2. `chmod 600 ./authorized_keys`:更改`authorized_keys`文件的权限为600,确保只有所有者可以读写,这样可以提高安全性。 3. `ssh localhost`:尝试通过SSH连接本地主机,如果之前的操作成功,应该可以无密码登录。 接着,用户清理了yum源,并创建了一个本地repo文件: 1. `mv /etc/yum.repos.d/* /media/`:将yum源文件移动到媒体目录,可能是在准备从光盘或USB驱动器安装软件。 2. `vi /etc/yum.repos.d/local.repo`:编辑本地repo文件,定义一个新的仓库,名为"centos",基础URL设置为本地挂载点`file:///mnt`。 3. `mount /dev/cdrom /mnt/`:挂载CD-ROM到`mnt`目录,以便从中安装软件。 4. `yum install -y unzip`:使用yum安装`unzip`工具,这将用于解压缩文件。 然后,安装了Java开发工具包(JDK): 1. `tar -zxvf jdk1.8.0_171.tar.gz -C /usr/local/`:解压JDK到`/usr/local`目录。 2. `vi /etc/profile`:编辑环境变量配置文件,设置`JAVA_HOME`、`PATH`等环境变量,以便系统能够找到并使用Java。 最后,用户解压缩了Hadoop二进制包并配置了环境变量: 1. `tar -zxvf hadoop-2.7.7.tar.gz`:解压Hadoop到当前目录。 2. 在`/etc/profile`中,设置`HADOOP_HOME`环境变量,并将Hadoop的bin目录添加到`PATH`中。 3. `source /etc/profile`:使环境变量配置立即生效。 4. `java -version`:验证Java是否已正确配置,可以通过运行`java -version`命令查看Java版本。 5. 文档在此处中断,但通常接下来的步骤会包括配置Hadoop的`core-site.xml`、`hdfs-site.xml`和`yarn-site.xml`文件,以及启动Hadoop服务。 单机安装Hadoop主要用于学习和测试目的,不涉及分布式计算,所有Hadoop进程都在同一台机器上运行。在实际生产环境中,Hadoop通常会在多台机器上以集群模式部署,以实现数据处理的可扩展性和容错性。