Hadoop3实践:虚拟机安装与网络配置教程

0 下载量 150 浏览量 更新于2024-08-30 收藏 887KB PDF 举报
"这篇文档是关于Hadoop3的自学入门笔记,主要涵盖了虚拟机的安装与网络配置。作者强调了实战对于技术学习的重要性,并列举了所使用的软件版本,包括VirtualBox 6.1、CentOS7、Hadoop 3.2.1、JDK 8u241、Xshell和Xftp。文中详细介绍了虚拟机的规划,包括NameNode、DataNode和SecondaryNameNode的角色分配。接着,讲解了如何创建虚拟机、设置虚拟机的硬件配置,特别是网络配置(采用桥接网卡模式)。还提到了通过复制虚拟机来避免重复安装,并提供了修改虚拟机IP地址的方法。最后,提到了使用SSH进行免密码登录以及关闭防火墙的步骤。" 在这篇Hadoop3自学入门笔记中,作者首先介绍了学习Hadoop的背景和动机,强调了实际操作对于技术掌握的重要性。随后,他列举了用于搭建Hadoop环境所需的软件版本,包括VirtualBox作为虚拟化平台,CentOS7作为操作系统,Hadoop 3.2.1作为分布式存储和处理框架,以及JDK 8作为Java开发环境。此外,Xshell和Xftp分别用于远程终端连接和文件传输。 在虚拟机配置规划部分,作者设定了一组IP地址,分别为192.168.3.61、192.168.3.62、192.168.3.63和192.168.3.64,这些IP分别对应NameNode、DataNode和SecondaryNameNode,这表明作者计划建立一个包含多个节点的Hadoop集群。 创建虚拟机时,作者建议使用Red Hat兼容的64位系统,并设置合适的内存大小。虚拟机的硬盘选择动态分配,以节省磁盘空间。在启动虚拟机后,会将CentOS7的ISO镜像挂载到虚拟机上进行安装,并确保虚拟机的网络连接模式设为桥接,以便虚拟机能够与主机在同一网络环境中。 为了避免重复安装,作者分享了复制已有虚拟机的方法,这可以快速创建新的节点。然后,针对每个虚拟机,需要修改网络配置文件`/etc/sysconfig/network-scripts/ifcfg-ens3`,将网络协议设置为静态IP,而非DHCP动态获取。 此外,文档还提到了SSH免密码登录的实现,这通常通过ssh-keygen和ssh-copy-id命令完成,使得在不同节点之间可以无须输入密码地进行通信。最后,为了确保Hadoop服务的正常运行,作者建议关闭防火墙,因为防火墙可能阻止Hadoop进程间的通信。 总结起来,这篇笔记详尽地介绍了初学者如何使用虚拟机和相关工具来搭建一个简单的Hadoop3集群,涵盖了从环境准备、虚拟机配置到网络设定的全过程,对于Hadoop初学者来说是一份宝贵的参考资料。