shell脚本搭建hdfs
时间: 2023-11-26 12:49:02 浏览: 92
以下是一个简单的shell脚本搭建hdfs的例子:
```shell
#!/bin/bash
# 安装Java
yum install -y java-1.8.0-openjdk-devel
# 下载Hadoop
wget https://mirrors.tuna.tsinghua.edu.cn/apache/hadoop/common/hadoop-3.3.1/hadoop-3.3.1.tar.gz
# 解压Hadoop
tar -zxvf hadoop-3.3.1.tar.gz
# 配置环境变量
echo 'export HADOOP_HOME=/root/hadoop-3.3.1' >> ~/.bashrc
echo 'export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin' >> ~/.bashrc
source ~/.bashrc
# 修改配置文件
cd $HADOOP_HOME/etc/hadoop
cp mapred-site.xml.template mapred-site.xml
cp core-site.xml.template core-site.xml
cp hdfs-site.xml.template hdfs-site.xml
# 修改core-site.xml
echo '<configuration>
<property>
<name>fs.defaultFS</name>
<value>hdfs://localhost:9000</value>
</property>
</configuration>' > core-site.xml
# 修改hdfs-site.xml
echo '<configuration>
<property>
<name>dfs.replication</name>
<value>1</value>
</property>
<property>
<name>dfs.namenode.name.dir</name>
<value>file:/root/hadoop-3.3.1/hdfs/namenode</value>
</property>
<property>
<name>dfs.datanode.data.dir</name>
<value>file:/root/hadoop-3.3.1/hdfs/datanode</value>
</property>
</configuration>' > hdfs-site.xml
# 格式化HDFS
hdfs namenode -format
# 启动HDFS
start-dfs.sh
```
该脚本的作用是安装Java,下载Hadoop,解压Hadoop,配置环境变量,修改配置文件,格式化HDFS并启动HDFS。需要注意的是,该脚本仅适用于单机模式,如果需要在集群中搭建HDFS,需要进行相应的修改。