hadoop fs -put 在同一目录增量上传shell脚本
时间: 2024-03-02 12:49:41 浏览: 120
hadoop插件apache-hadoop-3.1.0-winutils-master.zip
可以使用以下的shell脚本实现在同一目录下增量上传文件:
```
#!/bin/bash
LOCAL_PATH=/path/to/local/directory
HDFS_PATH=/path/to/hdfs/directory
for file in $LOCAL_PATH/*; do
if [ -f "$file" ]; then
hadoop fs -test -e $HDFS_PATH/$(basename $file)
if [ $? != 0 ]; then
hadoop fs -put $file $HDFS_PATH
fi
fi
done
```
这个脚本首先定义了本地目录和HDFS目录的路径,然后遍历本地目录下的文件,如果是文件而不是目录,则检查该文件在HDFS中是否已经存在。如果不存在,则使用`hadoop fs -put`命令将该文件上传到HDFS中。这样就可以实现在同一目录下增量上传文件。
阅读全文