dfs.hosts是什么

dfs.hosts是一个Hadoop配置参数，它用于指定允许作为DataNode的主机列表。在Hadoop集群中，每个节点都可以作为DataNode，存储HDFS中的数据块。但是，在某些情况下，我们可能只想让特定的节点作为DataNode，而不是所有节点都作为DataNode，这个时候我们就可以使用dfs.hosts参数来指定允许作为DataNode的主机列表。这个参数指定的主机列表可以存储在一个文件中，这个文件可以被指定为一个本地文件，也可以是一个HDFS文件。如果dfs.hosts参数没有设置，则所有节点都可以作为DataNode。

相关问题

[atguigu@node10 hadoop-3.1.3]$ ./sbin/start-dfs.sh Starting namenodes on [node10] node10: Warning: Permanently added 'node10,192.168.10.10' (ECDSA) to the list of known hosts. node10: Permission denied (publickey,gssapi-keyex,gssapi-with-mic,password). Starting datanodes localhost: Warning: Permanently added 'localhost' (ECDSA) to the list of known hosts. node11: Warning: Permanently added 'node11,192.168.10.11' (ECDSA) to the list of known hosts.

这个错误提示表明你在启动Hadoop分布式文件系统时，出现了权限问题。可能是因为你没有设置正确的SSH密钥认证方式。你可以尝试使用ssh命令手动连接到node10和node11，看看是否需要输入密码。如果需要输入密码，则说明SSH密钥认证设置有问题。可以参考Hadoop官方文档，重新配置SSH认证方式。

分析Hadoop配置文件hadoop-env.sh、core-site.xml、hdfs-site.xml、hdfs-site.xml、yarn-site.xml中每个参数的含义及作用；

hadoop-env.sh是Hadoop的环境变量配置文件，用于设置Hadoop运行环境的各种参数。其中主要包含以下参数：
1. HADOOP_HEAPSIZE：设定Hadoop所使用的Java虚拟机的堆内存大小。
2. HADOOP_OPTS：用于设置Hadoop运行时的Java虚拟机参数。
3. HADOOP_NAMENODE_OPTS：用于设置NameNode节点的Java虚拟机参数。
4. HADOOP_DATANODE_OPTS：用于设置DataNode节点的Java虚拟机参数。
5. HADOOP_SECONDARYNAMENODE_OPTS：用于设置SecondaryNameNode节点的Java虚拟机参数。
6. HADOOP_JOB_HISTORYSERVER_OPTS：用于设置JobHistoryServer节点的Java虚拟机参数。

core-site.xml是Hadoop的核心配置文件，用于配置Hadoop的核心参数。其中主要包含以下参数：
1. fs.defaultFS：指定Hadoop的文件系统的默认URL。
2. hadoop.tmp.dir：指定Hadoop的临时文件存储目录。
3. io.file.buffer.size：指定Hadoop读写文件时的缓冲区大小。
4. hadoop.proxyuser.*.hosts和hadoop.proxyuser.*.groups：用于配置代理用户的主机和组。

hdfs-site.xml是Hadoop分布式文件系统（HDFS）的配置文件，用于配置HDFS的参数。其中主要包含以下参数：
1. dfs.replication：指定HDFS中数据的副本数。
2. dfs.namenode.name.dir和dfs.datanode.data.dir：分别指定NameNode和DataNode存储数据的目录。
3. dfs.permissions.enabled：指定是否启用HDFS的权限控制。
4. dfs.blocksize：指定HDFS中数据块的大小。

yarn-site.xml是Hadoop的资源管理器（YARN）的配置文件，用于配置YARN的参数。其中主要包含以下参数：
1. yarn.nodemanager.aux-services和yarn.nodemanager.aux-services.mapreduce.shuffle.class：用于配置NodeManager上的附属服务，如MapReduce的shuffle服务。
2. yarn.resourcemanager.hostname：指定ResourceManager的主机名。
3. yarn.scheduler.minimum-allocation-mb和yarn.scheduler.maximum-allocation-mb：分别指定YARN的最小和最大资源分配单元的内存大小。
4. yarn.nodemanager.resource.memory-mb：指定NodeManager的可用内存大小。