Hive3.1.2与Hadoop3.1.2的安装配置经验分享

需积分: 21 1 下载量 92 浏览量 更新于2024-10-29 收藏 2.81MB ZIP 举报
资源摘要信息:"本文档详细介绍了如何在基于Hadoop 3.1.2环境下安装和配置Hive 3.1.2版本。文档的编写者通过亲身实践和努力,历经半个月时间,克服了在安装过程中遇到的各种问题,最终实现了Hive的安装并成功启动。尽管如此,作者提到Hive安装后的功能尚有待提升。本文档是关于Hive和Hadoop安装配置的重要参考资料,特别是对于Hadoop 3.1.2环境下的新版本Hive的安装和配置,对于希望学习和掌握这一技术的读者具有很高的实用价值。" 知识点: 1. Hive简介: - Hive是一个数据仓库基础工具,可以将结构化的数据文件映射为一张数据库表,并提供简单的SQL查询功能,可以将SQL语句转换为MapReduce任务进行运行。 - Hive适用于数据挖掘和数据分析,尤其适合处理大量静态数据。 2. Hive 3.1.2版本特性: - Hive 3.1.2作为最新的版本之一,具有优化的性能和新引入的功能,例如性能改进、新的函数和类型、安全性增强等。 3. Hadoop 3.1.2基础: - Hadoop是一个由Apache基金会开发的开源框架,它允许使用简单的编程模型在跨计算机集群的分布式环境中存储和处理大数据。 - Hadoop 3.1.2包含了许多改进和新特性,例如对YARN和HDFS的增强,以及支持更多的硬件和网络配置。 4. Hive安装及配置过程: - 系统要求:确保系统满足Hive安装的最低配置要求,如Java环境、磁盘空间、网络设置等。 - 下载和安装Hive:从Apache官方网站或其他可信来源下载Hive 3.1.2,并进行解压安装。 - 配置Hive环境:设置环境变量,配置`hive-site.xml`文件,指定Hive Metastore数据库的连接信息,以及相关的HDFS和YARN配置。 - 启动和测试Hive:通过运行`hive`命令启动Hive shell,并执行基本的SQL语句测试安装是否成功。 5. 遇到的问题及解决方案: - 问题诊断:在安装和配置过程中,可能会遇到各种问题,如环境配置错误、版本兼容问题、权限不足、资源不足等。 - 解决方案:文档编写者需记录下遇到的问题和相应的解决方案,供读者参考。 6. 功能提升: - 性能调优:安装成功后,根据具体应用场景调整Hive配置,优化查询性能。 - 功能验证:执行复杂的SQL查询和数据操作,验证Hive的各项功能是否正常工作。 7. 文档使用说明: - 文件列表中提到的`新建 Microsoft Word 文档.docx`可能是操作过程中的未完成文档,建议在实践前详细阅读`hive3.1.2安装及配置.docx`文档,按照其步骤和说明进行操作。 综上所述,本文档是针对在Hadoop 3.1.2环境中安装和配置Hive 3.1.2版本的详细介绍,它不仅涵盖了安装和配置的步骤,还包括了在安装过程中可能遇到的问题和解决方法,以及如何验证Hive功能的有效性。对于学习和使用Hive及其与Hadoop结合的技术人员而言,本资料具有指导意义。

Warning: No configuration directory set! Use --conf <dir> to override. Info: Including Hadoop libraries found via (/opt/hadoop-3.1.2/bin/hadoop) for HDFS access Info: Including HBASE libraries found via (/opt/hbase-2.2.6/bin/hbase) for HBASE access 错误: 找不到或无法加载主类 org.apache.flume.tools.GetJavaProperty Info: Including Hive libraries found via (/opt/hive-3.1.2) for Hive access + exec /opt/jdk1.8.0_351/bin/java -Xmx20m -cp '/opt/flume-1.9.0/lib/*:/opt/hadoop-3.1.2/etc/hadoop:/opt/hadoop-3.1.2/share/hadoop/common/lib/*:/opt/hadoop-3.1.2/share/hadoop/common/*:/opt/hadoop-3.1.2/share/hadoop/hdfs:/opt/hadoop-3.1.2/share/hadoop/hdfs/lib/*:/opt/hadoop-3.1.2/share/hadoop/hdfs/*:/opt/hadoop-3.1.2/share/hadoop/mapreduce/lib/*:/opt/hadoop-3.1.2/share/hadoop/mapreduce/*:/opt/hadoop-3.1.2/share/hadoop/yarn:/opt/hadoop-3.1.2/share/hadoop/yarn/lib/*:/opt/hadoop-3.1.2/share/hadoop/yarn/*:/opt/hbase-2.2.6/conf:/opt/jdk1.8.0_351//lib/tools.jar:/opt/hbase-2.2.6:/opt/hbase-2.2.6/lib/shaded-clients/hbase-shaded-client-byo-hadoop-2.2.6.jar:/opt/hbase-2.2.6/lib/client-facing-thirdparty/audience-annotations-0.5.0.jar:/opt/hbase-2.2.6/lib/client-facing-thirdparty/commons-logging-1.2.jar:/opt/hbase-2.2.6/lib/client-facing-thirdparty/findbugs-annotations-1.3.9-1.jar:/opt/hbase-2.2.6/lib/client-facing-thirdparty/htrace-core4-4.2.0-incubating.jar:/opt/hbase-2.2.6/lib/client-facing-thirdparty/log4j-1.2.17.jar:/opt/hbase-2.2.6/lib/client-facing-thirdparty/slf4j-api-1.7.25.jar:/opt/hadoop-3.1.2/etc/hadoop:/opt/hadoop-3.1.2/share/hadoop/common/lib/*:/opt/hadoop-3.1.2/share/hadoop/common/*:/opt/hadoop-3.1.2/share/hadoop/hdfs:/opt/hadoop-3.1.2/share/hadoop/hdfs/lib/*:/opt/hadoop-3.1.2/share/hadoop/hdfs/*:/opt/hadoop-3.1.2/share/hadoop/mapreduce/lib/*:/opt/hadoop-3.1.2/share/hadoop/mapreduce/*:/opt/hadoop-3.1.2/share/hadoop/yarn:/opt/hadoop-3.1.2/share/hadoop/yarn/lib/*:/opt/hadoop-3.1.2/share/hadoop/yarn/*:/opt/hadoop-3.1.2/etc/hadoop:/opt/hbase-2.2.6/conf:/opt/hive-3.1.2/lib/*' -Djava.library.path=:/opt/hadoop-3.1.2/lib/native org.apache.flume.node.Application --name a1 --conf/opt/flume-1.9.0/conf --conf-file/opt/flume-1.9.0/conf/dhfsspool.conf-Dflume.root.logger=DEBUG,consol SLF4J: Class path contains multiple SLF4J bindings. SLF4J: Found binding in [jar:file:/opt/flume-1.9.0/lib/slf4j-log4j12-1.7.25.jar!/org/slf4j/impl/StaticLoggerBinder.class] SLF4J: Found binding in [jar:file:/opt/hadoop-3.1.2/share/hadoop/common/lib/slf4j-log4j12-1.7.25.jar!/org/slf4j/impl/StaticLoggerBinder.class] SLF4J: Found binding in [jar:file:/opt/hive-3.1.2/lib/log4j-slf4j-impl-2.10.0.jar!/org/slf4j/impl/StaticLoggerBinder.class] SLF4J: See http://www.slf4j.org/codes.html#multiple_bindings for an explanation. SLF4J: Actual binding is of type [org.slf4j.impl.Log4jLoggerFactory] 2023-06-08 17:26:46,403 ERROR node.Application: A fatal error occurred while running. Exception follows. org.apache.commons.cli.UnrecognizedOptionException: Unrecognized option: --conf/opt/flume-1.9.0/conf at org.apache.commons.cli.Parser.processOption(Parser.java:363) at org.apache.commons.cli.Parser.parse(Parser.java:199) at org.apache.commons.cli.Parser.parse(Parser.java:85) at org.apache.flume.node.Application.main(Application.java:287)

2023-06-09 上传