Hadoop大数据分析:Hive入门与安装指南

需积分: 9 5 下载量 90 浏览量 更新于2024-07-16 收藏 809KB DOCX 举报
"大数据hive学习文档,从下载到上手,介绍了Hive的基本概念、架构原理以及安装步骤。" Hive是大数据处理领域中一个非常重要的工具,由Facebook开发并开源,主要用于处理和分析大规模的结构化数据。它提供了一种类似SQL的语言——HQL(Hive Query Language),使得非程序员也能方便地对海量数据进行查询和分析。Hive的核心思想是将数据映射成数据库中的表,使得用户可以通过SQL语句进行操作,而实际的计算则由Hadoop的MapReduce任务执行。 Hive的特点包括: 1) 数据存储:Hive处理的数据存储在Hadoop的分布式文件系统HDFS上,确保了数据的高可用性和容错性。 2) 计算引擎:Hive的默认计算引擎是MapReduce,但可以根据需求切换到更高效的计算框架,如Spark,以提高处理速度。 3) 执行环境:Hive的执行程序在YARN(Yet Another Resource Negotiator)上运行,负责调度和管理资源,确保任务的并行执行。 Hive的架构原理如下: Hive通过用户界面或命令行工具接收用户输入的SQL查询。然后,Hive的Driver组件解析这些查询语句,并结合存储在MetaStore(元数据存储)中的表结构和分区信息,将SQL转化为可执行的MapReduce任务。这些任务随后被提交到Hadoop集群上运行,最终结果会返回给用户。 安装Hive的步骤主要包括: 1) 下载Hive的安装包,例如Apache Hive 1.2.1版本,将其上传到Linux服务器的指定目录。 2) 解压缩安装包,并重命名目录为“hive”。 3) 修改配置文件,如将`hive-env.sh.template`重命名为`hive-env.sh`,并在其中配置HADOOP_HOME和HIVE_CONF_DIR的路径,确保Hive能正确找到Hadoop的相关环境。 4) 修改系统环境变量,使Hive的路径能在系统中被识别。 通过以上步骤,用户可以成功安装并配置好Hive,从而开始在大数据环境中进行数据仓库的操作和分析。在后续的学习中,还会涉及到创建表、加载数据、执行查询、数据处理等高级话题,这些都是Hive在大数据分析中的核心功能。

结合下面hive元数据信息,生成hive建表语句,并且加上comment,注意day是分区 dwd_weibo_crawl NULL appmarket_appinfo GN线应用市场 2021-01-07 15:07:29 apk 应用包名 string day string入库日期 org.apache.hadoop.hive.ql.io.orc.OrcSerde serialization.format 1 hdfs://DSbigdata/hiveDW/dwd_exten_crawl/appmarket_appinfo org.apache.hadoop.hive.ql.io.orc.OrcInputFormat org.apache.hadoop.hive.ql.io.orc.OrcOutputFormat dwd_weibo_crawl NULL appmarket_appinfo GN线应用市场 2021-01-07 15:07:29 app_name 应用名称 string day string 入库日期 org.apache.hadoop.hive.ql.io.orc.OrcSerde serialization.format 1 hdfs://DSbigdata/hiveDW/dwd_exten_crawl/appmarket_appinfo org.apache.hadoop.hive.ql.io.orc.OrcInputFormat org.apache.hadoop.hive.ql.io.orc.OrcOutputFormat dwd_weibo_crawl NULL appmarket_appinfo GN线应用市场 2021-01-07 15:07:29 app_url 平台详情页链接 string day string入库日期 org.apache.hadoop.hive.ql.io.orc.OrcSerde serialization.format 1 hdfs://DSbigdata/hiveDW/dwd_exten_crawl/appmarket_appinfo org.apache.hadoop.hive.ql.io.orc.OrcInputFormat org.apache.hadoop.hive.ql.io.orc.OrcOutputFormat dwd_weibo_crawl NULL appmarket_appinfo GN线应用市场 2021-01-07 15:07:29 cate 应用所属分类 string day string入库日期 org.apache.hadoop.hive.ql.io.orc.OrcSerde serialization.format 1 hdfs://DSbigdata/hiveDW/dwd_exten_crawl/appmarket_appinfo org.apache.hadoop.hive.ql.io.orc.OrcInputFormat org.apache.hadoop.hive.ql.io.orc.OrcOutputFormat dwd_weibo_crawl NULL appmarket_appinfo GN线应用市场 2021-01-07 15:07:29 other 其他 string day string 入库日期 org.apache.hadoop.hive.ql.io.orc.OrcSerde serialization.format 1 hdfs://DSbigdata/hiveDW/dwd_exten_crawl/appmarket_appinfo org.apache.hadoop.hive.ql.io.orc.OrcInputFormat org.apache.hadoop.hive.ql.io.orc.OrcOutputFormat dwd_weibo_crawl NULL appmarket_appinfo GN线应用市场 2021-01-07 15:07:29 region 平台名称 string day stri

2023-06-10 上传