Hive用户指南:数据类型与操作实例解析

版权申诉
0 下载量 193 浏览量 更新于2024-07-07 收藏 69KB PDF 举报
“Hive用户指南(Hive_user_guide)_中文版.pdf” Hive是一款基于Hadoop的数据仓库工具,它允许使用SQL类语言(HQL,Hive Query Language)对大规模数据进行分析处理。本指南主要介绍了Hive的一些基础概念和操作,包括数据类型、表的创建以及数据的加载。 在Hive中,数据文件有不同的存储格式,如SEQUENCEFILE、TEXTFILE和RCFILE。SEQUENCEFILE是一种二进制格式,适合高效存储和检索;TEXTFILE是最基础的文本格式,每个字段由指定的分隔符分开;RCFILE(Record Columnar File Format)是列式存储格式,从Hive 0.6.0版本开始支持,适合数据分析场景。 Hive支持多种基本数据类型,例如: - BIGINT:用于存储大型整数,常用于状态、选项、类型或数量等字段。 - DOUBLE:用于存储货币相关的数值,如费用、价格或投标价。 - STRING:通用类型,大部分非数字字段,如ID和日期时间,通常使用STRING类型。 创建表时,可以通过`ROW FORMAT DELIMITED FIELDS TERMINATED BY`指定字段间的分隔符。例如,如果数据文件使用ASCII码5作为字段分隔符,创建表的语句如下: ```sql CREATE TABLE xiaojun (id INT, cont STRING) ROW FORMAT DELIMITED FIELDS TERMINATED BY '\005' STORED AS TEXTFILE; ``` 之后,可以使用`LOAD DATA INPATH`命令将数据加载到表中,如: ```sql LOAD DATA INPATH '/user/admin/xiaojun/a.txt' OVERWRITE INTO TABLE xiaojun; ``` `OVERWRITE`关键字表示替换现有数据,若想追加数据,可以省略此关键字。 在Hadoop文件系统中,可以使用`hadoop fs -ls`命令查看文件信息。 创建外部表与普通表的主要区别在于: - 外部表仅指定数据存储位置,但不移动数据。创建外部表时,需使用`CREATE EXTERNAL TABLE`并指定`LOCATION`参数,例如: ```sql CREATE EXTERNAL TABLE xiaojun (id INT, cont STRING) ROW FORMAT DELIMITED FIELDS TERMINATED BY '\005' LOCATION '/user/admin/xiaojun/'; ``` 外部表不会在删除时自动删除数据,而是保留源数据,仅删除元数据,因此在处理用户提供的数据或需要独立管理数据存储时使用外部表更为合适。 此外,查询表的位置可以使用`SELECT LOCATION`,例如: ```sql SELECT LOCATION FROM tbls a, sds b WHERE a.sd_id = b.sd_id AND a.table_name = 'xiaojun'; ``` 以上内容涵盖了Hive用户指南中的部分基础知识,包括数据类型的选择、表的创建和数据加载,以及外部表的概念。在实际使用中,Hive还提供了更多的功能,如分区、桶、视图、JOIN操作等,这些在深入学习Hive时会进一步了解。

结合下面hive元数据信息,生成hive建表语句,并且加上comment,注意day是分区 dwd_weibo_crawl NULL appmarket_appinfo GN线应用市场 2021-01-07 15:07:29 apk 应用包名 string day string入库日期 org.apache.hadoop.hive.ql.io.orc.OrcSerde serialization.format 1 hdfs://DSbigdata/hiveDW/dwd_exten_crawl/appmarket_appinfo org.apache.hadoop.hive.ql.io.orc.OrcInputFormat org.apache.hadoop.hive.ql.io.orc.OrcOutputFormat dwd_weibo_crawl NULL appmarket_appinfo GN线应用市场 2021-01-07 15:07:29 app_name 应用名称 string day string 入库日期 org.apache.hadoop.hive.ql.io.orc.OrcSerde serialization.format 1 hdfs://DSbigdata/hiveDW/dwd_exten_crawl/appmarket_appinfo org.apache.hadoop.hive.ql.io.orc.OrcInputFormat org.apache.hadoop.hive.ql.io.orc.OrcOutputFormat dwd_weibo_crawl NULL appmarket_appinfo GN线应用市场 2021-01-07 15:07:29 app_url 平台详情页链接 string day string入库日期 org.apache.hadoop.hive.ql.io.orc.OrcSerde serialization.format 1 hdfs://DSbigdata/hiveDW/dwd_exten_crawl/appmarket_appinfo org.apache.hadoop.hive.ql.io.orc.OrcInputFormat org.apache.hadoop.hive.ql.io.orc.OrcOutputFormat dwd_weibo_crawl NULL appmarket_appinfo GN线应用市场 2021-01-07 15:07:29 cate 应用所属分类 string day string入库日期 org.apache.hadoop.hive.ql.io.orc.OrcSerde serialization.format 1 hdfs://DSbigdata/hiveDW/dwd_exten_crawl/appmarket_appinfo org.apache.hadoop.hive.ql.io.orc.OrcInputFormat org.apache.hadoop.hive.ql.io.orc.OrcOutputFormat dwd_weibo_crawl NULL appmarket_appinfo GN线应用市场 2021-01-07 15:07:29 other 其他 string day string 入库日期 org.apache.hadoop.hive.ql.io.orc.OrcSerde serialization.format 1 hdfs://DSbigdata/hiveDW/dwd_exten_crawl/appmarket_appinfo org.apache.hadoop.hive.ql.io.orc.OrcInputFormat org.apache.hadoop.hive.ql.io.orc.OrcOutputFormat dwd_weibo_crawl NULL appmarket_appinfo GN线应用市场 2021-01-07 15:07:29 region 平台名称 string day stri

2023-06-10 上传