Hive函数全览:从基础到高级操作

需积分: 3 12 下载量 17 浏览量 更新于2024-07-21 收藏 954KB PDF 举报
"这篇文档是关于Hive函数的全面总结,涵盖了从基本的关系运算到复杂的复合类型操作,以及数值计算和逻辑运算等多个方面。作者是lxw1234,这个资源可以在http://lxw1234.com上找到。" 在Hive中,函数的使用对于数据处理和分析至关重要。以下是一些主要的Hive函数类别和它们的功能详解: 一、关系运算: 1. 等值比较:`=`, 用于检查两个值是否相等。 2. 等值比较:`<=>`,也用于比较两个值是否相等,但它是Hive特有的,不同于标准SQL。 3. 不等值比较:`<>`和`!=`,用来判断两个值是否不相等。 4. 小于比较:`<`,用于检查一个值是否小于另一个值。 5. 小于等于比较:`<=`,用于检查一个值是否小于或等于另一个值。 6. 大于比较:`>`,用于检查一个值是否大于另一个值。 7. 大于等于比较:`>=`,用于检查一个值是否大于或等于另一个值。 8. 区间比较:Hive提供了比较操作符来实现特定范围内的比较。 9. 空值判断:`ISNULL`,检查一个值是否为空。 10. 非空判断:`ISNOTNULL`,用于检查一个值是否非空。 11. LIKE比较:`LIKE`,用于字符串模式匹配。 12. JAVA的LIKE操作:`RLIKE`,支持更复杂的正则表达式匹配。 13. REGEXP操作:`REGEXP`,同样用于正则表达式匹配。 二、数学运算: 1. 加法操作:`+`,将两个数值相加。 2. 减法操作:`-`,从一个数值中减去另一个数值。 3. 乘法操作:`*`,将两个数值相乘。 4. 除法操作:`/`,对两个数值进行除法运算。 5. 取余操作:`%`,返回除法运算后的余数。 6. 位与操作:`&`,对两个数值进行按位与运算。 7. 位或操作:`|`,进行按位或运算。 8. 位异或操作:`^`,执行按位异或操作。 9. 位取反操作:`~`,对数值进行按位取反。 三、逻辑运算: 1. 逻辑与操作:`AND`、`&&`,如果两个条件都为真,则结果为真。 2. 逻辑或操作:`OR`、`||`,如果至少有一个条件为真,则结果为真。 3. 逻辑非操作:`NOT`、`!`,对条件取反。 四、复合类型构造函数: 1. map结构:用于创建键值对的映射。 2. struct结构:创建包含多个字段的结构。 3. named_struct结构:命名的结构,允许为每个字段指定名称。 4. array结构:定义一个包含多个元素的数组。 5. create_union:用于创建并操作联合类型。 五、复合类型操作符: 1. 获取array中的元素:通过索引访问数组中的特定元素。 2. 获取map中的元素:通过键来检索映射中的值。 3. 获取struct中的元素:通过字段名访问结构中的字段。 六、数值计算函数: 1. 取整函数:`round`,将浮点数四舍五入到最接近的整数。 2. 指定精度取整函数:`round`,可以指定小数位数进行四舍五入。 3. 向下取整函数:`floor`,将浮点数向下舍入到最接近的整数。 4. 向上取整函数:`ceil`和`ceiling`,将浮点数向上舍入到最接近的整数。 5. 取随机数函数:`rand`,生成0到1之间的随机数。 6. 自然指数函数:`exp`,计算e的指数。 7. 以10为底对数函数:`log10`,计算以10为底的对数。 8. 以2为底对数函数:Hive提供了计算以2为底的对数的函数,例如`log2`。 这些只是Hive函数的一部分,实际中还有更多的日期时间函数、字符串处理函数、聚合函数等,它们共同构成了Hive强大的数据分析工具箱,使得在大数据场景下进行复杂的数据处理变得可能。
2012-05-02 上传
一、关系运算: 4 1. 等值比较: = 4 2. 不等值比较: 4 3. 小于比较: < 4 4. 小于等于比较: 5 6. 大于等于比较: >= 5 7. 空值判断: IS NULL 5 8. 非空判断: IS NOT NULL 6 9. LIKE比较: LIKE 6 10. JAVA的LIKE操作: RLIKE 6 11. REGEXP操作: REGEXP 7 二、数学运算: 7 1. 加法操作: + 7 2. 减法操作: - 7 3. 乘法操作: * 8 4. 除法操作: / 8 5. 取余操作: % 8 6. 位与操作: & 9 7. 位或操作: | 9 8. 位异或操作: ^ 9 9.位取反操作: ~ 10 三、逻辑运算: 10 1. 逻辑与操作: AND 10 2. 逻辑或操作: OR 10 3. 逻辑非操作: NOT 10 四、数值计算 11 1. 取整函数: round 11 2. 指定精度取整函数: round 11 3. 向下取整函数: floor 11 4. 向上取整函数: ceil 12 5. 向上取整函数: ceiling 12 6. 取随机数函数: rand 12 7. 自然指数函数: exp 13 8. 以10为底对数函数: log10 13 9. 以2为底对数函数: log2 13 10. 对数函数: log 13 11. 幂运算函数: pow 14 12. 幂运算函数: power 14 13. 开平方函数: sqrt 14 14. 二进制函数: bin 14 15. 十六进制函数: hex 15 16. 反转十六进制函数: unhex 15 17. 进制转换函数: conv 15 18. 绝对值函数: abs 16 19. 正取余函数: pmod 16 20. 正弦函数: sin 16 21. 反正弦函数: asin 16 22. 余弦函数: cos 17 23. 反余弦函数: acos 17 24. positive函数: positive 17 25. negative函数: negative 17 五、日期函数 18 1. UNIX时间戳转日期函数: from_unixtime 18 2. 获取当前UNIX时间戳函数: unix_timestamp 18 3. 日期转UNIX时间戳函数: unix_timestamp 18 4. 指定格式日期转UNIX时间戳函数: unix_timestamp 18 5. 日期时间转日期函数: to_date 19 6. 日期转年函数: year 19 7. 日期转月函数: month 19 8. 日期转天函数: day 19 9. 日期转小时函数: hour 20 10. 日期转分钟函数: minute 20 11. 日期转秒函数: second 20 12. 日期转周函数: weekofyear 20 13. 日期比较函数: datediff 21 14. 日期增加函数: date_add 21 15. 日期减少函数: date_sub 21 六、条件函数 21 1. If函数: if 21 2. 非空查找函数: COALESCE 22 3. 条件判断函数:CASE 22 4. 条件判断函数:CASE 22 七、字符串函数 23 1. 字符串长度函数:length 23 2. 字符串反转函数:reverse 23 3. 字符串连接函数:concat 23 4. 带分隔符字符串连接函数:concat_ws 23 5. 字符串截取函数:substr,substring 24 6. 字符串截取函数:substr,substring 24 7. 字符串转大写函数:upper,ucase 24 8. 字符串转小写函数:lower,lcase 25 9. 去空格函数:trim 25 10. 左边去空格函数:ltrim 25 11. 右边去空格函数:rtrim 25 12. 正则表达式替换函数:regexp_replace 26 13. 正则表达式解析函数:regexp_extract 26 14. URL解析函数:parse_url 26 15. json解析函数:get_json_object 27 16. 空格字符串函数:space 27 17. 重复字符串函数:repeat 27 18. 首字符ascii函数:ascii 28 19. 左补足函数:lpad 28 20. 右补足函数:rpad 28 21. 分割字符串函数: split 28 22. 集合查找函数: find_in_set 29 八、集合统计函数 29 1. 个数统计函数: count 29 2. 总和统计函数: sum 29 3. 平均值统计函数: avg 30 4. 最小值统计函数: min 30 5. 最大值统计函数: max 30 6. 非空集合总体变量函数: var_pop 30 7. 非空集合样本变量函数: var_samp 31 8. 总体标准偏离函数: stddev_pop 31 9. 样本标准偏离函数: stddev_samp 31 10.中位数函数: percentile 31 11. 中位数函数: percentile 31 12. 近似中位数函数: percentile_approx 32 13. 近似中位数函数: percentile_approx 32 14. 直方图: histogram_numeric 32 九、复合类型构建操作 32 1. Map类型构建: map 32 2. Struct类型构建: struct 33 3. array类型构建: array 33 十、复杂类型访问操作 33 1. array类型访问: A[n] 33 2. map类型访问: M[key] 34 3. struct类型访问: S.x 34 十一、复杂类型长度统计函数 34 1. Map类型长度函数: size(Map) 34 2. array类型长度函数: size(Array) 34 3. 类型转换函数 35