帮我写一个脚本,要求如下:1、beeline连接进入hive,设置输出格式为csv2。2、批量统计yinzhou库下表名开头为db_的表的数据量。3、并输出仅包含包名和数据量的txt

时间: 2024-03-12 10:44:36 浏览: 32
好的,以下是符合要求的脚本: ```bash #!/bin/bash # 连接 Hive 并设置输出格式为 CSV2 beeline -u jdbc:hive2://localhost:10000 -n username -p password << EOF > /dev/null set hive.cli.print.header=false; set hive.resultset.use.unique.column.names=false; set hive.cli.print.row.to.vertical=false; set hive.cli.print.current.db=false; set hive.cli.print.header=true; set csv2; EOF # 统计 yinzhou 库下表名以 db_ 开头的表的数据量 tables=$(beeline -u jdbc:hive2://localhost:10000 -n username -p password -e "show tables in yinzhou;" | grep "^db_" | tr '\n' ',' | sed 's/.$//') for table in $(echo $tables | tr "," "\n") do data_size=$(beeline -u jdbc:hive2://localhost:10000 -n username -p password -e "select count(*) from yinzhou.\`$table\`" | awk '{if(NR>2)print}') echo "$table,$data_size" done > result.txt ``` 这个脚本的具体实现如下: 1. 连接 Hive 并设置输出格式为 CSV2,这样输出的结果就是 CSV 格式,方便后续处理; 2. 使用 `show tables` 命令查询 yinzhou 库中的所有表名,并筛选出以 db_ 开头的表名,并保存到变量 `tables` 中; 3. 使用 for 循环依次查询每个表的数据量,并将包名和数据量以逗号分隔的形式输出到标准输出; 4. 将标准输出重定向到文件 result.txt 中,以便后续处理。 注意,在查询表数据量时,需要使用 `count(*)` 而不是 `count()`,这样可以避免出现统计错误的情况。另外,为了避免表名中包含特殊字符导致的语法错误,需要在表名前后加上反引号。

相关推荐

最新推荐

recommend-type

hive-shell批量命令执行脚本的实现方法

在大数据处理领域,Hive 是一个非常重要的工具,它提供了SQL-like 的接口来查询和管理分布式存储的数据。本文将详细讲解如何使用Hive与Shell结合,实现批量执行Hive命令的脚本,这对于数据处理和ETL(提取、转换、...
recommend-type

Apache Hive 中文手册.docx

Apache Hive 是一个构建在Hadoop生态系统之上的数据仓库工具,其设计目的是为了简化对大量分布式存储数据的管理和分析。Hive 提供了SQL(结构化查询语言)接口,使得非编程背景的用户也能轻松地对大数据进行操作。...
recommend-type

Linux Shell编程:用户组管理与基本命令详解

本文档主要介绍了如何在Linux系统中通过Shell编程进行用户组管理,特别是使用bash基础命令来操作。主要内容包括: 1. 增加用户组: - `groupadd` 命令是用于创建新用户组的基本工具。例如,`groupadd students` 用于创建名为"students"的用户组,而 `groupadd -g 2000 teachers` 则设置了新的"teachers"组的GID(组标识号)为2000。 - 创建用户组后,系统会自动更新 `/etc/group` 文件,记录组名、组口令(实际上,Linux不存储明文口令,而是使用GID)和组标识号。 2. 系统登录和退出: - Linux支持多用户操作,每个用户需要拥有唯一的用户名和口令进行登录。登录时,超级用户(root)使用`login`命令,普通用户输入密码后会得到对应的提示符。 - 退出系统可以通过`exit`、`logout`命令或使用快捷键Ctrl+d,分别对应注销、退出当前会话和强制退出。重启和关机操作则涉及`reboot`、`halt`、`shutdown now -h`或`poweroff`命令,`shutdown`命令可指定精确的时间或者加时间区间来执行操作。 3. 用户和用户组管理: - 用户管理涉及到登录不同类型的用户,如root和一般用户。登录到root权限需要正确输入密码,密码输入不会显示在屏幕上以确保安全。 - 用户组管理的核心在于`groupadd`和`/etc/group`文件,这是控制用户权限分配的关键部分。 4. Shell编程基础: - 文档提及的shell,这里指的是Bash(Bourne Again SHell),它是Linux中最常用的交互式命令行解释器。Bash提供了丰富的功能,包括内置命令、变量操作、脚本编写等,是系统管理和自动化任务的重要工具。 本文档围绕Linux系统中的用户组管理和Shell编程基础展开,涵盖了用户登录、退出操作,以及如何使用groupadd命令创建和管理用户组,这对于理解和管理Linux系统环境具有重要意义。熟悉这些命令和概念,能够帮助用户更高效地在Linux环境中工作。
recommend-type

管理建模和仿真的文件

管理Boualem Benatallah引用此版本:布阿利姆·贝纳塔拉。管理建模和仿真。约瑟夫-傅立叶大学-格勒诺布尔第一大学,1996年。法语。NNT:电话:00345357HAL ID:电话:00345357https://theses.hal.science/tel-003453572008年12月9日提交HAL是一个多学科的开放存取档案馆,用于存放和传播科学研究论文,无论它们是否被公开。论文可以来自法国或国外的教学和研究机构,也可以来自公共或私人研究中心。L’archive ouverte pluridisciplinaire
recommend-type

【单片机控制可控硅入门秘籍】:揭秘原理、接线和应用指南

![【单片机控制可控硅入门秘籍】:揭秘原理、接线和应用指南](https://img-blog.csdnimg.cn/img_convert/37f575c563e2d9e67b3b3d4a3d950325.png) # 1. 单片机控制可控硅基础 可控硅是一种半导体器件,具有单向导电和可控导通的特点。单片机控制可控硅技术广泛应用于工业控制、电力电子等领域。本章将介绍单片机控制可控硅的基础知识,包括可控硅的工作原理、单片机控制可控硅的原理等。 # 2. 单片机控制可控硅原理 ### 2.1 可控硅的工作原理 #### 2.1.1 可控硅的结构和特性 可控硅(Silicon Contr
recommend-type

rabbitmq百度网盘

RabbitMQ 和 百度网盘是两个完全不同的概念,分别属于分布式消息队列和云存储服务。 1. RabbitMQ(兔子队列)是一个开源的消息代理(Message Broker),它基于AMQP(Advanced Message Queuing Protocol)协议,用于在分布式系统中异步通信和解耦组件。它提供了一种可靠的方式来发送和接收消息,常用于构建可扩展的应用和服务架构中。 2. 百度网盘(Baidu Cloud Disk)是中国百度公司提供的云存储服务,用户可以通过网页或手机应用上传、下载文件,并能在线预览文档、图片等。它为用户提供大容量的个人文件存储空间,并支持共享链接给其他人方
recommend-type

Linux Shell教程:输出输入重定向与bash命令

"这篇资源主要介绍了Linux Shell编程中的输出输入重定向以及bash基础命令,特别是如何使用<和>符号进行重定向,同时也提及了标准输入(stdin)、标准输出(stdout)和标准错误输出(stderr)的概念。此外,还简单提到了shell的基础知识,包括Linux系统登录、退出、用户管理和系统操作等。” 在Shell编程中,输出输入重定向是一项基本而重要的功能。通过使用`<`和`>`,我们可以改变命令默认的输入源和输出目标。标准输入(stdin)通常默认为键盘,标准输出(stdout)默认显示在屏幕上,而标准错误输出(stderr)也默认输出到屏幕。当使用`<`时,我们可以将文件内容作为命令的输入;使用`>`时,我们可以将命令的输出重定向到文件,而不是默认显示在终端上。例如,`command < input_file`会让`command`读取`input_file`的内容作为输入,而`command > output_file`则会把`command`的输出保存到`output_file`,而不是打印在终端上。 此外,`|`管道符是另一个强大的工具,它允许我们将一个命令的stdout作为另一个命令的stdin,实现命令间的连接。这种机制使得复杂的任务可以通过组合简单的命令来完成。例如,`command1 | command2`会将`command1`的输出传递给`command2`作为其输入。 在Linux环境中,用户管理和系统操作也是日常工作中不可或缺的部分。系统有超级用户(root)和一般用户两种类型,超级用户拥有对系统的所有权限,而一般用户则有相对受限的权限。登录系统时,用户需要输入用户名和密码。成功登录后,超级用户会看到以`#`开头的提示符,而一般用户则是以`$`开头。退出系统可以使用`exit`、`logout`或Ctrl+d快捷键。对于系统的重启和关闭,通常需要超级用户权限,可以使用`reboot`、`halt`、`shutdown now -h`或`poweroff`命令,其中`shutdown`命令提供了灵活的时间参数选项,确保安全关闭系统的同时给予用户足够的时间保存工作。
recommend-type

"互动学习:行动中的多样性与论文攻读经历"

多样性她- 事实上SCI NCES你的时间表ECOLEDO C Tora SC和NCESPOUR l’Ingén学习互动,互动学习以行动为中心的强化学习学会互动,互动学习,以行动为中心的强化学习计算机科学博士论文于2021年9月28日在Villeneuve d'Asq公开支持马修·瑟林评审团主席法布里斯·勒菲弗尔阿维尼翁大学教授论文指导奥利维尔·皮耶昆谷歌研究教授:智囊团论文联合主任菲利普·普雷教授,大学。里尔/CRISTAL/因里亚报告员奥利维耶·西格德索邦大学报告员卢多维奇·德诺耶教授,Facebook /索邦大学审查员越南圣迈IMT Atlantic高级讲师邀请弗洛里安·斯特鲁布博士,Deepmind对于那些及时看到自己错误的人...3谢谢你首先,我要感谢我的两位博士生导师Olivier和Philippe。奥利维尔,"站在巨人的肩膀上"这句话对你来说完全有意义了。从科学上讲,你知道在这篇论文的(许多)错误中,你是我可以依
recommend-type

单片机控制技术与人工智能:打造智能化系统(附赠AI算法详解)

![单片机控制技术与人工智能:打造智能化系统(附赠AI算法详解)](https://yqfile.alicdn.com/07a92ae55a8ab8a38baa87b9aeb385b9dd8db422.png?x-oss-process=image/resize,s_500,m_lfit) # 1. 单片机控制技术概述 单片机是一种集成在单个芯片上的微型计算机,具有强大的控制能力和较高的性价比。它广泛应用于工业控制、消费电子、医疗设备等领域。单片机控制技术主要包括硬件设计、软件编程和系统集成三个方面。 单片机控制系统通常由单片机、传感器、执行器和电源等部件组成。单片机负责采集传感器数据、处
recommend-type

kali 卸载docker

在Kali Linux中卸载Docker,你可以按照以下步骤操作: 1. 打开终端:首先,打开你的Kali Linux终端。 2. 搜索并确认安装:运行命令`sudo apt-cache search docker`来检查是否已经安装了Docker。如果有显示结果,说明Docker已安装。 3. 卸载Docker:如果找到了Docker,请输入`sudo apt-get remove docker-ce docker-ce-cli containerd runc`(或使用docker.io名称)。这将卸载Docker的主要组件。 4. 清理依赖:接着运行`sudo apt-get au