set hive.exec.dynamic.partitio
时间: 2023-04-26 22:01:55 浏览: 293
n.mode=nonstrict
set hive.exec.dynamic.partition.mode=nonstrict是Hive的一个配置参数,它允许在动态分区模式下执行非严格模式。在非严格模式下,如果动态分区列中的某些值不存在,则Hive将自动创建这些分区。这使得在Hive中进行分区查询更加方便和灵活。
相关问题
set hive.exec.dynamic.partition.mode
b'set hive.exec.dynamic.partition.mode'是Hive的一个配置属性,用于设置Hive是否启用动态分区功能。如果设置为非严格模式(nonstrict),则Hive将启用动态分区,并且在向分区表中插入新数据时,会根据指定的分区列动态创建对应的分区目录。如果设置为严格模式(strict),则Hive在插入新数据时,必须指定所有分区列的值,否则将无法插入。
set hive.exec.dynamic.partition.mode=nonstrict; set mapreduce.map.memory.mb=8192; set mapreduce.reduce.memory.mb=8192; set hive.optimize.skewjoin = true; set mapreduce.map.java.opts=-Xmx1536m; set mapreduce.reduce.java.opts=-Xmx3072m; set mapred.reduce.tasks = 200 ; set hive.exec.dynamic.partition=true; set hive.exec.dynamic.partition.mode=nostrick; set hive.exec.max.dynamic.partitions.pernode=100000;--设置动态分区个数 set hive.exec.max.dynamic.partitions=100000; set hive.exec.max.created.files=100000; --插入缺失的历史数据 insert into dw_oneapp.t_oneapp_buried_point partition(parnum) select t.* from dw_oneapp.t_oneapp_buried_point_his_tmp t left join dw_oneapp.t_oneapp_buried_point p on t.equip_id=p.equip_id where p.equip_id is null; insert overwrite table dw_oneapp.t_oneapp_buried_point partition(parnum) select t.* from dw_oneapp.t_oneapp_buried_point_tmp t where parnum like '20%';
这段代码是一个 Hive SQL 脚本,它包含了一系列的配置和两个插入语句。这些配置用于设置 Hive 的运行参数和优化选项,而插入语句用于将数据插入到 `dw_oneapp.t_oneapp_buried_point` 表的动态分区中。
在这个脚本中,首先设置了一些 Hive 的配置参数,如 `hive.exec.dynamic.partition.mode`、`mapreduce.map.memory.mb`、`hive.optimize.skewjoin` 等。这些参数可以根据你的需求进行调整,以优化 Hive 的执行性能和内存使用情况。
接下来,第一个插入语句使用了一个左连接操作,通过 `equip_id` 列将 `dw_oneapp.t_oneapp_buried_point_his_tmp` 表和 `dw_oneapp.t_oneapp_buried_point` 表进行连接,筛选出在 `dw_oneapp.t_oneapp_buried_point` 表中不存在的记录,并将其插入到 `dw_oneapp.t_oneapp_buried_point` 表的动态分区中。
第二个插入语句使用了一个覆写插入操作 (`insert overwrite`),从 `dw_oneapp.t_oneapp_buried_point_tmp` 表中选择符合条件的数据,并将其覆盖写入到 `dw_oneapp.t_oneapp_buried_point` 表的动态分区中。
请注意,这些代码片段可能需要根据你的具体环境和数据模型进行适当的调整和修改。同时,还需要确保表结构和分区定义的一致性,以及分区列的正确设置。
阅读全文