hive3 不支持 hive on mr
时间: 2023-11-03 09:43:54 浏览: 46
从Hive 3.0版本开始,Hive不再支持Hive on MR(MapReduce)作为默认执行引擎。相反,它现在默认使用Tez作为执行引擎。这是因为MapReduce已经变得过时,而Tez提供了更好的性能和可伸缩性。但是,您仍然可以使用Hive on MR作为执行引擎,只需要将hive.execution.engine设置为mr即可。但是,建议使用Tez作为执行引擎以获得更好的性能和体验。
相关问题
.mr和hive on sprak的区别
mr和Hive on Spark都是用来处理大数据的工具,但它们之间存在一些明显的区别。MapReduce(MR)是由Google提出的一种分布式计算模型,它把大任务分解成许多小任务,由集群中的节点分别执行这些小任务,最后合并结果。而Hive on Spark是一种基于Apache Spark的Hive数据仓库。它利用Spark来提高Hive查询的执行速度,支持在线处理和批处理,可以更好地管理大量数据。
hive配置spark执行引擎
为了在Hive中使用Spark作为执行引擎,需要进行以下配置:
1. 安装Spark:首先需要在集群中安装Spark,并设置SPARK_HOME环境变量,以便Hive能够找到Spark。
2. 启用Spark支持:在Hive的配置文件hive-site.xml中,需要加入以下配置项:
```
<property>
<name>hive.execution.engine</name>
<value>spark</value>
<description>Execution engine for Hive, either mr or spark</description>
</property>
```
3. 配置Spark参数:在Hive的配置文件hive-site.xml中,可以设置一些关于Spark的参数,例如:
```
<property>
<name>spark.master</name>
<value>yarn</value>
<description>The master URL for the Spark cluster manager</description>
</property>
<property>
<name>spark.executor.memory</name>
<value>4g</value>
<description>Amount of memory per executor process</description>
</property>
```
4. 配置Hive on Spark:如果使用的是Hive on Spark,还需要进行以下配置:
```
<property>
<name>hive.spark.client.connect.timeout</name>
<value>600s</value>
<description>Timeout for Hive client to wait for Spark client to connect</description>
</property>
<property>
<name>hive.spark.client.server.connect.timeout</name>
<value>600s</value>
<description>Timeout for Spark client to connect to Hive client server</description>
</property>
```
以上就是在Hive中配置Spark执行引擎的步骤。需要注意的是,配置参数的具体值需要根据集群的实际情况进行调整。
相关推荐
![doc](https://img-home.csdnimg.cn/images/20210720083327.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![pdf](https://img-home.csdnimg.cn/images/20210720083512.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![pdf](https://img-home.csdnimg.cn/images/20210720083512.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![pdf](https://img-home.csdnimg.cn/images/20210720083512.png)
![rar](https://img-home.csdnimg.cn/images/20210720083606.png)
![pdf](https://img-home.csdnimg.cn/images/20210720083512.png)