hive sql中将计算引擎改为mapreduce
时间: 2023-08-11 10:09:04 浏览: 211
在 Hive SQL 中,你可以通过设置作业的执行引擎来将计算引擎改为 MapReduce。默认情况下,Hive 使用的是 Tez 引擎进行计算,但你可以通过以下步骤将它更改为 MapReduce:
1. 打开 Hive 的配置文件 hive-site.xml。
2. 在配置文件中添加以下属性:
```
<property>
<name>hive.execution.engine</name>
<value>mr</value>
</property>
```
这将告诉 Hive 使用 MapReduce 作为计算引擎。
3. 保存并关闭配置文件。
4. 重新启动 Hive 服务,以使更改生效。
现在,Hive 将使用 MapReduce 作为计算引擎执行你的查询。请注意,这将影响到所有查询的执行方式,因此在更改执行引擎之前,请确保了解其对性能和资源利用的影响。
相关问题
三节点的Hadoop集群,采用的是,一个节点中作为hive的服务端,一个节点作为hive的客户端,一个节点安装MySQL,现在想要安装hive on spark模式采用的是yarn管理的。那么hive,spark该怎么配置?
在Hadoop集群中将Hive迁移到Spark的YARN模式下,需要对Hive、Spark和YARN进行一些配置。以下是基本步骤:
1. **安装Spark**:
- 首先,在YARN节点上安装Apache Spark并配置环境变量,确保Spark可以与YARN集成。
- 检查YARN的`yarn-site.xml`文件,确认`yarn.app.mapreduce.am.class`设置为`org.apache.spark.yarn_amlauncher.YarnAMLauncher`。
2. **配置Hive on Spark**:
- 更新Hive元数据存储位置:在Hive的`conf/hive-site.xml`文件中,设置`javax.jdo.option.ConnectionURL`指向MySQL数据库,同时配置`javax.jdo.option.ConnectionDriverName`为对应的MySQL驱动名称。
- 在Hive的`conf/hive-env.sh`文件中,增加Spark的Jars到`SPARK_JARS`环境变量,如`export SPARK_JARS=<path_to_spark_jar>`。
- 启动Hive Metastore服务,并在启动脚本中指定Spark作为Metastore的执行引擎,例如通过`hive.metastore.uris`设置为`thrift://<yarn_node>:9083`,其中`<yarn_node>`是YARN节点IP。
3. **修改Spark配置**:
- 在Spark的`conf/spark-defaults.conf`文件中,添加如下内容以启用Hive支持:
```
spark.sql.warehouse.dir=hdfs://<hadoop_namenode>:<port>/warehouse
spark.sql.hive.metastore.uris=thrift://<yarn_node>:9083
```
4. **安全性和认证**:
- 如果集群有安全设置,记得配置Hive和Spark的凭据信息,包括Kerberos认证等。
5. **测试与验证**:
- 使用Spark SQL或者其他工具测试连接Hive表,确保可以从YARN节点访问数据和执行查询。
阅读全文