spark explain
时间: 2023-11-07 07:47:54 浏览: 93
spark 基础讲解
Spark的explain函数用于查看Spark SQL的执行计划。在Spark 3.x版本后,explain有多种模式可供选择。其中包括以下模式:
1. explain(): 这是最常用的模式,只展示物理执行计划。
2. explain(mode="simple"): 只展示物理执行计划。
3. explain(mode="extended"): 展示物理执行计划和逻辑执行计划。
4. explain(mode="codegen"): 展示要 Codegen 生成的可执行Java代码,这个模式也经常使用。
5. explain(mode="cost"): 展示优化后的逻辑执行计划以及相关的统计信息。
6. explain(mode="formatted"): 以分隔的方式输出,提供更易读的物理执行计划,并展示每个节点的详细信息。
通过使用不同的模式,我们可以查看不同层次的执行计划和相关信息。对于企业生产调优来说,explain是一种重要的方式和策略。
在具体使用上,可以根据需要选择不同的模式来查看执行计划。可以通过调用explain(mode="xxx")来指定展示的模式,其中xxx是上述提到的模式之一。然后可以根据展示的执行计划,进行性能调优和优化工作。
总结来说,spark explain函数可以用于查看Spark SQL的执行计划,通过不同的模式可以展示不同层次的执行计划和相关信息,用于性能调优和优化工作。<span class="em">1</span><span class="em">2</span><span class="em">3</span>
阅读全文