spark.driver
时间: 2023-12-07 18:39:09 浏览: 167
spark-submit cluster模式时driver-class-path支持hdfs路径
5星 · 资源好评率100%
Spark Driver是Spark应用程序中的一个进程,它负责将用户程序转化为任务并将这些任务分配给Executor执行。Driver程序通常运行在Spark集群的主节点上,它与集群管理器(如YARN或Mesos)通信以获取资源并启动Executor。在Spark应用程序中,Driver程序是整个应用程序的主要协调者,它负责调度任务,向Executor分配任务,以及将结果汇总并返回给用户。
Spark Driver的主要职责包括:
.将用户程序转化为任务并将这些任务分配给Executor执行。
2.与集群管理器通信以获取资源并启动Executor。3.负责调度任务,向Executor分配任务。
4.将结果汇总并返回给用户。
阅读全文