spark-submit
时间: 2023-11-07 19:03:02 浏览: 149
spark-submit cluster模式时driver-class-path支持hdfs路径
5星 · 资源好评率100%
spark-submit是用于将Spark应用程序提交到集群上执行的命令。它需要指定应用程序的主类和其他参数,并且可以通过--master选项指定任务的执行模式。
在引用中提到了几种常用的执行模式:
- spark://host:port:这是指将任务提交到指定的Spark主节点上执行。
- yarn:这是指将任务提交到YARN集群上执行。
- local:这是指在本地机器上以单机模式运行任务。
通过spark-submit命令,可以根据需要设置其他参数,例如设置任务的内存分配、CPU核心数等。
阅读全文