action算子会触发宽依赖
时间: 2023-09-20 12:04:53 浏览: 76
Spark学习笔记 Spark学习笔记 Spark学习笔记
是的,action算子在Spark中会触发宽依赖。宽依赖意味着父RDD的每个分区都有可能被子RDD中的多个分区所依赖,因此在进行宽依赖操作时,必须进行数据的shuffle操作,这涉及到网络和磁盘I/O,可能会导致性能瓶颈。因此,在进行action算子操作时,应该尽可能地避免宽依赖,以提高Spark应用的性能。
阅读全文
Spark学习笔记 Spark学习笔记 Spark学习笔记