40台服务器,每台32Core 128GMemory 跑1T的数据 spark需要设置多少个executor
时间: 2024-04-24 22:21:42 浏览: 118
Python3实战Spark大数据分析及调度-第6章 Spark Core进阶.zip
对于这个问题,Spark的executor数量需要根据多个因素来决定,包括数据大小、可用内存和计算资源等。通常来说,一个executor可以使用多个核心和内存资源。
在你的情况下,每台服务器有32个核心和128GB内存。假设你将每个executor分配给一个核心和4GB内存,那么每台服务器最多可以同时运行32个executor(32个核心)。
因此,对于40台服务器,最多可以设置的executor数量为40 * 32 = 1280个。
当然,这只是一个粗略的估计。实际上,你可能需要根据数据量、任务类型和性能需求等因素进行调整和优化。同时,还要考虑到其他资源的使用,如网络带宽和磁盘IO等。
建议在实际部署前进行测试和调优,以找到最佳的executor数量和配置参数。
阅读全文