python dask的threads_per_worker和n_workers应该设置什么数值比较合适?
时间: 2023-06-07 15:11:02 浏览: 88
关于dask的threads_per_worker和n_workers的最佳设置取决于许多因素,例如可用的系统资源、工作负载类型和大小等等。一般来说,您可以考虑将threads_per_worker设置为4-8,将n_workers设置为2-4,然后稍微调整它们以获得最佳性能。同时,您还可以通过监视资源利用率和任务执行时间来优化Dask的性能。希望这可以帮助您!
相关问题
16核24线程cpu使用python dask时,将threads_per_worker和n_workers设置什么数值比较合适?
根据您的硬件配置,您可以根据任务类型和任务数据的大小来调整`threads_per_worker`和`n_workers`参数。 通常情况下,如果您的任务是计算密集型的,可以选择将`threads_per_worker`设置得大一些,而如果您的任务是 I/O 密集型的,则可以选择更小的`threads_per_worker`。
一般来说,对于大型数据集或计算密集型任务,建议将`n_workers`设置为大于您的 CPU 核心数量,以便更充分地利用多线程能力。如果您的任务是 I/O 密集型的,则可以稍微减少`n_workers`的值。
最终的调整将取决于您的具体情况和应用程序需要的性能。您可能需要进行一些试验来找到最佳的`threads_per_worker`和`n_workers`值。
python dask的threads_per_worker有什么用处?
threads_per_worker参数用于设置每个Dask工作节点(worker)的线程数目。该参数的值越高,每个节点的并行处理能力就越强。然而,这也会增加每个节点上所使用的内存量,可能导致性能下降。因此,要根据数据大小、计算负载和可用资源对该参数进行适当的调整,以获得最佳性能。
相关推荐
![rar](https://img-home.csdnimg.cn/images/20210720083606.png)
![gz](https://img-home.csdnimg.cn/images/20210720083447.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)