DolphinScheduler线程数调优
时间: 2023-12-02 09:04:06 浏览: 199
DolphinScheduler 的线程数调优主要涉及到以下几个方面:
1. 调整任务调度线程数:DolphinScheduler 中的任务调度线程数默认为 100,如果你的任务比较多,可以适当增加该值。在配置文件中,可以修改配置项 `master.task.commit.thread.num` 来调整任务调度线程数。
2. 调整任务执行线程数:DolphinScheduler 中的任务执行线程数默认为 100,如果你的任务比较多,可以适当增加该值。在配置文件中,可以修改配置项 `worker.exec.threads` 来调整任务执行线程数。
3. 调整任务队列长度:DolphinScheduler 中的任务队列长度默认为 10000,如果你的任务比较多,可以适当增加该值。在配置文件中,可以修改配置项 `master.queue.size` 来调整任务队列长度。
4. 调整数据库连接池大小:DolphinScheduler 使用的是 Druid 数据库连接池,可以通过修改配置项 `spring.datasource.druid.max-active` 来调整连接池大小。
5. 调整线程池大小:DolphinScheduler 中还有一些其他的线程池,比如 HTTP 线程池、WebSocket 线程池等,可以通过修改相应的配置项来调整线程池大小。在配置文件中,可以查找以 `thread.pool` 开头的配置项来找到相应的线程池。
需要注意的是,在调整线程数时,要根据实际情况进行调整,不要盲目增加线程数,否则可能会引发性能问题。
相关问题
dolphinscheduler1.3.4线程数调优
DolphinScheduler 性能调优可以从多个方面入手,其中线程数是一个重要的因素。以下是一些可以尝试的方法:
1. 调整服务端线程池大小: DolphinScheduler 后台任务执行时,会使用线程池来管理线程,可以通过调整线程池大小来提高性能。在 `dolphinscheduler-server/src/main/resources/application.properties` 配置文件中,可以找到以下属性:
```
# server thread pool parameters
dolphinscheduler.server.work.thread.max=100
dolphinscheduler.server.executor.thread.num=100
```
其中,`dolphinscheduler.server.executor.thread.num` 是任务执行线程池的大小,`dolphinscheduler.server.work.thread.max` 是工作线程池的大小。根据服务器的 CPU 核心数和内存情况,适当调整这两个属性的值。
2. 调整客户端线程池大小: DolphinScheduler 的 Web 服务与后台服务通信时,也会使用线程池来管理线程。可以在 `dolphinscheduler-api/src/main/resources/application.properties` 配置文件中找到以下属性:
```
# client thread pool parameters
dolphinscheduler.client.thread.num=100
```
将 `dolphinscheduler.client.thread.num` 设置为适当的值,可以提高客户端访问后台服务的效率。
3. 调整数据库连接池大小: DolphinScheduler 使用的是 Druid 数据库连接池,可以在 `dolphinscheduler-server/src/main/resources/application.properties` 配置文件中找到以下属性:
```
# datasource parameters
spring.datasource.type=com.alibaba.druid.pool.DruidDataSource
spring.datasource.driver-class-name=com.mysql.jdbc.Driver
spring.datasource.url=jdbc:mysql://localhost:3306/dolphinscheduler?useUnicode=true&characterEncoding=UTF-8&useSSL=false
spring.datasource.username=root
spring.datasource.password=123456
spring.datasource.initialSize=5
spring.datasource.minIdle=5
spring.datasource.maxActive=100
spring.datasource.maxWait=60000
```
其中,`spring.datasource.maxActive` 是连接池中最大的活跃连接数,可以根据数据库的负载情况进行调整。
4. 调整 JVM 参数: DolphinScheduler 使用的是 Java 技术栈,可以通过调整 JVM 参数来提高性能。具体的参数可以根据服务器的硬件配置和应用场景进行调整,一些常见的参数包括:
```
# JVM parameters
-Xms2g
-Xmx2g
-XX:MaxDirectMemorySize=1g
-XX:+UseG1GC
-XX:MaxGCPauseMillis=200
-XX:+HeapDumpOnOutOfMemoryError
```
其中,`-Xms` 和 `-Xmx` 分别是 JVM 堆的初始大小和最大大小,可以根据服务器的内存情况进行调整。`-XX:MaxDirectMemorySize` 是直接内存的最大值,可以根据应用场景进行调整。`-XX:+UseG1GC` 和 `-XX:MaxGCPauseMillis` 是启用 G1 垃圾回收器和最大 GC 暂停时间,可以提高 GC 的效率。`-XX:+HeapDumpOnOutOfMemoryError` 是在内存溢出时产生堆转储文件,可以帮助排查问题。
以上是一些常见的 DolphinScheduler 性能调优方法,可以根据实际情况进行调整。
dolphinscheduler-3.1.2线程数调优
可以通过设置DolphinScheduler的配置文件来进行线程数调优。具体方法如下:
1. 打开DolphinScheduler的配置文件dolphinscheduler-env.sh
2. 修改以下参数:
- export EXECUTE_THREAD_NUM=100:设置执行线程数,控制器和Worker通用,默认为100,可以根据实际情况进行调整。
- export EXECUTE_TASK_NUM=20:设置单个执行线程最大任务数,默认为20,也可以根据实际情况进行调整。
- export EXECUTE_INTERVAL=1000:设置线程执行频率,单位为毫秒,默认为1000毫秒,也可以根据实际情况进行调整。
3. 修改后保存配置文件,并重启DolphinScheduler服务。
通过以上步骤,即可进行DolphinScheduler的线程数调优。
阅读全文
相关推荐















