通过yarn提交perjob的flink任务设置内存和cpu
时间: 2023-05-27 08:02:09 浏览: 251
在使用yarn提交perjob的flink任务时,可以通过以下方式设置内存和CPU:
1. 通过--yarn-properties参数设置yarn的参数。示例命令:
```
yarn per-job -m 4g -yD yarn.app.mapreduce.am.resource.cpu-vcores=2 -yD yarn.app.mapreduce.am.resource.memory-mb=4096
```
上述命令设置了flink任务的内存为4G,yarn的CPU核心数为2,yarn的内存为4096M。可以根据实际需要进行修改。
2. 通过flink-conf.yaml文件设置flink的参数。示例内容:
```
jobmanager.memory.process.size: 1024m
taskmanager.memory.process.size: 2048m
```
上述设置将jobmanager的内存设置为1G,taskmanager的内存设置为2G。可以根据实际需要进行修改。
注意:以上两种方式只能选择其中一种进行设置,否则会出现参数冲突的问题。
相关问题
flink提交任务到yarn命令
提交Flink任务到YARN的命令如下:
```
./bin/flink run -m yarn-cluster -yn 2 -yjm 1024 -ytm 1024 examples/streaming/WordCount.jar
```
其中:
- `-m`:指定Flink集群的地址,这里使用yarn-cluster模式。
- `-yn`:指定YARN节点的数量,这里指定2个节点。
- `-yjm`:指定YARN上JobManager的内存大小,这里为1G。
- `-ytm`:指定YARN上TaskManager的内存大小,这里为1G。
- `examples/streaming/WordCount.jar`:指定要提交的Flink任务的jar包路径。
需要注意的是,提交任务前需要先启动YARN集群和Flink集群。同时,需要将Flink的lib目录下的所有jar包上传到YARN的HDFS上,以便在任务运行时能够访问到这些依赖库。
flink服务的指标 和flink on yarn 中的flink的指标 有哪些相似的地方
Flink服务和Flink on YARN中的Flink指标相似之处包括:
1. Job运行状态指标:包括运行中、已完成、已取消、已失败等状态。
2. Job运行时间指标:包括任务开始时间、任务结束时间、任务运行时长等。
3. Job资源使用指标:包括CPU、内存、网络等资源的使用情况。
4. Task指标:包括Task运行状态、Task运行时间、Task资源使用情况等。
5. 网络指标:包括数据传输速率、网络延迟等。
6. 容错指标:包括重启次数、故障恢复时间等。
以上是相似之处,当然还有一些不同的指标,比如Flink on YARN中会有一些与YARN相关的指标,比如NodeManager的资源使用情况等。
阅读全文