flink提交有几种模式 yarn-session模式 Application模式 Per-Job模式(生产中一般用这个,因为不论是监控还是提交都很方便,一个任务yarn分配一次) 详细解释
时间: 2023-06-24 14:07:18 浏览: 218
Flink 提交作业的三种模式:
1. Yarn-session 模式:在该模式下,Flink 集群与YARN 集成,即 Flink 集群在 YARN 上启动,并在其中开启一个长期运行的会话(Session),可以重复提交多个 Flink 作业。
2. Application 模式:在该模式下,每次提交 Flink 作业都会启动一个新的 YARN 应用程序,Flink 集群和 YARN 集成。
3. Per-Job 模式:在该模式下,每次提交 Flink 作业都会启动一个新的 YARN 应用程序,Flink 集群和 YARN 集成。与 Application 模式不同的是,Per-Job 模式下每次提交的作业都是一个独立的应用程序,即每个任务只分配一次资源,适用于生产环境中的任务提交,可以更方便地监控和管理每个作业。
总的来说,Yarn-session 模式适用于需要交互式查询和开发的场景,而 Application 模式和 Per-Job 模式适用于生产环境下的批处理和流处理任务。
相关问题
开启 Hadoop 集群,在 yarn 上以 per job 模式(即 Job 分 离 模 式 , 不 采 用 Session 模 式 ) 运 行$FLINK_HOME/examples/batch/WordCount.jar, 将运行结果最后 10 行截图粘贴到答
开启Hadoop YARN集群并以Per-Job模式运行Apache Flink的例子需要几个步骤:
1. **准备环境**:
- 安装并配置Hadoop和YARN,确保它们都正常运行。
- 将Flink安装到集群上,设置好环境变量指向`$FLINK_HOME`。
2. **启动YARN**:
- 在Hadoop集群的ResourceManager上启动YARN服务,确保它监听正确的端口,并且对JobSubmissionProtocol开放。
3. **配置Flink**:
- 在Flink配置文件`flink-conf.yaml`中,配置`jobManager.rpc.address`和`jobManager.high-availability.storageDir`指向YARN的RM地址。
- 关闭session模式,启用per-job模式。可以在`high-availability`部分添加:
```
high-availability:
mode: standalone
```
4. **打包应用**:
- 打包`examples/batch/WordCount.jar`,可能需要添加`yarn-client`或`yarn-application`作为maven或gradle插件,以便于YARN管理。
5. **提交任务**:
- 使用Flink的`flink run`命令或者`yarn client`工具提交任务,类似于:
```
$ bin/flink run -c org.apache.flink.streaming.examples.WordCount WordCount.jar
```
或者在YARN客户端环境中:
```
$ bin/flink run -s yarn-cluster -j WordCount.jar
```
6. **查看结果**:
- 任务完成后,从Hadoop的JobHistory服务器或者YARN的任务历史日志中查找WordCount作业的结果。
7. **截取结果**:
- 一旦看到结果,你可以选择手动复制最终10行内容或者利用某些脚本语言(如bash或Python)抓取并保存前10行到图片。
请注意,这里提供的是一般的指导步骤,实际操作可能会因特定环境而略有差异。完成任务后,你应能看到类似这样的输出:
```
...
[RESULT] Top 10 most frequent words:
word1 count1
word2 count2
...
```
然后截取这部分内容作为答案的一部分。
flink on yarn单节点
在Flink on Yarn的单节点模式下,可以使用以下命令来提交作业:
1. 进入到Flink的安装路径下。
2. 在命令行中使用以下命令提交作业:
```
bin/flink run -yd -m yarn-cluster -c <jar包内类名> -yDyarn.provided.lib.dirs="<hdfs:///flink依赖位置>" <jar包位置>
```
这个命令会将作业提交到Yarn集群上,并在集群上启动一个Flink任务。\[1\]
另外,如果你想在单节点模式下以detached方式运行作业,可以使用以下命令:
```
./bin/flink run -t yarn-per-job --detached -Dclassloader.check-leaked-classloader=false <jar包位置>
```
这个命令会在Yarn上以per-job cluster模式启动一个Flink任务,并且作业会在后台运行。\[2\]
如果你想停止当前启动的Yarn Session,可以执行以下命令:
```
cat /tmp/.yarn-properties-root | grep applicationID | cut -d'=' -f 2 | xargs -I {} yarn application -kill {}
```
这个命令会停止当前正在运行的Yarn Session。\[3\]
#### 引用[.reference_title]
- *1* [Flink 搭建 单点、HA、ON YARN与提交作业方法](https://blog.csdn.net/Mogeko1/article/details/128662565)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^control_2,239^v3^insert_chatgpt"}} ] [.reference_item]
- *2* *3* [flink on yarn](https://blog.csdn.net/az9996/article/details/128313011)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^control_2,239^v3^insert_chatgpt"}} ] [.reference_item]
[ .reference_list ]
阅读全文