flink on yarn 运行时架构
时间: 2023-10-01 11:12:20 浏览: 140
【Flink篇04】Flink运行时架构1
Flink on YARN运行时架构包括以下组件:
1. YARN:Apache Hadoop YARN是一个集群资源管理器,它管理着Hadoop集群中的所有资源。在Flink on YARN中,YARN被用来托管Flink应用程序,并为应用程序分配和管理资源。
2. ApplicationMaster:ApplicationMaster是Flink on YARN中的一个特殊进程,它负责启动和管理Flink集群。在启动时,ApplicationMaster会为Flink集群分配资源,并启动Flink JobManager和TaskManager。
3. JobManager:JobManager是Flink on YARN中的一个主节点,它负责管理Flink应用程序的整个生命周期。它会将应用程序提交给TaskManager执行,并负责协调所有任务的执行。
4. TaskManager:TaskManager是Flink on YARN中的工作节点,它负责执行Flink应用程序中的任务。每个TaskManager都有自己的资源,包括CPU和内存,以及可能的磁盘和网络IO资源。
5. Flink应用程序:Flink应用程序是在Flink on YARN上运行的应用程序。它由一个或多个任务组成,每个任务都可以在TaskManager上执行。Flink应用程序可以是流式处理或批处理应用程序,可以使用Flink的API或SQL进行编写。
在Flink on YARN中,ApplicationMaster和JobManager都运行在YARN的容器中,而TaskManager则运行在它们自己的容器中。Flink on YARN使用YARN的容器隔离功能,确保每个容器都有自己的资源,并且不会干扰其他容器的执行。
阅读全文