flink on yarn和flink on k8s的区别
时间: 2023-10-05 15:10:40 浏览: 65
Flink on YARN和Flink on Kubernetes(K8s)都是Flink在集群环境中的部署方式,它们的主要区别在于它们运行的容器环境不同。
Flink on YARN是指Flink在Hadoop YARN资源管理器上运行,使用YARN的资源管理和调度功能,可以在Hadoop集群中与其他Hadoop工具一起使用。YARN是Hadoop生态系统中的一部分,旨在管理Hadoop集群中的资源。Flink on YARN可以利用Hadoop集群的资源,但需要进行调整和配置。
Flink on Kubernetes是指Flink在Kubernetes容器编排平台上运行。Kubernetes是一种可扩展的开源容器编排平台,用于管理容器化应用程序的部署和自动化操作。Flink on Kubernetes可以运行在云上或本地基础设施上,可以更加灵活地管理资源,而且能够更好地隔离应用程序。
综上所述,Flink on YARN适用于需要与Hadoop生态系统集成的场景,而Flink on Kubernetes则更适合在云上或本地基础设施上部署Flink应用程序。
相关问题
cdh flink on yarn
根据引用中的信息,CDH5.16.2上配置Flink on yarn可以通过flink官网提供的集成方式和HA配置方式来进行。具体的配置方式可以参考官方文档来完成。此外,根据引用中的信息,使用flink的web ui可以重新访问flink on yarn ha测试完成后。如果要提交任务到CDH flink on yarn上,可以使用引用中提供的命令:`./bin/flink run -m yarn-cluster -yid application_1589377449274_0645 ./examples/batch/WordCount.jar`。这个命令会将任务提交到指定的yarn-session上。<span class="em">1</span><span class="em">2</span><span class="em">3</span>
#### 引用[.reference_title]
- *1* *2* *3* [Flink on Yarn - CDH5](https://blog.csdn.net/baidu_31618421/article/details/106866551)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v92^chatsearchT3_1"}}] [.reference_item style="max-width: 100%"]
[ .reference_list ]
flink on yarn配置
Flink on YARN的配置包括以下几个步骤:
1. 安装JDK
2. 安装Zookeeper
3. 安装Hadoop
4. 下载并安装Flink
5. 提交Flink作业到YARN集群
请按照以下步骤配置Flink on YARN:
1. 首先,安装JDK并确保已正确设置JAVA_HOME环境变量。
2. 接下来,安装Zookeeper。您可以根据您的需求从Zookeeper的官方网站上下载并安装最新版本的Zookeeper。
3. 安装Hadoop。您可以根据您的需求从Hadoop的官方网站上下载并安装最新版本的Hadoop。
4. 下载Flink,并将其解压缩到您选择的目录中。
5. 在Flink的安装目录中,使用以下命令提交Flink作业到YARN集群:
```shell
./bin/flink run -m yarn-cluster -p <parallelism> -yjm <jobmanager_memory> -ytm <taskmanager_memory> <jar_file> <arguments>
```
请替换以下参数:
- `<parallelism>`:作业并行度(即任务数量)
- `<jobmanager_memory>`:JobManager的内存大小(例如,1024m表示1GB)
- `<taskmanager_memory>`:TaskManager的内存大小(例如,4096m表示4GB)
- `<jar_file>`:您要提交的Flink作业的jar文件路径
- `<arguments>`:您要传递给作业的其他参数(如果有的话)
以上是Flink on YARN的配置步骤。请按照上述步骤进行配置,并根据您的需求进行相应的参数调整。