"Flink流批一体的技术架构介绍及挑战应对"

版权申诉
5星 · 超过95%的资源 2 下载量 133 浏览量 更新于2024-02-25 收藏 1.13MB PPTX 举报
Flink流批一体的技术架构介绍是一个关于Flink流批一体架构的技术创新和未来变革的介绍。该架构的介绍包括对需求和挑战的分析,Flink架构的简介,流批一体的入口使用SQL,以及大规模实践中在线机器学习平台的应用。同时还包括了对主流架构Lambda和Kappa的对比,以及执行引擎同时具备多种能力的特点。该架构的目标是实现低延迟的流计算和高吞吐、高稳定性的批处理,并且在用户和开发人员角度进行统一,实现编程接口和架构的统一,以及代码的复用。在Flink架构简介中,介绍了其存储、部署和运行时的特点,包括支持的存储方式和部署方式。 流批一体系统的需求和挑战是指在实时流处理和批处理之间实现统一的系统架构。这其中包括了对于数据存储和处理的挑战,以及对于架构统一和编程接口统一的需求。Flink架构的简介则是对Flink的存储、部署和运行时特点的介绍,包括支持的存储方式和部署方式。流批一体的入口使用SQL是指在Flink中使用SQL语言进行流处理和批处理的统一编程接口。大规模实践中在线机器学习平台的应用则是指在Flink架构中,将机器学习模型应用到流处理和批处理中。 在总结和展望部分中,介绍了主流架构Lambda和Kappa,并对其进行了对比分析。同时还介绍了执行引擎同时具备多种能力的特点,包括低延迟的流计算和高吞吐、高稳定性的批处理。在用户角度和开发人员角度上也做了统一的介绍,实现了编程接口和架构的统一,以及代码的复用。这样的架构可以使得在实时流处理和批处理之间实现统一的系统架构,满足了实时流处理和批处理的需求和挑战。 总的来说,Flink流批一体的技术架构介绍是对Flink架构的介绍,包括了对需求和挑战的分析,Flink架构的简介,流批一体的入口使用SQL,以及大规模实践中在线机器学习平台的应用。同时还包括了对主流架构Lambda和Kappa的对比,以及执行引擎同时具备多种能力的特点。该架构的目标是实现低延迟的流计算和高吞吐、高稳定性的批处理,并且在用户和开发人员角度进行统一,实现编程接口和架构的统一,以及代码的复用。这样的架构可以使得在实时流处理和批处理之间实现统一的系统架构,满足了实时流处理和批处理的需求和挑战。

Caused by: java.lang.NoClassDefFoundError: Could not initialize class org.apache.flink.table.planner.plan.rules.FlinkStreamRuleSets$ at org.apache.flink.table.planner.plan.optimize.program.FlinkStreamProgram$.buildProgram(FlinkStreamProgram.scala:56) at org.apache.flink.table.planner.plan.optimize.StreamCommonSubGraphBasedOptimizer.$anonfun$optimizeTree$1(StreamCommonSubGraphBasedOptimizer.scala:158) at scala.Option.getOrElse(Option.scala:121) at org.apache.flink.table.planner.plan.optimize.StreamCommonSubGraphBasedOptimizer.optimizeTree(StreamCommonSubGraphBasedOptimizer.scala:158) at org.apache.flink.table.planner.plan.optimize.StreamCommonSubGraphBasedOptimizer.doOptimize(StreamCommonSubGraphBasedOptimizer.scala:83) at org.apache.flink.table.planner.plan.optimize.CommonSubGraphBasedOptimizer.optimize(CommonSubGraphBasedOptimizer.scala:77) at org.apache.flink.table.planner.delegation.PlannerBase.optimize(PlannerBase.scala:287) at org.apache.flink.table.planner.delegation.PlannerBase.translate(PlannerBase.scala:160) at org.apache.flink.table.api.internal.TableEnvironmentImpl.translate(TableEnvironmentImpl.java:1329) at org.apache.flink.table.api.internal.TableEnvironmentImpl.executeInternal(TableEnvironmentImpl.java:676) at org.apache.flink.table.api.internal.StatementSetImpl.execute(StatementSetImpl.java:98) at com.dtstack.chunjun.util.SqlTaskUtil.executeSql(SqlTaskUtil.java:117) at com.dtstack.chunjun.util.SqlTaskUtil.executeSqlJob(SqlTaskUtil.java:97) at com.dtstack.chunjun.Main.main(Main.java:59) at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method) at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:62) at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43) at java.lang.reflect.Method.invoke(Method.java:498) at org.apache.flink.client.program.PackagedProgram.callMainMethod(PackagedProgram.java:366) at org.apache.flink.client.program.PackagedProgram.invokeInteractiveModeForExecution(PackagedProgram.java:235) at org.apache.flink.client.program.PackagedProgramUtils.getPipelineFromProgram(PackagedProgramUtils.java:158) ... 14 more

2023-06-09 上传