"Flink流批一体的技术架构介绍及挑战应对"
版权申诉
5星 · 超过95%的资源 64 浏览量
更新于2024-02-25
收藏 1.13MB PPTX 举报
Flink流批一体的技术架构介绍是一个关于Flink流批一体架构的技术创新和未来变革的介绍。该架构的介绍包括对需求和挑战的分析,Flink架构的简介,流批一体的入口使用SQL,以及大规模实践中在线机器学习平台的应用。同时还包括了对主流架构Lambda和Kappa的对比,以及执行引擎同时具备多种能力的特点。该架构的目标是实现低延迟的流计算和高吞吐、高稳定性的批处理,并且在用户和开发人员角度进行统一,实现编程接口和架构的统一,以及代码的复用。在Flink架构简介中,介绍了其存储、部署和运行时的特点,包括支持的存储方式和部署方式。
流批一体系统的需求和挑战是指在实时流处理和批处理之间实现统一的系统架构。这其中包括了对于数据存储和处理的挑战,以及对于架构统一和编程接口统一的需求。Flink架构的简介则是对Flink的存储、部署和运行时特点的介绍,包括支持的存储方式和部署方式。流批一体的入口使用SQL是指在Flink中使用SQL语言进行流处理和批处理的统一编程接口。大规模实践中在线机器学习平台的应用则是指在Flink架构中,将机器学习模型应用到流处理和批处理中。
在总结和展望部分中,介绍了主流架构Lambda和Kappa,并对其进行了对比分析。同时还介绍了执行引擎同时具备多种能力的特点,包括低延迟的流计算和高吞吐、高稳定性的批处理。在用户角度和开发人员角度上也做了统一的介绍,实现了编程接口和架构的统一,以及代码的复用。这样的架构可以使得在实时流处理和批处理之间实现统一的系统架构,满足了实时流处理和批处理的需求和挑战。
总的来说,Flink流批一体的技术架构介绍是对Flink架构的介绍,包括了对需求和挑战的分析,Flink架构的简介,流批一体的入口使用SQL,以及大规模实践中在线机器学习平台的应用。同时还包括了对主流架构Lambda和Kappa的对比,以及执行引擎同时具备多种能力的特点。该架构的目标是实现低延迟的流计算和高吞吐、高稳定性的批处理,并且在用户和开发人员角度进行统一,实现编程接口和架构的统一,以及代码的复用。这样的架构可以使得在实时流处理和批处理之间实现统一的系统架构,满足了实时流处理和批处理的需求和挑战。
2019-10-24 上传
2021-10-14 上传
2021-10-14 上传
2021-10-15 上传
2021-10-19 上传
2024-01-03 上传
2021-10-14 上传
科技互联人生
- 粉丝: 8511
- 资源: 19万+
最新资源
- 前端协作项目:发布猜图游戏功能与待修复事项
- Spring框架REST服务开发实践指南
- ALU课设实现基础与高级运算功能
- 深入了解STK:C++音频信号处理综合工具套件
- 华中科技大学电信学院软件无线电实验资料汇总
- CGSN数据解析与集成验证工具集:Python和Shell脚本
- Java实现的远程视频会议系统开发教程
- Change-OEM: 用Java修改Windows OEM信息与Logo
- cmnd:文本到远程API的桥接平台开发
- 解决BIOS刷写错误28:PRR.exe的应用与效果
- 深度学习对抗攻击库:adversarial_robustness_toolbox 1.10.0
- Win7系统CP2102驱动下载与安装指南
- 深入理解Java中的函数式编程技巧
- GY-906 MLX90614ESF传感器模块温度采集应用资料
- Adversarial Robustness Toolbox 1.15.1 工具包安装教程
- GNU Radio的供应商中立SDR开发包:gr-sdr介绍