动态调整:Spark应用实时修改实践
在2017年的Spark Summit大会上,Elena Lazovik TNO(荷兰)分享了一篇关于《动态运行时修改Spark应用》的演讲,探讨了如何在Spark应用程序中实现功能的动态、实时修改,特别是在无需停止整个应用的情况下进行。Spark作为一种流行的分布式计算框架,其默认的应用程序设计通常固定且静态,但在某些场景下,如实时监控地震、水和煤气管道,以及合作自动化驾驶项目中,可能需要对应用的功能进行即时调整,以适应不断变化的需求。 默认的Spark应用程序结构通常包含一个驱动程序进程启动服务器,与数据库连接,并通过一系列函数步骤,如map、reduce、filter和reduceByKey等执行数据处理。然而,演讲者提出了一个挑战:如何在运行中的Spark应用程序中,根据需求实时更改函数或参数,或者切换数据源,而不会中断整个应用的执行流程。 例如,演讲者可能展示了这样一个场景:在实时地球物理监测系统中,350栋建筑在荷兰格罗宁根被实时监控,同时水和天然气管道的状况也需持续跟踪。在这种情况下,如果遇到新的数据源或者需要改进的分析算法,传统的停机维护方式可能会导致服务中断,因此动态修改功能变得至关重要。 为了实现这种动态性,研究者探讨了如何在不阻断分析worker进程的情况下,对Spark应用中的这些核心操作进行增量式更新。这可能涉及到设计一种机制,允许在运行时替换或扩展函数,甚至可能是通过插件或者元编程技术,使得代码可以在不影响其他worker的同时进行微调。 此外,演讲还可能讨论了与其他技术的协作,如与鲁汶大学(RuG)的合作,共同开发适应动态需求的工具和技术。例如,可能利用了容器化技术如Docker来快速部署和隔离修改后的组件,或者利用了更高级的编程模型如函数式编程,以便于编写可组合且易于替换的部分。 Elena Lazovik的演讲聚焦于Spark应用程序的灵活性和适应性,旨在提升在云计算环境下,应对复杂、变化多端的业务场景时,对Spark应用进行动态修改的能力。这对于那些需要快速响应市场变化、优化工作流并确保低延迟的现代IT组织来说,具有很高的实用价值。
![](https://csdnimg.cn/release/download_crawler_static/11634301/bg6.jpg)
![](https://csdnimg.cn/release/download_crawler_static/11634301/bg7.jpg)
剩余30页未读,继续阅读
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![rar](https://img-home.csdnimg.cn/images/20210720083606.png)
![pdf](https://img-home.csdnimg.cn/images/20210720083512.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![](https://profile-avatar.csdnimg.cn/default.jpg!1)
- 粉丝: 695
- 资源: 4万+
我的内容管理 展开
我的资源 快来上传第一个资源
我的收益
登录查看自己的收益我的积分 登录查看自己的积分
我的C币 登录后查看C币余额
我的收藏
我的下载
下载帮助
![](https://csdnimg.cn/release/wenkucmsfe/public/img/voice.245cc511.png)
最新资源
- 多模态联合稀疏表示在视频目标跟踪中的应用
- Kubernetes资源管控与Gardener开源软件实践解析
- MPI集群监控与负载平衡策略
- 自动化PHP安全漏洞检测:静态代码分析与数据流方法
- 青苔数据CEO程永:技术生态与阿里云开放创新
- 制造业转型: HyperX引领企业上云策略
- 赵维五分享:航空工业电子采购上云实战与运维策略
- 单片机控制的LED点阵显示屏设计及其实现
- 驻云科技李俊涛:AI驱动的云上服务新趋势与挑战
- 6LoWPAN物联网边界路由器:设计与实现
- 猩便利工程师仲小玉:Terraform云资源管理最佳实践与团队协作
- 类差分度改进的互信息特征选择提升文本分类性能
- VERITAS与阿里云合作的混合云转型与数据保护方案
- 云制造中的生产线仿真模型设计与虚拟化研究
- 汪洋在PostgresChina2018分享:高可用 PostgreSQL 工具与架构设计
- 2018 PostgresChina大会:阿里云时空引擎Ganos在PostgreSQL中的创新应用与多模型存储
![](https://img-home.csdnimg.cn/images/20220527035711.png)
![](https://img-home.csdnimg.cn/images/20220527035111.png)
![](https://csdnimg.cn/release/wenkucmsfe/public/img/green-success.6a4acb44.png)