Savepoint 是依据 Flink checkpointing 机制所创建的流作业执行状态的一致镜像; Checkpoint 的主要目的是为意外失败的作业提供恢复机制(如 tm/jm 进程挂了)。 Checkpoint 的生命周期由 Flink 管理,即 Flink 创建,管理和删除 Checkpoint - 无需用户交 互。 Savepoint 由用户创建,拥有和删除。 他们的用例是计划的,手动备份和恢复。 Savepoint 应用场景,升级 Flink 版本,调整用户逻辑,改变并行度,以及进行红蓝部署等。 Savepoint 更多地关注可移植性。。。怎么记。。

时间: 2023-06-25 13:04:56 浏览: 163
可以这样记忆:Checkpoint 是 Flink 内部自动创建的用于恢复故障的状态备份,Savepoint 则是由用户手动创建的用于备份和迁移作业状态的镜像。Checkpoint 生命周期由 Flink 管理,而 Savepoint 由用户掌控。Savepoint 更注重作业的可移植性,适用于版本升级、逻辑调整、并行度变更等场景。
相关问题

SavePoint Savepoint 作为实时任务的全局镜像,其在底层使用的代码和Checkpoint的代码是一样的 Savepoint 是依据 Flink checkpointing 机制所创建的流作业执行状态的一致镜像; Checkpoint 的主要目的是为意外失败的作业提供恢复机制(如 tm/jm 进程挂了)。 Checkpoint 的生命周期由 Flink 管理,即 Flink 创建,管理和删除 Checkpoint - 无需用户交 互。 Savepoint 由用户创建,拥有和删除。 他们的用例是计划的,手动备份和恢复。 Savepoint 应用场景,升级 Flink 版本,调整用户逻辑,改变并行度,以及进行红蓝部署等。 Savepoint 更多地关注可移植性 Savepoint触发方式触发方式目前有三种 使用 flink savepoint 命令触发 Savepoint,其是在程序运行期间触发 savepoint。 使用 flink cancel -s 命令,取消作业时,并触发 Savepoint。 使用 Rest API 触发 Savepoint,格式为:*/jobs/:jobid /savepoints* Savepoint注意点 由于 Savepoint 是程序的全局状态,对于某些状态很大的实时任务,当我们触发 Savepoint,可能会对运行着的实时任务产生影响,个人建议如果对于状态过大的实时任务, 触发 Savepoint 的时间,不要太过频繁。根据状态的大小,适当的设置触发时间。 当我们从 Savepoint 进行恢复时,需要检查这次 Savepoint 目录文件是否可用。可能存在你 上次触发 Savepoint 没有成功,导致 HDFS 目录上面 Savepoint 文件不可用或者缺少数据文 件等,这种情况下,如果在指定损坏的 Savepoint 的状态目录进行状态恢复,任务会启动不 起来。。。。怎么记忆。。。

可以把 Savepoint 理解为 Flink 程序的全局状态镜像,它使用的底层代码和 Checkpoint 是一样的。Checkpoint 主要是为了提供作业意外失败时的恢复机制,而 Savepoint 则更多地关注程序的可移植性,可以用于升级 Flink 版本、调整用户逻辑、改变并行度、进行红蓝部署等场景。Savepoint 的触发方式有三种,可以使用 flink savepoint 命令、flink cancel -s 命令或 Rest API 进行触发。但是需要注意,对于状态较大的实时任务,过于频繁地触发 Savepoint 可能会影响任务的正常运行,建议根据状态大小适当设置触发时间。同时,在从 Savepoint 进行恢复时,需要检查 Savepoint 目录文件是否可用,避免因缺少数据文件等原因导致任务无法启动。

flink savepoint和checkpoint

Flink的savepoint和checkpoint都是用于容错的机制。 Checkpoint是在Flink运行过程中周期性地保存应用程序的状态,以便在发生故障时可以恢复应用程序的状态。Checkpoint可以在本地磁盘或远程存储中保存,以确保数据的安全性和可靠性。 Savepoint是一种手动触发的checkpoint,它可以在应用程序运行时手动创建。Savepoint可以用于在应用程序升级或更改时,保存当前应用程序的状态,以便在升级或更改后可以恢复应用程序的状态。 总之,Flink的savepoint和checkpoint都是非常重要的容错机制,可以确保应用程序的可靠性和稳定性。
阅读全文

相关推荐

最新推荐

recommend-type

Kotlin开发的播放器(默认支持MediaPlayer播放器,可扩展VLC播放器、IJK播放器、EXO播放器、阿里云播放器)

基于Kotlin开发的播放器,默认支持MediaPlayer播放器,可扩展VLC播放器、IJK播放器、EXO播放器、阿里云播放器、以及任何使用TextureView的播放器, 开箱即用,欢迎提 issue 和 pull request
recommend-type

【创新无忧】基于斑马优化算法ZOA优化极限学习机ELM实现乳腺肿瘤诊断附matlab代码.rar

1.版本:matlab2014/2019a/2024a 2.附赠案例数据可直接运行matlab程序。 3.代码特点:参数化编程、参数可方便更改、代码编程思路清晰、注释明细。 4.适用对象:计算机,电子信息工程、数学等专业的大学生课程设计、期末大作业和毕业设计。 替换数据可以直接使用,注释清楚,适合新手
recommend-type

前端开发利器:autils前端工具库特性与使用

资源摘要信息:"autils:很棒的前端utils库" autils是一个专门为前端开发者设计的实用工具类库。它小巧而功能强大,由TypeScript编写而成,确保了良好的类型友好性。这个库的起源是日常项目中的积累,因此它的实用性得到了验证和保障。此外,autils还通过Jest进行了严格的测试,保证了代码的稳定性和可靠性。它还支持按需加载,这意味着开发者可以根据需要导入特定的模块,以优化项目的体积和加载速度。 知识点详细说明: 1. 前端工具类库的重要性: 在前端开发中,工具类库提供了许多常用的函数和类,帮助开发者处理常见的编程任务。这类库通常是为了提高代码复用性、降低开发难度以及加快开发速度而设计的。 2. TypeScript的优势: TypeScript是JavaScript的一个超集,它在JavaScript的基础上添加了类型系统和对ES6+的支持。使用TypeScript编写代码可以提高代码的可读性和维护性,并且可以提前发现错误,减少运行时错误的发生。 3. 实用性与日常项目的关联: 一个工具库的实用性强不强,往往与其是否源自实际项目经验有关。从实际项目中抽象出来的工具类库往往更加贴合实际开发需求,因为它们解决的是开发者在实际工作中经常遇到的问题。 4. 严格的测试与代码质量: Jest是一个流行的JavaScript测试框架,它用于测试JavaScript代码。通过Jest对autils进行严格的测试,不仅可以验证功能的正确性,还可以保证库的稳定性和可靠性,这对于用户而言是非常重要的。 5. 按需加载与项目优化: 按需加载是现代前端开发中提高性能的重要手段之一。通过只加载用户实际需要的代码,可以显著减少页面加载时间并改善用户体验。babel-plugin-import是一个可以实现按需导入ES6模块的插件,配合autils使用可以使得项目的体积更小,加载更快。 6. 安装和使用: autils可以通过npm或yarn进行安装。npm是Node.js的包管理器,yarn是一个快速、可靠、安全的依赖管理工具。推荐使用yarn进行安装是因为它在处理依赖方面更为高效。安装完成后,开发者可以在项目中引入并使用autils提供的各种工具函数。 7. 工具类和工具函数: autils包含有多个工具类和工具函数,这些工具类和函数可以帮助开发者解决包括但不限于数据转换、权限验证以及浮点数精度问题等前端开发中的常见问题。例如,工具类可能提供了中文阿拉伯数字和中文数字互转的功能,这对于需要支持中文数字显示的前端应用尤为重要。 8. 前端开发的其它知识点: - 使用TypeScript可以利用其提供的强类型检查机制,减少运行时错误。 - 实际项目中积累的工具库往往更加实用,因为它解决了实际问题。 - 通过单元测试来保证工具库的稳定性和可靠性。 - 按需加载和代码分割可以帮助减小应用体积,加快首屏加载速度。 - npm和yarn的使用,以及如何在项目中正确安装和配置依赖。 通过上述知识点的介绍,我们可以清晰地了解到autils这个前端工具类库的特点、优势以及如何在实际项目中应用它来解决开发中遇到的常见问题。这个库可以极大地提高前端开发的效率,并优化最终产品的性能。
recommend-type

管理建模和仿真的文件

管理Boualem Benatallah引用此版本:布阿利姆·贝纳塔拉。管理建模和仿真。约瑟夫-傅立叶大学-格勒诺布尔第一大学,1996年。法语。NNT:电话:00345357HAL ID:电话:00345357https://theses.hal.science/tel-003453572008年12月9日提交HAL是一个多学科的开放存取档案馆,用于存放和传播科学研究论文,无论它们是否被公开。论文可以来自法国或国外的教学和研究机构,也可以来自公共或私人研究中心。L’archive ouverte pluridisciplinaire
recommend-type

电力系统自动化潮流分析:PSD-BPA与自动化系统的无缝集成

![PSD-BPA潮流分析](https://media.geeksforgeeks.org/wp-content/uploads/20230214000949/Brownian-Movement.png) # 摘要 随着电力系统技术的快速发展,电力系统自动化潮流分析在提高电网运行效率和可靠性方面扮演着重要角色。本文综述了PSD-BPA软件的基础理论及其在电力系统自动化中的应用,探讨了自动化系统在电力系统中的关键作用,以及PSD-BPA与自动化系统集成的技术要点。通过案例分析,本文展示了自动化系统在潮流分析中的应用,并对集成技术和未来发展趋势进行了深入的讨论。文章最终提出了未来电力系统自动化
recommend-type

android 获取本地mac地址

在Android应用程序中获取设备的本地MAC地址通常需要权限,并且不是直接暴露给应用供开发者使用的API。这是因为出于安全考虑,MAC地址被视为敏感信息,不应轻易提供给所有应用。 但是,如果你的应用获得了`ACCESS_WIFI_STATE`和`ACCESS_FINE_LOCATION`这两个权限(在Android 6.0 (API level 23)及以后版本,你需要单独申请`ACCESS_COARSE_LOCATION`权限),你可以通过WiFiInfo对象间接获取到MAC地址,因为这个对象包含了与Wi-Fi相关的网络信息,包括MAC地址。以下是大致步骤: ```java impor
recommend-type

小米手机抢购脚本教程与源码分享

资源摘要信息:"抢购小米手机脚本介绍" 知识点一:小米手机 小米手机是由小米科技有限责任公司生产的一款智能手机,以其高性价比著称,拥有众多忠实的用户群体。在新品发售时,由于用户抢购热情高涨,时常会出现供不应求的情况,因此,抢购脚本应运而生。 知识点二:抢购脚本 抢购脚本是一种自动化脚本,旨在帮助用户在商品开售瞬间自动完成一系列快速点击和操作,以提高抢购成功的几率。此脚本基于Puppeteer.js实现,Puppeteer是一个Node库,它提供了一套高级API来通过DevTools协议控制Chrome或Chromium。使用该脚本可以让用户更快地操作浏览器进行抢购。 知识点三:Puppeteer.js Puppeteer.js是Node.js的一个库,提供了一系列API,可以用来模拟自动化控制Chrome或Chromium浏览器的行为。Puppeteer可以用于页面截图、表单自动提交、页面爬取、PDF生成等多种场景。由于其强大的功能,Puppeteer成为开发抢购脚本的热门选择之一。 知识点四:脚本安装与使用 此抢购脚本的使用方法很简单。首先需要在本地环境中通过命令行工具安装必要的依赖,通常使用yarn命令进行包管理。安装完成后,即可通过node命令运行buy.js脚本文件来启动抢购流程。 知识点五:抢购规则的优化 脚本中定义了一个购买规则数组,这个数组定义了抢购的优先级。数组中的对象代表不同的购买配置,每个对象包含GB和color属性。GB属性中的type和index分别表示小米手机内存和存储的组合类型,以及在选购页面上的具体选项位置。color属性则代表颜色的选择。根据这个规则数组,脚本会按照配置好的顺序进行抢购尝试。 知识点六:命令行工具Yarn Yarn是一个快速、可靠和安全的依赖管理工具。它与npm类似,是一种包管理器,允许用户将JavaScript代码模块打包到应用程序中。Yarn在处理依赖安装时更加快速和高效,并提供了一些npm没有的功能,比如离线模式和更好的锁文件控制。 知识点七:Node.js Node.js是一个基于Chrome V8引擎的JavaScript运行环境。它使用事件驱动、非阻塞I/O模型,使其轻量又高效,非常适合在分布式设备上运行数据密集型的实时应用程序。Node.js在服务器端编程领域得到了广泛的应用,可以用于开发后端API服务、网络应用、微服务等。 知识点八:脚本的文件结构 根据提供的文件名称列表,这个脚本项目的主文件名为"buy-xiaomi-main"。通常,这个主文件会包含执行脚本逻辑的主要代码,例如页面导航、事件监听、输入操作等。其他可能会有的文件包括配置文件、依赖文件、日志文件等,以保持项目的结构清晰和模块化。 总结而言,这个抢购小米手机的脚本利用了Puppeteer.js强大的自动化能力,通过Node.js环境进行运行。脚本详细定义了抢购的优先级规则,允许用户通过简单的命令行操作,实现快速自动化的抢购过程。而Yarn则帮助用户更高效地安装和管理项目依赖。这为需要参与小米手机抢购的用户提供了一个技术性的解决方案。
recommend-type

"互动学习:行动中的多样性与论文攻读经历"

多样性她- 事实上SCI NCES你的时间表ECOLEDO C Tora SC和NCESPOUR l’Ingén学习互动,互动学习以行动为中心的强化学习学会互动,互动学习,以行动为中心的强化学习计算机科学博士论文于2021年9月28日在Villeneuve d'Asq公开支持马修·瑟林评审团主席法布里斯·勒菲弗尔阿维尼翁大学教授论文指导奥利维尔·皮耶昆谷歌研究教授:智囊团论文联合主任菲利普·普雷教授,大学。里尔/CRISTAL/因里亚报告员奥利维耶·西格德索邦大学报告员卢多维奇·德诺耶教授,Facebook /索邦大学审查员越南圣迈IMT Atlantic高级讲师邀请弗洛里安·斯特鲁布博士,Deepmind对于那些及时看到自己错误的人...3谢谢你首先,我要感谢我的两位博士生导师Olivier和Philippe。奥利维尔,"站在巨人的肩膀上"这句话对你来说完全有意义了。从科学上讲,你知道在这篇论文的(许多)错误中,你是我可以依
recommend-type

电力系统故障与防御:PSD-BPA潮流分析的综合应用

![电力系统故障与防御:PSD-BPA潮流分析的综合应用](https://img.tukuppt.com/ad_preview/00/81/52/60dad6c25097e.jpg!/fw/980) # 摘要 电力系统故障分析是确保电网稳定运行的关键环节。本文首先介绍了电力系统故障分析的基础知识,随后深入探讨了PSD-BPA潮流分析工具的功能及其理论基础,涵盖直流和交流潮流模型、牛顿-拉夫森法和高斯-赛德尔法等基本潮流计算方法,以及潮流分析中敏感度分析的原理和应用。此外,本文分析了PSD-BPA在系统故障模拟、故障诊断评估以及防御策略制定与优化方面的实践应用。进一步地,探讨了系统稳定性分析
recommend-type

1:将所有的葡萄酒品种按照产区分类,看看哪个葡萄酒品类多:取前十名(条形图展示) 2:计算加利福尼亚葡萄酒占总数的百分比(精确到小数点后一位,饼状图展示,title = 加利福尼亚)

要完成这两个任务,你需要有包含葡萄酒品种、产区等信息的数据集。假设你已经有了一个名为`wines`的Pandas DataFrame,其中有一个列是`region`表示产区,你可以使用以下步骤: 1. **按产区排序并选择前十个最常见的产区** ```python top_regions = wines['region'].value_counts().head(10) ``` 这会返回一个Series,包含了前十个最常见产区及其对应的葡萄酒数量。 2. **创建条形图展示** ```python import matplotlib.pyplot as plt plt.figure(fi