Spark通过Lineage(血统)来记忆RDD数据集的演变过程并进行数据恢复

时间: 2024-05-23 18:14:43 浏览: 163
ZIP

Spark的灵魂:RDD和DataSet

Spark通过Lineage(血统)来记忆RDD数据集的演变过程,即每个RDD都会记录其父RDD的信息,这样就可以追溯每个RDD的来源及其转换过程。当某个RDD数据集丢失时,Spark可以通过血统信息来重建该数据集。 具体来说,当一个RDD数据集被创建时,它会记录下自己的创建方式和父RDD的信息。当该RDD被传递给一个变换操作时,Spark会创建一个新的RDD数据集,并将该RDD的创建方式和父RDD的信息添加到新的RDD中。这样就形成了一个RDD数据集的血统链。 当某个RDD数据集不可用时,Spark会根据其血统链中的信息来重建该数据集。具体来说,Spark会依次查找该RDD的父RDD,直到找到一个可用的父RDD为止。然后,Spark会根据该父RDD的信息和变换操作来重新计算该RDD数据集。 通过使用Lineage(血统)来记录RDD数据集的演变过程,Spark可以实现数据恢复,从而提高了数据的容错性和可靠性。
阅读全文

相关推荐

zip
RDD:弹性分布式数据集(ResilientDistributed Dataset),是Spark对数据的核心抽象。RDD其实是分布式的元素集合。当Spark对数据操作和转换时,会自动将RDD中的数据分发到集群,并将操作并行化执行。 Spark中的RDD是一个不可变的分布式对象集合。每个RDD都倍分为多个分区,这些分区运行在集群中的不同节点。RDD可以包含Python、Java、Scala中任意类型的对象,甚至可以包含用户自定义对象,本文主要通过Java实现相关示例。 Spark程序或shell会话工作流程 1. 从外部数据创建出输入RDD; 2. 使用诸如filter()等这样的转化操作对RDD进行转化,以定义新的RDD; 3. 告诉Spark对需要被重用的中间结果RDD执行persist()操作; 4. 使用诸如first()等这样的行动操作来触发一次并行计算,Spark会对计算进行优化后再执行。 一. 创建RDD Spark提供了两种创建RDD方式: 1. 读取外部数据集,如文件,hive数据库等; 2. 在驱动器程序中对一个集合进行并行化,如list,set等。 方法1是常用方法,其从外部存储中读取数据来创建RDD,如读取文件 方法1创建RDD 方法2其实使用较少,毕竟它需要把整个数据集先放在一台机器的内存中。实现也简单,就是把程序中一个已有集合传给SparkContext的parallelize()方法。二.RDD操作 方法2创建RDD 二. RDD操作 1. RDD支持两种操作: (1) 转化操作,RDD的转化操作是返回一个新的RDD的操作,比如map()和filter。 (2) 行动操作,RDD的行动操作则是向驱动器程序返回结果或把结果写入外部系统的操作,会触发实际的计算,比如count()和first()。 惰性求值:RDD的转化操作是惰性求值的,即在被调用行动操作之前Spark不会开始计算,相反,Spark会在内部记录下索要求执行的操作的相关信息。例如,当我们调用jsc.textFile()时,数据并没有读取进来,而是在必要时才会读取。Spark使用惰性求值,就可以把一些操作合并到一起来减少计算数据的步骤。 2. RDD的基本转化操作 函数名 目的 示例 结果 map() 将函数应用于RDD的每一元素, 将返回值构成新的RDD rdd.map(x=>x+1) {2,3,4,4} flatMap() 将函数应用于RDD的每一元素, 将返回的迭代器的所有内容构成新的RDD. 通常用于切分单词 rdd.flatMap(x=>x.to(3)) {1,2,3,2,3,3,3} filter() 返回一个由通过传给filter()的函数 的元素组成的RDD rdd.filter(x=>x!=1) {2,3,3} distinct() 去重 rdd.distinct() {1,2,3) sample(withReplacement, fraction,[seed]) 对RDD采用,以及是否替换 rdd.sample(false,0.5) 非确定的 对一个数据为{1,2,3,3}的RDD进行基本的RDD转化操作 函数名 目的 示例 结果 union() 生成一个包含两个RDD 中所有元素的RDD rdd.union(other) {1, 2, 3, 3, 4, 5} intersection() 求两个RDD 共同的元素的RDD rdd.intersection(other) {3} subtract() 移除一个RDD 中的内容(例如移除训练数据) rdd.subtract(other) {1, 2} cartesian() 与另一个RDD 的笛卡儿积 rdd.cartesian(other) {(1, 3), (1, 4), ...(3, 5)} 对数据分别为{1, 2,3}和{3, 4, 5}的RDD进行针对两个RDD的转化操作 3. RDD的基本执行操作 函数名 目的 示例 结果 collect() 返回RDD 中的所有元素 rdd.collect() {1, 2, 3, 3} count() RDD 中的元素个数 rdd.count() 4 countByValue() 各元素在RDD 中出现的次数 rdd.countByValue() {(1, 1),(2, 1),(3, 2)} take(num) 从RDD 中返回num 个元素 rdd.take(2) {1, 2} top(num) 从RDD 中返回最前面的num个元素 rdd.top(2) {3, 3} takeOrdered(num) (ordering) 从RDD 中按照提供的顺序返回最前面的num 个元素 rdd.takeOrdered(2)(myOrdering) {3, 3} takeSample(withReplacement, num, [seed]) 从RDD 中返回任意一些元素 rdd.takeSample(false, 1) 非确定的 reduce(func) 并行整合RDD 中所有数据(例如sum) rdd.reduce((x, y) => x + y) 9 fold(zero)(func) 和reduce() 一样, 但是需要提供初始值 注意:不重复元素加初始值,重复元素只加一个 rdd.fold(0)((x, y) => x + y) 9 aggregate(zeroValue) (seqOp, combOp) 和reduce() 相似, 但是通常返回不同类型的函数 注意:不重复元素加初始值,重复元素只加一个 rdd.aggregate((0, 0))((x, y) => (x._1 + y, x._2 + 1),(x, y) => (x._1 + y._1, x._2 + y._2)) (9,4) foreach(func) 对RDD 中的每个元素使用给定的函数 rdd.foreach(func) 无 对一个数据为{1, 2,3, 3}的RDD进行基本的RDD行动操作 4. 标准Java函数接口 在Java中,函数需要作为实现了Spark的org.apache,spark.api.java.function包中的任一函数接口的对象传递。 函数名 实现的方法 用途 Function<T, R> R call(T) 接收一个输入值并返回一个输出值,用于类似map() 和filter() 等操作中 Function2<T1, T2, R> R call(T1, T2) 接收两个输入值并返回一个输出值,用于类似aggregate()和fold() 等操作中 FlatMapFunction<T, R> Iterable<R> call(T) 接收一个输入值并返回任意个输出,用于类似flatMap()这样的操作中 标准Java函数接口 5. Java中针对专门类型的函数接口 函数名 等价函数 用途 DoubleFlatMapFunction<T> Function<T, Iterable<Double>> 用于flatMapToDouble,以生成DoubleRDD DoubleFunction<T> Function<T, Double> 用于mapToDouble,以生成DoubleRDD PairFlatMapFunction<T, K, V> Function<T, Iterable<Tuple2<K, V>>> 用于flatMapToPair,以生成PairRDD<K, V> PairFunction<T, K, V> Function<T, Tuple2<K, V>> 用于mapToPair, 以生成PairRDD<K, V> Java中针对专门类型的函数接口 三. 示例 本节将通过示例的方式验证第二节中相关的转化操作和行动操作。 转化和行动计算结果 代码地址: 参考文献: 王道远 《Spark 快速大数据分析》

最新推荐

recommend-type

伺服驱动器调试雷赛摆轮参数设置.docx

伺服驱动器调试雷赛摆轮参数设置.docx 伺服驱动器调试软件设置原点及定位值: 1、 调试需要1根雷赛调试电缆以及1根USB转RS232串口线; 2、 打开雷赛只能高压伺服调试软件,选择USB端口号,点连接,如下图所示:
recommend-type

海风小店,商城,微信小开源程序商城管理后台,后台管理,VUE.zip

不用 Electron,直接web的,用这个链接https://github.com/iamdarcy/hioshop-admin-web海风小店,商城(后台管理端开源VUE)基于开源项目NideShop重建,开源了一些功能的同时完善了一些功能,并重新设计了UI数据测试来自上述开源项目服务端api基于Node.js+ThinkJS+MySQL后台管理基于VUE.js+element-ui基于海风小店开发上线的小程序视频教程https://www.bilibili.com/video/av89568075该项目综合微信小程序https://github.com/iamdarcy/hioshop-miniprogram服务端https://github.com/iamdarcy/hioshop-server网页版管理后台https://github.com/iamdarcy/hioshop-管理网线上演示https://demo.qilelab.com/hioshop用户名qilelab.com密码qilelab.com 阿里云主机低至2折立即去
recommend-type

Python中快速友好的MessagePack序列化库msgspec

资源摘要信息:"msgspec是一个针对Python语言的高效且用户友好的MessagePack序列化库。MessagePack是一种快速的二进制序列化格式,它旨在将结构化数据序列化成二进制格式,这样可以比JSON等文本格式更快且更小。msgspec库充分利用了Python的类型提示(type hints),它支持直接从Python类定义中生成序列化和反序列化的模式。对于开发者来说,这意味着使用msgspec时,可以减少手动编码序列化逻辑的工作量,同时保持代码的清晰和易于维护。 msgspec支持Python 3.8及以上版本,能够处理Python原生类型(如int、float、str和bool)以及更复杂的数据结构,如字典、列表、元组和用户定义的类。它还能处理可选字段和默认值,这在很多场景中都非常有用,尤其是当消息格式可能会随着时间发生变化时。 在msgspec中,开发者可以通过定义类来描述数据结构,并通过类继承自`msgspec.Struct`来实现。这样,类的属性就可以直接映射到消息的字段。在序列化时,对象会被转换为MessagePack格式的字节序列;在反序列化时,字节序列可以被转换回原始对象。除了基本的序列化和反序列化,msgspec还支持运行时消息验证,即可以在反序列化时检查消息是否符合预定义的模式。 msgspec的另一个重要特性是它能够处理空集合。例如,上面的例子中`User`类有一个名为`groups`的属性,它的默认值是一个空列表。这种能力意味着开发者不需要为集合中的每个字段编写额外的逻辑,以处理集合为空的情况。 msgspec的使用非常简单直观。例如,创建一个`User`对象并序列化它的代码片段显示了如何定义一个用户类,实例化该类,并将实例序列化为MessagePack格式。这种简洁性是msgspec库的一个主要优势,它减少了代码的复杂性,同时提供了高性能的序列化能力。 msgspec的设计哲学强调了性能和易用性的平衡。它利用了Python的类型提示来简化模式定义和验证的复杂性,同时提供了优化的内部实现来确保快速的序列化和反序列化过程。这种设计使得msgspec非常适合于那些需要高效、类型安全的消息处理的场景,比如网络通信、数据存储以及服务之间的轻量级消息传递。 总的来说,msgspec为Python开发者提供了一个强大的工具集,用于处理高性能的序列化和反序列化任务,特别是当涉及到复杂的对象和结构时。通过利用类型提示和用户定义的模式,msgspec能够简化代码并提高开发效率,同时通过运行时验证确保了数据的正确性。"
recommend-type

管理建模和仿真的文件

管理Boualem Benatallah引用此版本:布阿利姆·贝纳塔拉。管理建模和仿真。约瑟夫-傅立叶大学-格勒诺布尔第一大学,1996年。法语。NNT:电话:00345357HAL ID:电话:00345357https://theses.hal.science/tel-003453572008年12月9日提交HAL是一个多学科的开放存取档案馆,用于存放和传播科学研究论文,无论它们是否被公开。论文可以来自法国或国外的教学和研究机构,也可以来自公共或私人研究中心。L’archive ouverte pluridisciplinaire
recommend-type

STM32 HAL库函数手册精读:最佳实践与案例分析

![STM32 HAL库函数手册精读:最佳实践与案例分析](https://khuenguyencreator.com/wp-content/uploads/2020/07/bai11.jpg) 参考资源链接:[STM32CubeMX与STM32HAL库开发者指南](https://wenku.csdn.net/doc/6401ab9dcce7214c316e8df8?spm=1055.2635.3001.10343) # 1. STM32与HAL库概述 ## 1.1 STM32与HAL库的初识 STM32是一系列广泛使用的ARM Cortex-M微控制器,以其高性能、低功耗、丰富的外设接
recommend-type

如何利用FineReport提供的预览模式来优化报表设计,并确保最终用户获得最佳的交互体验?

针对FineReport预览模式的应用,这本《2020 FCRA报表工程师考试题库与答案详解》详细解读了不同预览模式的使用方法和场景,对于优化报表设计尤为关键。首先,设计报表时,建议利用FineReport的分页预览模式来检查报表的布局和排版是否准确,因为分页预览可以模拟报表在打印时的页面效果。其次,通过填报预览模式,可以帮助开发者验证用户交互和数据收集的准确性,这对于填报类型报表尤为重要。数据分析预览模式则适合于数据可视化报表,可以在这个模式下调整数据展示效果和交互设计,确保数据的易读性和分析的准确性。表单预览模式则更多关注于表单的逻辑和用户体验,可以用于检查表单的流程是否合理,以及数据录入
recommend-type

大学生社团管理系统设计与实现

资源摘要信息:"基于ssm+vue的大学生社团管理系统.zip" 该系统是基于Java语言开发的,使用了ssm框架和vue前端框架,主要面向大学生社团进行管理和运营,具备了丰富的功能和良好的用户体验。 首先,ssm框架是Spring、SpringMVC和MyBatis三个框架的整合,其中Spring是一个全面的企业级框架,可以处理企业的业务逻辑,实现对象的依赖注入和事务管理。SpringMVC是基于Servlet API的MVC框架,可以分离视图和模型,简化Web开发。MyBatis是一个支持定制化SQL、存储过程以及高级映射的持久层框架。 SpringBoot是一种全新的构建和部署应用程序的方式,通过使用SpringBoot,可以简化Spring应用的初始搭建以及开发过程。它使用了特定的方式来进行配置,从而使开发人员不再需要定义样板化的配置。 Vue.js是一个用于创建用户界面的渐进式JavaScript框架,它的核心库只关注视图层,易于上手,同时它的生态系统也十分丰富,提供了大量的工具和库。 系统主要功能包括社团信息管理、社团活动管理、社团成员管理、社团财务管理等。社团信息管理可以查看和编辑社团的基本信息,如社团名称、社团简介等;社团活动管理可以查看和编辑社团的活动信息,如活动时间、活动地点等;社团成员管理可以查看和编辑社团成员的信息,如成员姓名、成员角色等;社团财务管理可以查看和编辑社团的财务信息,如收入、支出等。 此外,该系统还可以通过微信小程序进行访问,微信小程序是一种不需要下载安装即可使用的应用,它实现了应用“触手可及”的梦想,用户扫一扫或者搜一下即可打开应用。同时,它也实现了应用“用完即走”的理念,用户不用关心是否安装太多应用的问题。应用将无处不在,随时可用,但又无需安装卸载。 总的来说,基于ssm+vue的大学生社团管理系统是一款功能丰富、操作简便、使用方便的社团管理工具,非常适合大学生社团的日常管理和运营。
recommend-type

"互动学习:行动中的多样性与论文攻读经历"

多样性她- 事实上SCI NCES你的时间表ECOLEDO C Tora SC和NCESPOUR l’Ingén学习互动,互动学习以行动为中心的强化学习学会互动,互动学习,以行动为中心的强化学习计算机科学博士论文于2021年9月28日在Villeneuve d'Asq公开支持马修·瑟林评审团主席法布里斯·勒菲弗尔阿维尼翁大学教授论文指导奥利维尔·皮耶昆谷歌研究教授:智囊团论文联合主任菲利普·普雷教授,大学。里尔/CRISTAL/因里亚报告员奥利维耶·西格德索邦大学报告员卢多维奇·德诺耶教授,Facebook /索邦大学审查员越南圣迈IMT Atlantic高级讲师邀请弗洛里安·斯特鲁布博士,Deepmind对于那些及时看到自己错误的人...3谢谢你首先,我要感谢我的两位博士生导师Olivier和Philippe。奥利维尔,"站在巨人的肩膀上"这句话对你来说完全有意义了。从科学上讲,你知道在这篇论文的(许多)错误中,你是我可以依
recommend-type

STM32 HAL库深度解析:新手到高手的进阶之路

![STM32 HAL库深度解析:新手到高手的进阶之路](https://img-blog.csdnimg.cn/20210526014326901.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xjemRr,size_16,color_FFFFFF,t_70) 参考资源链接:[STM32CubeMX与STM32HAL库开发者指南](https://wenku.csdn.net/doc/6401ab9dcce7214c316e8df
recommend-type

如何使用pyCUDA库在GPU上进行快速傅里叶变换(FFT)以加速线性代数运算?请提供具体的代码实现。

当你希望利用GPU的并行计算能力来加速线性代数运算,特别是快速傅里叶变换(FFT)时,pyCUDA是一个非常强大的工具。它允许开发者通过Python语言来编写CUDA代码,执行复杂的GPU计算任务。通过学习《Python与pyCUDA:GPU并行计算入门与实战》这一资料,你可以掌握如何使用pyCUDA进行GPU编程和加速计算。 参考资源链接:[Python与pyCUDA:GPU并行计算入门与实战](https://wenku.csdn.net/doc/6401ac00cce7214c316ea46b?spm=1055.2569.3001.10343) 具体到FFT的实现,你需要首先确保已经