Spark2.0性能提升与新特性解析
需积分: 41 16 浏览量
更新于2024-07-18
收藏 259KB DOCX 举报
Spark2.0是Apache Spark的重大更新,带来了许多新特性和性能提升,旨在增强其处理大数据分析的能力。
SparkCore与SparkSQL是此次升级的重点。在API方面,DataFrame和Dataset被统一,DataFrame现在是Dataset[Row]的类型别名,这简化了API的使用并提高了效率。SparkSession成为新的上下文入口,统一了SQLContext和HiveContext,提供了一种新的流式配置API。Accumulator功能得到增强,提供了更便捷的API、WebUI支持,并提升了性能。Dataset的聚合API也有所增强,使得数据处理更加高效。
在SQL支持上,Spark2.0遵循SQL2003标准,实现了对ANSI-SQL和HiveQL的SQL解析器。DDL命令的支持使创建和管理表变得更加方便,同时支持子查询,包括IN/NOT IN、EXISTS/NOT EXISTS等操作。新特性还包括对CSV文件的原生支持,堆外内存管理以优化缓存,以及Hive风格的bucket表。此外,还引入了近似概要统计功能,如近似分位数、布隆过滤器和最小略图。
性能提升是Spark2.0的另一个关键亮点。通过全流程代码生成(Whole-Stage Code Generation)技术,Spark SQL和Dataset的执行速度可提高2到10倍。Vectorization技术提升了Parquet文件的扫描吞吐量,ORC文件的读写性能也得到了显著优化。Catalyst查询优化器的性能增强,使得查询计划更加高效。窗口函数通过原生实现方式得到加速,而且系统会自动合并某些数据源的文件,进一步提高了处理效率。
在机器学习(SparkMLlib)领域,Spark2.0倾向于基于Dataset API实现,而基于RDD的API则逐渐过渡到维护阶段。DataFrame API现在支持保存和加载模型及Pipeline。更多算法如二分KMeans、高斯混合、MaxAbsScaler等被添加到基于DataFrame的API中。SparkR和PySpark也增加了对更多MLlib算法的支持,如LDA、高斯混合、泛化线性回归等。向量和矩阵的序列化机制也得到了优化,提高了性能。
在SparkStreaming部分,Spark2.0引入了Structured Streaming的测试版,后续版本中正式发布。Structured Streaming基于Spark SQL和Catalyst引擎,允许用户使用DataFrame进行流处理,使得流计算与批处理保持一致的编程模型。
Spark2.0在API一致性、SQL兼容性、性能优化、机器学习以及流处理等方面都有显著改进,为大数据处理提供了更强大、更灵活的工具。
2018-10-26 上传
2018-02-11 上传
2024-04-03 上传
2023-05-25 上传
2023-03-16 上传
2023-06-06 上传
2023-06-09 上传
2023-05-25 上传
![](https://profile-avatar.csdnimg.cn/4ec04466856e44758d154d1ea5d6a445_jpdcxz.jpg!1)
jpdcxz
- 粉丝: 1
- 资源: 5
最新资源
- 多模态联合稀疏表示在视频目标跟踪中的应用
- Kubernetes资源管控与Gardener开源软件实践解析
- MPI集群监控与负载平衡策略
- 自动化PHP安全漏洞检测:静态代码分析与数据流方法
- 青苔数据CEO程永:技术生态与阿里云开放创新
- 制造业转型: HyperX引领企业上云策略
- 赵维五分享:航空工业电子采购上云实战与运维策略
- 单片机控制的LED点阵显示屏设计及其实现
- 驻云科技李俊涛:AI驱动的云上服务新趋势与挑战
- 6LoWPAN物联网边界路由器:设计与实现
- 猩便利工程师仲小玉:Terraform云资源管理最佳实践与团队协作
- 类差分度改进的互信息特征选择提升文本分类性能
- VERITAS与阿里云合作的混合云转型与数据保护方案
- 云制造中的生产线仿真模型设计与虚拟化研究
- 汪洋在PostgresChina2018分享:高可用 PostgreSQL 工具与架构设计
- 2018 PostgresChina大会:阿里云时空引擎Ganos在PostgreSQL中的创新应用与多模型存储