没有合适的资源?快使用搜索试试~ 我知道了~
首页Flink:大数据处理引擎的崛起与阿里巴巴Blink的优化
Flink:大数据处理引擎的崛起与阿里巴巴Blink的优化
需积分: 23 26 下载量 126 浏览量
更新于2024-07-16
3
收藏 2.21MB DOCX 举报
"本文档深入探讨了Apache Flink在大数据领域的关键地位和特性。Flink最初由Stratosphere项目发展而来,于2014年成为Apache软件基金会的顶级项目,以其高速度和灵活性著称。其名称中的'Flink'寓意快速和灵巧,象征着处理数据流时的高效性能。 Flink的主要优势在于其事件驱动型设计,这种模型允许应用程序基于事件的发生动态地处理和更新状态,典型应用如Kafka消息队列。相比之下,Spark Streaming采用微批次处理方式,适合处理有界的、离线的大量数据,而Flink则专注于实时且无界的流处理任务。 Flink的特点还包括支持实时流与批处理的无缝融合,即所谓的'流批世界观',它能够适应从离线分析到在线服务的全场景需求。2015年后,随着阿里巴巴实时计算团队对Flink的改进和升级,产生了Blink分支,该分支在保持原有优点的同时,加强了对SQL语法的支持和性能优化,特别适合阿里巴巴这样的大型企业级实时业务场景,如今,Blink在阿里的广泛应用已经超过了70%的技术部门。 总结来说,Flink是一个强大的数据处理框架,尤其在实时流处理和事件驱动应用中表现出色,其不断演进和优化使得它在大数据领域持续发挥重要作用。无论是学术研究还是商业实践,Flink都展示了其在处理海量数据和复杂计算任务中的高效性和灵活性。"
资源详情
资源推荐
![](https://csdnimg.cn/release/download_crawler_static/12039187/bgb.jpg)
def -6(27869:;
//
构造执行环境
val 6<=$#<#:
<=$#<#!getExecutionEnvironment
//
读取文件
val $:"7le:///d:/temp/hello.txt"
val 5-6>78:!5,=$
//
其中
atMap
和
Map
中 需要引入隐式转换
import #!!%!!-!createTypeInformation
//
经过
groupby
进行分组,
sum
进行聚合
val >-6(>7?8:5-!%@.!-"
"!.!#$2!-$
//
打印
>-!
A
注意: 程序支持 3和 - 两种语言,本课程中以 - 语言为主。
在引入包中,有 3 和 - 两种包时注意要使用 - 的包
3 流处理 wordcount
import #!!%!!3!$-!),##
import #!!%!-!!-!;>
<=$#<#A
object B(;
def -6(27869:;
//
从外部命令中获取参数
val ##6),##:),##!fromArgs-
val #-6:##!"host"
val #6?:##!"port"!#?
![](https://csdnimg.cn/release/download_crawler_static/12039187/bgc.jpg)
//
创建流处理环境
val 6<=$#<#:
<=$#<#!getExecutionEnvironment
//
接收
socket
文本流
val =>-6>78:
!-#,=#-#
// atMap
和
Map
需要引用的隐式转换
import #!!%!!-!.
//
处理 分组并且
sum
聚合
val 56>7?8:
=>-!%@.!-"
"!C.!#<2!.!22!-$
//
打印
5!
!=$
A
测试
在 $= 系统中用
&
进行发送测试
第三章 Flink 部署
![](https://csdnimg.cn/release/download_crawler_static/12039187/bgd.jpg)
1 standalone 模式
1.1 安装
解压缩 %&!!&1&5##&-.!!D
修改 ink/conf/ink-conf.yaml 文件
修改 /conf/slave 文件
.分发给 另外两台机子
启动
剩余63页未读,继续阅读
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://profile-avatar.csdnimg.cn/c4d569cea19b40da89450de7b058c4e8_qq_37587824.jpg!1)
wzcwangxiaozhang
- 粉丝: 1
- 资源: 46
上传资源 快速赚钱
我的内容管理 展开
我的资源 快来上传第一个资源
我的收益
登录查看自己的收益我的积分 登录查看自己的积分
我的C币 登录后查看C币余额
我的收藏
我的下载
下载帮助
![](https://csdnimg.cn/release/wenkucmsfe/public/img/voice.245cc511.png)
最新资源
- 多模态联合稀疏表示在视频目标跟踪中的应用
- Kubernetes资源管控与Gardener开源软件实践解析
- MPI集群监控与负载平衡策略
- 自动化PHP安全漏洞检测:静态代码分析与数据流方法
- 青苔数据CEO程永:技术生态与阿里云开放创新
- 制造业转型: HyperX引领企业上云策略
- 赵维五分享:航空工业电子采购上云实战与运维策略
- 单片机控制的LED点阵显示屏设计及其实现
- 驻云科技李俊涛:AI驱动的云上服务新趋势与挑战
- 6LoWPAN物联网边界路由器:设计与实现
- 猩便利工程师仲小玉:Terraform云资源管理最佳实践与团队协作
- 类差分度改进的互信息特征选择提升文本分类性能
- VERITAS与阿里云合作的混合云转型与数据保护方案
- 云制造中的生产线仿真模型设计与虚拟化研究
- 汪洋在PostgresChina2018分享:高可用 PostgreSQL 工具与架构设计
- 2018 PostgresChina大会:阿里云时空引擎Ganos在PostgreSQL中的创新应用与多模型存储
资源上传下载、课程学习等过程中有任何疑问或建议,欢迎提出宝贵意见哦~我们会及时处理!
点击此处反馈
![](https://img-home.csdnimg.cn/images/20220527035711.png)
![](https://img-home.csdnimg.cn/images/20220527035711.png)
![](https://img-home.csdnimg.cn/images/20220527035111.png)
安全验证
文档复制为VIP权益,开通VIP直接复制
![](https://csdnimg.cn/release/wenkucmsfe/public/img/green-success.6a4acb44.png)