"京东数据仓库海量数据交换工具-Plumber实践与技术突破"
2.虚拟产品一经售出概不退款(资源遇到问题,请及时私信上传者)
本文主要介绍了京东数据仓库海量数据交换工具,即京东数据仓库海量数据交换工具-Plumber开发实践。文章首先介绍了离线海量数据交换的场景,包括海量数据、每日数据量大、异构数据源、场景复杂等特点。然后详细介绍了Plumber技术的特点和实现方案,包括读写分离、插件化、多线程并行执行、配置化和实时统计信息、定制化开发等特点。同时还介绍了Clojure语言在开发中的应用。 在离线海量数据交换场景中,京东面临着每日进出上TB数据、每天数千数据传输任务的巨大挑战。另外,由于涉及到异构数据源,需要处理结构化数据(如mysql、sqlserver、oracle、hive)和非结构化数据(如mongodb、hbase、log)。同时,由于涉及到多个地区的仓库数据抽取,还存在着mysql分库分表和全国各地仓库数据抽取等技术挑战。为了应对这些挑战,京东采用了Plumber技术,通过HIVE三次传输、三次落地、一次清洗、一次传输的方式来优化实时清洗流程。 Plumber技术具有多个特点,包括读写分离、插件化、多线程并行执行、配置化和实时统计信息、定制化开发等。其中,读写分离可以更好地处理不同类型的数据源;插件化和多线程并行执行可以提高数据处理的效率;配置化和实时统计信息可以帮助开发者更好地监控和管理数据交换过程;定制化开发则可以更灵活地适应不同的业务需求。 另外,文章还介绍了Clojure语言在开发中的应用。Clojure是一种面向数据的编程语言,具有简洁、动态、函数式等特点,非常适合于大数据处理和并发编程。京东利用Clojure语言开发了全国仓库抽取技术,实现了高效的数据处理和交换。 综上所述,京东数据仓库海量数据交换工具-Plumber开发实践,通过对离线海量数据交换场景的介绍,Plumber技术的特点和实现方案,以及Clojure语言在开发中的应用,为读者提供了一种高效、灵活、可定制的数据交换解决方案。同时也展示了京东在大数据处理方面的技术实力和创新能力。
![](https://csdnimg.cn/release/download_crawler_static/88291575/bg4.jpg)
剩余18页未读,继续阅读
![pdf](https://img-home.csdnimg.cn/images/20210720083512.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://profile-avatar.csdnimg.cn/7386ab88f5ce450e8817b9541ae085eb_caryxp.jpg!1)
- 粉丝: 1931
- 资源: 4044
我的内容管理 展开
我的资源 快来上传第一个资源
我的收益
登录查看自己的收益我的积分 登录查看自己的积分
我的C币 登录后查看C币余额
我的收藏
我的下载
下载帮助
![](https://csdnimg.cn/release/wenkucmsfe/public/img/voice.245cc511.png)
最新资源
- 多模态联合稀疏表示在视频目标跟踪中的应用
- Kubernetes资源管控与Gardener开源软件实践解析
- MPI集群监控与负载平衡策略
- 自动化PHP安全漏洞检测:静态代码分析与数据流方法
- 青苔数据CEO程永:技术生态与阿里云开放创新
- 制造业转型: HyperX引领企业上云策略
- 赵维五分享:航空工业电子采购上云实战与运维策略
- 单片机控制的LED点阵显示屏设计及其实现
- 驻云科技李俊涛:AI驱动的云上服务新趋势与挑战
- 6LoWPAN物联网边界路由器:设计与实现
- 猩便利工程师仲小玉:Terraform云资源管理最佳实践与团队协作
- 类差分度改进的互信息特征选择提升文本分类性能
- VERITAS与阿里云合作的混合云转型与数据保护方案
- 云制造中的生产线仿真模型设计与虚拟化研究
- 汪洋在PostgresChina2018分享:高可用 PostgreSQL 工具与架构设计
- 2018 PostgresChina大会:阿里云时空引擎Ganos在PostgreSQL中的创新应用与多模型存储
![](https://img-home.csdnimg.cn/images/20220527035711.png)
![](https://img-home.csdnimg.cn/images/20220527035111.png)
![](https://csdnimg.cn/release/wenkucmsfe/public/img/green-success.6a4acb44.png)