京东金融:基于Ceph的PB级对象存储实战与架构设计
需积分: 17 96 浏览量
更新于2024-07-16
收藏 3.18MB PDF 举报
本文档《基于Ceph构建PB级对象存储实践-JD金融.pdf》深入探讨了京东金融在利用Ceph技术构建大规模PB级别(Petabyte级别)对象存储系统的过程和实践经验。随着非结构化数据的爆炸性增长,以及人工智能和互联网行业的快速发展,对象存储的需求呈现出前所未有的增长态势。对象存储的核心在于其扁平化的管理模型,以Bucket和Object的两级结构为基础,提供了无限接近于理论上的存储空间扩展能力,其中Bucket名称具有全局唯一性,通过Bucket和Key的组合确定对象存储路径。
Ceph架构作为基础,文档提及了Ceph官方文档的链接,展示了其分布式存储系统的设计和组件,包括用于提供对象接口的RadosGW服务。京东金融在实践中采用了多集群的RGW同步架构,旨在实现跨数据中心的高可用性和灾备能力。多集群之间的数据同步既支持同步模式(如同城多活),也支持异步方式(如异地灾备),确保了数据的安全性和可靠性。此外,系统还整合了其他组件如SLB(自研DPDK负载均衡)、Openresty(HTTP(s)请求分发和安全网关)、ELK(日志管理和报表分析)、DNS(域名解析)、自研的Admindashboard运维平台以及Ansible自动化部署工具,共同构建了一个高效、稳定的对象存储环境。
构架设计部分,京东金融将系统划分为统一的endpoint入口,后端由多个集群(zone)组成,保证了数据分区和可扩展性。Bucket被按zone分配,避免了不必要的数据复制,仅在集群间同步元数据,最大程度减少了扩容时对业务的影响。跨集群路由设计通过bucket和zone的映射关系实现请求的智能路由,进一步优化了性能和资源利用。
这份文档提供了关于如何利用Ceph技术构建大规模、高性能、高可用的对象存储解决方案的具体步骤和实践案例,适用于对PB级对象存储有兴趣的企业和技术人员参考。
点击了解资源详情
点击了解资源详情
点击了解资源详情
2020-01-25 上传
2019-07-08 上传
2023-07-08 上传
2020-10-08 上传
2021-10-13 上传
2021-10-13 上传
xiaohuanglv
- 粉丝: 654
- 资源: 30
最新资源
- 【Java毕业设计】... 导及实践教程(21世纪高等学校规划教材·计算机科学与技术)》PDF下载_卢玲等编著,《新.zip
- cracking-solutions
- django实现好客租房后台系统源码.zip
- seipoc
- phenomenon
- fundamentos-nodejs:进行基础知识开发Node.js,无需Bootcamp GoStack
- webserver-skeleton:具有服务器端模板渲染的Web服务器应用程序的框架
- 新唐 M0516 核心转接板 BSP 和程序、原理图、手册等-电路方案
- android-auth-manager:处理 Android 中与 AccountManager 交互所需的大部分问题,并提供一种机制,用于将用户存储在您的应用程序中的 AccountManager 中,并在必要时自动刷新 OAuth2 令牌
- Chill-my-NIS-new:Chill我的NIS不和谐服务器的新网站。 2小时内完成
- tomyfutureself
- DesugarFirestoreTestIssue
- lab-quieter-reporter:满足覆盖率阈值时输出的错误更少
- M0518 六爪机器人设计(视频演示、代码、手机端apk、原理图、PCB)-电路方案
- liferay-spring-mvc-portlet:Liferay Spring MVC portlet 的项目模板
- Windows超级管理器