京东金融:基于Ceph的PB级对象存储实战与架构设计
需积分: 17 140 浏览量
更新于2024-07-16
收藏 3.18MB PDF 举报
本文档《基于Ceph构建PB级对象存储实践-JD金融.pdf》深入探讨了京东金融在利用Ceph技术构建大规模PB级别(Petabyte级别)对象存储系统的过程和实践经验。随着非结构化数据的爆炸性增长,以及人工智能和互联网行业的快速发展,对象存储的需求呈现出前所未有的增长态势。对象存储的核心在于其扁平化的管理模型,以Bucket和Object的两级结构为基础,提供了无限接近于理论上的存储空间扩展能力,其中Bucket名称具有全局唯一性,通过Bucket和Key的组合确定对象存储路径。
Ceph架构作为基础,文档提及了Ceph官方文档的链接,展示了其分布式存储系统的设计和组件,包括用于提供对象接口的RadosGW服务。京东金融在实践中采用了多集群的RGW同步架构,旨在实现跨数据中心的高可用性和灾备能力。多集群之间的数据同步既支持同步模式(如同城多活),也支持异步方式(如异地灾备),确保了数据的安全性和可靠性。此外,系统还整合了其他组件如SLB(自研DPDK负载均衡)、Openresty(HTTP(s)请求分发和安全网关)、ELK(日志管理和报表分析)、DNS(域名解析)、自研的Admindashboard运维平台以及Ansible自动化部署工具,共同构建了一个高效、稳定的对象存储环境。
构架设计部分,京东金融将系统划分为统一的endpoint入口,后端由多个集群(zone)组成,保证了数据分区和可扩展性。Bucket被按zone分配,避免了不必要的数据复制,仅在集群间同步元数据,最大程度减少了扩容时对业务的影响。跨集群路由设计通过bucket和zone的映射关系实现请求的智能路由,进一步优化了性能和资源利用。
这份文档提供了关于如何利用Ceph技术构建大规模、高性能、高可用的对象存储解决方案的具体步骤和实践案例,适用于对PB级对象存储有兴趣的企业和技术人员参考。
2020-04-24 上传
2023-09-06 上传
2023-08-15 上传
2023-10-03 上传
2023-12-18 上传
2023-05-25 上传
2023-09-29 上传
2023-06-07 上传
xiaohuanglv
- 粉丝: 650
- 资源: 30
最新资源
- 多模态联合稀疏表示在视频目标跟踪中的应用
- Kubernetes资源管控与Gardener开源软件实践解析
- MPI集群监控与负载平衡策略
- 自动化PHP安全漏洞检测:静态代码分析与数据流方法
- 青苔数据CEO程永:技术生态与阿里云开放创新
- 制造业转型: HyperX引领企业上云策略
- 赵维五分享:航空工业电子采购上云实战与运维策略
- 单片机控制的LED点阵显示屏设计及其实现
- 驻云科技李俊涛:AI驱动的云上服务新趋势与挑战
- 6LoWPAN物联网边界路由器:设计与实现
- 猩便利工程师仲小玉:Terraform云资源管理最佳实践与团队协作
- 类差分度改进的互信息特征选择提升文本分类性能
- VERITAS与阿里云合作的混合云转型与数据保护方案
- 云制造中的生产线仿真模型设计与虚拟化研究
- 汪洋在PostgresChina2018分享:高可用 PostgreSQL 工具与架构设计
- 2018 PostgresChina大会:阿里云时空引擎Ganos在PostgreSQL中的创新应用与多模型存储